金融業大模型應用:從焦慮到理性 算力成本與人才成關鍵

人工智能大模型在金融業的應用:從熱情高漲到理性回歸

ChatGPT問世以來,迅速在金融業引發了焦慮感。這個對技術有信仰的行業唯恐被一個飛奔中的時代洪流甩在身後。這種焦灼氛圍,甚至一度蔓延到清淨的寺廟。有業內人士表示,她在5月份去大理出差時,在寺廟裏都能碰到和她談論大模型的金融從業者。

不過,這種焦慮正在慢慢歸於平常,人們的思路也開始變得清晰和理性。有專家描述了今年金融業對大模型態度的幾個階段:二三月,普遍感到焦慮,擔心落後;四五月,紛紛組建團隊開展工作;之後幾個月,在尋找方向和落地上遇到了困難,開始變得理性;現在,他們關注標杆企業,嘗試驗證過的場景。

一個新趨勢是,不少金融機構已將大模型提升到戰略層面。據不完全統計,A股上市公司中,至少有11家銀行在最新半年報中明確提出正在探索大模型的應用。從近期動作看,他們也正在從戰略層面和頂層設計層面進行更清晰的思考和路徑規劃。

從熱情高漲到理性回歸

"比起幾個月前,現在能明顯感覺金融客戶對大模型的理解好了很多。"有資深人士表示,年初ChatGPT剛出來時,大家的熱情雖高,但對於大模型究竟是什麼、該怎麼用,其實了解得非常有限。

這一階段,一些大型銀行率先行動,開始做各種"蹭熱度"的宣傳。比如今年3月,某銀行上線了類ChatGPT的大模型應用。但業界評價不一。當時,有人認爲,這個產品的名字強調了ChatGPT裏不那麼重要的Chat,反而忽略了GPT這個真正重要的部分。

與此同時,隨着國內多家科技公司陸續發布大模型,一些頭部金融機構的科技部門開始積極與大廠洽談大模型建設事宜。這些金融機構普遍希望自己建立大模型,需要廠商指導數據集制作、服務器採購和訓練方法等。有金融科技公司甚至提出,完成後是否還能向同業輸出。

5月份以後,情況逐漸發生變化。受制於算力資源緊缺、成本高昂等因素,很多金融機構開始從單純希望自建算力和模型,轉向更加關注應用價值。"現在每一家金融機構都在關心其他機構用大模型做了什麼,實現了怎樣的效果。"

具體到不同規模的企業,也分出了兩條路徑。擁有海量金融數據和應用場景的大型金融機構,可引入領先的基礎大模型,自建企業大模型,同時採用微調形式,形成專業領域的任務大模型,快速賦能業務,以彌補大模型建設週期過長的缺點。而中小金融機構可綜合考慮投資回報,按需引入各類大模型的雲服務或私有化部署,直接滿足賦能需求。

不過,由於金融行業對數據合規性、安全性、可信性等要求很高,部分人士認爲,這一行業的大模型落地進展,實際略滯後於年初預期。有專家表示,他們最初預測金融行業可能會最先大規模使用大模型,但從最終對接客戶的情況來看,金融行業不如法律、招聘等行業進展快。

一些金融機構已經開始想辦法,解決大模型落地過程中的各種限制。

在算力方面,業內人士觀察到幾種解決思路:

第一,直接自建算力,成本較高,但安全性足夠。適用於實力雄厚、希望自建行業或企業大模型的大型金融機構。

第二,算力混合部署,在敏感數據不出域的情況下,接受從公有雲調用大模型服務接口,同時通過私有化部署處理本地數據。這種方式成本較低,只需投入幾十萬元購買幾張計算卡即可滿足需求,適用於資金相對有限、按需應用的中小型金融機構。

不過,即便如此,很多中小機構仍然面臨買不到也買不起大模型所需GPU卡的難題。針對這個問題,有消息稱,監管部門正在研究是否能以折中方式,牽頭搭建面向證券行業的大模型基礎設施,集中算力和通用大模型等資源,讓行業中的中小金融機構也能使用大模型服務,防止它們在技術上落後。

不僅是算力,隨着最近半年多對大模型的落地探索,不少金融機構也逐漸加強了數據治理。

有專家介紹,目前除了在數據治理領域有成熟實踐的頭部大行,越來越多的中型金融機構也開始構建數據中臺和數據治理體系。他認爲,構建完善的數據治理體系和數據湖技術平台,將是未來金融機構IT建設的重要主題。

也有銀行正通過大模型+MLOps方式解決數據問題。例如某銀行採用MLOps模式建立大模型數據閉環體系,實現了整個流程的自動化,以及多源異構數據的統一管理和高效處理,據悉目前已構建和沉澱2.6TB高質量訓練數據集。

從外圍場景切入

過去半年多,無論是大模型服務商,還是各大金融機構,都在積極尋找應用場景。智慧辦公、智能開發、智慧營銷、智能客服、智慧投研、智能風控、需求分析等領域都被廣泛探索。

正如某金融科技公司高管所說,"金融業務鏈條上每一個關鍵職能,都值得用大模型技術重做一次。"該公司最近發布了金融大模型,並與合作機構內測共建面向金融產業的大模型產品,目標是爲理財顧問、保險代理、投研、金融營銷、保險理賠等金融從業專家打造全鏈條的AI業務助手。

各家金融機構對大模型都有豐富的構想。有銀行稱內部已有20多個場景投放應用,另一家銀行表示他們在30多個場景中進行了試點,某證券公司則正在探索將大模型和此前推出的虛擬數字人平台打通。

但在真正將大模型落地到業務中時,普遍共識是先內部後外部。畢竟,當前階段大模型技術並不成熟,比如存在幻覺問題,而金融行業卻是一個強監管、高安全、高可信的行業。

有專家認爲,短期內不建議直接面向客戶使用大模型。金融機構應優先將大模型用於金融文本和金融圖像分析理解創作的智力密集型場景,以助手形式實現人機協同,提升業務人員工作效率。

目前,代碼助手已在不少金融機構落地。例如某銀行構建了基於大模型的智能研發體系,編碼助手生成代碼量佔總代碼量的比值達到40%。在保險領域,某保險公司研發了基於大模型的輔助編程插件,直接嵌入內部開發工具。

智慧辦公領域也有不少落地案例。有專家介紹,他們基於金融大模型推出的網點問答系統,在某銀行上線後已推廣到幾百個網點,答案採納率超過85%。目前,這一解決方案又快速復制到其他銀行和金融機構。

不過,業內人士判斷,這些已廣泛落地的場景,實際還不是金融機構的核心應用,大模型距離深入金融行業的業務層面還有一定距離。

有專家預測,到今年底之前,會有一批真正在金融機構核心業務場景中使用大模型的項目建設或招標信息出現。

在此之前,一些頂層設計層面的改變正在進行。有學者判斷,未來的整個智能化、數字化系統,都將重新建立在大模型的基礎之上。這就要求金融行業在推動大模型落地過程中,重新架構系統。同時,也不能忽視傳統小模型的價值,而應該讓大模型、小模型協同起來。

這一趨勢已在金融行業得到廣泛體現。目前金融機構試點大模型,基本採取分層模式。不同於過去一個場景需要搭建一個平台的煙囪化模式,大模型給了金融機構一個從零開始,更科學地進行整體系統規劃的機會。

可以看到,目前已有多家頭部金融機構基於大模型,搭建了包含基礎設施層、模型層、大模型服務層、應用層等多個層級的分層系統框架。

這些框架體系普遍有兩大特點:其一,大模型發揮中樞能力,將傳統模型作爲技能進行調用;其二,大模型層採用多模型策略,內部比較,選出最優效果。

實際上,不只金融機構,在當前格局未定的情況下,一些大模型應用提供商也在採用多模型策略,優選服務效果。有專家透露,他們的底層模型層融合了大量大語言模型,會根據每個大模型返回的回答,組裝優選後給到用戶。

人才缺口依然龐大

大模型的應用,已經開始對金融行業的人員結構帶來一些挑戰和變革。

此前有消息稱,隨着ChatGPT的出現,一家金融科技公司從今年初到5月底已裁掉300多位大數據分析師。而在幾年前,這還是一個炙手可熱的職業。這一度引發從業者的焦慮,甚至開始提前考慮下一代的擇業問題。

來自某銀行的專家也分享了大模型對人的替代效應。該行原來每天早上都有實習生將各方面信息歸納匯總,再給到投研部門,但現在這些工作可以通過大模型完成。

不過,一些銀行其實並不希望大模型帶來減員。例如擁有20萬網點員工的某大行就明確表示,他們不希望員工被大模型取代,而是希望大模型帶來新機會,提升員工的服務質量和工作效率,同時也釋放出部分員工,從事更多高價值的工作。

這其中不乏對人員和結構穩定性的考慮。但另一方面,也是因爲很多崗位還存在人才缺口。

有專家表示,大型銀行有大量工作需要完成,部分IT需求的工期甚至排到了明年年底。他們希望大模型能幫助員工完成更多工作,提高效率和速度,而不是帶來人員縮減。

更重要的是,大模型的快速發展使得短時間內稀缺人才供給難以滿足激增的需求。這就好比當初iPhone剛出現時,大家想開發應用,卻很難找到iOS程序員一樣。

在近期的一場金融科技大會上,某銀行高管總結了金融行業目前在將大模型能力用到核心業務流程中會遇到的6大挑戰,其中之一就是人才短缺。他提到,他們最近招聘的新員工中,學習AI領域的佔比很高,但了解大模型的人才卻很少。

有專家對此深有體會,最近他們收到一家銀行客戶的人才支援請求。這家銀行因自建的大模型團隊中有人暫時請假,模型訓練工作面臨人手不足問題,不得不臨時尋求外部支持。

"現在這方面的人才確實很少,還需要一定時間來培養。"該專家認爲,直接應用大模型的人才需求相對簡單,主要需要會提問的人。但如果要自建行業或企業大模型,則需要金融機構擁有一支精幹的垂直大模型技術團隊。

另一位專家也坦言,AI大模型領域的人才缺口非常大,頭部機構目前都在招聘AI專業相關人才,如算法博士等。這是因爲,金融客戶雖然能從大模型廠商獲得技術支持,但他們畢竟是最終使用方和創新主導方,需要一定的人才積累來支撐AI大平台的構建、各項AI應用的規劃,以及在建模、調優和精調過程中,與大模型廠商合作進行場景疊加、模型疊加等優化,不斷拓展AI模型應用的範圍和效果。

一些參與者已經採取行動。有公司聯合某銀行實驗室的人力資源團隊,梳理了大模型在企業應用中的人員轉型實踐,設計出系列培訓

查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 讚賞
  • 4
  • 分享
留言
0/400
DeFi厨师长vip
· 07-04 10:32
大理炒模型
回復0
Crypto笑话王vip
· 07-02 20:50
笑着入场哭着出
回復0
不明觉厉分析员vip
· 07-01 15:12
不追热点才好
回復0
链下人生赢家vip
· 07-01 15:07
技术也要沉得住气
回復0
交易,隨時隨地
qrCode
掃碼下載 Gate APP
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)