大模型在金融行業的應用現狀與展望

ChatGPT問世以來,金融業對人工智能技術的焦慮感迅速蔓延。一位業內人士表示,今年5月在大理出差時,甚至在寺廟裏都能碰到討論大模型的金融從業者。

然而,這種焦慮正在逐漸平息,業界對大模型的看法也趨於理性。軟通動力銀行業務CTO孫洪軍描述了今年金融業對大模型態度的幾個階段:2-3月份普遍感到焦慮;4-5月份紛紛組建團隊開展相關工作;之後幾個月在尋找方向和落地上遇到困難,開始變得理性;現在則是參考標杆,嘗試驗證過的應用場景。

值得注意的是,不少金融機構已將大模型提升到戰略層面。據不完全統計,A股上市公司中至少有11家銀行在最新半年報中明確提出正在探索大模型的應用。從近期動向來看,他們正在從戰略和頂層設計層面進行更清晰的思考和路徑規劃。

從熱情高漲到理性回歸

一位大型科技公司金融行業資深人士表示,相比幾個月前,現在金融客戶對大模型的理解明顯提升。年初ChatGPT剛推出時,雖然熱情很高,但對大模型的本質和應用方式了解有限。

這一階段,一些大型銀行率先行動,開始進行各種宣傳。例如今年3月,一家大型銀行上線了類ChatGPT的大模型應用,但業界評價不一。當時有人認爲,該應用的命名過於強調聊天功能,而忽視了更重要的GPT部分。

隨着多家科技公司陸續發布大模型,一些頭部金融機構的技術部門開始積極與大型科技公司討論大模型建設事宜。上述資深人士透露,這些金融機構普遍希望自主開發大模型,尋求關於數據集構建、服務器配置和訓練方法等方面的指導。某大型銀行旗下金融科技公司甚至提出希望完成後向同業輸出相關能力。

5月以後,形勢開始發生變化。受算力資源緊缺、成本高昂等因素影響,許多金融機構從單純希望自建算力和模型,轉向更關注應用價值。"現在每家金融機構都在關注其他機構如何應用大模型及取得的效果。"

對於不同規模的企業,也形成了兩條發展路徑。擁有海量金融數據和應用場景的大型金融機構,可引入業界領先的基礎大模型,自建企業大模型,同時採用微調方式,形成專業領域的任務大模型,快速賦能業務。而中小金融機構則可綜合考慮投資回報,按需引入各類大模型的公有雲API或私有化部署服務,直接滿足業務需求。

然而,由於金融行業對數據合規性、安全性、可信性等要求較高,一些人士認爲,該行業大模型落地進展實際略慢於年初預期。軟通動力孫洪軍表示,他們最初預計金融行業可能會最先大規模使用大模型,但從最終對接客戶情況看,金融行業應用速度不如法律、招聘等行業快。

一些金融機構已開始尋求解決大模型落地過程中的各種制約因素。

在算力方面,業內人士觀察到幾種解決思路:

1. 直接自建算力,成本較高但安全性好,適用於實力雄厚、希望自建行業或企業大模型的大型金融機構。

2. 算力混合部署,在敏感數據不出域情況下,接受從公有雲調用大模型服務接口,同時通過私有化部署處理本地數據服務。這種方式成本較低,適用於資金相對有限、按需應用的中小型金融機構。

不過,許多中小機構仍面臨購買大模型所需GPU卡難度大、成本高的問題。針對這一問題,有關部門正在進行課題研究,探索是否能以折中方式,牽頭搭建面向特定行業的大模型基礎設施,集中算力和通用大模型等資源,使行業中小金融機構也能使用大模型服務,避免"技術落後"。

在數據方面,近半年來隨着對大模型落地的探索,許多金融機構也逐步加強了數據治理工作。

一家大型科技公司高管介紹,目前除了數據治理領域有成熟實踐的頭部大行外,越來越多的中型金融機構也開始構建數據中臺和數據治理體系。他認爲,構建完善的數據治理體系和數據湖技術平台,將是未來金融機構IT建設的重要主題。

還有銀行正通過大模型結合MLOps方式解決數據問題。例如某大型銀行採用MLOps模式建立大模型數據閉環體系,實現了整個流程自動化以及多源異構數據的統一管理和高效處理,據悉目前已構建和沉澱2.6TB高質量訓練數據集。

從外圍場景切入

過去半年多,無論是大模型服務商還是各大金融機構,都在積極尋找應用場景。智慧辦公、智能開發、智慧營銷、智能客服、智慧投研、智能風控、需求分析等領域都被逐一探索。

正如某科技公司高管所言,"金融業務鏈條上每一個關鍵職能,都值得用大模型技術重做一次。"該公司最近發布了面向金融行業的大模型,並正與合作機構內測共建金融產業大模型產品,目標是爲理財顧問、保險代理、投研、金融營銷、保險理賠等金融從業專家打造全鏈條的AI業務助手。

各家金融機構也都對大模型應用有豐富的構想。某大型銀行稱內部已有20多個場景投放應用,另一家銀行表示在30多個場景中進行了試點,某證券公司則正在探索將大模型與此前推出的虛擬數字人平台打通。

但在真正將大模型落地到業務中時,業界普遍共識是先內部應用後外部使用。畢竟目前大模型技術尚不成熟,如幻覺問題等,而金融行業又是強監管、高安全、高可信的行業。

某大型銀行首席技術官建議,短期內不宜直接對客戶使用大模型。金融機構應優先將大模型應用於金融文本和金融圖像分析理解創作等智力密集型場景,以助手形式實現人機協同,提升業務人員工作效率。

目前,代碼助手已在多家金融機構落地。例如某大型銀行構建了基於大模型的智能研發體系,編碼助手生成代碼量佔總代碼量的40%。在保險領域,某保險公司研發了基於大模型的輔助編程插件,直接嵌入內部開發工具。

一些科技公司也圍繞大模型代碼生成能力,爲金融客戶提供開箱即用的產品。軟通動力孫洪軍介紹,他們的一款產品在大模型代碼補全能力基礎上,增加了任務分解、精準回答、突破上下文限制等功能,實現用戶開箱即用。該產品目前在某國際銀行已有3000多人使用,代碼自動補全率爲50%~90%。

智慧辦公領域也有不少落地案例。負責某大型科技公司金融行業大模型產品的負責人介紹,他們基於金融大模型推出的網點問答功能,7月在某大型銀行上線後已推廣至數百個網點,答案採納率超過85%。目前,該功能已快速復制到多家銀行和金融機構。

不過,業內人士判斷,這些已廣泛落地的場景實際還不是金融機構的核心應用,大模型距離深入金融行業業務層面還有一定距離。

孫洪軍表示,在業務應用場景方面難度較大。營銷、風控、合規等場景是大模型可能帶來變革、也是金融客戶需求所在的領域,但目前這些工作還取決於底層大模型廠商能力提升情況,才能進一步開展業務場景應用。

一位大型科技公司大模型資深人士預測,到今年底之前,會有一批真正在金融機構核心業務場景中應用大模型的項目建設或招標信息出現。

在此之前,一些頂層設計層面的變革正在進行。

有專家判斷,未來整個智能化、數字化系統都將重新建立在大模型基礎之上。這要求金融行業在推動大模型落地過程中重新架構系統。同時,也不能忽視傳統小模型的價值,而應該讓大模型、小模型協同工作。

這一趨勢已在金融行業得到廣泛體現。目前多家頭部金融機構都已基於大模型,搭建了包含基礎設施層、模型層、大模型服務層、應用層等多個層級的分層系統框架。

這些框架體系普遍有兩大特點:一是大模型發揮中樞能力,將傳統模型作爲技能進行調用;二是大模型層採用多模型策略,內部比較,選出最優效果。

實際上,不僅金融機構,在當前格局尚未明朗的情況下,一些大模型應用提供商也採用多模型策略,優選服務效果。孫洪軍透露,他們的底層模型層也融合了多個大語言模型,會根據每個大模型的回答進行組裝優選後提供給用戶。

人才缺口依然龐大

大模型的應用已經開始對金融行業的人員結構帶來一些挑戰和變革。

有金融科技公司人士表示,隨着ChatGPT出現,從今年初到5月底,他所在公司已裁掉300多名大數據分析師。而幾年前這還是一個熱門職業。這一度引發他對未來就業的擔憂。

來自某大型銀行的資深人士也分享了大模型對人的替代效應。該行原來每天早上都有實習生匯總各方面信息給投研部門,但現在這些工作可通過大模型完成。

不過,一些銀行並不希望大模型帶來減員。擁有20萬網點員工的某大型銀行就明確表示,他們希望大模型能帶來新機會,提升員工服務質量和工作效率,同時釋放部分員工去做更多高價值工作,而不是取代員工。

這其中既有人員和結構穩定的考量,也因爲很多崗位仍有人才缺口。孫洪軍表示,大型銀行有大量工作需要完成,部分IT需求工期甚至排到明年年底,他們希望大模型能助力員工提高效率,而非減少人員。

更重要的是,大模型的快速發展導致短期內稀缺人才供給難以匹配激增的需求。這就像iPhone剛出現時,想開發應用卻很難找到iOS程序員一樣。

某大型銀行高管總結了金融行業目前在核心業務流程中應用大模型面臨的6大挑戰,其中之一就是人才。他們最近招聘新員工和校招時發現,學習AI領域的佔比很高,但了解大模型的卻很少。

孫洪軍也有類似經歷,國慶前一周他們剛收到一家銀行客戶的人才支援請求。該銀行自建大模型團隊中有人暫時請假,導致模型訓練工作人手不足,不得不尋求外部支持。

"目前這方面人才確實很少,還需一定時間培育。"孫洪軍認爲,直接應用大模型的人才需求相對簡單,主要是會提問題的人。但如果自建行業或企業大模型,則需要金融機構有一支精幹的垂直大模型技術團隊。

某大型科技公司高管也坦言,AI大模型人才缺口非常大,頭部機構目前都在招聘AI相關人才如算法博士等。這是因爲金融客戶雖能從大模型廠商獲得技術支持,但作爲最終使用方和創新主導方,需要一定人才積累來支撐AI大平台構建、AI應用規劃,以及在建模、調優過程中與大模型廠商合作進行場景和模型優化,不斷拓展AI模型應用範圍和效果。

一些機構已採取行動。某大型科技公司負責人介紹,他們專門與某大型銀行實驗室合作,梳理了大模型在企業應用的人員轉型實踐,設計出Prompt調優、微調、大模型運營等系列培訓課程,並與多個部門合作建立聯合項目組,推動企業人員能力提升