大模型在金融行业的应用现状与展望

ChatGPT问世以来,金融业对人工智能技术的焦虑感迅速蔓延。一位业内人士表示,今年5月在大理出差时,甚至在寺庙里都能碰到讨论大模型的金融从业者。

然而,这种焦虑正在逐渐平息,业界对大模型的看法也趋于理性。软通动力银行业务CTO孙洪军描述了今年金融业对大模型态度的几个阶段:2-3月份普遍感到焦虑;4-5月份纷纷组建团队开展相关工作;之后几个月在寻找方向和落地上遇到困难,开始变得理性;现在则是参考标杆,尝试验证过的应用场景。

值得注意的是,不少金融机构已将大模型提升到战略层面。据不完全统计,A股上市公司中至少有11家银行在最新半年报中明确提出正在探索大模型的应用。从近期动向来看,他们正在从战略和顶层设计层面进行更清晰的思考和路径规划。

从热情高涨到理性回归

一位大型科技公司金融行业资深人士表示,相比几个月前,现在金融客户对大模型的理解明显提升。年初ChatGPT刚推出时,虽然热情很高,但对大模型的本质和应用方式了解有限。

这一阶段,一些大型银行率先行动,开始进行各种宣传。例如今年3月,一家大型银行上线了类ChatGPT的大模型应用,但业界评价不一。当时有人认为,该应用的命名过于强调聊天功能,而忽视了更重要的GPT部分。

随着多家科技公司陆续发布大模型,一些头部金融机构的技术部门开始积极与大型科技公司讨论大模型建设事宜。上述资深人士透露,这些金融机构普遍希望自主开发大模型,寻求关于数据集构建、服务器配置和训练方法等方面的指导。某大型银行旗下金融科技公司甚至提出希望完成后向同业输出相关能力。

5月以后,形势开始发生变化。受算力资源紧缺、成本高昂等因素影响,许多金融机构从单纯希望自建算力和模型,转向更关注应用价值。"现在每家金融机构都在关注其他机构如何应用大模型及取得的效果。"

对于不同规模的企业,也形成了两条发展路径。拥有海量金融数据和应用场景的大型金融机构,可引入业界领先的基础大模型,自建企业大模型,同时采用微调方式,形成专业领域的任务大模型,快速赋能业务。而中小金融机构则可综合考虑投资回报,按需引入各类大模型的公有云API或私有化部署服务,直接满足业务需求。

然而,由于金融行业对数据合规性、安全性、可信性等要求较高,一些人士认为,该行业大模型落地进展实际略慢于年初预期。软通动力孙洪军表示,他们最初预计金融行业可能会最先大规模使用大模型,但从最终对接客户情况看,金融行业应用速度不如法律、招聘等行业快。

一些金融机构已开始寻求解决大模型落地过程中的各种制约因素。

在算力方面,业内人士观察到几种解决思路:

1. 直接自建算力,成本较高但安全性好,适用于实力雄厚、希望自建行业或企业大模型的大型金融机构。

2. 算力混合部署,在敏感数据不出域情况下,接受从公有云调用大模型服务接口,同时通过私有化部署处理本地数据服务。这种方式成本较低,适用于资金相对有限、按需应用的中小型金融机构。

不过,许多中小机构仍面临购买大模型所需GPU卡难度大、成本高的问题。针对这一问题,有关部门正在进行课题研究,探索是否能以折中方式,牵头搭建面向特定行业的大模型基础设施,集中算力和通用大模型等资源,使行业中小金融机构也能使用大模型服务,避免"技术落后"。

在数据方面,近半年来随着对大模型落地的探索,许多金融机构也逐步加强了数据治理工作。

一家大型科技公司高管介绍,目前除了数据治理领域有成熟实践的头部大行外,越来越多的中型金融机构也开始构建数据中台和数据治理体系。他认为,构建完善的数据治理体系和数据湖技术平台,将是未来金融机构IT建设的重要主题。

还有银行正通过大模型结合MLOps方式解决数据问题。例如某大型银行采用MLOps模式建立大模型数据闭环体系,实现了整个流程自动化以及多源异构数据的统一管理和高效处理,据悉目前已构建和沉淀2.6TB高质量训练数据集。

从外围场景切入

过去半年多,无论是大模型服务商还是各大金融机构,都在积极寻找应用场景。智慧办公、智能开发、智慧营销、智能客服、智慧投研、智能风控、需求分析等领域都被逐一探索。

正如某科技公司高管所言,"金融业务链条上每一个关键职能,都值得用大模型技术重做一次。"该公司最近发布了面向金融行业的大模型,并正与合作机构内测共建金融产业大模型产品,目标是为理财顾问、保险代理、投研、金融营销、保险理赔等金融从业专家打造全链条的AI业务助手。

各家金融机构也都对大模型应用有丰富的构想。某大型银行称内部已有20多个场景投放应用,另一家银行表示在30多个场景中进行了试点,某证券公司则正在探索将大模型与此前推出的虚拟数字人平台打通。

但在真正将大模型落地到业务中时,业界普遍共识是先内部应用后外部使用。毕竟目前大模型技术尚不成熟,如幻觉问题等,而金融行业又是强监管、高安全、高可信的行业。

某大型银行首席技术官建议,短期内不宜直接对客户使用大模型。金融机构应优先将大模型应用于金融文本和金融图像分析理解创作等智力密集型场景,以助手形式实现人机协同,提升业务人员工作效率。

目前,代码助手已在多家金融机构落地。例如某大型银行构建了基于大模型的智能研发体系,编码助手生成代码量占总代码量的40%。在保险领域,某保险公司研发了基于大模型的辅助编程插件,直接嵌入内部开发工具。

一些科技公司也围绕大模型代码生成能力,为金融客户提供开箱即用的产品。软通动力孙洪军介绍,他们的一款产品在大模型代码补全能力基础上,增加了任务分解、精准回答、突破上下文限制等功能,实现用户开箱即用。该产品目前在某国际银行已有3000多人使用,代码自动补全率为50%~90%。

智慧办公领域也有不少落地案例。负责某大型科技公司金融行业大模型产品的负责人介绍,他们基于金融大模型推出的网点问答功能,7月在某大型银行上线后已推广至数百个网点,答案采纳率超过85%。目前,该功能已快速复制到多家银行和金融机构。

不过,业内人士判断,这些已广泛落地的场景实际还不是金融机构的核心应用,大模型距离深入金融行业业务层面还有一定距离。

孙洪军表示,在业务应用场景方面难度较大。营销、风控、合规等场景是大模型可能带来变革、也是金融客户需求所在的领域,但目前这些工作还取决于底层大模型厂商能力提升情况,才能进一步开展业务场景应用。

一位大型科技公司大模型资深人士预测,到今年底之前,会有一批真正在金融机构核心业务场景中应用大模型的项目建设或招标信息出现。

在此之前,一些顶层设计层面的变革正在进行。

有专家判断,未来整个智能化、数字化系统都将重新建立在大模型基础之上。这要求金融行业在推动大模型落地过程中重新架构系统。同时,也不能忽视传统小模型的价值,而应该让大模型、小模型协同工作。

这一趋势已在金融行业得到广泛体现。目前多家头部金融机构都已基于大模型,搭建了包含基础设施层、模型层、大模型服务层、应用层等多个层级的分层系统框架。

这些框架体系普遍有两大特点:一是大模型发挥中枢能力,将传统模型作为技能进行调用;二是大模型层采用多模型策略,内部比较,选出最优效果。

实际上,不仅金融机构,在当前格局尚未明朗的情况下,一些大模型应用提供商也采用多模型策略,优选服务效果。孙洪军透露,他们的底层模型层也融合了多个大语言模型,会根据每个大模型的回答进行组装优选后提供给用户。

人才缺口依然庞大

大模型的应用已经开始对金融行业的人员结构带来一些挑战和变革。

有金融科技公司人士表示,随着ChatGPT出现,从今年初到5月底,他所在公司已裁掉300多名大数据分析师。而几年前这还是一个热门职业。这一度引发他对未来就业的担忧。

来自某大型银行的资深人士也分享了大模型对人的替代效应。该行原来每天早上都有实习生汇总各方面信息给投研部门,但现在这些工作可通过大模型完成。

不过,一些银行并不希望大模型带来减员。拥有20万网点员工的某大型银行就明确表示,他们希望大模型能带来新机会,提升员工服务质量和工作效率,同时释放部分员工去做更多高价值工作,而不是取代员工。

这其中既有人员和结构稳定的考量,也因为很多岗位仍有人才缺口。孙洪军表示,大型银行有大量工作需要完成,部分IT需求工期甚至排到明年年底,他们希望大模型能助力员工提高效率,而非减少人员。

更重要的是,大模型的快速发展导致短期内稀缺人才供给难以匹配激增的需求。这就像iPhone刚出现时,想开发应用却很难找到iOS程序员一样。

某大型银行高管总结了金融行业目前在核心业务流程中应用大模型面临的6大挑战,其中之一就是人才。他们最近招聘新员工和校招时发现,学习AI领域的占比很高,但了解大模型的却很少。

孙洪军也有类似经历,国庆前一周他们刚收到一家银行客户的人才支援请求。该银行自建大模型团队中有人暂时请假,导致模型训练工作人手不足,不得不寻求外部支持。

"目前这方面人才确实很少,还需一定时间培育。"孙洪军认为,直接应用大模型的人才需求相对简单,主要是会提问题的人。但如果自建行业或企业大模型,则需要金融机构有一支精干的垂直大模型技术团队。

某大型科技公司高管也坦言,AI大模型人才缺口非常大,头部机构目前都在招聘AI相关人才如算法博士等。这是因为金融客户虽能从大模型厂商获得技术支持,但作为最终使用方和创新主导方,需要一定人才积累来支撑AI大平台构建、AI应用规划,以及在建模、调优过程中与大模型厂商合作进行场景和模型优化,不断拓展AI模型应用范围和效果。

一些机构已采取行动。某大型科技公司负责人介绍,他们专门与某大型银行实验室合作,梳理了大模型在企业应用的人员转型实践,设计出Prompt调优、微调、大模型运营等系列培训课程,并与多个部门合作建立联合项目组,推动企业人员能力提升