大模型在金融业应用现状:从战略高度到实际落地

ChatGPT的问世在金融业引发了巨大反响。最初,这个注重技术的行业普遍感到焦虑,担心会被时代浪潮甩在身后。这种情绪甚至蔓延到了一些意想不到的地方。据悉,今年5月有人在大理的寺庙里都能听到金融从业者讨论大模型。

不过,随着时间推移,这种焦虑逐渐平息,人们的思路也变得更加清晰和理性。软通动力银行业务CTO孙洪军描述了金融业对大模型态度的演变过程:2-3月份普遍焦虑;4-5月纷纷组建团队研究;之后几个月在寻找方向和落地过程中遇到困难,开始变得理性;现在则是关注标杆,尝试验证过的应用场景。

目前,不少金融机构已经开始从战略层面重视大模型。根据不完全统计,A股上市公司中至少有11家银行在最新半年报中明确提出正在探索大模型应用,包括工商银行、农业银行、中国银行、交通银行等。从近期动作来看,这些机构正在从战略和顶层设计层面进行更清晰的思考和路径规划。

从热情高涨到理性回归

与几个月前相比,金融客户对大模型的理解明显提升。年初ChatGPT刚出现时,虽然热情高涨,但对大模型的本质和应用方式了解有限。

在这个阶段,一些大型银行率先行动,开始做各种"蹭热度"的宣传。例如,3月份某银行推出了类ChatGPT的大模型应用,但业界评价不一。有人认为这个应用过于强调聊天功能,忽视了更重要的生成能力。

随着国内多家科技公司陆续发布大模型,一些头部金融机构的科技部门开始积极与这些公司探讨大模型建设。他们普遍希望自主开发大模型,询问数据集构建、服务器配置和训练方法等问题。某银行旗下的金融科技公司甚至提出希望完成后能向同业输出技术。

5月之后,情况开始发生变化。受限于算力资源紧缺、成本高昂等因素,许多金融机构从单纯希望自建转向更关注应用价值。现在每家金融机构都在关注其他机构的大模型应用情况和效果。

不同规模的企业也出现了两种路径。拥有海量金融数据和应用场景的大型金融机构,可以引入领先的基础大模型,自建企业大模型,同时采用微调方式开发专业领域的任务大模型,快速赋能业务。中小金融机构则可以考虑ROI,按需引入各类大模型的公有云API或私有化部署服务,直接满足需求。

然而,由于金融行业对数据合规性、安全性、可信性等要求较高,一些业内人士认为,这个行业的大模型落地进展实际上略慢于年初预期。软通动力的孙洪军表示,他们最初预计金融行业会最先大规模使用大模型,但实际情况是金融行业的应用进度不如法律、招聘等行业快。

一些金融机构已经开始寻找解决大模型落地过程中各种限制的办法。

在算力方面,业内出现了几种解决思路:

1. 直接自建算力,成本较高但安全性强,适合希望自建行业或企业大模型的大型金融机构。据悉,某大型国有银行最近购买了一批H800芯片用于搭建算力。

2. 算力混合部署,在保证敏感数据不外流的前提下,使用公有云大模型服务接口,同时通过私有化部署处理本地数据。这种方式成本较低,适合资金实力较弱、按需应用的中小型金融机构。

3. 针对中小机构面临的GPU卡短缺和高价问题,监管部门正在探索为证券行业搭建共享大模型基础设施的可能性,集中算力和通用大模型资源,让中小金融机构也能使用大模型服务,避免技术落后。

除了算力,近半年来许多金融机构也加强了数据治理。某云服务提供商的高管表示,除了头部大行外,越来越多的中型金融机构也开始构建数据中台和数据治理体系。他认为,完善的数据治理体系和数据湖技术平台将成为未来金融机构IT建设的重要方向。

一些银行正通过大模型结合MLOps的方式解决数据问题。例如,某大型银行采用MLOps模式建立大模型数据闭环体系,实现了流程自动化和多源异构数据的统一管理与高效处理,目前已构建了2.6TB的高质量训练数据集。

从外围场景切入

过去半年多,无论是大模型服务商还是金融机构,都在积极寻找应用场景。智慧办公、智能开发、智慧营销、智能客服、智慧投研、智能风控、需求分析等领域都成为探索重点。

正如某金融科技公司高管所言,"金融业务链条上的每个关键环节,都值得用大模型技术重新设计一次。"该公司最近发布了面向金融行业的大模型,并与合作伙伴共同开发面向金融产业的大模型产品,旨在为理财顾问、保险代理、投研、金融营销、保险理赔等金融从业人员打造全方位的AI业务助手。

各家金融机构对大模型的应用都有丰富构想。某大型银行称已在20多个场景投放应用,另一家银行表示正在30多个场景中进行试点,还有证券公司正探索将大模型与虚拟数字人平台结合。

然而,在实际落地过程中,普遍共识是先内部应用后外部推广。毕竟当前阶段大模型技术尚不成熟,存在幻觉等问题,而金融行业又是强监管、高安全、高可信的领域。

某大型银行的技术负责人认为,短期内不建议直接面向客户使用大模型。金融机构应优先将大模型应用于金融文本和金融图像分析理解创作等智力密集型场景,以助手形式实现人机协同,提升业务人员工作效率。

目前,代码助手已在多家金融机构落地。例如,某银行构建了基于大模型的智能研发体系,编码助手生成的代码量占总代码量的40%。在保险领域,某公司开发了基于大模型的辅助编程插件,直接嵌入内部开发工具。

智慧办公领域也有不少落地案例。某大模型供应商基于其金融大模型推出的网点问答系统,在某银行上线后已推广到数百个网点,答案采纳率超过85%。该解决方案还快速复制到其他多家银行和金融机构。

不过,业内人士判断,这些已广泛落地的场景实际上还不是金融机构的核心应用,大模型距离深入金融行业的业务层面还有一定距离。

某IT服务提供商高管表示,营销、风控、合规等场景是大模型可能带来变革、也是金融客户需求所在的领域,但目前这些工作还取决于底层大模型厂商能力的提升。

有业内人士预测,今年底之前会有一批真正在金融机构核心业务场景中应用大模型的项目建设或招标信息出现。

在此之前,一些顶层设计层面的变革正在进行。有专家判断,未来整个智能化、数字化系统都将重新建立在大模型基础之上。这要求金融行业在推动大模型落地过程中重新架构系统,同时也不能忽视传统小模型的价值,而应该让大模型和小模型协同。

这一趋势已在金融行业得到广泛体现。目前金融机构试点大模型,基本采取分层模式。不同于过去一个场景需要搭建一个平台的烟囱化模式,大模型给了金融机构一个从零开始、更科学地进行整体系统规划的机会。

目前已有多家头部金融机构基于大模型搭建了包含基础设施层、模型层、大模型服务层、应用层等多个层级的分层系统框架。这些框架体系普遍有两个特点:一是大模型发挥中枢能力,将传统模型作为技能进行调用;二是大模型层采用多模型策略,内部竞争选出最优效果。

实际上,不仅金融机构,在当前格局未定的情况下,一些大模型应用提供商也采用多模型策略,优选服务效果。某IT服务商透露,他们的底层模型层融合了大量大语言模型,会根据每个大模型的回答进行组装优选后提供给用户。

人才缺口依然庞大

大模型的应用已经开始对金融行业的人员结构带来一些挑战和变革。

有金融科技公司人士表示,自ChatGPT出现以来,他所在的公司从今年初到5月底已裁掉300多名大数据分析师。这一度引发他对未来职业发展的担忧。

某大型银行的金融领域资深人士也分享了大模型对人工的替代效应。该行原来每天早上都有实习生汇总各方面信息给投研部门,但现在这些工作可以通过大模型完成。

不过,一些银行并不希望大模型带来减员。例如,拥有20万网点员工的某大型银行就明确表示,他们不希望员工被大模型取代,而是希望大模型能带来新机会,提升员工的服务质量和工作效率,同时释放部分员工去做更高价值的工作。

这一方面考虑到人员和结构的稳定性,另一方面也是因为许多岗位仍存在人才缺口。某IT服务商高管表示,大型银行有大量工作无法完成,部分IT需求的工期甚至排到明年年底。他们希望大模型能帮助员工提高效率和速度,而不是导致人员缩减。

更重要的是,大模型的快速发展导致短时间内稀缺人才供给难以匹配激增的需求。这就像当初iPhone刚出现时,想开发应用却很难找到iOS程序员一样。

某大型银行的研发负责人总结了金融行业在将大模型能力应用到核心业务流程中遇到的6大挑战,其中之一就是人才短缺。他们最近招聘的新员工和校招中,学习AI领域的占比很高,但了解大模型的人才寥寥无几。

某IT服务商高管也有类似经历,最近刚收到一家银行客户的人才支援请求。该银行因自建大模型团队中有人临时请假,模型训练工作面临人手不足,不得不向外寻求支持。

目前直接应用大模型的人才需求相对简单,主要需要会提问题的人。但如果要自建行业或企业大模型,金融机构则需要一支精干的垂直大模型技术团队。

某云服务提供商高管坦言,AI大模型领域的人才缺口非常大,头部机构目前都在招聘AI相关专业人才,如算法博士等。这是因为金融客户虽然能从大模型厂商获得技术支持,但他们是最终使用方和创新主导方,需要一定的人才积累来支撑AI大平台的构建、各项AI应用的规划,以及在建模、调优和精调过程中与大模型厂商合作,不断拓展AI模型的应用范围和效果。

一些企业已经采取行动。某科技公司与银行实验室合作,梳理了大模型在企业应用中的人员转型实践,设计了一系列培训课程,如Prompt调优、微调、大模型运营等,并与多个部门合作建立联合项目组,推动企业人员能力提升。

业内专家指出,大模型目前还不够成熟,需要领域专家共同努力才能开发出成熟产品。大厂的大模型会对企业现有传统人才带来一定提升,但不会带来范式的改变。真正的范式改变需要金融体系内部有一支队伍深入融合内部需求,做出重大创新。

值得注意的是,在这个过程中,金融机构的人员结构也将迎来调整和变革。掌握大模型使用技能的开发人员,将更容易在这个环境中立足。