大模型在金融業應用現狀:從戰略高度到實際落地

ChatGPT的問世在金融業引發了巨大反響。最初,這個注重技術的行業普遍感到焦慮,擔心會被時代浪潮甩在身後。這種情緒甚至蔓延到了一些意想不到的地方。據悉,今年5月有人在大理的寺廟裏都能聽到金融從業者討論大模型。

不過,隨着時間推移,這種焦慮逐漸平息,人們的思路也變得更加清晰和理性。軟通動力銀行業務CTO孫洪軍描述了金融業對大模型態度的演變過程:2-3月份普遍焦慮;4-5月紛紛組建團隊研究;之後幾個月在尋找方向和落地過程中遇到困難,開始變得理性;現在則是關注標杆,嘗試驗證過的應用場景。

目前,不少金融機構已經開始從戰略層面重視大模型。根據不完全統計,A股上市公司中至少有11家銀行在最新半年報中明確提出正在探索大模型應用,包括工商銀行、農業銀行、中國銀行、交通銀行等。從近期動作來看,這些機構正在從戰略和頂層設計層面進行更清晰的思考和路徑規劃。

從熱情高漲到理性回歸

與幾個月前相比,金融客戶對大模型的理解明顯提升。年初ChatGPT剛出現時,雖然熱情高漲,但對大模型的本質和應用方式了解有限。

在這個階段,一些大型銀行率先行動,開始做各種"蹭熱度"的宣傳。例如,3月份某銀行推出了類ChatGPT的大模型應用,但業界評價不一。有人認爲這個應用過於強調聊天功能,忽視了更重要的生成能力。

隨着國內多家科技公司陸續發布大模型,一些頭部金融機構的科技部門開始積極與這些公司探討大模型建設。他們普遍希望自主開發大模型,詢問數據集構建、服務器配置和訓練方法等問題。某銀行旗下的金融科技公司甚至提出希望完成後能向同業輸出技術。

5月之後,情況開始發生變化。受限於算力資源緊缺、成本高昂等因素,許多金融機構從單純希望自建轉向更關注應用價值。現在每家金融機構都在關注其他機構的大模型應用情況和效果。

不同規模的企業也出現了兩種路徑。擁有海量金融數據和應用場景的大型金融機構,可以引入領先的基礎大模型,自建企業大模型,同時採用微調方式開發專業領域的任務大模型,快速賦能業務。中小金融機構則可以考慮ROI,按需引入各類大模型的公有雲API或私有化部署服務,直接滿足需求。

然而,由於金融行業對數據合規性、安全性、可信性等要求較高,一些業內人士認爲,這個行業的大模型落地進展實際上略慢於年初預期。軟通動力的孫洪軍表示,他們最初預計金融行業會最先大規模使用大模型,但實際情況是金融行業的應用進度不如法律、招聘等行業快。

一些金融機構已經開始尋找解決大模型落地過程中各種限制的辦法。

在算力方面,業內出現了幾種解決思路:

1. 直接自建算力,成本較高但安全性強,適合希望自建行業或企業大模型的大型金融機構。據悉,某大型國有銀行最近購買了一批H800芯片用於搭建算力。

2. 算力混合部署,在保證敏感數據不外流的前提下,使用公有雲大模型服務接口,同時通過私有化部署處理本地數據。這種方式成本較低,適合資金實力較弱、按需應用的中小型金融機構。

3. 針對中小機構面臨的GPU卡短缺和高價問題,監管部門正在探索爲證券行業搭建共享大模型基礎設施的可能性,集中算力和通用大模型資源,讓中小金融機構也能使用大模型服務,避免技術落後。

除了算力,近半年來許多金融機構也加強了數據治理。某雲服務提供商的高管表示,除了頭部大行外,越來越多的中型金融機構也開始構建數據中臺和數據治理體系。他認爲,完善的數據治理體系和數據湖技術平台將成爲未來金融機構IT建設的重要方向。

一些銀行正通過大模型結合MLOps的方式解決數據問題。例如,某大型銀行採用MLOps模式建立大模型數據閉環體系,實現了流程自動化和多源異構數據的統一管理與高效處理,目前已構建了2.6TB的高質量訓練數據集。

從外圍場景切入

過去半年多,無論是大模型服務商還是金融機構,都在積極尋找應用場景。智慧辦公、智能開發、智慧營銷、智能客服、智慧投研、智能風控、需求分析等領域都成爲探索重點。

正如某金融科技公司高管所言,"金融業務鏈條上的每個關鍵環節,都值得用大模型技術重新設計一次。"該公司最近發布了面向金融行業的大模型,並與合作夥伴共同開發面向金融產業的大模型產品,旨在爲理財顧問、保險代理、投研、金融營銷、保險理賠等金融從業人員打造全方位的AI業務助手。

各家金融機構對大模型的應用都有豐富構想。某大型銀行稱已在20多個場景投放應用,另一家銀行表示正在30多個場景中進行試點,還有證券公司正探索將大模型與虛擬數字人平台結合。

然而,在實際落地過程中,普遍共識是先內部應用後外部推廣。畢竟當前階段大模型技術尚不成熟,存在幻覺等問題,而金融行業又是強監管、高安全、高可信的領域。

某大型銀行的技術負責人認爲,短期內不建議直接面向客戶使用大模型。金融機構應優先將大模型應用於金融文本和金融圖像分析理解創作等智力密集型場景,以助手形式實現人機協同,提升業務人員工作效率。

目前,代碼助手已在多家金融機構落地。例如,某銀行構建了基於大模型的智能研發體系,編碼助手生成的代碼量佔總代碼量的40%。在保險領域,某公司開發了基於大模型的輔助編程插件,直接嵌入內部開發工具。

智慧辦公領域也有不少落地案例。某大模型供應商基於其金融大模型推出的網點問答系統,在某銀行上線後已推廣到數百個網點,答案採納率超過85%。該解決方案還快速復制到其他多家銀行和金融機構。

不過,業內人士判斷,這些已廣泛落地的場景實際上還不是金融機構的核心應用,大模型距離深入金融行業的業務層面還有一定距離。

某IT服務提供商高管表示,營銷、風控、合規等場景是大模型可能帶來變革、也是金融客戶需求所在的領域,但目前這些工作還取決於底層大模型廠商能力的提升。

有業內人士預測,今年底之前會有一批真正在金融機構核心業務場景中應用大模型的項目建設或招標信息出現。

在此之前,一些頂層設計層面的變革正在進行。有專家判斷,未來整個智能化、數字化系統都將重新建立在大模型基礎之上。這要求金融行業在推動大模型落地過程中重新架構系統,同時也不能忽視傳統小模型的價值,而應該讓大模型和小模型協同。

這一趨勢已在金融行業得到廣泛體現。目前金融機構試點大模型,基本採取分層模式。不同於過去一個場景需要搭建一個平台的煙囪化模式,大模型給了金融機構一個從零開始、更科學地進行整體系統規劃的機會。

目前已有多家頭部金融機構基於大模型搭建了包含基礎設施層、模型層、大模型服務層、應用層等多個層級的分層系統框架。這些框架體系普遍有兩個特點:一是大模型發揮中樞能力,將傳統模型作爲技能進行調用;二是大模型層採用多模型策略,內部競爭選出最優效果。

實際上,不僅金融機構,在當前格局未定的情況下,一些大模型應用提供商也採用多模型策略,優選服務效果。某IT服務商透露,他們的底層模型層融合了大量大語言模型,會根據每個大模型的回答進行組裝優選後提供給用戶。

人才缺口依然龐大

大模型的應用已經開始對金融行業的人員結構帶來一些挑戰和變革。

有金融科技公司人士表示,自ChatGPT出現以來,他所在的公司從今年初到5月底已裁掉300多名大數據分析師。這一度引發他對未來職業發展的擔憂。

某大型銀行的金融領域資深人士也分享了大模型對人工的替代效應。該行原來每天早上都有實習生匯總各方面信息給投研部門,但現在這些工作可以通過大模型完成。

不過,一些銀行並不希望大模型帶來減員。例如,擁有20萬網點員工的某大型銀行就明確表示,他們不希望員工被大模型取代,而是希望大模型能帶來新機會,提升員工的服務質量和工作效率,同時釋放部分員工去做更高價值的工作。

這一方面考慮到人員和結構的穩定性,另一方面也是因爲許多崗位仍存在人才缺口。某IT服務商高管表示,大型銀行有大量工作無法完成,部分IT需求的工期甚至排到明年年底。他們希望大模型能幫助員工提高效率和速度,而不是導致人員縮減。

更重要的是,大模型的快速發展導致短時間內稀缺人才供給難以匹配激增的需求。這就像當初iPhone剛出現時,想開發應用卻很難找到iOS程序員一樣。

某大型銀行的研發負責人總結了金融行業在將大模型能力應用到核心業務流程中遇到的6大挑戰,其中之一就是人才短缺。他們最近招聘的新員工和校招中,學習AI領域的佔比很高,但了解大模型的人才寥寥無幾。

某IT服務商高管也有類似經歷,最近剛收到一家銀行客戶的人才支援請求。該銀行因自建大模型團隊中有人臨時請假,模型訓練工作面臨人手不足,不得不向外尋求支持。

目前直接應用大模型的人才需求相對簡單,主要需要會提問題的人。但如果要自建行業或企業大模型,金融機構則需要一支精幹的垂直大模型技術團隊。

某雲服務提供商高管坦言,AI大模型領域的人才缺口非常大,頭部機構目前都在招聘AI相關專業人才,如算法博士等。這是因爲金融客戶雖然能從大模型廠商獲得技術支持,但他們是最終使用方和創新主導方,需要一定的人才積累來支撐AI大平台的構建、各項AI應用的規劃,以及在建模、調優和精調過程中與大模型廠商合作,不斷拓展AI模型的應用範圍和效果。

一些企業已經採取行動。某科技公司與銀行實驗室合作,梳理了大模型在企業應用中的人員轉型實踐,設計了一系列培訓課程,如Prompt調優、微調、大模型運營等,並與多個部門合作建立聯合項目組,推動企業人員能力提升。

業內專家指出,大模型目前還不夠成熟,需要領域專家共同努力才能開發出成熟產品。大廠的大模型會對企業現有傳統人才帶來一定提升,但不會帶來範式的改變。真正的範式改變需要金融體系內部有一支隊伍深入融合內部需求,做出重大創新。

值得注意的是,在這個過程中,金融機構的人員結構也將迎來調整和變革。掌握大模型使用技能的開發人員,將更容易在這個環境中立足。