Tình hình ứng dụng của mô hình lớn trong ngành tài chính: từ tầm chiến lược đến thực tiễn

Sự ra đời của ChatGPT đã gây ra phản ứng mạnh mẽ trong ngành tài chính. Ban đầu, ngành công nghiệp chú trọng vào công nghệ này cảm thấy lo lắng, sợ bị bỏ lại phía sau bởi làn sóng thời đại. Tâm trạng này thậm chí đã lan rộng đến những nơi không ngờ tới. Theo thông tin, vào tháng 5 năm nay, có người đã nghe thấy các chuyên gia tài chính thảo luận về mô hình lớn tại một ngôi chùa ở Đại Lý.

Tuy nhiên, theo thời gian, sự lo lắng này dần giảm bớt, suy nghĩ của mọi người cũng trở nên rõ ràng và lý trí hơn. Ông Tôn Hồng Quân, CTO của Ngân hàng Softcom, đã mô tả quá trình phát triển thái độ của ngành tài chính đối với mô hình lớn: từ tháng 2-3 là sự lo lắng chung; tháng 4-5, các đội ngũ bắt đầu được thành lập để nghiên cứu; sau đó, trong vài tháng tiếp theo, gặp khó khăn trong việc tìm kiếm định hướng và thực hiện, bắt đầu trở nên lý trí; hiện tại thì đang tập trung vào các tiêu chuẩn và thử nghiệm các tình huống ứng dụng đã được xác minh.

Hiện nay, nhiều tổ chức tài chính đã bắt đầu coi trọng các mô hình lớn từ cấp độ chiến lược. Theo thống kê không đầy đủ, trong số các công ty niêm yết A-shares, ít nhất có 11 ngân hàng đã rõ ràng đề cập đến việc đang khám phá ứng dụng mô hình lớn trong báo cáo nửa năm gần nhất của họ, bao gồm Ngân hàng Công thương, Ngân hàng Nông nghiệp, Ngân hàng Trung Quốc, Ngân hàng Giao thông và một số ngân hàng khác. Từ các động thái gần đây, các tổ chức này đang tiến hành tư duy và lập kế hoạch rõ ràng hơn từ cấp độ chiến lược và thiết kế tổng thể.

Từ sự nhiệt tình cao đến sự trở lại lý trí

So với vài tháng trước, sự hiểu biết của các khách hàng tài chính về mô hình lớn đã cải thiện rõ rệt. Khi ChatGPT mới xuất hiện đầu năm, mặc dù có nhiều sự hào hứng, nhưng sự hiểu biết về bản chất và cách ứng dụng của mô hình lớn còn hạn chế.

Ở giai đoạn này, một số ngân hàng lớn đã đi đầu, bắt đầu thực hiện nhiều chiến dịch quảng bá "mượn sức nóng". Ví dụ, vào tháng 3, một ngân hàng đã ra mắt ứng dụng mô hình lớn tương tự như ChatGPT, nhưng đánh giá từ ngành thì không đồng nhất. Một số người cho rằng ứng dụng này quá nhấn mạnh vào chức năng trò chuyện, bỏ qua khả năng sinh sản quan trọng hơn.

Với sự ra mắt của nhiều công ty công nghệ trong nước về mô hình lớn, một số bộ phận công nghệ của các tổ chức tài chính hàng đầu bắt đầu tích cực thảo luận với những công ty này về việc xây dựng mô hình lớn. Họ thường hy vọng phát triển mô hình lớn một cách độc lập, và hỏi về việc xây dựng bộ dữ liệu, cấu hình máy chủ và các phương pháp huấn luyện. Một công ty công nghệ tài chính thuộc một ngân hàng thậm chí đã đề xuất rằng nếu hoàn thành, họ có thể cung cấp công nghệ cho các đồng nghiệp trong ngành.

Sau tháng 5, tình hình bắt đầu thay đổi. Bị hạn chế bởi nguồn lực tính toán khan hiếm, chi phí cao và các yếu tố khác, nhiều tổ chức tài chính đã chuyển từ việc chỉ đơn thuần muốn tự xây dựng sang tập trung hơn vào giá trị ứng dụng. Hiện nay, mỗi tổ chức tài chính đều đang quan tâm đến tình hình và hiệu quả ứng dụng mô hình lớn của các tổ chức khác.

Các doanh nghiệp ở quy mô khác nhau cũng xuất hiện hai con đường. Các tổ chức tài chính lớn sở hữu khối lượng dữ liệu tài chính khổng lồ và các tình huống ứng dụng, có thể đưa vào các mô hình lớn cơ sở dẫn đầu, tự xây dựng mô hình lớn doanh nghiệp, đồng thời áp dụng phương pháp tinh chỉnh để phát triển các mô hình tác vụ chuyên môn trong các lĩnh vực, nhanh chóng tăng cường năng lực cho hoạt động. Các tổ chức tài chính vừa và nhỏ có thể xem xét ROI, theo nhu cầu đưa vào các API đám mây công cộng của các mô hình lớn hoặc dịch vụ triển khai riêng, trực tiếp đáp ứng nhu cầu.

Tuy nhiên, do yêu cầu cao về tính tuân thủ dữ liệu, an ninh và độ tin cậy trong ngành tài chính, một số chuyên gia trong ngành cho rằng, tiến trình triển khai mô hình lớn trong ngành này thực tế chậm hơn một chút so với dự đoán vào đầu năm. Ông Tôn Hồng Quân của Softcom cho biết, họ đã dự đoán ban đầu rằng ngành tài chính sẽ là ngành đầu tiên áp dụng mô hình lớn quy mô lớn, nhưng thực tế là tiến độ ứng dụng của ngành tài chính không nhanh bằng các ngành như luật pháp, tuyển dụng.

Một số tổ chức tài chính đã bắt đầu tìm kiếm các giải pháp cho những hạn chế trong quá trình triển khai mô hình lớn.

Về mặt sức mạnh tính toán, trong ngành đã xuất hiện một số giải pháp.

1. Xây dựng sức mạnh tính toán tự trực tiếp, chi phí cao nhưng an toàn, phù hợp với các tổ chức tài chính lớn muốn tự xây dựng mô hình lớn cho ngành hoặc doanh nghiệp. Theo thông tin, một ngân hàng quốc doanh lớn gần đây đã mua một lô chip H800 để xây dựng sức mạnh tính toán.

2. Triển khai hỗn hợp sức mạnh tính toán, dưới điều kiện đảm bảo dữ liệu nhạy cảm không bị rò rỉ, sử dụng giao diện dịch vụ mô hình lớn trên đám mây công cộng, đồng thời xử lý dữ liệu cục bộ thông qua triển khai riêng. Cách này có chi phí thấp, phù hợp với các tổ chức tài chính vừa và nhỏ có khả năng tài chính yếu và ứng dụng theo nhu cầu.

3. Đối với vấn đề thiếu hụt và giá cao của thẻ GPU mà các tổ chức vừa và nhỏ đang phải đối mặt, các cơ quan quản lý đang khám phá khả năng xây dựng cơ sở hạ tầng mô hình lớn chia sẻ cho ngành chứng khoán, tập trung sức mạnh tính toán và tài nguyên mô hình lớn chung, để các tổ chức tài chính vừa và nhỏ cũng có thể sử dụng dịch vụ mô hình lớn, tránh bị lạc hậu công nghệ.

Ngoài sức mạnh tính toán, trong nửa năm qua, nhiều tổ chức tài chính cũng đã tăng cường quản trị dữ liệu. Một giám đốc điều hành của nhà cung cấp dịch vụ đám mây cho biết, ngoài các ngân hàng lớn, ngày càng nhiều tổ chức tài chính trung bình cũng bắt đầu xây dựng nền tảng dữ liệu và hệ thống quản trị dữ liệu. Ông tin rằng, một hệ thống quản trị dữ liệu hoàn chỉnh và nền tảng công nghệ hồ dữ liệu sẽ trở thành hướng quan trọng trong xây dựng CNTT của các tổ chức tài chính trong tương lai.

Một số ngân hàng đang giải quyết vấn đề dữ liệu thông qua cách kết hợp mô hình lớn và MLOps. Ví dụ, một ngân hàng lớn đã áp dụng mô hình MLOps để thiết lập hệ thống vòng khép kín dữ liệu mô hình lớn, đạt được tự động hóa quy trình và quản lý cũng như xử lý hiệu quả dữ liệu đa nguồn và dị thể, hiện đã xây dựng được tập dữ liệu huấn luyện chất lượng cao 2.6TB.

Vào từ cảnh ngoại vi

Trong hơn nửa năm qua, cả nhà cung cấp dịch vụ mô hình lớn và các tổ chức tài chính đều tích cực tìm kiếm các ứng dụng. Các lĩnh vực như văn phòng thông minh, phát triển thông minh, tiếp thị thông minh, dịch vụ khách hàng thông minh, nghiên cứu đầu tư thông minh, kiểm soát rủi ro thông minh, phân tích nhu cầu đã trở thành những điểm khám phá trọng tâm.

Như một giám đốc điều hành của một công ty công nghệ tài chính đã nói, "Mỗi khâu quan trọng trong chuỗi dịch vụ tài chính đều xứng đáng được thiết kế lại bằng công nghệ mô hình lớn." Công ty này gần đây đã phát hành một mô hình lớn hướng đến ngành tài chính, và hợp tác với các đối tác để phát triển các sản phẩm mô hình lớn cho ngành tài chính, nhằm tạo ra một trợ lý kinh doanh AI toàn diện cho các chuyên viên tư vấn tài chính, đại lý bảo hiểm, nghiên cứu đầu tư, tiếp thị tài chính, và bồi thường bảo hiểm.

Các tổ chức tài chính đều có những ý tưởng phong phú về việc ứng dụng mô hình lớn. Một ngân hàng lớn cho biết đã triển khai ứng dụng trong hơn 20 tình huống, một ngân hàng khác cho biết đang thử nghiệm trong hơn 30 tình huống, còn một công ty chứng khoán đang khám phá việc kết hợp mô hình lớn với nền tảng người số ảo.

Tuy nhiên, trong quá trình triển khai thực tế, có sự đồng thuận chung là trước tiên áp dụng nội bộ rồi mới quảng bá ra bên ngoài. Dù sao thì ở giai đoạn hiện tại, công nghệ mô hình lớn vẫn chưa trưởng thành, còn tồn tại vấn đề ảo giác, trong khi ngành tài chính lại là lĩnh vực có sự quản lý chặt chẽ, an toàn cao và đáng tin cậy.

Một người phụ trách công nghệ của một ngân hàng lớn cho rằng, trong ngắn hạn không nên sử dụng mô hình lớn trực tiếp cho khách hàng. Các tổ chức tài chính nên ưu tiên ứng dụng mô hình lớn vào phân tích và hiểu biết văn bản tài chính cũng như hình ảnh tài chính trong các tình huống cần trí tuệ, nhằm đạt được sự hợp tác giữa con người và máy móc để nâng cao hiệu quả công việc của nhân viên.

Hiện tại, trợ lý mã đã được triển khai tại nhiều tổ chức tài chính. Ví dụ, một ngân hàng đã xây dựng hệ thống nghiên cứu và phát triển thông minh dựa trên mô hình lớn, trong đó mã do trợ lý lập trình tạo ra chiếm 40% tổng lượng mã. Trong lĩnh vực bảo hiểm, một công ty đã phát triển plugin hỗ trợ lập trình dựa trên mô hình lớn, được tích hợp trực tiếp vào công cụ phát triển nội bộ.

Trong lĩnh vực văn phòng thông minh cũng có nhiều trường hợp thực tế. Một nhà cung cấp mô hình lớn đã phát triển hệ thống hỏi đáp tại điểm giao dịch dựa trên mô hình tài chính lớn của mình, sau khi triển khai tại một ngân hàng đã được mở rộng đến hàng trăm điểm giao dịch, tỷ lệ chấp nhận câu trả lời vượt quá 85%. Giải pháp này cũng nhanh chóng được sao chép sang nhiều ngân hàng và tổ chức tài chính khác.

Tuy nhiên, các chuyên gia trong ngành đánh giá rằng, những kịch bản đã được triển khai rộng rãi này thực tế vẫn chưa phải là ứng dụng cốt lõi của các tổ chức tài chính, và mô hình lớn vẫn còn một khoảng cách nhất định để đi sâu vào các khía cạnh nghiệp vụ của ngành tài chính.

Một giám đốc điều hành của một nhà cung cấp dịch vụ IT cho biết, tiếp thị, quản lý rủi ro, tuân thủ và các lĩnh vực khác là nơi mà các mô hình lớn có thể mang lại sự thay đổi, cũng như là nhu cầu của khách hàng trong lĩnh vực tài chính, nhưng hiện tại những công việc này vẫn phụ thuộc vào việc nâng cao khả năng của các nhà cung cấp mô hình lớn.

Có những chuyên gia trong ngành dự đoán rằng trước cuối năm nay sẽ có một loạt thông tin về việc xây dựng hoặc đấu thầu các dự án thực sự áp dụng mô hình lớn trong các tình huống kinh doanh cốt lõi của các tổ chức tài chính.

Trước đó, một số cải cách ở cấp thiết kế cao đang diễn ra. Một số chuyên gia đánh giá rằng trong tương lai, toàn bộ hệ thống thông minh và kỹ thuật số sẽ được xây dựng lại trên nền tảng của các mô hình lớn. Điều này yêu cầu ngành tài chính phải tái cấu trúc hệ thống trong quá trình thúc đẩy việc triển khai các mô hình lớn, đồng thời cũng không thể bỏ qua giá trị của các mô hình nhỏ truyền thống, mà nên để cho các mô hình lớn và nhỏ hợp tác với nhau.

Xu hướng này đã được thể hiện rộng rãi trong ngành tài chính. Hiện tại, các tổ chức tài chính đang thử nghiệm mô hình lớn, chủ yếu áp dụng mô hình phân lớp. Khác với mô hình khói ống mà trước đây cần xây dựng một nền tảng cho từng kịch bản, mô hình lớn đã mang lại cho các tổ chức tài chính một cơ hội để bắt đầu từ con số không và lập kế hoạch hệ thống tổng thể một cách khoa học hơn.

Hiện tại, đã có nhiều tổ chức tài chính hàng đầu xây dựng hệ thống phân lớp bao gồm các tầng hạ tầng, tầng mô hình, tầng dịch vụ mô hình lớn và tầng ứng dụng dựa trên mô hình lớn. Những hệ thống khung này thường có hai đặc điểm: một là mô hình lớn phát huy khả năng trung tâm, gọi các mô hình truyền thống như là kỹ năng; hai là tầng mô hình lớn áp dụng chiến lược đa mô hình, nội bộ cạnh tranh chọn ra hiệu quả tối ưu.

Thực tế, không chỉ các tổ chức tài chính, trong bối cảnh hiện tại chưa xác định, một số nhà cung cấp ứng dụng mô hình lớn cũng áp dụng chiến lược đa mô hình, ưu tiên hiệu quả dịch vụ. Một nhà cung cấp dịch vụ CNTT tiết lộ, lớp mô hình nền tảng của họ tích hợp rất nhiều mô hình ngôn ngữ lớn, sẽ được lắp ráp và ưu tiên dựa trên câu trả lời của từng mô hình lớn trước khi cung cấp cho người dùng.

Khoảng cách nhân tài vẫn còn rất lớn

Việc ứng dụng các mô hình lớn đã bắt đầu mang lại một số thách thức và biến đổi cho cơ cấu nhân sự trong ngành tài chính.

Một người trong ngành công nghệ tài chính cho biết, kể từ khi ChatGPT xuất hiện, công ty của anh đã sa thải hơn 300 nhà phân tích dữ liệu lớn từ đầu năm đến cuối tháng 5. Điều này đã gây ra sự lo lắng cho anh về sự phát triển nghề nghiệp trong tương lai.

Một chuyên gia kỳ cựu trong lĩnh vực tài chính của một ngân hàng lớn cũng đã chia sẻ về hiệu ứng thay thế con người của mô hình lớn. Trước đây, ngân hàng này có thực tập sinh tổng hợp thông tin từ nhiều nguồn cho bộ phận nghiên cứu và đầu tư mỗi sáng, nhưng giờ đây công việc này có thể được thực hiện thông qua mô hình lớn.

Tuy nhiên, một số ngân hàng không muốn mô hình lớn dẫn đến việc giảm nhân viên. Ví dụ, một ngân hàng lớn với 200.000 nhân viên tại các chi nhánh đã rõ ràng tuyên bố rằng họ không muốn nhân viên bị thay thế bởi mô hình lớn, mà thay vào đó họ mong muốn mô hình lớn có thể mang lại cơ hội mới, nâng cao chất lượng dịch vụ và hiệu suất làm việc của nhân viên, đồng thời giải phóng một phần nhân viên để làm công việc có giá trị cao hơn.

Một mặt, điều này xem xét sự ổn định của nhân sự và cấu trúc, mặt khác cũng vì nhiều vị trí vẫn còn thiếu nhân tài. Một giám đốc điều hành của một nhà cung cấp dịch vụ CNTT cho biết, các ngân hàng lớn có rất nhiều công việc không thể hoàn thành, một số nhu cầu CNTT thậm chí còn được lên lịch đến cuối năm sau. Họ hy vọng rằng mô hình lớn có thể giúp nhân viên nâng cao hiệu suất và tốc độ, chứ không phải dẫn đến việc cắt giảm nhân sự.

Điều quan trọng hơn là sự phát triển nhanh chóng của các mô hình lớn dẫn đến việc cung cấp nhân lực khan hiếm khó có thể đáp ứng nhu cầu tăng vọt trong thời gian ngắn. Điều này giống như khi iPhone mới xuất hiện, việc phát triển ứng dụng rất khó để tìm được lập trình viên iOS.

Người đứng đầu nghiên cứu và phát triển của một ngân hàng lớn đã tổng kết 6 thách thức mà ngành tài chính gặp phải khi ứng dụng khả năng của các mô hình lớn vào quy trình kinh doanh cốt lõi, trong đó một trong những thách thức là thiếu nhân tài. Gần đây, tỷ lệ nhân viên mới được tuyển dụng và sinh viên mới ra trường trong lĩnh vực AI rất cao, nhưng nhân tài hiểu biết về các mô hình lớn thì rất hiếm.

Một giám đốc điều hành của một nhà cung cấp dịch vụ CNTT cũng có trải nghiệm tương tự, gần đây vừa nhận được yêu cầu hỗ trợ nhân tài từ một khách hàng ngân hàng. Ngân hàng này do có một số người trong đội ngũ mô hình lớn tự xây dựng xin nghỉ gấp, công việc huấn luyện mô hình đang đối mặt với tình trạng thiếu nhân lực, buộc phải tìm kiếm hỗ trợ từ bên ngoài.

Hiện tại, nhu cầu nhân tài trực tiếp ứng dụng mô hình lớn tương đối đơn giản, chủ yếu cần những người biết đặt câu hỏi. Nhưng nếu muốn tự xây dựng mô hình lớn cho ngành hoặc doanh nghiệp, các tổ chức tài chính cần một đội ngũ kỹ thuật mô hình lớn chuyên nghiệp.

Một giám đốc điều hành của một nhà cung cấp dịch vụ đám mây đã thừa nhận rằng thiếu hụt nhân tài trong lĩnh vực mô hình AI lớn là rất lớn, các tổ chức hàng đầu hiện đang tuyển dụng nhân tài chuyên ngành AI, chẳng hạn như tiến sĩ thuật toán. Điều này là do các khách hàng tài chính mặc dù có thể nhận được hỗ trợ kỹ thuật từ các nhà sản xuất mô hình lớn, nhưng họ là bên sử dụng cuối và là bên dẫn dắt đổi mới, cần có một lượng nhân tài nhất định để hỗ trợ việc xây dựng nền tảng AI lớn, lập kế hoạch cho các ứng dụng AI khác nhau, cũng như hợp tác với các nhà sản xuất mô hình lớn trong quá trình lập mô hình, điều chỉnh và tinh chỉnh, liên tục mở rộng phạm vi ứng dụng và hiệu quả của mô hình AI.

Một số doanh nghiệp đã có hành động. Một công ty công nghệ đã hợp tác với ngân hàng để nghiên cứu thực tiễn chuyển đổi nhân sự trong ứng dụng của mô hình lớn, thiết kế một loạt khóa đào tạo, như tối ưu hóa Prompt, tinh chỉnh, vận hành mô hình lớn, và hợp tác với nhiều phòng ban để thành lập nhóm dự án liên hợp, thúc đẩy nâng cao năng lực nhân sự của doanh nghiệp.

Các chuyên gia trong ngành chỉ ra rằng, mô hình lớn hiện tại vẫn chưa đủ trưởng thành, cần có sự nỗ lực chung của các chuyên gia trong lĩnh vực để phát triển sản phẩm trưởng thành. Mô hình lớn của các công ty lớn sẽ mang lại một số cải thiện cho nhân tài truyền thống hiện có của doanh nghiệp, nhưng sẽ không mang lại sự thay đổi về mô hình. Sự thay đổi mô hình thực sự cần có một đội ngũ trong hệ thống tài chính hòa nhập sâu sắc với nhu cầu nội bộ, tạo ra những đổi mới lớn.

Cần lưu ý rằng trong quá trình này, cấu trúc nhân sự của các tổ chức tài chính cũng sẽ trải qua sự điều chỉnh và biến đổi. Những nhà phát triển nắm vững kỹ năng sử dụng mô hình lớn sẽ dễ dàng đứng vững trong môi trường này.