État actuel de l'application des grands modèles dans le secteur financier : d'une perspective stratégique à une mise en œuvre pratique

L'émergence de ChatGPT a suscité un grand écho dans le secteur financier. Au début, cette industrie axée sur la technologie ressentait généralement de l'anxiété, craignant d'être laissée pour compte par les vagues du temps. Ce sentiment s'est même étendu à certains endroits inattendus. Selon des informations, en mai de cette année, des professionnels de la finance discutaient de grands modèles dans un temple à Dali.

Cependant, au fil du temps, cette anxiété s'est progressivement apaisée et les pensées des gens sont devenues plus claires et rationnelles. Sun Hongjun, CTO des services bancaires de Soft Tech, a décrit le processus d'évolution de l'attitude du secteur financier envers les grands modèles : anxiété généralisée en février-mars ; formation d'équipes pour étudier en avril-mai ; puis, au cours des mois suivants, des difficultés dans la recherche de direction et la mise en œuvre ont commencé à apparaître, devenant plus rationnels ; maintenant, l'accent est mis sur les références, essayant de valider des scénarios d'application éprouvés.

Actuellement, de nombreuses institutions financières commencent à accorder une attention stratégique aux grands modèles. Selon des statistiques incomplètes, au moins 11 banques parmi les entreprises cotées en bourse A ont clairement indiqué dans leur dernier rapport semestriel qu'elles explorent l'application des grands modèles, y compris la Banque industrielle et commerciale de Chine, la Banque agricole de Chine, la Banque de Chine, la Banque des communications, etc. D'après les récentes actions, ces institutions sont en train de réfléchir et de planifier plus clairement en termes de stratégie et de conception de haut niveau.

De l'enthousiasme à un retour à la raison

Comparé à il y a quelques mois, la compréhension des clients financiers concernant les grands modèles a nettement augmenté. Au début de l'année, lorsque ChatGPT est apparu, bien que l'enthousiasme était élevé, la compréhension de la nature et des méthodes d'application des grands modèles était limitée.

À ce stade, certaines grandes banques prennent les devants et commencent à faire diverses promotions "à la mode". Par exemple, en mars, une banque a lancé une application de modèle de type ChatGPT, mais les avis dans le secteur sont partagés. Certains estiment que cette application met trop l'accent sur la fonction de chat et néglige une capacité de génération plus importante.

Avec plusieurs entreprises technologiques nationales qui publient successivement de grands modèles, certains départements technologiques d'institutions financières de premier plan commencent à discuter activement de la construction de grands modèles avec ces entreprises. Ils espèrent généralement développer des grands modèles de manière autonome et posent des questions sur la construction de jeux de données, la configuration des serveurs et les méthodes d'entraînement. Une société de technologie financière d'une certaine banque a même exprimé le souhait de pouvoir transférer la technologie à ses pairs une fois le projet terminé.

Après mai, la situation a commencé à changer. En raison de la pénurie de ressources de calcul et des coûts élevés, de nombreuses institutions financières sont passées d'un souhait de construire elles-mêmes à une attention accrue sur la valeur d'application. À présent, chaque institution financière se penche sur les applications et les résultats des grands modèles d'autres institutions.

Les entreprises de différentes tailles ont également suivi deux voies. Les grandes institutions financières, disposant d'une quantité massive de données financières et de cas d'application, peuvent introduire des modèles de base avancés, construire leurs propres modèles d'entreprise, tout en développant des modèles de tâches spécifiques dans des domaines professionnels par le biais d'un ajustement fin, afin de dynamiser rapidement leurs activités. Les institutions financières de taille moyenne et petite peuvent quant à elles envisager le retour sur investissement (ROI) et introduire à la demande divers modèles via des API cloud publics ou des services de déploiement privatif, répondant directement à leurs besoins.

Cependant, en raison des exigences élevées de l'industrie financière en matière de conformité des données, de sécurité et de fiabilité, certains professionnels du secteur estiment que le déploiement des grands modèles dans ce secteur progresse en réalité légèrement plus lentement que prévu au début de l'année. Sun Hongjun de Softcom Power a déclaré qu'ils s'attendaient initialement à ce que l'industrie financière soit la première à utiliser massivement les grands modèles, mais la réalité est que le rythme d'application dans le secteur financier n'est pas aussi rapide que dans les secteurs juridique, de recrutement, etc.

Certaines institutions financières ont commencé à chercher des solutions aux diverses restrictions lors de la mise en œuvre des grands modèles.

En ce qui concerne la puissance de calcul, plusieurs solutions ont émergé dans l'industrie :

1. Construire directement la puissance de calcul, coût relativement élevé mais sécurité forte, adapté aux grandes institutions financières souhaitant construire des modèles industriels ou des modèles d'entreprise. Il a été rapporté qu'une grande banque d'État a récemment acheté un lot de puces H800 pour établir la puissance de calcul.

2. Déploiement hybride de la puissance de calcul, en garantissant que les données sensibles ne fuient pas, en utilisant les interfaces de services de grands modèles dans le cloud public, tout en traitant les données locales par le biais d'un déploiement privé. Cette méthode est moins coûteuse, adaptée aux institutions financières de taille petite à moyenne avec des ressources financières limitées et des applications à la demande.

3. Face à la pénurie de cartes GPU et aux prix élevés auxquels sont confrontées les petites et moyennes entreprises, les autorités de régulation explorent la possibilité de créer une infrastructure de modèles partagés pour le secteur des valeurs mobilières, en concentrant la puissance de calcul et les ressources de modèles généraux, afin que les petites et moyennes institutions financières puissent également bénéficier des services de modèles de grande taille et éviter d'être technologiquement en retard.

En plus de la puissance de calcul, de nombreuses institutions financières ont également renforcé la gouvernance des données au cours des six derniers mois. Un dirigeant d'un fournisseur de services cloud a déclaré qu'en dehors des grandes banques, de plus en plus d'institutions financières de taille moyenne commencent également à construire des plateformes de données et des systèmes de gouvernance des données. Il estime qu'un système de gouvernance des données complet et une plateforme technologique de lac de données deviendront des directions importantes pour la construction informatique des institutions financières à l'avenir.

Certaines banques résolvent des problèmes de données en combinant de grands modèles avec MLOps. Par exemple, une grande banque a établi un système de boucle de données de grands modèles en adoptant le modèle MLOps, réalisant l'automatisation des processus et la gestion unifiée et le traitement efficace des données hétérogènes provenant de multiples sources. À ce jour, elle a construit un ensemble de données d'entraînement de haute qualité de 2,6 To.

Entrée par le scénario périphérique

Au cours des six derniers mois, tant les fournisseurs de services de grands modèles que les institutions financières ont activement recherché des scénarios d'application. Des domaines tels que le bureau intelligent, le développement intelligent, le marketing intelligent, le service client intelligent, la recherche et le développement intelligent, le contrôle des risques intelligent et l'analyse des besoins sont devenus des points d'exploration clés.

Comme l'a dit un cadre d'une entreprise de technologie financière, "Chaque maillon clé de la chaîne des affaires financières mérite d'être redessiné avec la technologie des grands modèles." Cette entreprise a récemment lancé un grand modèle destiné au secteur financier et a collaboré avec des partenaires pour développer des produits de grand modèle axés sur l'industrie financière, visant à créer un assistant AI complet pour les conseillers financiers, les agents d'assurance, la recherche et l'investissement, le marketing financier et les règlements d'assurance.

Les institutions financières ont toutes des idées riches sur l'application des grands modèles. Une grande banque a déclaré avoir déployé des applications dans plus de 20 scénarios, une autre banque a indiqué qu'elle menait des essais dans plus de 30 scénarios, et une société de valeurs mobilières explore la possibilité de combiner les grands modèles avec des plateformes de personnages numériques virtuels.

Cependant, dans le processus de mise en œuvre, le consensus général est de d'abord appliquer en interne avant de promouvoir à l'extérieur. Après tout, à ce stade, la technologie des grands modèles n'est pas encore mature, et il existe des problèmes tels que des hallucinations, tandis que le secteur financier est un domaine fortement réglementé, à haute sécurité et de haute confiance.

Le responsable technique d'une grande banque estime qu'il n'est pas conseillé d'utiliser directement de grands modèles auprès des clients à court terme. Les institutions financières devraient prioriser l'application de grands modèles à des scénarios intensifs en intelligence tels que l'analyse et la compréhension de textes financiers et d'images financières, en réalisant une collaboration homme-machine sous forme d'assistants, afin d'améliorer l'efficacité de travail du personnel.

Actuellement, l'assistant de code a été déployé dans plusieurs institutions financières. Par exemple, une banque a construit un système de développement intelligent basé sur un grand modèle, où la quantité de code générée par l'assistant de codage représente 40 % du volume total de code. Dans le domaine de l'assurance, une entreprise a développé un plugin d'assistance à la programmation basé sur un grand modèle, intégré directement dans les outils de développement internes.

Il existe également de nombreux cas d'application dans le domaine des bureaux intelligents. Un fournisseur de grands modèles a lancé un système de questions-réponses basé sur son grand modèle financier, qui, après son lancement dans une certaine banque, a été étendu à des centaines de succursales, avec un taux d'adoption des réponses supérieur à 85 %. Cette solution a également été rapidement reproduite dans d'autres banques et institutions financières.

Cependant, les experts de l'industrie estiment que ces scénarios déjà largement déployés ne constituent en réalité pas encore les applications centrales des institutions financières, et que les grands modèles sont encore loin d'atteindre les aspects opérationnels du secteur financier.

Un cadre d'un fournisseur de services informatiques a déclaré que le marketing, la gestion des risques, la conformité et d'autres scénarios sont des domaines où les grands modèles pourraient apporter des transformations et où se trouvent les besoins des clients financiers, mais que ces travaux dépendent encore de l'amélioration des capacités des fournisseurs de grands modèles sous-jacents.

Des experts de l'industrie prédisent qu'avant la fin de cette année, il y aura des projets de construction ou des informations d'appel d'offres concernant des modèles à grande échelle réellement appliqués dans les scénarios d'activité principale des institutions financières.

Avant cela, certaines réformes au niveau de la conception de haut niveau étaient en cours. Des experts estiment que dans le futur, l'ensemble des systèmes intelligents et numériques sera reconstruit sur la base de grands modèles. Cela exige que le secteur financier restructure ses systèmes dans le processus de mise en œuvre des grands modèles, tout en ne négligeant pas la valeur des petits modèles traditionnels, et en permettant une synergie entre les grands et les petits modèles.

Cette tendance est déjà largement reflétée dans le secteur financier. Actuellement, les institutions financières expérimentent des grands modèles, adoptant principalement un modèle hiérarchique. Contrairement au modèle en silo du passé où un plateau devait être construit pour chaque scénario, les grands modèles offrent aux institutions financières une opportunité de planifier l'ensemble du système de manière plus scientifique et depuis zéro.

Actuellement, plusieurs grandes institutions financières ont construit des cadres systèmes hiérarchiques comprenant plusieurs niveaux, tels que le niveau des infrastructures, le niveau des modèles, le niveau des services de grands modèles et le niveau des applications, basés sur de grands modèles. Ces systèmes de cadre présentent généralement deux caractéristiques : premièrement, le grand modèle joue un rôle central, appelant les modèles traditionnels comme des compétences ; deuxièmement, le niveau des grands modèles adopte une stratégie multi-modèles, sélectionnant en interne les meilleurs résultats par la compétition.

En fait, non seulement les institutions financières, mais dans le contexte actuel encore indéterminé, certains fournisseurs d'applications de grands modèles adoptent également une stratégie multi-modèle pour optimiser l'efficacité des services. Un fournisseur de services informatiques a révélé que leur couche de modèle sous-jacente fusionne un grand nombre de grands modèles de langage, et qu'ils assemblent et optimisent les réponses de chaque grand modèle avant de les fournir aux utilisateurs.

Le manque de talents reste énorme

L'application des grands modèles a déjà commencé à poser certains défis et à provoquer des transformations dans la structure du personnel du secteur financier.

Des personnes travaillant pour des entreprises de technologie financière ont déclaré que depuis l'apparition de ChatGPT, leur entreprise avait licencié plus de 300 analystes de données depuis le début de l'année jusqu'à la fin mai. Cela a suscité des inquiétudes concernant l'évolution de sa carrière.

Un professionnel chevronné du secteur financier d'une grande banque a également partagé l'effet de substitution des modèles de grande taille sur le travail humain. Auparavant, des stagiaires de cette banque résumaient chaque matin diverses informations pour le département de recherche et d'investissement, mais ces tâches peuvent désormais être réalisées par des modèles de grande taille.

Cependant, certaines banques ne souhaitent pas que les grands modèles entraînent des réductions d'effectifs. Par exemple, une grande banque ayant 200 000 employés dans ses agences a clairement déclaré qu'elle ne souhaite pas que ses employés soient remplacés par des grands modèles, mais plutôt qu'elle espère que ces modèles offriront de nouvelles opportunités, amélioreront la qualité du service et l'efficacité au travail des employés, tout en libérant certains employés pour qu'ils puissent effectuer des tâches de plus grande valeur.

D'une part, cela prend en compte la stabilité des personnes et des structures, d'autre part, c'est également parce qu'il existe encore un manque de talents pour de nombreux postes. Un cadre supérieur d'un fournisseur de services informatiques a déclaré que de grandes banques avaient un grand nombre de travaux qu'elles ne pouvaient pas accomplir, certains délais pour les besoins informatiques étant même prévus jusqu'à la fin de l'année prochaine. Ils espèrent que les grands modèles pourront aider les employés à améliorer leur efficacité et leur rapidité, plutôt que de conduire à une réduction des effectifs.

Plus important encore, le développement rapide des grands modèles a conduit à une pénurie de talents difficile à combler face à une demande en forte augmentation en peu de temps. C'est un peu comme lorsque l'iPhone est apparu pour la première fois, il était difficile de trouver des développeurs iOS pour créer des applications.

Le responsable de la recherche et développement d'une grande banque a résumé les six grands défis rencontrés par l'industrie financière lors de l'application des capacités des grands modèles aux processus d'affaires fondamentaux, dont l'un est la pénurie de talents. Récemment, la proportion d'employés nouvellement recrutés et de diplômés ayant étudié le domaine de l'IA est très élevée, mais il y a très peu de talents connaissant les grands modèles.

Un cadre d'un fournisseur de services informatiques a également eu une expérience similaire, ayant récemment reçu une demande de soutien en talents d'une banque cliente. Cette banque, en raison d'un congé imprévu au sein de son équipe de modélisation interne, fait face à un manque de personnel pour le travail d'entraînement des modèles et doit donc chercher du soutien à l'extérieur.

Actuellement, la demande de talents pour l'application directe des grands modèles est relativement simple, nécessitant principalement des personnes capables de poser des questions. Cependant, pour construire des grands modèles sectoriels ou d'entreprise, les institutions financières ont besoin d'une équipe technique compétente en grands modèles verticaux.

Un cadre d'un fournisseur de services cloud a avoué qu'il y a un grand manque de talents dans le domaine des grands modèles d'IA. Les principales institutions recrutent actuellement des talents spécialisés dans l'IA, tels que des docteurs en algorithmes, etc. Cela est dû au fait que, bien que les clients du secteur financier puissent obtenir un soutien technique des fournisseurs de grands modèles, ils sont les utilisateurs finaux et les principaux innovateurs, nécessitant une certaine accumulation de talents pour soutenir la construction de grandes plateformes d'IA, la planification des diverses applications d'IA, ainsi que la collaboration avec les fournisseurs de grands modèles lors de la modélisation, de l'ajustement et du perfectionnement, afin d'élargir continuellement le champ d'application et l'efficacité des modèles d'IA.

Certaines entreprises ont déjà agi. Une entreprise technologique a collaboré avec un laboratoire bancaire pour examiner les pratiques de transformation des personnes dans l'application des grands modèles au sein des entreprises, concevant une série de cours de formation tels que l'optimisation des invites, le réglage fin, l'exploitation des grands modèles, etc., et a collaboré avec plusieurs départements pour établir des équipes de projet conjointes afin de promouvoir l'amélioration des compétences des employés.

Les experts de l'industrie soulignent que les grands modèles ne sont pas encore suffisamment matures et qu'il faut la coopération d'experts du domaine pour développer des produits matures. Les grands modèles des grandes entreprises apporteront une certaine amélioration aux talents traditionnels existants dans les entreprises, mais ne provoqueront pas de changement de paradigme. Un véritable changement de paradigme nécessite qu'il y ait une équipe à l'intérieur du système financier qui s'intègre profondément aux besoins internes et réalise des innovations majeures.

Il est à noter que, dans ce processus, la structure du personnel des institutions financières subira également des ajustements et des réformes. Les développeurs maîtrisant les compétences d'utilisation des grands modèles auront plus de facilité à s'établir dans cet environnement.