Estado actual de la aplicación de grandes modelos en la industria financiera: desde la altura estratégica hasta la implementación práctica

El lanzamiento de ChatGPT ha causado un gran revuelo en la industria financiera. Al principio, este sector centrado en la tecnología se sintió en general ansioso, temiendo quedar rezagado por las olas del tiempo. Este sentimiento incluso se ha extendido a lugares inesperados. Se informa que en mayo de este año, se pudo escuchar a profesionales financieros discutiendo sobre grandes modelos en un templo en Dali.

Sin embargo, a medida que pasa el tiempo, esta ansiedad se va calmando gradualmente y el pensamiento de las personas se vuelve más claro y racional. Sun Hongjun, CTO de servicios bancarios de SoftTech, describió el proceso de evolución de la actitud de la industria financiera hacia los grandes modelos: ansiedad generalizada de febrero a marzo; formación de equipos para investigar en abril y mayo; luego, en los meses siguientes, se enfrentaron a dificultades en la búsqueda de dirección y la implementación, comenzando a volverse racionales; ahora se centran en los estándares y tratan de validar los escenarios de aplicación probados.

Actualmente, muchas instituciones financieras han comenzado a darle importancia a los grandes modelos desde una perspectiva estratégica. Según estadísticas incompletas, al menos 11 bancos en las empresas que cotizan en el mercado A han mencionado explícitamente en sus últimos informes semestrales que están explorando la aplicación de grandes modelos, incluyendo el Banco Industrial y Comercial de China, el Banco Agrícola de China, el Banco de China, el Banco de Transporte, entre otros. A partir de las acciones recientes, estas instituciones están llevando a cabo un pensamiento y una planificación de caminos más claros desde una perspectiva estratégica y de diseño de alto nivel.

De la pasión desbordante al regreso a la razón

En comparación con hace unos meses, la comprensión de los clientes financieros sobre los grandes modelos ha mejorado significativamente. A principios de año, cuando apareció ChatGPT, aunque había un gran entusiasmo, el conocimiento sobre la esencia y las formas de aplicación de los grandes modelos era limitado.

En esta etapa, algunos grandes bancos han tomado la delantera y han comenzado a hacer todo tipo de promociones "aprovechándose de la popularidad". Por ejemplo, en marzo, un banco lanzó una aplicación de modelo grande similar a ChatGPT, pero la evaluación en la industria es diversa. Algunos creen que esta aplicación enfatiza demasiado la función de chat, ignorando la capacidad de generación más importante.

A medida que varias empresas de tecnología en el país lanzan sucesivamente grandes modelos, algunos departamentos de tecnología de importantes instituciones financieras han comenzado a discutir activamente la construcción de grandes modelos con estas empresas. En general, esperan desarrollar grandes modelos de forma autónoma y plantean preguntas sobre la construcción de conjuntos de datos, la configuración de servidores y los métodos de entrenamiento. Una empresa de tecnología financiera bajo un banco incluso propuso que, al finalizar, podría ofrecer la tecnología a otras instituciones.

Después de mayo, la situación comenzó a cambiar. Limitadas por la escasez de recursos de computación y altos costos, muchas instituciones financieras pasaron de simplemente desear construir sus propias soluciones a centrarse más en el valor de aplicación. Ahora, cada institución financiera está prestando atención a la situación y los resultados de las aplicaciones de modelos de gran tamaño de otras instituciones.

Las empresas de diferentes tamaños han seguido dos caminos. Las grandes instituciones financieras, que cuentan con una gran cantidad de datos financieros y escenarios de aplicación, pueden introducir modelos de base de vanguardia, construir sus propios modelos empresariales y desarrollar rápidamente modelos de tareas en áreas especializadas mediante ajustes finos para empoderar sus negocios. Las pequeñas y medianas instituciones financieras, por otro lado, pueden considerar el ROI y optar por introducir según demanda APIs de modelos grandes en la nube pública o servicios de implementación privatizada para satisfacer directamente sus necesidades.

Sin embargo, debido a los altos requisitos de cumplimiento de datos, seguridad y confiabilidad en la industria financiera, algunos expertos del sector consideran que el progreso en la implementación de modelos grandes en esta industria es en realidad un poco más lento de lo esperado a principios de año. Sun Hongjun de SoftTech Power indicó que inicialmente esperaban que la industria financiera fuera la primera en adoptar modelos grandes a gran escala, pero la realidad es que el ritmo de aplicación en la industria financiera no es tan rápido como en sectores como el legal o el de reclutamiento.

Algunas instituciones financieras han comenzado a buscar soluciones para las diversas limitaciones en el proceso de implementación de grandes modelos.

En términos de poder de cálculo, han surgido varias soluciones en la industria:

1. Construir la potencia de cálculo directamente, con un costo más alto pero una fuerte seguridad, es adecuado para grandes instituciones financieras que desean construir modelos grandes en la industria o la empresa. Se informa que un gran banco estatal ha comprado recientemente un lote de chips H800 para establecer la potencia de cálculo.

2. Despliegue de potencia de cálculo híbrido, garantizando que los datos sensibles no fluyan fuera, utilizando interfaces de servicios de grandes modelos en la nube pública, mientras se procesan los datos locales a través de un despliegue privatizado. Este enfoque tiene un costo relativamente bajo, adecuado para instituciones financieras medianas y pequeñas con recursos financieros limitados y aplicaciones bajo demanda.

3. En respuesta a la escasez de tarjetas GPU y a los altos precios que enfrentan las pequeñas y medianas instituciones, los organismos reguladores están explorando la posibilidad de construir una infraestructura de modelo compartido para la industria de valores, centralizando la potencia de cálculo y los recursos de modelos grandes, para que las pequeñas y medianas instituciones financieras también puedan utilizar los servicios de modelos grandes y evitar el retraso tecnológico.

Además de la capacidad de cálculo, durante el último medio año, muchas instituciones financieras también han fortalecido la gobernanza de datos. Un ejecutivo de un proveedor de servicios en la nube afirmó que, además de los grandes bancos, un número creciente de instituciones financieras medianas también ha comenzado a construir plataformas de datos y sistemas de gobernanza de datos. Él cree que un sistema de gobernanza de datos completo y una plataforma tecnológica de lago de datos se convertirán en una dirección importante para la construcción de TI de las instituciones financieras en el futuro.

Algunos bancos están resolviendo problemas de datos mediante la combinación de grandes modelos y MLOps. Por ejemplo, un gran banco ha adoptado un modelo MLOps para establecer un sistema de bucle cerrado de datos de grandes modelos, logrando la automatización de procesos y la gestión unificada y el procesamiento eficiente de datos heterogéneos de múltiples fuentes. Actualmente, han construido un conjunto de datos de entrenamiento de alta calidad de 2.6TB.

Desde el escenario exterior

En los últimos seis meses, tanto los proveedores de servicios de modelos grandes como las instituciones financieras han estado buscando activamente escenarios de aplicación. Las áreas de oficina inteligente, desarrollo inteligente, marketing inteligente, servicio al cliente inteligente, investigación y análisis de inversión inteligente, y análisis de demanda se han convertido en puntos clave de exploración.

Como dijo un ejecutivo de una empresa de tecnología financiera: "Cada eslabón clave en la cadena de negocios financieros merece ser rediseñado con la tecnología de modelos grandes." Esta empresa lanzó recientemente un modelo grande dirigido a la industria financiera y desarrolló productos de modelos grandes en colaboración con socios, con el objetivo de crear un asistente de negocios de IA integral para asesores financieros, agentes de seguros, investigación de inversiones, marketing financiero, y ajustes de seguros, entre otros profesionales del sector financiero.

Las instituciones financieras tienen ricas ideas sobre la aplicación de grandes modelos. Un gran banco afirmó que ha implementado aplicaciones en más de 20 escenarios, otro banco indicó que está realizando pruebas en más de 30 escenarios, y una firma de valores está explorando combinar grandes modelos con plataformas de personas digitales virtuales.

Sin embargo, en el proceso de implementación práctica, el consenso general es aplicar internamente antes de promover externamente. Después de todo, en la etapa actual, la tecnología de modelos grandes aún no es madura, existen problemas como ilusiones, y el sector financiero es un área de alta regulación, alta seguridad y alta credibilidad.

El responsable de tecnología de un importante banco considera que, a corto plazo, no se recomienda utilizar grandes modelos directamente para los clientes. Las instituciones financieras deberían priorizar la aplicación de grandes modelos en la comprensión y creación de textos financieros y análisis de imágenes financieras, implementando una colaboración humano-máquina en forma de asistente para mejorar la eficiencia del trabajo del personal.

Actualmente, el asistente de código se ha implementado en varias instituciones financieras. Por ejemplo, un banco ha construido un sistema de desarrollo inteligente basado en grandes modelos, donde el código generado por el asistente de codificación representa el 40% del código total. En el ámbito de los seguros, una empresa ha desarrollado un complemento de programación asistida basado en grandes modelos, que se integra directamente en las herramientas de desarrollo internas.

Hay numerosos casos de implementación en el ámbito de las oficinas inteligentes. Un proveedor de grandes modelos lanzó un sistema de preguntas y respuestas en sucursales basado en su gran modelo financiero, que se ha implementado en cientos de sucursales tras su lanzamiento en un banco, con una tasa de aceptación de respuestas superior al 85%. Esta solución también se ha replicado rápidamente en otros bancos e instituciones financieras.

Sin embargo, los expertos de la industria juzgan que estos escenarios que ya se han implementado ampliamente aún no son aplicaciones centrales para las instituciones financieras, y que los modelos grandes aún están a cierta distancia de integrarse en los niveles de negocio de la industria financiera.

Un alto ejecutivo de un proveedor de servicios de TI afirmó que los escenarios de marketing, gestión de riesgos y cumplimiento son áreas donde los grandes modelos podrían traer cambios y son también donde están las necesidades de los clientes financieros, pero actualmente estos trabajos aún dependen de la mejora de las capacidades de los proveedores de grandes modelos subyacentes.

Se espera que antes de fin de año aparezcan proyectos de construcción o información de licitación que realmente apliquen modelos grandes en escenarios de negocios centrales de instituciones financieras.

Antes de esto, se están llevando a cabo algunas reformas a nivel de diseño superior. Algunos expertos predicen que en el futuro, todo el sistema de inteligencia y digitalización se volverá a construir sobre la base de grandes modelos. Esto requiere que la industria financiera reestructure sus sistemas en el proceso de implementación de grandes modelos, sin ignorar al mismo tiempo el valor de los modelos pequeños, y debería permitir que los grandes modelos y los modelos pequeños colaboren.

Esta tendencia se ha reflejado ampliamente en la industria financiera. Actualmente, las instituciones financieras están pilotando grandes modelos, adoptando principalmente un enfoque por capas. A diferencia del modelo anterior, que requería construir una plataforma para cada escenario de manera aislada, los grandes modelos han brindado a las instituciones financieras la oportunidad de planificar todo el sistema de manera más científica desde cero.

Actualmente, varias instituciones financieras líderes han construido un marco de sistema en capas que incluye múltiples niveles como la capa de infraestructura, la capa de modelo, la capa de servicio de modelo grande y la capa de aplicación, basado en modelos grandes. Estos marcos generalmente tienen dos características: primero, el modelo grande ejerce una capacidad central y utiliza modelos tradicionales como habilidades; segundo, la capa de modelo grande adopta una estrategia de múltiples modelos, eligiendo internamente el efecto óptimo.

De hecho, no solo las instituciones financieras, sino también algunos proveedores de aplicaciones de modelos grandes están adoptando una estrategia de múltiples modelos en la actual situación incierta, eligiendo la mejor efectividad de servicio. Un proveedor de servicios de TI reveló que su capa de modelos subyacentes fusiona una gran cantidad de modelos de lenguaje grandes, y ensamblará y seleccionará las respuestas de cada modelo grande para proporcionarlas a los usuarios.

La brecha de talento sigue siendo enorme

La aplicación de grandes modelos ya ha comenzado a presentar algunos desafíos y cambios en la estructura del personal de la industria financiera.

Personas de una empresa de tecnología financiera han indicado que, desde la aparición de ChatGPT, su compañía ha despedido a más de 300 analistas de big data desde principios de este año hasta finales de mayo. Esto ha generado preocupaciones sobre su desarrollo profesional futuro.

Un experto en el ámbito financiero de un importante banco también compartió el efecto de sustitución que los grandes modelos tienen sobre el trabajo humano. Anteriormente, cada mañana, los pasantes recopilaban información de diversas áreas para el departamento de investigación y análisis, pero ahora este trabajo puede ser realizado por grandes modelos.

Sin embargo, algunos bancos no desean que los grandes modelos lleven a despidos. Por ejemplo, un importante banco con 200,000 empleados en sus sucursales ha declarado explícitamente que no desea que sus empleados sean reemplazados por grandes modelos, sino que espera que estos modelos generen nuevas oportunidades, mejoren la calidad del servicio y la eficiencia laboral de los empleados, al mismo tiempo que liberen a algunos empleados para realizar trabajos de mayor valor.

Por un lado, se considera la estabilidad del personal y la estructura, y por otro lado, también debido a que todavía hay una escasez de talento en muchos puestos. Un alto ejecutivo de un proveedor de servicios de TI declaró que los grandes bancos tienen una gran cantidad de trabajo que no se puede completar, y algunos plazos de demanda de TI incluso se han pospuesto hasta finales del próximo año. Ellos esperan que los modelos grandes puedan ayudar a los empleados a mejorar la eficiencia y la velocidad, en lugar de provocar recortes de personal.

Más importante aún, el rápido desarrollo de los modelos grandes ha llevado a que la escasez de talento en un corto período de tiempo no pueda coincidir con la demanda creciente. Es como cuando apareció por primera vez el iPhone, cuando era difícil encontrar programadores de iOS para desarrollar aplicaciones.

El responsable de I+D de un gran banco resumió los 6 principales desafíos que enfrenta la industria financiera al aplicar las capacidades de grandes modelos a los procesos comerciales centrales, siendo uno de ellos la escasez de talento. Recientemente, una alta proporción de los nuevos empleados contratados y de los recién graduados provienen del campo de la IA, pero son escasos los talentos que comprenden los grandes modelos.

Un alto ejecutivo de un proveedor de servicios de TI tuvo una experiencia similar, recientemente recibió una solicitud de apoyo de talento de un cliente bancario. Este banco, debido a que un miembro del equipo de modelos de gran escala se tomó una licencia temporal, se enfrenta a una escasez de personal en el trabajo de entrenamiento de modelos y se ve obligado a buscar apoyo externo.

Actualmente, la demanda de talento para la aplicación directa de grandes modelos es relativamente sencilla, principalmente se necesita personas capaces de formular preguntas. Sin embargo, si se desea construir un gran modelo específico para la industria o la empresa, las instituciones financieras necesitarán un equipo técnico competente en grandes modelos verticales.

Un alto ejecutivo de un proveedor de servicios en la nube admitió que hay una gran brecha de talento en el campo de los grandes modelos de IA. Las principales instituciones actualmente están reclutando talento profesional relacionado con la IA, como doctores en algoritmos, entre otros. Esto se debe a que aunque los clientes financieros pueden obtener soporte técnico de los proveedores de grandes modelos, ellos son los usuarios finales y los líderes de innovación, y necesitan acumular cierto talento para respaldar la construcción de grandes plataformas de IA, la planificación de diversas aplicaciones de IA, así como colaborar con los proveedores de grandes modelos en el modelado, ajuste y afinación, expandiendo constantemente el rango de aplicación y efectividad de los modelos de IA.

Algunas empresas ya han tomado medidas. Una empresa de tecnología ha colaborado con un laboratorio bancario para organizar las prácticas de transformación de personal en la aplicación de grandes modelos en las empresas, diseñando una serie de cursos de formación, como ajuste de prompts, ajuste fino, operación de grandes modelos, etc., y ha trabajado con varios departamentos para establecer grupos de proyectos conjuntos que impulsan la mejora de las capacidades del personal de la empresa.

Los expertos de la industria señalan que los grandes modelos aún no son lo suficientemente maduros y se necesita el esfuerzo conjunto de expertos en el campo para desarrollar productos maduros. Los grandes modelos de las grandes empresas aportarán cierto impulso a los talentos tradicionales existentes en las empresas, pero no provocarán un cambio de paradigma. Un verdadero cambio de paradigma requiere que haya un equipo dentro del sistema financiero que se integre profundamente con las necesidades internas y realice innovaciones significativas.

Es importante señalar que, en este proceso, la estructura de personal de las instituciones financieras también experimentará ajustes y transformaciones. Los desarrolladores que dominen las habilidades de uso de modelos grandes tendrán más facilidad para establecerse en este entorno.