Estado atual da aplicação de grandes modelos na indústria financeira: da altura estratégica à implementação prática

O surgimento do ChatGPT gerou um grande impacto na indústria financeira. Inicialmente, este setor focado em tecnologia sentiu uma ansiedade generalizada, temendo ficar para trás na onda do tempo. Esse sentimento se espalhou até mesmo para alguns lugares inesperados. Segundo relatos, em maio deste ano, era possível ouvir profissionais financeiros discutindo sobre grandes modelos em um templo em Dali.

No entanto, com o passar do tempo, essa ansiedade foi gradualmente se acalmando, e o pensamento das pessoas se tornou mais claro e racional. Sun Hongjun, CTO de serviços bancários da SoftStone, descreveu o processo de evolução da atitude do setor financeiro em relação aos grandes modelos: de fevereiro a março, houve uma ansiedade generalizada; de abril a maio, equipes começaram a ser formadas para pesquisa; nos meses seguintes, dificuldades surgiram na busca por direções e implementação, e o pensamento começou a se tornar mais racional; agora, a atenção está voltada para benchmarks, tentando validar cenários de aplicação já testados.

Atualmente, várias instituições financeiras já começaram a dar importância estratégica aos grandes modelos. De acordo com estatísticas incompletas, pelo menos 11 bancos listados na bolsa A mencionaram explicitamente em seus últimos relatórios semestrais que estão explorando a aplicação de grandes modelos, incluindo o Banco Industrial e Comercial da China, o Banco Agrícola da China, o Banco da China e o Banco de Comunicações. Com base nas ações recentes, essas instituições estão começando a pensar e a planejar de forma mais clara em termos de estratégia e design de alto nível.

Da empolgação ao retorno à razão

Comparado a alguns meses atrás, a compreensão dos clientes financeiros sobre grandes modelos melhorou significativamente. No início do ano, quando o ChatGPT apareceu pela primeira vez, embora houvesse muito entusiasmo, a compreensão sobre a natureza e as formas de aplicação dos grandes modelos era limitada.

Nesta fase, alguns grandes bancos estão a agir em primeiro lugar e a iniciar vários tipos de campanhas de "aproveitamento de popularidade". Por exemplo, em março, um banco lançou uma aplicação de modelo grande semelhante ao ChatGPT, mas as avaliações da indústria foram diversas. Alguns acreditam que esta aplicação enfatiza demasiadamente a funcionalidade de chat, ignorando a capacidade de geração, que é mais importante.

Com várias empresas de tecnologia no país a lançar modelos grandes, alguns departamentos de tecnologia de instituições financeiras líderes começaram a discutir ativamente a construção de modelos grandes com essas empresas. Eles geralmente esperam desenvolver modelos grandes de forma independente, questionando sobre a construção de conjuntos de dados, configurações de servidores e métodos de treino. Uma empresa de tecnologia financeira de um banco até sugeriu que, ao concluir o projeto, gostaria de exportar a tecnologia para outras instituições.

Após maio, a situação começou a mudar. Limitadas pela escassez de recursos de computação e altos custos, muitas instituições financeiras passaram de uma simples esperança de construir internamente para uma maior atenção ao valor aplicado. Agora, cada instituição financeira está atenta à aplicação e aos resultados dos grandes modelos de outras instituições.

Empresas de diferentes tamanhos também surgiram em dois caminhos. Grandes instituições financeiras, que possuem uma enorme quantidade de dados financeiros e cenários de aplicação, podem introduzir modelos de grande escala líderes, construir seus próprios modelos empresariais e, ao mesmo tempo, desenvolver modelos de tarefas em áreas especializadas por meio de ajuste fino, capacitando rapidamente seus negócios. Instituições financeiras de pequeno e médio porte podem considerar o ROI, introduzindo sob demanda APIs de nuvem pública de vários modelos de grande escala ou serviços de implantação privada, atendendo diretamente às suas necessidades.

No entanto, devido às altas exigências de conformidade, segurança e confiabilidade de dados no setor financeiro, alguns especialistas acreditam que o avanço da implementação de grandes modelos nesse setor está, na verdade, ligeiramente atrasado em relação às expectativas iniciais do início do ano. Sun Hongjun da Softtone afirmou que inicialmente esperavam que o setor financeiro fosse o primeiro a usar grandes modelos em larga escala, mas a realidade é que o progresso de aplicação no setor financeiro não é tão rápido quanto nos setores de direito, recrutamento, entre outros.

Algumas instituições financeiras já começaram a procurar soluções para as várias limitações que surgem durante a implementação de grandes modelos.

Na área de poder computacional, surgiram várias abordagens na indústria:

1. Construção direta da capacidade de computação, com custos mais elevados, mas segurança forte, adequada para grandes instituições financeiras que desejam construir modelos de grande escala para a indústria ou empresas. Segundo relatos, um grande banco estatal recentemente adquiriu um lote de chips H800 para montar capacidade de computação.

2. Implantação híbrida de capacidade computacional, garantindo que dados sensíveis não sejam vazados, utilizando interfaces de serviços de grandes modelos em nuvem pública, enquanto processa dados locais através de implantação privada. Este método tem um custo mais baixo, adequado para instituições financeiras de pequeno e médio porte com menor capacidade financeira e aplicações sob demanda.

3. Em resposta à escassez e aos altos preços das placas GPU enfrentadas por pequenas e médias instituições, as autoridades reguladoras estão explorando a possibilidade de construir uma infraestrutura de modelo grande compartilhado para a indústria de valores mobiliários, concentrando poder computacional e recursos de modelo grande genéricos, permitindo que instituições financeiras de pequeno e médio porte também possam utilizar serviços de modelo grande, evitando o atraso tecnológico.

Além do poder de computação, muitas instituições financeiras também fortaleceram a governança de dados nos últimos seis meses. Um executivo de um provedor de serviços em nuvem afirmou que, além dos grandes bancos, um número crescente de instituições financeiras de médio porte também começou a construir plataformas de dados e sistemas de governança de dados. Ele acredita que um sistema de governança de dados completo e uma plataforma de tecnologia de lago de dados se tornarão direções importantes para a construção de TI das instituições financeiras no futuro.

Alguns bancos estão resolvendo problemas de dados através da combinação de grandes modelos com MLOps. Por exemplo, um grande banco adotou o modelo MLOps para estabelecer um sistema de ciclo de dados com grandes modelos, alcançando a automação de processos e a gestão unificada e eficiente de dados heterogêneos de múltiplas fontes. Atualmente, já foi construído um conjunto de dados de treinamento de alta qualidade de 2,6 TB.

Entrando pela cena periférica

Nos últimos seis meses, tanto os provedores de grandes modelos quanto as instituições financeiras têm procurado ativamente cenários de aplicação. Escritórios inteligentes, desenvolvimento inteligente, marketing inteligente, atendimento ao cliente inteligente, pesquisa e investimento inteligente, controle de risco inteligente, análise de demanda e outros campos tornaram-se focos de exploração.

Como disse um executivo de uma empresa de tecnologia financeira, "Cada etapa chave na cadeia de negócios financeiros merece ser redesenhada com tecnologia de grandes modelos." A empresa recentemente lançou um grande modelo voltado para a indústria financeira e, em colaboração com parceiros, desenvolveu produtos de grandes modelos para o setor financeiro, com o objetivo de criar assistentes de negócios de IA abrangentes para consultores financeiros, agentes de seguros, pesquisa e investimento, marketing financeiro, liquidação de seguros e outros profissionais do setor financeiro.

As instituições financeiras têm muitas ideias sobre a aplicação de grandes modelos. Um grande banco afirmou que já implementou aplicações em mais de 20 cenários, enquanto outro banco afirmou que está realizando pilotos em mais de 30 cenários, e uma corretora está explorando a combinação de grandes modelos com plataformas de humanos digitais virtuais.

No entanto, durante o processo de implementação, há um consenso geral de que primeiro se deve aplicar internamente e depois promover externamente. Afinal, na fase atual, a tecnologia dos grandes modelos ainda não é madura, apresentando problemas como alucinações, e a indústria financeira é um setor altamente regulado, seguro e confiável.

O responsável técnico de um grande banco considera que, a curto prazo, não é aconselhável utilizar modelos grandes diretamente com os clientes. As instituições financeiras devem priorizar a aplicação de modelos grandes em cenários de análise e compreensão de textos e imagens financeiras, em formas de assistente para realizar a colaboração homem-máquina e aumentar a eficiência do trabalho dos profissionais.

Atualmente, o assistente de código já foi implementado em várias instituições financeiras. Por exemplo, um banco construiu um sistema inteligente de desenvolvimento baseado em um grande modelo, e a quantidade de código gerada pelo assistente de codificação representa 40% do total de código. No setor de seguros, uma empresa desenvolveu um plugin de programação assistida baseado em um grande modelo, incorporado diretamente nas ferramentas de desenvolvimento internas.

Na área de escritório inteligente, também existem vários casos de implementação. Um fornecedor de modelos de grande escala lançou um sistema de perguntas e respostas para agências com base em seu modelo financeiro, que, após ser lançado em um determinado banco, já foi promovido para centenas de agências, com uma taxa de aceitação das respostas superior a 85%. Esta solução também foi rapidamente replicada em vários outros bancos e instituições financeiras.

No entanto, especialistas da indústria acreditam que esses cenários já amplamente implementados ainda não são aplicações centrais das instituições financeiras, e os grandes modelos ainda estão a uma certa distância de penetrar nos níveis de negócios da indústria financeira.

Um executivo de um provedor de serviços de TI afirmou que os cenários de marketing, gestão de riscos e conformidade são áreas onde os grandes modelos podem trazer transformação e onde estão as necessidades dos clientes financeiros, mas atualmente esses trabalhos ainda dependem da melhoria das capacidades dos fornecedores de grandes modelos.

Há especialistas do setor prevendo que até o final deste ano surgirão informações sobre a construção ou licitação de projetos que realmente aplicam grandes modelos em cenários de negócios centrais das instituições financeiras.

Antes disso, algumas reformas em nível de design de alto nível estavam em andamento. Especialistas acreditam que, no futuro, todo o sistema de inteligência e digitalização será reestruturado com base em grandes modelos. Isso exige que a indústria financeira reestruture seus sistemas ao promover a implementação de grandes modelos, sem ignorar o valor dos modelos menores, devendo permitir a colaboração entre grandes e pequenos modelos.

Esta tendência já se manifestou amplamente na indústria financeira. Atualmente, as instituições financeiras estão testando grandes modelos, adotando basicamente um modelo em camadas. Diferente do passado, onde era necessário construir uma plataforma para cada cenário, os grandes modelos oferecem às instituições financeiras a oportunidade de planejar todo o sistema de forma mais científica, desde o zero.

Atualmente, várias instituições financeiras líderes já construíram um sistema em camadas que inclui camadas de infraestrutura, camada de modelo, camada de serviços de grande modelo e camada de aplicação, baseado em grandes modelos. Esses sistemas têm duas características principais: a primeira é que o grande modelo desempenha um papel central, utilizando modelos tradicionais como habilidades; a segunda é que a camada do grande modelo adota uma estratégia de múltiplos modelos, onde a competição interna seleciona o melhor desempenho.

Na verdade, não apenas as instituições financeiras, mas também alguns fornecedores de aplicações de grandes modelos adotam uma estratégia de múltiplos modelos para otimizar a eficácia do serviço, dada a atual incerteza do cenário. Um fornecedor de serviços de TI revelou que a sua camada de modelos subjacentes combina uma grande quantidade de grandes modelos de linguagem e fornece aos usuários as respostas selecionadas após uma montagem otimizada com base nas respostas de cada grande modelo.

A lacuna de talentos continua a ser enorme

A aplicação de grandes modelos já começou a trazer alguns desafios e transformações à estrutura de pessoal da indústria financeira.

Pessoas de uma empresa de tecnologia financeira afirmaram que, desde o surgimento do ChatGPT, a empresa onde trabalham demitiu mais de 300 analistas de big data desde o início deste ano até o final de maio. Isso gerou preocupações sobre o futuro do seu desenvolvimento profissional.

Um profissional experiente do setor financeiro de um grande banco também compartilhou os efeitos de substituição que os grandes modelos têm sobre o trabalho humano. Antigamente, estagiários do banco reuniam informações de várias áreas todas as manhãs para o departamento de pesquisa e investimento, mas agora esse trabalho pode ser realizado por grandes modelos.

No entanto, alguns bancos não desejam que os grandes modelos resultem em demissões. Por exemplo, um grande banco com 200.000 funcionários em agências declarou claramente que não deseja que os funcionários sejam substituídos por grandes modelos, mas sim que espera que esses modelos tragam novas oportunidades, melhorem a qualidade do serviço e a eficiência no trabalho dos funcionários, ao mesmo tempo que liberam alguns funcionários para realizar trabalhos de maior valor.

Por um lado, isso considera a estabilidade das pessoas e da estrutura, e por outro lado, também se deve ao fato de que muitas funções ainda apresentam uma lacuna de talentos. Um executivo de uma prestadora de serviços de TI afirmou que grandes bancos têm uma quantidade significativa de trabalho que não pode ser concluído, e alguns prazos de demanda de TI estão até o final do próximo ano. Eles esperam que os grandes modelos possam ajudar os funcionários a aumentar a eficiência e a velocidade, em vez de levar à redução de pessoal.

Mais importante ainda, o rápido desenvolvimento de grandes modelos levou a uma escassez de talentos que não consegue acompanhar a demanda crescente em um curto espaço de tempo. É como quando o iPhone apareceu pela primeira vez, e era difícil encontrar programadores iOS para desenvolver aplicativos.

O responsável pelo desenvolvimento de um grande banco resumiu os 6 principais desafios que a indústria financeira enfrenta ao aplicar capacidades de grandes modelos nos processos de negócios centrais, sendo um deles a escassez de talentos. Recentemente, a proporção de novos funcionários e recrutamento de universidades com formação na área de IA é alta, mas há poucos talentos que compreendem grandes modelos.

Um executivo de uma empresa de serviços de TI teve uma experiência semelhante, tendo recebido recentemente um pedido de apoio em talentos de um cliente bancário. Este banco, devido a uma licença temporária de um membro da sua equipe de modelos de grande escala, enfrenta uma escassez de pessoal no trabalho de treinamento de modelos e teve que buscar apoio externo.

Atualmente, a demanda por talentos que aplicam diretamente grandes modelos é relativamente simples, principalmente necessitando de pessoas que saibam fazer perguntas. No entanto, se uma instituição financeira quiser construir um grande modelo específico para o setor ou para a empresa, será necessário ter uma equipe técnica especializada em grandes modelos verticais.

Um executivo de um provedor de serviços em nuvem admitiu que há uma grande lacuna de talentos na área de grandes modelos de IA, e as principais instituições estão atualmente recrutando talentos especializados em IA, como doutores em algoritmos. Isso ocorre porque os clientes financeiros, embora possam obter suporte técnico dos fornecedores de grandes modelos, são os usuários finais e os líderes da inovação, necessitando de um certo acúmulo de talentos para sustentar a construção de grandes plataformas de IA, o planejamento de várias aplicações de IA, bem como colaborar com fornecedores de grandes modelos durante o processo de modelagem, ajuste e refinamento, expandindo continuamente o alcance e a eficácia das aplicações dos modelos de IA.

Algumas empresas já tomaram medidas. Uma empresa de tecnologia colaborou com um laboratório bancário para organizar as práticas de transformação de pessoal na aplicação de grandes modelos nas empresas, desenvolvendo uma série de cursos de formação, como ajuste de Prompt, ajuste fino, operação de grandes modelos, entre outros, e colaborou com vários departamentos para estabelecer grupos de projeto conjuntos, promovendo a melhoria das capacidades do pessoal da empresa.

Especialistas da indústria apontam que os grandes modelos ainda não estão suficientemente maduros e que é necessário o esforço conjunto de especialistas de domínio para desenvolver produtos maduros. Os grandes modelos das grandes empresas trarão um certo aumento ao talento tradicional existente nas empresas, mas não provocarão uma mudança de paradigma. Uma verdadeira mudança de paradigma requer que dentro do sistema financeiro haja uma equipe que integre profundamente as necessidades internas e faça inovações significativas.

É importante notar que, neste processo, a estrutura de pessoal das instituições financeiras também passará por ajustes e transformações. Desenvolvedores que dominam as habilidades de utilização de grandes modelos terão mais facilidade em se estabelecer neste ambiente.