Текущее состояние применения больших моделей в финансовом секторе: от стратегического уровня до практической реализации

Появление ChatGPT вызвало огромный резонанс в финансовой отрасли. Изначально этот технологически ориентированный сектор в целом испытывал тревогу, опасаясь, что его оставят позади в эпоху перемен. Это настроение даже распространилось в некоторые неожиданные места. Сообщается, что в этом году в мае в храме в Дали можно было услышать, как работники финансовой сферы обсуждают большие модели.

Однако, со временем эта тревога постепенно утихла, и мышление людей стало более ясным и рациональным. Сунь Хунцзюнь, CTO банка Softcom, описал эволюцию отношения финансовой отрасли к большим моделям: в феврале-марте наблюдалась общая тревога; в апреле-майе начали формироваться команды для исследований; затем в течение нескольких месяцев возникли трудности в поиске направления и реализации, началось становление рациональности; сейчас внимание сосредоточено на эталонах и попытках проверить применимые сценарии.

В настоящее время многие финансовые учреждения начинают уделять стратегическое внимание большим моделям. Согласно неполной статистике, как минимум 11 банков среди компаний, торгующих на фондовом рынке A, в своих последних полугодовых отчетах четко указали, что они исследуют применение больших моделей, включая Промышленный и коммерческий банк Китая, Аграрный банк Китая, Банк Китая, Транспортный банк и другие. Судя по недавним действиям, эти учреждения начинают более четко мыслить и планировать пути на стратегическом и верхнем уровне.

От восторга к рациональному возвращению

По сравнению с несколькими месяцами назад, понимание финансовыми клиентами больших моделей значительно возросло. В начале года, когда только появился ChatGPT, несмотря на высокий интерес, понимание сущности и способов применения больших моделей было ограниченным.

На этом этапе некоторые крупные банки первыми начали действовать, запуская различные рекламные кампании "на волне популярности". Например, в марте один банк представил приложение на базе модели, подобной ChatGPT, но мнения в отрасли разделились. Некоторые считают, что это приложение слишком акцентирует внимание на функции чата, игнорируя более важные генеративные возможности.

С появлением крупных моделей, выпущенных несколькими технологическими компаниями в стране, некоторые ведущие финансовые учреждения начали активно обсуждать создание крупных моделей с этими компаниями в своих технологических отделах. Они в основном надеются на самостоятельную разработку крупных моделей и задают вопросы о построении наборов данных, конфигурации серверов и методах обучения. Финансовая технологическая компания, принадлежащая одному из банков, даже предложила надежду на то, что после завершения они смогут передать технологии коллегам по отрасли.

После мая ситуация начала меняться. Из-за нехватки вычислительных ресурсов и высоких затрат многие финансовые учреждения начали больше обращать внимание на ценность приложений, чем на простое желание построить свои собственные решения. Теперь каждое финансовое учреждение следит за ситуацией и результатами применения крупных моделей другими организациями.

Компании различного масштаба также выбрали два пути. Крупные финансовые учреждения, обладающие огромными объемами финансовых данных и приложений, могут внедрить передовые большие модели, создать собственные корпоративные большие модели и одновременно использовать методы дообучения для разработки специализированных моделей для задач, быстро усиливая бизнес. Малым и средним финансовым учреждениям следует учитывать ROI и по мере необходимости использовать API публичного облака или услуги приватного развертывания различных больших моделей для непосредственного удовлетворения своих нужд.

Однако, поскольку требования к соблюдению данных, безопасности и надежности в финансовой отрасли довольно высоки, некоторые специалисты отрасли считают, что внедрение больших моделей в этой сфере фактически немного отстает от первоначальных ожиданий в начале года. Сунь Хунцзюнь из Softstone отметил, что они изначально предполагали, что финансовая отрасль первой начнет масштабное использование больших моделей, но на самом деле темпы применения в финансовом секторе не так быстры, как в таких областях, как право и найм.

Некоторые финансовые учреждения уже начали искать способы преодоления различных ограничений, возникающих в процессе реализации больших моделей.

В области вычислительной мощности в отрасли появилось несколько решений:

1. Прямое создание вычислительной мощности, высокая стоимость, но высокая безопасность, подходит для крупных финансовых учреждений, которые хотят создать свои собственные модели в отрасли или компании. Согласно сообщениям, один крупный государственный банк недавно приобрел партию чипов H800 для построения вычислительной мощности.

2. Смешанное развертывание вычислительной мощности, при условии, что чувствительные данные не покидают пределы, использует интерфейсы служб общественного облака с большими моделями, одновременно обрабатывая локальные данные через приватное развертывание. Этот способ имеет низкую стоимость и подходит для финансовых учреждений среднего и малого размера с ограниченными финансовыми возможностями и по требованию.

3. В связи с нехваткой графических процессоров (GPU) и высокими ценами, с которыми сталкиваются малые и средние учреждения, регулирующие органы исследуют возможность создания инфраструктуры для совместного использования крупных моделей в секторе ценных бумаг, сосредоточив вычислительные мощности и ресурсы универсальных крупных моделей, чтобы малые и средние финансовые учреждения также могли использовать услуги крупных моделей и избежать отставания в технологиях.

Кроме вычислительной мощности, в последние полгода многие финансовые учреждения также усилили управление данными. Один из руководителей облачного сервиса заявил, что помимо крупных банков, все больше средних финансовых учреждений также начинают строить платформы данных и системы управления данными. Он считает, что完善管理数据的体系和数据湖技术平台将成为未来金融机构IT建设的重要方向.

Некоторые банки решают проблемы с данными с помощью больших моделей в сочетании с MLOps. Например, один крупный банк использует модель MLOps для создания замкнутой системы данных больших моделей, что позволяет автоматизировать процессы и обеспечивать единую обработку и эффективное управление многими источниками разнородных данных. В настоящее время было создано 2,6 ТБ качественного обучающего набора данных.

Входя из внешней сцены

В течение последних шести месяцев как поставщики услуг больших моделей, так и финансовые учреждения активно искали сценарии применения. Умный офис, интеллектуальная разработка, умный маркетинг, интеллектуальное обслуживание клиентов, умные инвестиционные исследования, интеллектуальный риск-менеджмент, анализ потребностей и другие области стали ключевыми направлениями для исследований.

Как сказал один из руководителей финансово-технологической компании: "Каждый ключевой элемент в цепочке финансовых услуг заслуживает повторного проектирования с использованием технологий больших моделей." Эта компания недавно представила большую модель, ориентированную на финансовую отрасль, и совместно с партнерами разработала продукты больших моделей для финансовой индустрии, целью которых является создание всестороннего AI-ассистента для финансовых специалистов, таких как финансовые консультанты, страховые агенты, инвестиционные исследования, финансовый маркетинг и страховые выплаты.

Различные финансовые учреждения имеют богатые идеи по применению больших моделей. Один крупный банк заявил, что уже внедрил приложения в более чем 20 сценариях, другой банк сообщил, что проводит пилотные испытания в более чем 30 сценариях, а одна из брокерских компаний исследует возможность объединения больших моделей с платформами виртуальных цифровых людей.

Тем не менее, в процессе практического внедрения общепринятое мнение таково: сначала внутреннее применение, затем внешнее продвижение. В конце концов, на текущем этапе технологии больших моделей еще не зрелы, существуют проблемы, такие как иллюзии, а финансовая отрасль является сферой с жестким регулированием, высокой безопасностью и высоким уровнем доверия.

Технический директор одного крупного банка считает, что в краткосрочной перспективе не рекомендуется напрямую использовать большие модели для клиентов. Финансовым учреждениям следует в первую очередь применять большие модели для анализа и понимания финансовых текстов и изображений, а также для создания в интеллектуально емких сценариях, чтобы реализовать сотрудничество человека и машины в качестве ассистента и повысить эффективность работы сотрудников.

На данный момент помощник по кодированию внедрен в несколько финансовых учреждений. Например, один банк построил интеллектуальную систему разработки на основе больших моделей, при этом объем кода, сгенерированного помощником по кодированию, составляет 40% от общего объема кода. В страховой сфере одна компания разработала плагин для вспомогательного программирования на основе больших моделей, который непосредственно встроен во внутренние инструменты разработки.

В области интеллектуального офиса также имеется немало практических примеров. Один из крупных поставщиков моделей на основе своего финансового большого моделирования запустил систему вопросов и ответов для отделений, которая после внедрения в одном из банков была расширена на сотни отделений, а уровень принятия ответов превысил 85%. Это решение также быстро было скопировано в другие банки и финансовые учреждения.

Однако, эксперты в отрасли полагают, что эти широко внедренные сценарии на самом деле еще не являются основными приложениями финансовых учреждений, и большие модели все еще далеки от глубокого внедрения в бизнес-слой финансовой отрасли.

Некоторые руководители поставщиков ИТ-услуг отметили, что маркетинг, управление рисками и соблюдение нормативных требований являются областями, в которых большие модели могут привести к изменениям и отвечают потребностям финансовых клиентов, но в настоящее время эта работа все еще зависит от повышения возможностей поставщиков базовых больших моделей.

Некоторые эксперты прогнозируют, что до конца этого года появятся проекты или информация о тендерах, связанные с применением крупных моделей в核心业务场景金融机构.

До этого момента некоторые изменения на уровне верхнего проектирования уже происходят. Эксперты предполагают, что в будущем вся интеллектуальная и цифровая система будет заново построена на основе больших моделей. Это требует от финансовой отрасли перестройки систем в процессе внедрения больших моделей, при этом нельзя игнорировать ценность традиционных малых моделей, а следует обеспечить их совместную работу с большими моделями.

Эта тенденция уже широко проявляется в финансовой отрасли. В настоящее время финансовые учреждения испытывают крупные модели, в основном используя многоуровневую модель. В отличие от устаревшей модели, где для каждой отдельной задачи необходимо было строить отдельную платформу, крупные модели предоставили финансовым учреждениям возможность начать с нуля и более научно подойти к общему планированию системы.

В настоящее время несколько ведущих финансовых учреждений на основе крупных моделей создали многоуровневую системную архитектуру, включающую уровни инфраструктуры, модели, услуги крупных моделей и приложения. Эти архитектурные системы в целом имеют две особенности: во-первых, крупная модель выполняет центральные функции, вызывая традиционные модели в качестве навыков; во-вторых, уровень крупных моделей использует стратегию многомодельности, внутренне конкурируя за наилучшие результаты.

На самом деле, не только финансовые учреждения, но и некоторые поставщики приложений с большими моделями используют многофакторные стратегии в условиях неопределенности текущей ситуации, предпочитая эффективность услуг. Один из ИТ-поставщиков сообщил, что их базовый уровень моделей объединяет множество больших языковых моделей и предоставляет пользователю собранный и оптимизированный ответ в зависимости от ответов каждой большой модели.

Пробел в кадрах все еще огромен

Применение больших моделей уже начало вызывать некоторые вызовы и изменения в структуре персонала финансовой отрасли.

Некоторые представители финансовых технологий заявили, что с момента появления ChatGPT их компания уволила более 300 специалистов по анализу больших данных с начала этого года до конца мая. Это вызвало у него беспокойство о будущем карьерном развитии.

Старший специалист в финансовой области одного из крупных банков также поделился эффектом замещения человека большими моделями. Ранее каждый день утром стажеры собирали различную информацию для инвестиционно-исследовательского отдела, но теперь эту работу можно выполнять с помощью больших моделей.

Однако некоторые банки не хотят, чтобы большие модели привели к сокращению сотрудников. Например, один крупный банк с 200 000 сотрудниками в отделениях ясно заявил, что они не хотят, чтобы сотрудники были заменены большими моделями, а хотят, чтобы большие модели приносили новые возможности, повышали качество обслуживания и эффективность работы сотрудников, одновременно освобождая часть сотрудников для выполнения более ценной работы.

С одной стороны, это связано со стабильностью персонала и структуры, а с другой - с тем, что на многих должностях по-прежнему наблюдается нехватка кадров. Один из руководителей ИТ-сервиса заявил, что крупные банки имеют огромное количество невыполненной работы, и некоторые ИТ-потребности имеют сроки выполнения, даже запланированные на конец следующего года. Они надеются, что большие модели помогут сотрудникам повысить эффективность и скорость, а не приведут к сокращению персонала.

Более того, быстрое развитие больших моделей привело к тому, что в короткие сроки предложение талантов оказалось трудно соответствовать резко возросшему спросу. Это похоже на то время, когда только что появился iPhone, и было сложно найти программистов iOS для разработки приложений.

Руководитель исследовательского отдела одного из крупных банков подытожил шесть основных проблем, с которыми сталкивается финансовая отрасль при внедрении возможностей больших моделей в основные бизнес-процессы, одной из которых является нехватка кадров. Недавние новички и выпускники, которых они нанимают, имеют высокий процент знаний в области ИИ, но специалистов, которые понимают большие модели, крайне мало.

Один из руководителей IT-сервисной компании также имел подобный опыт и недавно получил запрос на поддержку талантов от одного из банков-клиентов. Этот банк столкнулся с нехваткой кадров в связи с тем, что кто-то из его команды по разработке больших моделей временно ушел в отпуск, и работа по обучению моделей оказалась под угрозой, поэтому им пришлось обратиться за внешней поддержкой.

В настоящее время потребность в кадрах, напрямую использующих большие модели, относительно проста, в основном нужны люди, которые умеют задавать вопросы. Но если речь идет о создании больших моделей для конкретной отрасли или компании, финансовым учреждениям понадобится квалифицированная команда по технологиям вертикальных больших моделей.

Некоторые высокопоставленные чиновники облачного сервиса признали, что существует огромный дефицит кадров в области больших моделей ИИ, и ведущие организации в настоящее время нанимают специалистов в области ИИ, таких как доктора наук в области алгоритмов и т.д. Это связано с тем, что финансовые клиенты, хотя и получают техническую поддержку от производителей больших моделей, являются конечными пользователями и ведущими инноваторами, им необходимо накопить определенные кадры для поддержки создания больших платформ ИИ, планирования различных приложений ИИ, а также для сотрудничества с производителями больших моделей в процессе моделирования, настройки и донастройки, постоянно расширяя диапазон применения и эффективность моделей ИИ.

Некоторые компании уже предприняли действия. Одна технологическая компания сотрудничает с банковской лабораторией, чтобы проанализировать практику трансформации персонала в корпоративном применении больших моделей, разработала ряд учебных курсов, таких как оптимизация подсказок, дообучение, управление большими моделями и т.д., и сотрудничает с несколькими департаментами для создания совместных проектных групп, чтобы продвигать повышение квалификации сотрудников.

Эксперты отрасли указывают на то, что большие модели в настоящее время еще не достаточно зрелы, и для разработки зрелых продуктов необходимо совместное усилие специалистов в данной области. Большие модели крупных компаний могут несколько повысить уровень существующих традиционных кадров предприятий, но не приведут к изменению парадигмы. Настоящее изменение парадигмы требует наличия команды внутри финансовой системы, которая глубоко интегрируется в внутренние потребности и делает значительные инновации.

Стоит отметить, что в этом процессе также произойдут изменения и реформы в кадровой структуре финансовых учреждений. Разработчики, обладающие навыками использования больших моделей, будут легче адаптироваться в этой среде.