Стан застосування великих моделей у фінансовій сфері: від стратегічної висоти до практичної реалізації

Виникнення ChatGPT викликало величезний резонанс у фінансовій сфері. Спочатку ця технологічно орієнтована галузь широко відчувала тривогу, побоюючись, що її залишать позаду у хвилі часу. Цей настрій навіть поширився на деякі несподівані місця. Відомо, що в травні цього року в храмі в Далі можна було почути, як фінансові фахівці обговорюють великі моделі.

Проте, з часом ця тривога поступово вщухла, а думки людей стали більш чіткими та раціональними. Сунь Хунцзюнь, CTO банківського бізнесу Softcom, описав процес зміни ставлення фінансової галузі до великих моделей: у лютому-березні панувала загальна тривога; у квітні-травні почали формувати команди для досліджень; в наступні місяці виникли труднощі в пошуку напрямку та реалізації, почали ставати раціональними; зараз увага зосереджена на еталонах, спробах перевірених застосувань.

На сьогоднішній день багато фінансових установ почали стратегічно звертати увагу на великі моделі. Згідно з неповними даними, принаймні 11 банків з переліку акцій A в своїх останніх піврічних звітах чітко вказали, що досліджують застосування великих моделей, включаючи Промисловий банк Китаю, Сільськогосподарський банк Китаю, Банк Китаю, Транспортний банк та інші. З останніх дій видно, що ці установи проводять більш чітке осмислення та планування шляхів з точки зору стратегії та верхнього рівня дизайну.

Від високого ентузіазму до раціонального повернення

В порівнянні з кількома місяцями тому, фінансові клієнти значно покращили своє розуміння великих моделей. На початку року, коли з'явився ChatGPT, хоча ентузіазм був високим, але знання про суть великих моделей та способи їх застосування були обмежені.

На цьому етапі деякі великі банки першими почали діяти, розпочавши різноманітні акції "нагрівання". Наприклад, у березні один з банків запустив застосунок на основі великої моделі, подібної до ChatGPT, але галузеві оцінки були неоднозначними. Дехто вважає, що цей застосунок надто акцентує увагу на функції чату, ігноруючи більш важливу генеративну здатність.

З огляду на те, що ряд технологічних компаній в країні випустили великі моделі, деякі провідні фінансові установи почали активно обговорювати будівництво великих моделей з цими компаніями. Вони загалом сподіваються на самостійну розробку великих моделей, запитуючи про побудову наборів даних, конфігурацію серверів та методи навчання. Одна з фінансових технологічних компаній, що належить банку, навіть висловила бажання завершити проект і передати технологію колегам по галузі.

Після травня ситуація почала змінюватися. Обмеженість ресурсів обчислювальної потужності, висока вартість та інші фактори змусили багато фінансових установ перейти від простого бажання створити власні системи до більшої уваги до прикладної вартості. Тепер кожна фінансова установа приділяє увагу тому, як інші установи використовують великі моделі та їх результати.

Різні підприємства різного масштабу обрали два шляхи. Великі фінансові установи, які мають величезні фінансові дані та сценарії застосування, можуть впроваджувати передові базові моделі, створювати корпоративні великі моделі та одночасно розробляти моделі для спеціалізованих завдань за допомогою налаштування, швидко надаючи можливості для бізнесу. Маленькі та середні фінансові установи можуть розглянути ROI і за потребою впроваджувати різні великі моделі через API публічних хмар або послуги приватного розгортання, щоб безпосередньо задовольнити потреби.

Однак, через високі вимоги фінансової галузі до відповідності даних, безпеки, надійності тощо, деякі експерти вважають, що прогрес впровадження великих моделей у цій галузі насправді трохи повільніше, ніж очікувалося на початку року. Сунь Хунцзюнь з Softcom Power зазначив, що вони спочатку очікували, що фінансова галузь першою масово використає великі моделі, але фактична ситуація така, що темпи впровадження в фінансовій галузі не такі швидкі, як у сферах права, набору персоналу та інших.

Деякі фінансові установи вже почали шукати рішення для різних обмежень, що виникають під час впровадження великих моделей.

У сфері обчислювальної потужності в індустрії з'явилося кілька рішень:

1. Пряме самостійне будівництво обчислювальної потужності, вартість якого висока, але безпека сильна, підходить для великих фінансових установ, які бажають самостійно створити галузеві або корпоративні великі моделі. За повідомленнями, нещодавно один великий державний банк придбав партію чіпів H800 для побудови обчислювальної потужності.

2. Гібридне розгортання обчислювальної потужності, за умови, що чутливі дані не виходять за межі, використовує інтерфейси сервісів великих моделей на публічному хмарному сервісі, одночасно обробляючи локальні дані через приватне розгортання. Цей підхід має нижчі витрати і підходить для фінансових установ середнього та малого бізнесу з обмеженими фінансовими можливостями та попитом на послуги.

3. Щодо проблеми нестачі GPU-карт та їх високих цін, з якими стикаються малі та середні установи, регулятори досліджують можливість створення спільної інфраструктури великих моделей для сектора цінних паперів, зосереджуючи обчислювальні потужності та ресурси загальних великих моделей, щоб малі та середні фінансові установи також могли користуватися послугами великих моделей, уникнувши відставання в технологіях.

Окрім обчислювальної потужності, за останні півроку багато фінансових установ також посилили управління даними. Один з керівників хмарного сервісу заявив, що, окрім провідних великих банків, дедалі більше середніх фінансових установ починають створювати централізовані платформи для даних та системи управління даними. Він вважає, що вдосконалена система управління даними та платформа технологій озер даних стануть важливими напрямками ІТ-розвитку фінансових установ у майбутньому.

Деякі банки вирішують проблеми з даними за допомогою великих моделей у поєднанні з MLOps. Наприклад, один великий банк використовує модель MLOps для створення замкненої системи даних з великими моделями, що дозволяє автоматизувати процеси та забезпечити єдине управління та ефективну обробку багатоджерельних гетерогенних даних. В даний час вже створено набір високоякісних навчальних даних обсягом 2,6 ТБ.

Вступ з зовнішньої сцени

Протягом останніх півроку як постачальники послуг великих моделей, так і фінансові установи активно шукали сценарії застосування. Розумний офіс, інтелектуальна розробка, розумний маркетинг, інтелектуальне обслуговування клієнтів, розумні інвестиції, інтелектуальний контроль ризиків, аналіз потреб та інші сфери стали основними напрямками досліджень.

Як сказав один з керівників фінансових технологій: "Кожен ключовий етап у фінансовому бізнес-ланцюзі заслуговує на повторний дизайн за допомогою технології великих моделей." Ця компанія нещодавно випустила велику модель, орієнтовану на фінансову індустрію, і спільно з партнерами розробила продукти великих моделей для фінансової галузі, щоб створити всебічного AI-асистента для фінансових працівників, таких як консультанти з інвестицій, страхові агенти, аналітики, фахівці з фінансового маркетингу та страхових виплат.

Кожен фінансовий інститут має багатий спектр ідей щодо застосування великих моделей. Один великий банк заявив, що вже впровадив рішення у понад 20 сценаріях, інший банк повідомив, що проводить пілотні проекти у понад 30 сценаріях, а ще одна брокерська компанія досліджує можливість інтеграції великих моделей з платформою віртуальних цифрових людей.

Однак, у процесі впровадження загальна думка полягає в тому, що спочатку слід застосовувати внутрішні рішення, а потім просувати їх зовні. Адже на даному етапі технології великих моделей ще недостатньо зрілі, існують проблеми з ілюзіями та інші питання, а фінансовий сектор є сильно регульованою, високої безпеки та високої надійності галуззю.

Технічний керівник одного з великих банків вважає, що в короткостроковій перспективі не рекомендується безпосередньо використовувати великі моделі для клієнтів. Фінансові установи повинні в першу чергу застосовувати великі моделі в аналізі фінансових текстів та фінансових зображень, а також в інтелектуально насичених сценаріях, реалізуючи співпрацю людини і машини у формі асистентів для підвищення ефективності роботи співробітників.

Наразі асистент коду вже впроваджено в кількох фінансових установах. Наприклад, один банк створив інтелектуальну систему розробки на основі великої моделі, де код, згенерований асистентом коду, становить 40% від загальної кількості коду. У сфері страхування одна компанія розробила плагін для допоміжного програмування на основі великої моделі, який безпосередньо вбудовується в внутрішні інструменти розробки.

У сфері розумного офісу також є чимало успішних прикладів. Один великий постачальник моделей на базі своєї фінансової моделі запустив систему запитань та відповідей у відділеннях, яка після запуску в одному з банків була поширена на кілька сотень відділень, а рівень прийняття відповідей перевищує 85%. Це рішення також швидко було копійовано в інших кількох банках та фінансових установах.

Проте, фахівці в галузі вважають, що ці широко впроваджені сценарії насправді ще не є основними додатками фінансових установ, і великій моделі ще є куди розвиватися на рівні бізнесу у фінансовій сфері.

Один з керівників постачальника ІТ-послуг зазначив, що маркетинг, управління ризиками, комплаєнс та інші сфери є тими, де великі моделі можуть призвести до революції, а також є областями, де є попит з боку фінансових клієнтів, але наразі ці роботи все ще залежать від підвищення можливостей постачальників базових великих моделей.

Є фахівці галузі, які прогнозують, що до кінця цього року з'явиться низка проектів або тендерної інформації, які дійсно будуть застосовувати великі моделі в основних бізнес-сценаріях фінансових установ.

Перед цим відбуваються деякі зміни на рівні верхнього дизайну. Експерти вважають, що в майбутньому вся система інтелектуальних і цифрових технологій буде знову побудована на основі великих моделей. Це вимагає від фінансової сфери переробки системи в процесі впровадження великих моделей, при цьому не слід ігнорувати цінність традиційних малих моделей, а слід забезпечити їхню співпрацю з великими моделями.

Ця тенденція вже широко проявила себе у фінансовій сфері. Наразі фінансові установи тестують великі моделі, які зазвичай використовують багаторівневу модель. На відміну від минулого, коли для кожного окремого сценарію потрібно було створювати платформу в стилі "димової труби", великі моделі дали фінансовим установам можливість почати з нуля та більш науково планувати всю систему.

На даний момент кілька провідних фінансових установ на основі великих моделей побудували багаторівневу систему, що включає інфраструктурний рівень, рівень моделей, рівень послуг великих моделей, рівень застосувань та інші рівні. Ці системи мають два загальних характерні риси: по-перше, великі моделі виконують центральну роль, використовуючи традиційні моделі як навички; по-друге, рівень великих моделей використовує стратегію багатьох моделей, внутрішня конкуренція вибирає найкращий результат.

Насправді, не лише фінансові установи, але й деякі постачальники додатків з великими моделями також використовують стратегію багатьох моделей, щоб оптимізувати ефективність послуг в умовах непевної ситуації. Один з постачальників ІТ-послуг розкрив, що їхній базовий рівень моделі об'єднує велику кількість великих мовних моделей і надає користувачам зібрані та оптимізовані відповіді на основі відповідей кожної великої моделі.

Пробіл у кадрах все ще величезний

Застосування великих моделей вже почало ставити деякі виклики та трансформації в структуру персоналу фінансової індустрії.

Деякі представники фінансових технологічних компаній зазначили, що з моменту появи ChatGPT їхня компанія звільнила понад 300 аналітиків великих даних з початку року до кінця травня. Це викликало у нього занепокоєння щодо майбутнього кар'єрного розвитку.

Досвідчений фахівець у фінансовій сфері великого банку також поділився ефектом заміщення людей великими моделями. Раніше в банку кожного ранку стажисти підсумовували різноманітну інформацію для відділу інвестиційних досліджень, але тепер цю роботу можна виконати за допомогою великих моделей.

Однак деякі банки не бажають, щоб великі моделі призводили до скорочення штату. Наприклад, один великий банк, що має 200 тисяч співробітників у своїй мережі, чітко заявив, що не бажає, щоб співробітників замінювали великі моделі, а хоче, щоб великі моделі приносили нові можливості, підвищували якість обслуговування та ефективність роботи співробітників, а також звільняли частину співробітників для виконання більш цінних завдань.

З одного боку, це пов'язано зі стабільністю персоналу та структури, а з іншого боку, у багатьох посадах все ще існує дефіцит кадрів. Один з керівників ІТ-сервісу зазначив, що великі банки мають багато роботи, яку не можуть виконати, а деякі терміни виконання ІТ-запитів навіть відкладені до кінця наступного року. Вони сподіваються, що великі моделі зможуть допомогти співробітникам підвищити ефективність і швидкість, а не призвести до скорочення персоналу.

Більш важливо, що швидкий розвиток великих моделей призвів до того, що протягом короткого часу постачання рідкісних кадрів не може відповідати різкому зростанню попиту. Це схоже на те, як на початку появи iPhone було важко знайти iOS-програмістів для розробки додатків.

Керівник відділу досліджень і розробок одного великого банку підсумував шість основних викликів, з якими стикається фінансовий сектор при впровадженні можливостей великих моделей у свої основні бізнес-процеси, одним з яких є нестача кадрів. Серед нових співробітників, яких вони нещодавно найняли, і тих, кого було набрано через університети, велика частка вивчає сферу штучного інтелекту, але спеціалістів з великих моделей дуже мало.

Один з керівників IT-сервісу також має подібний досвід, нещодавно отримав запит на підтримку кадрів від банківського клієнта. Цей банк через тимчасову відпустку одного з членів команди, що займається розробкою великої моделі, зіткнувся з нестачею персоналу для навчання моделі і змушений шукати підтримку зовні.

На сьогоднішній день потреба в кадрах, які безпосередньо застосовують великі моделі, відносно проста, головним чином потрібні люди, які можуть ставити питання. Але якщо потрібно створити галузеву чи корпоративну велику модель, фінансовим установам знадобиться кваліфікована команда технічних фахівців з вертикальних великих моделей.

Керівник одного з постачальників хмарних послуг зізнався, що в галузі великих моделей ШІ існує величезний дефіцит кадрів, і провідні установи зараз активно шукають фахівців у галузі ШІ, таких як доктори наук з алгоритмів тощо. Це пов'язано з тим, що фінансові клієнти, хоча й можуть отримувати технічну підтримку від постачальників великих моделей, проте є кінцевими користувачами та інноваційними лідерами, і їм потрібно накопичити певні кадри для підтримки будівництва великих платформ ШІ, планування різних застосувань ШІ, а також для співпраці з постачальниками великих моделей під час моделювання, налаштування та доопрацювання, постійно розширюючи діапазон застосування та ефективність моделей ШІ.

Деякі підприємства вже вжили заходів. Одна технологічна компанія співпрацює з банківською лабораторією, щоб упорядкувати практики трансформації персоналу в корпоративному застосуванні великих моделей, розробила ряд навчальних курсів, таких як налаштування запитів, доопрацювання, управління великими моделями тощо, і співпрацює з кількома відділами для створення спільних проектних груп, щоб сприяти підвищенню кваліфікації працівників підприємства.

Експерти в галузі зазначають, що великі моделі наразі ще не достатньо зрілі, і для розробки зрілого продукту потрібні спільні зусилля експертів у цій галузі. Великі моделі великих компаній підвищать кваліфікацію традиційних кадрів підприємств, але не призведуть до зміни парадигми. Справжня зміна парадигми вимагатиме наявності команди всередині фінансової системи, яка глибоко інтегрується у внутрішні потреби та здійснює суттєві інновації.

Варто зазначити, що в цьому процесі структура персоналу фінансових установ також зазнає змін і трансформацій. Розробники, які володіють навичками використання великих моделей, зможуть легше закріпитися в цьому середовищі.