Обчислювальна потужність послуги: нова бізнес-модель епохи великих моделей

Тренування великих моделей вимагає обчислювальної потужності, що сприяє виникненню нової бізнес-моделі. Хоча нинішній бум "перетворення" великих моделей може минути, постачальники обчислювальної потужності повинні заздалегідь підготуватися до змін у попиті на ринку.

Нещодавно дослідники використали 40-річні дані про погоду з усього світу, використовуючи 200 графічних процесорів (GPU) для приблизно двомісячного попереднього навчання, в результаті чого був створений метеорологічний великий модель з обсягом параметрів на рівні мільйонів. Виходячи з витрат на використання GPU в 7,8 юанів за годину, вартість навчання цієї великої моделі в вертикальній галузі може перевищити 2 мільйони юанів. Якщо ж мова йде про навчання загальної великої моделі, витрати можуть зрости в сто разів.

Наразі в Китаї вже є більше ста великих моделей з обсягом параметрів у 10 мільярдів. Проте, у галузі спостерігається бум розробки великих моделей, але вона стикається з проблемою нестачі висококласних GPU. Високі витрати на обчислювальну потужність, нестача обчислювальної потужності та фінансів стали найактуальнішими проблемами, з якими стикається галузь.

Проблема нестачі високоякісних GPU важко вирішити в короткостроковій перспективі. Сплеск попиту на великі моделі призвів до швидкого зростання попиту на Обчислювальну потужність, але зростання пропозиції відстає. Хоча в довгостроковій перспективі пропозиція Обчислювальної потужності обов'язково перейде з ринку продавців на ринок покупців, але скільки часу займе цей процес, залишається невідомим.

У світлі цієї ситуації в галузі загалом вважають, що в міру посилення конкуренції на ринку великих моделей, ринок також поступово повернеться до раціональності, а компанії будуть контролювати витрати та коригувати стратегії відповідно до змін у прогнозах.

Для подолання дефіциту Обчислювальної потужності компанії вжили різних заходів:

1. Використовуйте дані вищої якості для навчання, щоб підвищити ефективність навчання.

2. Підвищити можливості інфраструктури, забезпечивши стабільну роботу великомасштабних кластерів GPU.

3. Оптимізація обчислювальної потужності карт ресурсів, підвищення ефективності використання ресурсів.

4. Покращити мережеву продуктивність, підвищити ефективність масового розподіленого навчання.

5. Перехід від архітектури хмарних обчислень до архітектури суперкомп'ютерів, зниження витрат.

6. Використання вітчизняних платформ для навчання та інференсу великих моделей, замість графічних процесорів NVIDIA.

Обчислювальна потужність вже на ринку попиту та технологічної ітерації поступово сформувала нову модель послуг. Послуги з обчислювальної потужності базуються на різноманітній обчислювальній потужності, зв'язуються через мережу обчислювальної потужності та мають на меті ефективне постачання обчислювальної потужності. Це не лише включає обчислювальну потужність, але й єдину упаковку ресурсів, таких як зберігання, мережа тощо, у формі послуг (, таких як API ) для виконання доставки обчислювальної потужності.

У ланцюзі постачання обчислювальної потужності підприємства верхнього рівня в основному постачають базові ресурси обчислювальної потужності, середні підприємства відповідають за виробництво та постачання обчислювальної потужності, а підприємства нижнього рівня покладаються на обчислювальні послуги для надання додаткових послуг. Ця модель, порівняно зі створенням власного середовища обчислювальної потужності підприємствами, має переваги в плані витрат та технологій.

З огляду на нормалізацію вимог до обчислювальної потужності великих моделей, послуги з обчислювальної потужності швидко формують унікальний виробничий ланцюг та бізнес-модель. Хоча наразі все ще існують проблеми, такі як брак висококласних GPU та високі витрати на обчислювальну потужність, проте в довгостроковій перспективі тенденція до обчислювальної потужності як послуги вже закріпилася. Постачальники послуг обчислювальної потужності повинні завжди бути готовими своєчасно коригувати стратегії у відповідь на зміни попиту на ринку.