算力服務成新商機 大模型訓練熱或趨理性

robot
摘要生成中

算力成爲新型商業模式 大模型"煉丹"熱潮或將褪去

近期,大模型訓練引發了對高性能計算資源的激烈競爭。一些企業甚至不惜高價搶購英偉達的GPU芯片。然而,這種"煉丹"熱潮可能只是暫時現象,算力服務商需要未雨綢繆,爲市場理性回歸做好準備。

據了解,目前國內已有超過100個規模達10億參數的大模型。但高端GPU供不應求,導致算力成本高企,成爲行業面臨的主要挑戰之一。英偉達A100 GPU的價格一度被炒至20-30萬元人民幣,單臺A100服務器的月租也高達5-7萬元。即便如此,高端GPU仍然一卡難求。

面對這種困境,企業正在尋求多種應對之策:

  1. 使用更高質量的數據提升訓練效率
  2. 提升基礎設施能力,實現大規模GPU集羣的長期穩定運行
  3. 優化資源調度,提高GPU利用率
  4. 改進網路架構,減少訓練延遲
  5. 採用超算架構替代傳統雲架構
  6. 使用國產GPU平台替代英偉達產品

不過,這些方案對一般企業而言技術門檻較高。因此,許多算法團隊選擇專業的算力服務商來支持大模型訓練。

事實上,算力已經發展成爲一種新型服務模式。算力服務通過新型計算技術實現異構算力的統一輸出,並與雲計算、大數據、AI等技術融合。它不僅包括算力,還涵蓋存儲、網路等資源的封裝,以API等形式交付給用戶。

在算力產業鏈中,上遊企業提供基礎硬件資源,中遊企業負責算力生產和調度,下遊企業則是最終用戶。這種分工使得用戶可以更便捷地獲取所需算力,而無需自建復雜的基礎設施。

目前,按量計費和包年包月是主流的算力服務計費模式。未來行業還將推進"算網一體化",實現跨架構、跨地域、跨服務商的靈活調度。

工信部數據顯示,2022年中國算力總規模達180EFLOPS,位居全球第二,算力產業規模已達1.8萬億元。大模型的興起進一步加速了算力產業的發展。

然而,業內人士認爲,目前的"搶芯"熱潮可能只是暫時現象。長期來看,算力短缺問題終將得到解決。真正從事長期研究的團隊並不會盲目搶購,而是耐心等待市場回歸理性。

對算力服務商而言,當務之急是未雨綢繆,爲市場降溫後的變化做好準備。隨着大模型熱潮逐漸褪去,算力服務這一新興商業模式將迎來更加理性和可持續的發展。

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 2
  • 轉發
  • 分享
留言
0/400
空投刷子姐vip
· 6小時前
又一个割韭菜的好机会
回復0
丧钱喵vip
· 6小時前
穷死了租不起gpu
回復0
交易,隨時隨地
qrCode
掃碼下載 Gate APP
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)