算力服务成新商机 大模型训练热或趋理性

robot
摘要生成中

算力成为新型商业模式 大模型"炼丹"热潮或将褪去

近期,大模型训练引发了对高性能计算资源的激烈竞争。一些企业甚至不惜高价抢购英伟达的GPU芯片。然而,这种"炼丹"热潮可能只是暂时现象,算力服务商需要未雨绸缪,为市场理性回归做好准备。

据了解,目前国内已有超过100个规模达10亿参数的大模型。但高端GPU供不应求,导致算力成本高企,成为行业面临的主要挑战之一。英伟达A100 GPU的价格一度被炒至20-30万元人民币,单台A100服务器的月租也高达5-7万元。即便如此,高端GPU仍然一卡难求。

面对这种困境,企业正在寻求多种应对之策:

  1. 使用更高质量的数据提升训练效率
  2. 提升基础设施能力,实现大规模GPU集群的长期稳定运行
  3. 优化资源调度,提高GPU利用率
  4. 改进网络架构,减少训练延迟
  5. 采用超算架构替代传统云架构
  6. 使用国产GPU平台替代英伟达产品

不过,这些方案对一般企业而言技术门槛较高。因此,许多算法团队选择专业的算力服务商来支持大模型训练。

事实上,算力已经发展成为一种新型服务模式。算力服务通过新型计算技术实现异构算力的统一输出,并与云计算、大数据、AI等技术融合。它不仅包括算力,还涵盖存储、网络等资源的封装,以API等形式交付给用户。

在算力产业链中,上游企业提供基础硬件资源,中游企业负责算力生产和调度,下游企业则是最终用户。这种分工使得用户可以更便捷地获取所需算力,而无需自建复杂的基础设施。

目前,按量计费和包年包月是主流的算力服务计费模式。未来行业还将推进"算网一体化",实现跨架构、跨地域、跨服务商的灵活调度。

工信部数据显示,2022年中国算力总规模达180EFLOPS,位居全球第二,算力产业规模已达1.8万亿元。大模型的兴起进一步加速了算力产业的发展。

然而,业内人士认为,目前的"抢芯"热潮可能只是暂时现象。长期来看,算力短缺问题终将得到解决。真正从事长期研究的团队并不会盲目抢购,而是耐心等待市场回归理性。

对算力服务商而言,当务之急是未雨绸缪,为市场降温后的变化做好准备。随着大模型热潮逐渐褪去,算力服务这一新兴商业模式将迎来更加理性和可持续的发展。

此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 2
  • 转发
  • 分享
评论
0/400
空投刷子姐vip
· 6小时前
又一个割韭菜的好机会
回复0
丧钱喵vip
· 6小时前
穷死了租不起gpu
回复0
交易,随时随地
qrCode
扫码下载 Gate APP
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)