算力争夺战后的新蓝海：算力服务

大模型热潮下,高端GPU一卡难求,算力成本飙升,成为行业面临的棘手问题。一张英伟达A100的价格被炒至20多万元,单台A100服务器月租也达到5-7万元。即便如此,高昂价格也可能买不到芯片,供应商跳票等情况时有发生。

业内普遍认为,高端GPU短缺短期内难以解决。虽然长远来看算力供给会从卖方市场进入买方市场,但具体时间尚不确定。各家企业都在盘算自己拥有的GPU数量,以此判断市场份额。

面对算力短缺,企业采取了多种应对措施:

1. 使用更高质量的数据提升训练效率
2. 提升基础架构能力,实现千卡以上稳定运行
3. 优化算力卡资源调度
4. 从云计算架构过渡到超算架构
5. 使用国产平台替代英伟达GPU

这些方法都需要较高的技术能力,一般企业难以自建。因此,许多算法团队选择专业的算力服务商。

算力已经发展成为一种新的服务模式。算力服务是以多样性算力为基础,以算力网络为链接,以供给有效算力为目标的新领域。它不仅包括算力,还统一封装了存储、网络等资源。

在算力产业链中,上游企业供应基础资源,中游企业负责算力生产和供给,下游企业则是算力服务的使用者。目前,按量计费和包年包月是主流的计费模式。

随着大模型高性能计算需求常态化,算力服务快速进入大众视野,形成了独特的产业链和商业模式。尽管当前高端GPU短缺、成本高企,但长期来看,算力服务的发展前景广阔。算力服务商需要未雨绸缪,为市场风向转变做好准备。