从狂热到理性:大模型训练三堵墙,一场少数人的游戏( 四 )


钛媒体App了解到,今年国产芯片的发展呈现错位状态,国产芯片还没有对标到英伟达最高端的产品,比如A100 。有几家国产芯片厂商已经预备在今年晚些时候,推出类似的对标产品 。不论是训练还是推理,国产芯片的发展或多或少有一些滞后 。
与之对应地,英伟达芯片供应相对紧张,国产算力在明年之后,会有比较大的机会,现在算力市场还在急剧增长,国产芯片的匹配度不够,主要还是英伟达在增长,如果需求匹配上之后,国内芯片会有很大的机会 。
张亚林表示,如果燧原要真的“杀”到互联网客户场景,一定是在他们需要的场景和业务下,具备1.5倍的英伟达产品性能,和两倍的性价比 。
“互联网客户普遍追求极致性价比,但是在集群方面要看TCO(总体拥有成本),集群的软硬件整体价格、运维服务部署等,比如我1000卡的集群,跟英伟达的600卡集群对比,可能性能差不多,但是我性价比更高,同时我提供更好的定制化的服务支持,在市场上也是很有竞争力的 。”他说 。
6月,关于大模型算力的讨论渐歇,基础模型厂商初窥门径,要么身体力行地去训练大模型,要么买到更有性价比的算力,但总体来说,以算力为中心的大模型基础设施,成本依然处于较高的水平 。
IT产业总是遵循否定之否定的钟摆定理,在大模型的产业热潮中,接下来算力的各个环节如何进化,也更值得期待 。(文中张阳为化名)
(本文首发钛媒体APP)

【从狂热到理性:大模型训练三堵墙,一场少数人的游戏】


推荐阅读