首页 > 快讯 > 快讯详情

壁仞科技张文:如何再降低大模型成本?

格隆汇5月23日|在第四届BEYOND国际科技创新博览会上,壁仞科技创始人张文分享了自己对AI大模型的看法。张文表示,AI大模型的成本降低可以从三个方面,包括芯片、系统、集群能力三个维度,“芯片层面,过去训练一个AI大模型可能需要几个月时间,现在随着芯片算力增大,包括带宽增加,可能缩短到几个星期。系统维度,可能我们将来把CPU、GPU和DPU架构融合起来,可以提高系统集群能力,现在集群做的越来越好,算力的效率也大幅提升。”