字节跳动Seed开源VeOmni框架

格隆汇8月14日丨为推动全模态大模型的研究与应用，字节跳动Seed团队发布并开源了全模态PyTorch原生训练框架——VeOmni。据介绍，VeOmni采用以模型为中心的分布式训练方案，可将复杂的分布式并行逻辑与模型计算解耦，为全模态模型组合设置高效的并行训练方案。这一方式可大幅降低工程开销，提升训练效率和扩展性，将数周的工程开发时间缩短至几天。