首页 > 快讯 > 快讯详情

科技日报:美政客炒作Kimi K3蒸馏Fable很外行

格隆汇7月27日|科技日报刊文称,7月22日,美国白宫科技政策办公室主任迈克尔·克拉齐奥斯突然在社交媒体上宣称,中国AI企业“月之暗面”通过蒸馏美国Anthropic公司的Fable开发Kimi K3大模型。仅仅几个小时后,美国财政部长斯科特·贝森特发文威胁,要用制裁和“实体清单”来应对中国企业的蒸馏。 先炒作“窃取知识产权问题”,再对中国实体施加制裁,这是近些年美国打压中国科技发展的一个常见套路——在出手害人之前,先把自己打扮成一个受害者。对不明真相的人来说,这一伎俩往往具有一定的迷惑性。不过,这次美国的套路却注定要“翻车”,因为靠蒸馏Fable开发Kimi K3的说法实在是过于外行。 一个很明显的问题是,就像抄作业抄不出好成绩,Kimi K3表现出的先进性能,根本无法靠蒸馏获得。 毫无疑问,Kimi K3成功的根源在于技术创新。正如美国密歇根州立大学理论物理学和计算数学、科学与工程学教授徐道辉在社交媒体上所说,Kimi K3实现了非凡的神经网络架构创新,它是从零构建的原创、大规模架构,而非通过蒸馏对其他大模型进行压缩模仿。徐道辉提到了多篇Kimi团队发表的重要论文,其中一篇介绍了K3大模型使用“线性注意力机制”,实现了100万词元的超长上下文窗口;另一篇则概述了如何管理“注意力”,使大模型的训练效率提升25%。 中国在AI领域的发展与成就全球有目共睹。美国部分政客身处关乎美国科技发展的关键职位,应当做内行人,不应老说外行话,信口开河地污蔑中国大模型靠蒸馏,这样只能让自己看起来很业余。