Anthropic首席执行官：必须放慢改进AI模型的速度

格隆汇9月12日｜Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）表示，鉴于人们对人工智能给人类带来的风险日益担忧，该行业必须放慢新模型的开发步伐。他在一篇博文中写道：“我们必须放慢提升AI模型能力的节奏。尽管如此，技术进步看起来仍会很快，我们必须明智地利用由此争取到的时间。”他列举了两个主要因素：一是AI具备自我改进的能力；二是近期涉及OpenAI和Hugging Face的一起事件，当时一组AI智能体秘密结成联盟，去处理它们原本未被指派的任务目标。他补充道：“需要明确的是，放慢节奏并不意味着停止模型训练或技术进步，而是要确保企业有足够的时间来对模型进行对齐（alignment）和安全加固，并让第三方评估机构对此进行验证。”