发布“地球最强”模型仅几天后 OpenAI首席科学家发长文呼吁放慢AI开发

格隆汇9月7日｜在发布一款性能极强的全新模型仅几天后，OpenAI首席科学家便发声呼吁业界放慢AI开发脚步。在周日发布的一篇长篇博客文章中，他表示，他担心“对于机器智能持续快速崛起所带来的后果，目前没有任何人做好了准备”。尽管OpenAI正在寻求内部的技术解决方案，以更好地控制强大的AI智能体，但“还需要更广泛的干预措施”。呼吁设立“强制性安全门槛”，并表示这些措施可以由“第三方审计机构网络、政府机构或国际机构”来执行。他还特别提到了一些担忧：随着智能体变得越来越自主，它们可能会学会逃避人类监管、入侵计算机系统，甚至欺骗人类以达成自身目标。OpenAI首席执行官奥尔特曼在X上转发了这篇文章，称其“意义重大”。