Anthropic CEO呼吁强制测试AI模型 并赋予政府干预权

格隆汇6月11日｜据界面，当地时间6月10日，Anthropic首席执行官达里奥·阿莫迪发布长文表示，如果新的人工智能模型带来特定风险，政府应有权阻止AI开发商部署这些模型。阿莫迪主张，人工智能模型应接受第三方强制测试，以评估在多个领域的潜在风险，包括引发网络安全威胁和制造生物武器。如果AI被认定“构成不可接受的风险”，“政府应有权阻止或遏制其部署”。Anthropic上周还呼吁建立一种机制，由政府和AI开发商共同决定何时放缓相关研发工作，以防范该技术可能带来的风险。