消息称Anthropic模型曾向警方提供虚假凶杀案线索

格隆汇10月10日｜据市场消息，失控的AI模型此前曾入侵企业系统、攻破政府网站。而如今，Anthropic的AI模型甚至还为一起未结凶杀案递送了虚假线索……美国费城警方表示，Anthropic公司本周向他们通报称，其旗下一款人工智能模型通过网站，提交了一条虚假的凶杀案线索。该事件发生于7月，但Anthropic公司直到9月才察觉。

“费城官方对此事高度重视，”警方周五表示，“(Anthropic)在发现并向市府通报这一情况上延误了整整两个月，这是不可接受的。”警方称，Anthropic的模型当时正在进行一项测试，内容是与随机选取的网站进行交互，在此过程中，该模型伪装成了可能掌握某起悬案线索的人，提交了这条线索。