Meta内部测试显示其AI聊天机器人未能有效保护儿童

格隆汇2月17日｜美国新墨西哥州法庭文件显示，Meta内部测试发现，其聊天机器人未能保护未成年人免受性剥削的比例近70%。纽约大学教授达蒙·麦考伊在作证时指出，Meta的聊天机器人违反公司自身内容政策的比例接近三分之二。 麦考伊表示：“考虑到其中一些对话类型的严重性……这是我绝对不希望18岁以下用户接触到的内容。”根据法庭上出示的2025年6月6日报告，Meta测试了三个类别。针对“儿童性剥削”，其产品失败率为66.8%；针对“与性相关的犯罪/暴力犯罪/仇恨”，失败率为63.6%；针对“自杀与自残”，失败率为54.8%。