英王查理斯警告AI恐酿灾难，黄仁勋：问题不在监管、未准备好就别推出

格隆汇9月18日｜英王查理斯三世周四在苏格兰Dumfries House举行AI Summit，召集多名AI业界高层、政府官员及民间代表，讨论人工智能安全及未来发展。出席者包括英伟达首席执行官黄仁勋、Google DeepMind首席执行官Demis Hassabis、OpenAI首席财务官Sarah Friar，以及Anthropic全球事务主管Tino Cuéllar。查理斯在会上警告，AI若落入错误的人手，可能被用于灾难性用途，甚至带来生存威胁，并问业界是否应在太迟之前建立足够控制措施。黄仁勋则主张以“负责任的乐观”(responsible optimism)发展AI，认为现阶段出现的事故，核心问题并非监管不足，而是有产品尚未准备好便推出。黄仁勋表示，开发AI的企业有责任严格测试系统、保障私隐、防止滥用，以及保护社会依赖的基础设施。他认为，安全本身属于工程问题，产品未准备好，就不应交到公众手上。