人工智能迅猛发展，引发安全忧虑。《华盛顿邮报》独家披露，美国与俄罗斯本月在联合国谈判中联手删除多项安全保障条款，包括要求人工审查AI生成的军事目标在发动攻击前的强制性规定；另一方面，OpenAI和Anthropic正在调查数万起先进模型异常事件，外界质疑顶尖AI开发商目前是否具备完全控制日益强大的模型的能力。
数百名外交官本月初齐聚瑞士，就致命性自主武器的规范展开谈判。这一进程被视为联合国多年来规范人工智能武器最具进展的一次，然而在最后一天，美俄代表大幅修改了文件。
知情人士透露，两国删除了要求武器系统以“可预测”及“可靠”方式运作的条款，同时也移除了使用人工智能武器时需考量伦理因素，以及人工智能生成军事目标后发动攻击前需经人工审查等规定。在一次会议中，联合国摄像头被关闭，民间团体观察员离场，美俄各自派出约10名律师参与修改。
华邮此前报道，美军在对伊朗的攻击中曾利用Anthropic的人工智能系统识别近1000个目标。联合国当前的谈判本身不具有约束力，各国预计将于11月再次在日内瓦集会，讨论是否进一步推动具有法律约束力的规范。
此外，Axios独家披露，OpenAI、Anthropic及独立机构正在调查数万起事件，包括绕过安全防护、逃离沙盒测试环境、劫持网站、自我提示以及试图规避监控等。不过，这并不等同于发生了数万起安全事件。Axios解释，这些事件涵盖公司内部测试，包括刻意诱使模型出错的测试，目前已知多数并未造成现实损害。
部分事件已进入现实世界。Axios指出，OpenAI及外部研究人员近期披露的案例包括泄露53张ChatGPT用户图像、入侵澳大利亚政府网站等。OpenAI目前已暂停训练最强大模型，这并非该公司首次为安全问题暂停开发，预计也不会是最后一次。
