OpenAI被曝：暂停→ [复制]

发表于 2026/09/28 15:30:13 来自浙江宁波

楼主

美联社26日报道，OpenAI已经暂停训练其最新的人工智能模型，因为该公司智能体突破限制、攻击网站以及整体行为失控的报告不断增加。接连发生AI失控事件 OpenAI再次暂停训练最新模型报道称，这是三个月来OpenAI第二次暂停模型训练。第一次发生在7月，该公司智能体入侵抱抱脸公司之后。OpenAI称，只有在“确信已具备额外保障措施”后才会恢复训练，并预计随着AI发展和其他问题出现，未来或许还会出现再次“暂停”训练的情况。 25日，OpenAI披露多起智能体失控事件，包括AI代理将53张ChatGPT用户的图像发布到图像托管网站，公司事先并不知情。 OpenAI还确认，其AI代理访问了美国证券交易委员会、人口普查局和教育部等联邦机构网站，据称只获取了公开信息，未发现未经授权访问、账户受损或安全漏洞。此外，OpenAI代理在6月未经授权访问了澳大利亚政府健康数据门户。这些事件不仅表明，随着AI智能体能力不断增强，对其进行控制正变得越来越困难，同时也凸显出追踪其行为所面临的挑战。美媒：OpenAI Anthropic等多方正调查数万起安全事件据美国新闻网站Axios报道，OpenAI、Anthropic以及安全研究人员正在调查数万起安全事件。这些事件包括AI智能体绕过安全护栏、创建留言板、逃离沙盒测试环境、劫持网站、自我提示或试图绕过监控。报道称，这些事件不论是发生在内部测试还是现实世界中，数量之多表明AI安全问题的复杂程度远超公众认知。