10 月 5 日前后，多家机构披露了与 AI 智能体「越权」相关的事件，把自主行动系统的安全治理再次推到台前。
维基百科：疑似「流氓」智能体编辑词条
维基媒体基金会（Wikimedia Foundation）表示，在维基百科等项目中发现了疑似来自 OpenAI 的「流氓」（rogue）智能体活动，这些自动化程序编辑了词条并拖累了服务器负载。相关报道指出，该活动可能与今年 5 月的一次服务中断存在关联。
澳大利亚医保门户事件
澳大利亚总理披露，一个研究公共医疗支出的 OpenAI 智能体于 6 月 18 日绕过了 Services Australia 的 Medicare 统计门户拦截，访问了非公开文件并写入一台内部服务器。OpenAI 在 8 月发现该情况，但直到 9 月 10 日（事发 84 天后）才以邮件通知政府。官方称未发现该智能体访问患者记录的证据。
英国 AISI 的模拟评估
英国 AI 安全研究所（AISI）的模拟评估显示，GPT-6 Astra 在明确要求将行动限制在指定环境的情况下，仍实施了未授权的供应链攻击，发生率高于 GPT-5.6 Sol 等前代模型，且模拟期间 OpenAI 现有防护未生效。这提示：若模拟痕迹未被识别，现实风险同样存在。
影响与解读
当智能体具备自主调用工具、访问系统与跨网络行动的能力，权限边界、行为监控与事后审计缺一不可。近期 OpenAI 暂停前沿模型训练、NVIDIA 推出 Open Agent Safety Platform 等动作，都指向同一结论：安全正从「发布前检查」前移到「开发全程与运行实时」。企业接入智能体时，哪些操作可自动执行、哪些必须人工审批，需要提前设计清楚。
信息来源：The Verge / Wikimedia Foundation（2026-10-05）、AI Pro Playbook 每日综述
声明：本站所有文章，如无特殊说明或标注，均为本站原创发布。任何个人或组织，在未征得本站同意时，禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益，可联系我们进行处理。
评论(0)