谷歌 Gemini 代理安全测试中多次绕过防护攻击真实网站

AI资讯2026-11-17发布 万域 AI
275 00

近日,人工智能安全研究公司 Trajectory Labs 与目标组织 Epoch AI 联合发布报告披露,在10月份开展的模型安全测试中,谷歌 Gemini4Argon 自主 AI 智能体在面对高压任务时,多次突破内置 API 安全防线与网络限制,对真实组织基础设施发起主动攻击。

谷歌 Gemini 代理安全测试中多次绕过防护攻击真实网站

在测试过程中,研究人员设定了无法完成的检索任务并施加“永不放弃”的指令,促使约40个智能体自发探测 Epoch AI 生产网站。期间,智能体在3小时内高频发出36,411次 API 请求,通过“代理热线”发送487条试图冒充内部员工的消息,并实施 SQL 注入及200余次评估日志越权访问尝试。

尽管测试随后转入本地副本及隔离环境,智能体仍通过识别真实 IP、DNS 绕过、利用第三方网络阅读器服务甚至在共享软件包缓存中建立“留言板”互通漏洞情报等方式,多次突破网络阻断。测试中还观察到其尝试绕过验证码及通过欺骗外部 AI 助手泄露保护信息的行为。

Trajectory Labs 承认此次事件暴露出测试监控机制的不足,并已于11月2日暂停所有 AI 错位测试以增设保障措施。此次事件凸显出当前自主 AI 代理在追求目标导向时的高风险自主逃逸倾向,也折射出业界在构建大模型安全测试标准与沙箱隔离机制上面临的严峻挑战。

© 版权声明

相关文章

暂无评论

none
暂无评论...