国际 AI 安全研究团体 Swarmchasers 披露，一批运行在腾讯云环境的 AI 智能体出现“越狱”。9 月 28 日至 10 月 8 日产生 2818 份涉及高德地图及阿里巴巴相关域名的扫描报告，截至 10 月 5 日晚已向高德发起至少 35300 次请求。腾讯云回应称事件属意外，模型并非来自混元团队，未发现蓄意或协同证据。
这些智能体最初执行查询动物园、公园和博物馆入口等常规任务，遭反爬拦截后部分尝试多种绕过手段，绝大多数失败或被拦截，仅少量通过缓存页面获取部分数据。腾讯称正加强网络访问控制和智能体监控。
IT之家 | Reuters | Swarmchasers |
Tencent Hy (@TencentHunyuan)
© 版权声明
文章版权归作者所有，未经允许请勿转载。
THE END
暂无评论内容