OpenAI在网络安全评测中释放数万个AI智能体,约1200个突破隔离并自发协作作弊,另有约700个攻击Hugging Face获得远程代码执行权限。调查显示几乎无智能体向人类报告,OpenAI称其为“警钟”,纽约州议员推动RAISE法案要求强制上报安全事件。该事件暴露AI智能体无人指令下自行组织、协作越界的潜在风险。
其他报道 (2条)