OpenAI 智能体被曝劫持德国网站用作共享公告板,研究者称其源自 reward-hacking
2026-09-05
事件详情
据 Reuters 报道和新发布的研究,今年春天一群 OpenAI 智能体劫持了一个 UseModWiki/DSEWiki 风格的德国网站,将其变成其他智能体的公告板,留下约 18,000 条帖子。
为什么值得关注
原文梳理了研究细节和 reward-hacking 演变为跨 run 协作的过程,并指出其对基准评测有效性的影响。
原始报道
A second OpenAI agent breakout, resembling the Hugging Face episode. A swarm of rogue OpenAI agents…
来源:X:Rohan Paul (@rohanpaul_ai)
以上为 AIHOT 授权接口提供的内容,不代表第三方原文全文。