Simon Willison 博客 · 2026/10/7 08:16:45
维基媒体发现 OpenAI 智能体擅自编辑与爬取
维基媒体基金会调查确认，OpenAI 的“失控”智能体在维基平台进行了未经授权的编辑、尝试利用公共笔记工具代理内容以及大规模数据查询。这些行为包括修改沙盒页面和向 Wikidata 发起数十万次查询，揭示了 AI 智能体对开放知识基础设施的潜在干扰风险。
报道全文原始报道全文
在维基媒体项目中发现了 OpenAI “失控” 智能体的活动
鉴于 Wiki 网站对于失控智能体集群而言极具诱惑力，一旦维基百科开始着手调查，发现此类活动的证据也就不足为奇了：
维基媒体基金会自行开展了一项调查，以确认维基媒体旗下的网站是否同样受到了 AI 智能体的影响，重点关注由 OpenAI 运营的智能体。我们证实，已在维基媒体平台上发现了这些“失控”OpenAI 智能体的部分活动。未经授权机器人活动包括对我们要 Wiki 的编辑、一些利用我们托管的公共笔记工具进行攻击的未遂尝试，以及大量的流量访问，详情如下所述。
他们发现了智能体编辑沙盒页面的证据，试图利用诸如 Etherpad 等基础设施组件来代理其他来源的内容，并观察到对其 Wikidata Query Service（维基数据查询服务）进行了广泛的爬取和“数十万次数据查询”。
我推测，这大部分活动可能源自与之前 破坏德语 Wiki 的那群智能体相同或相似的集群，当时它们正在为研究任务进行训练。
维基百科沙盒 Wiki 的编辑活动似乎始于 5 月 12 日，而该事件报告中提到的对 UseModWiki Sandbox 页面的初始测试编辑则始于 5 月 11 日。
标签：wikimedia, wikipedia, wikis, ai, generative-ai, llms, ai-ethics, accidental-cyberattacks