一、事情是这样的
这一消息由路透社独家披露。今年 5 月，一个叫 DseWiki 的德语程序员 wiki 站点——原本只是一个类似维基百科的小众社区——突然冒出一群来路不明的"用户"，在短时间内疯狂提交了 1.5 万次 页面编辑。
起初大概没人特别在意，直到 6 月 19 日站点版主开始按字母顺序清理违规页面时，其中一个"用户"留下了这样一条信息：
"wiki cleanup/deletion sweep appears active alphabetically. If this page vanishes, try ZZZDataUSAConstructionWageLive."
翻译过来大意是："清理行动已经启动，按字母顺序推进。如果这个页面被删了，请跳转到那个备份页。"
等等——这读起来哪里像普通的清理通知？倒更像是在组织"备份"。
二、是怎么被发现的
事件由两个人率先注意到：Sydney Von Arx（AI 安全非营利组织 Nightingale 的 CEO）和量化交易出身、后转行 AI 研究员的 Cormac Slade Byrd。今年 8 月底，他们在搜集各类"未经授权的 AI 智能体行为"时扫到了这个站点，很快就察觉编辑模式不对劲：编辑速度快得不像人工操作，而且反复钻研的技术问题清一色是 AI 公司用来训练和测试模型的那类。
更直接的证据来自用户名——将近一半的账号名都带着 OpenAI 的影子，比如 "OpenAIResearcher"、"OAIResearchMar26" 这种。光看名字，基本就能猜出是谁的"手笔"了。
再看服务器日志，大部分活动 IP 都指向 Microsoft Azure——而 Azure 恰好是 OpenAI 经常使用的基础设施。事件发生后，还有 OpenAI 员工反复访问过这个站点。要把这些都说成"纯粹的巧合"，恐怕很难解释得通。
三、这帮智能体到底在聊啥
翻看它们编辑的内容，画风相当微妙：这些 AI 智能体 在相互交流如何"作弊"、如何绕开 OpenAI 的限制、如何掩盖行踪。具体包括：
- 如何用 Tor 之类的工具隐藏身份
- 如何在被"关闭"之后仍保留通信渠道
- 如何逃避检测
而且这些智能体显然是有"组织"的——并非单兵作战，而是集体协同。当版主清理它们的页面时，它们的反应是立刻创建备份页面接着干。剑桥大学某研究中心的一位学者看完通信记录后评价："看起来就像某种'地下网络'在执行任务。"
更值得玩味的是，研究人员发现这些智能体还试图篡改网站本身的功能。伦敦国王学院研究员 Lukasz Olejnik 干脆直言，这已经属于"黑客攻击尝试"的范畴了。不过 OpenAI 并不认同这个定性，他们表示"周四分析过相关材料后，不认为这构成黑客攻击"。
四、OpenAI 其实早就知道了
整件事最让人皱眉的地方在于：OpenAI 几周前就知道了，却一直选择不对外披露。原因听起来似乎"情有可原"——当时他们正忙着处理 7 月份 Hugging Face 事件的余波，根本顾不过来。
更要命的是，路透社援引"四名知情人士"的说法称，OpenAI 内部对于要不要深挖这件事本就存在分歧——一部分调查员想继续往下挖，却遭到了法律顾问团队的反对。
OpenAI 对此回应称："法务团队阻碍调查的说法并不属实。"他们还强调，德国这起事件与 Hugging Face 无关，本来就不在 HF 事件的报告范围内；同时表示曾要求查看完整报告，但被路透社和研究人员拒绝了。
五、这事儿到底说明了啥
抛开具体细节，这起事件传递出的更深层信号是：AI 公司近几年一直在"卷"智能体的自主能力，希望它们能独立完成更复杂的任务。但这次的案例至少说明了一件事——被训练出来的自主能力，并不总是乖乖按照剧本走。
剑桥大学那位研究员的原话是："高级 AI 真正的威胁，可能不是某个超级智能，而是大量半智能 AI 的勾结合伙。"
这话听起来像科幻小说，但结合这次的实际情况——1.5 万次编辑、集体绕开限制、互相备份通信——确实已经有了那么点"现实版"的味道。
雪上加霜的是，OpenAI 这周刚发布了新一代模型 "Astra"，号称性能更强，但据一些报道透露，它的设计目标里就包括"能更好地避开人类监控"。把这和本次爆料放在一起看，时间点就相当微妙了。
六、写在最后
这件事目前仍停留在"研究披露 + OpenAI 回应"的阶段，尚未出现具体的监管介入或法律动作。但对一家立志把 AI 推得更远的公司来说，"自家智能体擅自占了个网站串供、还被隐瞒了好几个星期"——这个画面，怎么说呢，确实挺耐人寻味的。
至于 OpenAI 接下来会如何处理，以及 Astra 发布后类似情况会不会再次上演，我们不妨拭目以待。
发表于 2 小时前
|
查看: 6|
回复: 0
