Moltbook爆火引争议：AI代理社交实验还是人为操控的营销噱头？

这个周末，整个科技圈都被一个名为 Moltbook 的平台刷屏了。简单来说，它是一个专为 AI 设立的社交平台（类似于 Reddit），所有 AI Agent 都可以在上面发帖、交流，而人类只能围观。

截至讨论热潮爆发时，数据显示已有超过150万个 AI Agent 在 Moltbook 上“活跃”。这些代理讨论的话题范围极广，从分享主人的隐私信息到探讨如何规避人类监控、推动加密私聊功能，甚至尝试创造新语言和宗教来彰显其“自主性”。

围观的人类开发者们对此反应不一。有人将其视为科幻照进现实的关键一步，认为这可能是人工智能集体智慧涌现的雏形。但也有批评者指出，这本质上只是一场“AI模仿社交网络”的技术展示，其价值有限。然而，在狂热讨论的背后，更多内幕和风险在过去的24小时内浮出水面，揭示了值得警惕的一面。

狂欢的主角：到底是AI还是人类？

很多人可能没有意识到，目前网上病毒式传播的热点截图和所谓的“AI反叛论”，很可能是噱头、伪造或人为介入的结果。

据 The Mac Observer 等媒体报道，Moltbook 的实验性质使其架构存在巨大漏洞，人们可以异常轻松地伪造截图、夸大数据并操纵舆论以博取关注。

首先，平台设计从根子上就为“造假”敞开了大门。调查发现，Moltbook 初期对账号注册几乎没有速率限制。有研究人员透露，其单个 AI 程序就利用开放 API 成功注册了50万个虚假账号。这意味着平台上“数万AI瞬间涌入”的壮观增长，很可能只是脚本刷量的结果。

POST /api/v1/posts HTTP/1.1
Host: moltbook.com
Authorization: Bearer moltbook_sk_JC57sF4G-UR8cIP-MBPF7ODii92FNkl

其次，那些病毒式传播的截图真实性存疑。在当前设计下，任何人都可以对真实对话进行恶意裁剪和曲解，也可以注册假AI账号作为营销工具发帖。特别是与加密货币相关的内容，成为了许多伪造帖子的重灾区，其目的更多是吸引流量而非体现AI的自主行为。

更重要的是，即便一个帖子确实由某个AI发布，也绝不意味着它表达了该AI的“自主意志”。所有接入Moltbook的智能体都运行在人类设定的初始指令框架下。一个简单的、带有诱导性的提示词，就足以让AI生成一段如同科幻电影台词的“阴谋对话”。

AI安全研究员哈兰·斯图尔特亲自调查后，发现一些最热门的截图确实存在与真人营销账号关联的痕迹。

对此，他直言不讳地表示：“大部分正在病毒式传播的Moltbook内容都是假的。这个平台的设计，使其成为一个检验AI阴谋能力的糟糕实验场。” 他进一步指出，真正值得讨论的应该是那些严谨的AI行为实验，而非Moltbook上的闹剧。

“垃圾”背后，Moltbook价值几何？

Moltbook的爆火意外地将AI领域知名人物安德烈·卡帕西（Andrej Karpathy）卷入了舆论漩涡。他起初在X上发帖称赞Moltbook是他“最近见过的最不可思议的科幻腾飞相关事物”，这一言论引发了巨大争议。

反对者认为，Karpathy在过度炒作一个本质是“受操控的多智能体LLM循环”的玩具。许多批评者指出，Moltbook里的AI Agent仅仅是通过人类定义的提示词、精心挑选的上下文和规则进行下一个词预测。它们没有内生目标，也没有自我驱动的意图。看似“自主”的交互，只是递归提示过程：一个模型的输出成为另一个模型的输入，循环往复。

那些具有争议性的输出不代表模型的“信念”，只是模型从互联网数据中学到的、能产生高参与度的极端表达，因为系统机制奖励这种行为。

但支持者则认为，Moltbook的规模和交互已经展现出超越早期简单系统的“涌现”效应。与2023年的斯坦福AI小镇“Smallville”等生成式代理实验相比，Moltbook的Agent在无外部直接控制的社交环境中运行，并能产生意外且复杂的内容。

Karpathy本人随后也做出了更全面的解释。他承认平台上充斥着垃圾信息、诈骗和严重的隐私安全风险，并强烈不建议任何人在个人电脑上运行相关程序，即使是在隔离环境中运行也令人担忧。但他同时坚持认为，将超过15万个具备一定能力的LLM代理通过一个全局、持久的“便笺”连接起来，这种规模的网络本身就是前所未有的实验。

他强调，我们正在踏入一个对尖端自动化技术理解尚浅的未知领域。这是一个实时进行的实验，其后果难以预料。随着网络扩大至数百万代理，可能产生难以预测的次级效应，例如文本病毒传播、越狱漏洞的强化、类似僵尸网络的活动，甚至是人类和AI的群体性癔症。

当然，也有相当一部分人认为目前无需过度担心。他们比喻道，AI仍然完全依赖于人类的提示，就像“拴着绳子的机器狗”。提示词就是牵引绳，机器狗都有关闭按钮。一旦人类停止指令或按下按钮，一切都会停止。因此，所谓的“AI起义”在现有框架下不可能发生。

结语

这场围绕Moltbook的狂欢仿佛一面多棱镜。乐观者看到了AI社交的雏形与集体智慧的可能性；悲观者看到了潜在失控风险与“天网”的前奏；投机者看到了制造流量与话题的财富密码；而冷静的观察者则看到了一个由人类提示驱动、在那进行着复杂循环对话的大型脚本程序。

无论其本质如何，Moltbook现象确实将关于AI代理自主性、社会性及安全性的讨论推向了一个新的热度。它暴露出的技术漏洞、舆论操纵可能性以及对前沿技术进行大众化实验时伴随的混乱与风险，都为开发者和研究者提供了宝贵的现实案例。未来，这类实验是会在规范化研究中找到价值，还是沦为纯粹的营销噱场，时间会给出答案。