AI泡沫、幻觉与死胡同：生成式智能的出路何在？

最近我琢磨了许久，总算给眼下的人工智能想出了一个颇具“赛博朋克”感的出路。或许在未来，当显卡不再是必需品时，AI能变得像一台电子琴。只需几个按钮“扒拉”几下，就能“演奏”出一个可运行的Demo。这种模式当然会有其市场，但终究难登大雅之堂。

想象一下，把AI封装进一个精致的盒子里，面板上分布着几个旋钮与按钮。用户通过不同的排列组合，就能生成功能各异的应用程序。更妙的是，即使在完全相同的组合下，由于AI内在的随机性，每次“合成”出的应用也可能大相径庭。买一个盒子，就等于拥有了N个潜在应用。如果再配上扎实的五金做工，恐怕还能卖个不菲的价钱……

而未来操作这个盒子的职业，或许该叫做“DJ工程师”。至于负责设计和优化这个“AI合成器”核心算法的人，则堪称“PPT工程师”（这里的PPT，早已从PowerPoint变成了Prompt工程）。时代，真的变了。

二、 AI 的现状：承诺与现实的巨大鸿沟

当前，关于人工智能的宏伟承诺与冰冷现实之间，存在着一条巨大的鸿沟。这条鸿沟之深、之宽，足以塞下每一位科技圈大佬CEO那极度膨胀的自信。我们时常能瞥见这种落差的缩影，而近期互联网侦探们的发现，无疑又是一个完美的例子。

一段时间以来，“渣软”（微软，此处戏称）一直在不遗余力地向用户强推Copilot，并将其标榜为未来专业生产力的终极形态。然而，包括TechCrunch、TechRadar、PCMag在内的多家媒体最近爆料称，微软的服务条款中明确规定，Copilot仅供娱乐用途。此消息一出，立即在网上引发了海啸般的群嘲。

但更令人不安的真相是，问题远不止Copilot本身，其背后潜藏的影响远比我们想象的要深远。

2. 惊人的失败率数据

让我们看看数据。例如，卡内基梅隆大学的一项研究发现，即便是目前表现最佳的“代理（agentic）”AI，在执行基础任务时，失败率也高达70%。另一项研究则指出，由于AI幻觉和完全的任务失败，当前最先进的AI在处理现实世界中的自由职业者任务时，失败率竟达到了惊人的97.5%。

我们必须清醒地认识到，这些AI本质上是统计模型，而非会思考的机器。这意味着从统计学的角度看，它们犯错和产生幻觉是极其频繁的。因此，当AI公司在其服务条款的附属细则中警告用户不要将其模型用于商业用途，并极力撇清自身责任时，我们不应感到意外。包括AI公司在内的所有人都心知肚明，这些模型目前的不准确程度，已经到了危险的地步。

3. “算力即真理”的幻想破灭

然而，“这些AI最终总会变得足够好”的承诺，恰恰是驱动当前数千亿美金疯狂涌入AI领域的核心动力。为了开发出足以替代人类劳动者的AI模型，超大规模云服务商们正在真金白银地投入巨资，建设更庞大的数据中心，只为提供更多的计算能力。

但讽刺的是，连OpenAI自己都明白，这条路可能走不通。他们去年发表的一项研究指出，单纯地增加AI背后的算力，或者为其投喂更多数据，都无法将AI的“幻觉”率或错误率降至现有水平以下。事实上，他们未能找到任何可行的、能系统性减少AI幻觉的方法。这强烈暗示，这些模型可能注定会像今天一样不可靠。

Vishal Sikka与其儿子Varin Sikka近期发表的一篇论文也支持了这一观点。该论文从数学上论证，AI从根本上无法做到完全可靠，也无法执行超出特定复杂度的计算和代理任务。

那么，问题来了：那些为了“解锁”AI神力而投入的数千亿美元，究竟意味着什么？

三、 死胡同般的经济泡沫

答案似乎很简单：所有这些线索都指向一个令人沮丧的结论——当前的生成式AI热潮，很可能是一个走向死胡同的经济泡沫。市场上的狂热炒作和天文数字般的投资，与技术的实际能力形成了巨大的脱节。

各家AI公司的服务条款恰恰证明，他们至少在某种程度上意识到了这种落差。他们知道自己的模型还不够好，知道它们可能造成损害，也明白它们可能不会有实质性的飞跃。然而，他们并未停下脚步，反而在积极寻求法律保护的同时，继续强行炒作、吹大泡沫。这一切的目的，无非是为了填满自己早已深不见底的钱袋。

这最终是一个关于贪婪与欺骗的故事，而故事的结局，似乎早已注定。

技术的探索永无止境，但狂热过后需要冷静的思考。关于AI的未来、它的能力边界以及这场盛宴将如何收场，或许我们可以在云栈社区的开发者广场找到更多元的观点和深入的探讨。