过去一年对DeepMind联合创始人兼CEO Demis Hassabis而言意义重大，但在近期与数学家的深度对话中，他聚焦于更根本的问题：当前AI系统的真正短板、AGI的技术路径，以及一个贯穿其职业生涯的哲学追问——图灵机能否计算宇宙中的一切？
当前AI的核心短板：锯齿状智能与幻觉问题
Hassabis精准诊断了当前AI系统的最大问题：锯齿状智能。同一个模型能在国际数学奥林匹克竞赛中夺金，却可能在简单逻辑问题上犯错；能写出博士级论文，却数不清单词中的字母。这种能力的不均匀分布，是AGI尚未实现的关键原因之一。
造成这种现象的因素多样，包括分词（tokenization）问题导致系统无法“看到”独立字符，以及推理链条的断裂。Hassabis强调，真正的AGI必须具备一致性，不能在某些领域超常而在其他领域低于常人。
幻觉问题是另一核心短板。Hassabis将其归结为模型“不知道自己不知道什么”，系统被训练成总要给出答案，而非承认不确定性。解决方案的方向是让模型学会内省，类似AlphaFold输出置信度分数，使大语言模型能感知自身知识边界并反映不确定性。
AGI的技术路径：从AlphaGo模式到在线学习
当被问及AlphaGo到AlphaZero的跃迁模式是否会在科学领域重演时，Hassabis认为当前大语言模型更接近AlphaGo阶段——从人类知识出发，学习互联网信息并泛化。下一步是为系统添加AlphaGo式的搜索与规划能力，以引导可靠推理。
更难的一步是AlphaZero模式，即系统自主发现知识，而非依赖人类数据。Hassabis建议分步走：先建立可靠的AlphaGo式系统，再向AlphaZero式自主发现迈进。此外，当前系统完全缺失在线学习能力，无法在部署后从真实世界持续学习，这是通往AGI的另一关键缺口。
Scaling法则与数据瓶颈：收益递减但未撞墙
针对“scaling laws失效”的讨论，Hassabis指出并未看到真正的墙，但存在收益递减。改进仍是显著且值得投资的，只是不再呈指数级增长。数据瓶颈可通过合成数据绕过，尤其在可验证领域如编程和数学，系统可生成无限训练数据。
DeepMind的策略是“50%投入scaling，50%投入创新”，Hassabis相信二者结合才能抵达AGI。回顾过去十年突破——Transformer、AlphaGo、AlphaFold等均出自Google或DeepMind，他押注未来科学创新仍将源于此。
世界模型：AGI的关键拼图
世界模型是Hassabis长期投入的领域。语言模型能理解的世界远超预期，但大量知识无法用语言描述，如空间感知、物理因果关系、传感器输入等。这对机器人、通用助手及科学研究至关重要。
DeepMind通过生成逼真世界来测试系统理解，如Genie（可交互世界模型）和Veo（视频生成模型）。它们能处理复杂物理现象如反射和液体流动，但“看起来对”与“物理学正确”仍有差距。下一步是提升精度至实验级别，用于机器人训练。
SIMA与Genie融合：AI在彼此心智中互动
将SIMA（模拟agent）放入Genie生成的世界中，实现了两个AI在彼此心智中的互动。SIMA agent在AI创造的世界中导航任务，Genie则实时生成响应。这开启了有趣的训练循环——无需人类标注，即可自动设置和解决数百万个任务，技能可能迁移至机器人领域。
在模拟中重跑进化：探索意识起源
Hassabis渴望在模拟中重跑进化实验，以理解生命和意识的起源。模拟允许受控实验，跑上百万次并分析差异。尽管需谨慎，但模拟在安全沙盒中运行，可用AI工具监控复杂动态。
根节点问题：材料科学、核聚变与量子计算
AlphaFold证明了用AI解决根节点问题的可行性。下一个目标是材料科学，如室温超导体和更好电池，DeepMind已计划开设自动化材料研究实验室。核聚变方面，与Commonwealth Fusion合作控制等离子体；量子计算则用机器学习优化纠错码。
AI泡沫与行业责任
Hassabis认为AI生态存在泡沫部分（如高估值初创公司），但大科技核心业务有真实支撑。他重申AI短期被高估、长期被低估。行业必须避免重蹈社交媒体覆辙，不应以最大化用户参与为目标。Gemini 3的人格设计注重平衡——温暖、有帮助，但会友善推回不合理请求。
AGI时间线：5到10年与全球协作
Hassabis预估AGI时间线为5到10年，需融合Gemini、世界模型等项目。他担忧国际协调不足，机构碎片化，地缘政治加剧合作困难。随着系统能力提升，普通人体验可能推动政府层面认识，但希望无需事故警示。
图灵机的终极追问：一切皆可计算？
Hassabis回归其核心问题：图灵机的极限。他认为迄今为止，宇宙中未发现不可计算之物。AlphaFold和AlphaGo成就超越了传统复杂性理论预期。若大脑中无量子效应与意识关联，经典计算机或能模拟一切。他倾向相信现实是心智建构，本质是信息处理，而信息是可计算的。
个人反思：使命与责任
站在AI前沿，Hassabis既兴奋于实现梦想，又深感责任重大。他一生训练为此刻——从象棋、计算机到神经科学。最期待帮助世界安全实现AGI，最担心agent系统自主性提升带来的风险。他呼吁合作，确保收益广泛分配，并思考后AGI社会的经济与哲学问题。
发表于 5 天前
|
查看: 16|
回复: 0
