3月1日，微软首席科学官 Eric Horvitz 在斯坦福大学商学院进行了一场炉边对话。本次对话围绕 AI 的演进曲线、其在生物医疗与教育领域的颠覆性潜力、智能体交互经济体的崛起、AI深度伪造下的信任重构，以及在自动化时代如何保护人类主体性等话题展开。
Eric Horvitz 表示，AI 的影响力应类比为“语言”的诞生，它将通过重塑协作模式来彻底改变人类存在的轨迹。针对当前的行业热潮，他指出我们仍处于 AI部署 的早期阶段，真正的商业机遇隐藏于如何解决核心技术与现有业务流程、组织形式之间的明显匹配错位之中。
01 AI 仍处于部署早期
您曾描述当下是一个将从根本上改变人类存在轨迹的快速变革时期，如果从20年后的视角往回看，您觉得这段时期会被世人如何铭记？
Eric Horvitz: 你提到20年，这很有意思。我经常想象从700年后的时间点回望现在，这段时期一定会在历史书中拥有一个专属的名称。20年是一个有趣的维度。当我听到20年时，我会联想到电力和蒸汽等通用目的技术。蒸汽机在1770年左右出现了第一批实用发明，但大约一百年后它才真正普及。电力在1880年代问世后，也经历了数十年的渗透才产生深远影响。
诚然，AI的演进速度可能比蒸汽或电力快得多。但我认为，20年后回望，我们会将当下视为AI部署和实施的早期阶段。人们会非常好奇当时的我们为何会有那样的远见、焦虑和期待。在蒸汽或电力兴起的年代，恐怕不会有这么多听众像今天这样坐在一起专注地讨论这个话题。所以我认为，未来我们会感叹那是一切起始的时刻，但即使到了20年后，我们仍将处于快速转型的阶段。
在AI素养被高度强调的今天，对于那些身处知识和能力正被AI商品化世界里的MBA及本科生，您有什么投资建议？对于感到焦虑的学生，他们该如何寻找切入点并保持竞争力？
Eric Horvitz: 我最想了解的是，在你们心中，面对这个人类历史的特殊拐点，焦虑与兴奋是如何交织的。我的第一反应是，在管理和商业领域，思考如何部署这些AI技术蕴含着巨大的机遇。
这正说明，当下的业务流程、组织形式与核心技术之间存在着阻抗失配（Impedance mismatch），我们需要思考如何将不断进化的AI技术织入其中。我们对AI的认知也在演变。因此，不要只思考Claude、ChatGPT或Gemini该如何使用，而要深入理解技术的本质，寻找那些在深度思考、决策、管理监督和创造力方面能推动未来发展的机遇。
这里机会无穷。我遇到过不少初创公司，它们正在寻找非常重要的切入点。这些公司观察企业的实践，搞清楚如何获取跨行业的数据集和流程，努力成为特定行业的专家并尝试推广。它们还会利用专业数据集对模型进行微调，使其更契合行业需求。找到你的热情所在，深耕下去，思考AI的相关性，保持跨学科视野。
02 人类如何在人机协作中保持主体性
在建立好奇心与慷慨的文化背景下，如何将人机协作视为一种推动力，让人们去解决以前无法触及的问题？人类应该如何在这场协作中保持主体性并驱动系统？
Eric Horvitz: 几十年来，我一直痴迷于研究计算机如何辅助人类认知、解决问题和探索世界。人机协作的概念大约在25年前出现。我当时就在想，如果能构建一种AI，它能深刻理解人类，知道何时该辅助、何时该加强、何时该隐后，那将非常美好。这不仅是互补性的挑战，更涉及主动权。
很有趣的是，今天有些人正在学习如何使用GPT、Claude或Gemini等通用工具，通过适当的提示词将人类置于驾驶员的位置，带着人性化的目标来驱动系统。我认为这些通用AI工具确实令人惊叹。
与此同时，在2023年感恩节，我那在大学教文学的姐姐跑来质问我：“你对我的学生做了什么？”她发现无论怎么强调，学生们都在依赖工具而不再深度思考。我们当时讨论了未来的路线图：不仅要依靠人类的主观能动性来掌控批判性思维，还要构建那些能够理解并激发人类个性与智力的机器。
作为Microsoft研究院院长，我常问全球实验室的同事：“你真的在可行性的边缘工作吗？”我发现，如果把这些模型推向这种边界，它们能很好地辅助人类去思考前沿的可行性。人们常抱怨早期版本的通用工具会产生幻觉。但在创作小说或构思物理学前沿理论时，这些系统在未知领域产生的想法是非常疯狂且有启发性的。我们可以把它们当作创意的随机引擎，而人类作为过滤器。
03 AI的影响力堪比“语言”对人类的影响
AI是否真的能增强人类繁荣和人类主体性？在数千年的文明跨度中，它扮演着怎样的角色？除了效率提升，它在生物医疗、教育和人类自我认知方面将带来哪些具体突破？
Eric Horvitz: 我先从一个宏观的视角谈起。几年前在GPT-4问世前，我在密歇根大学做了名为坦纳演讲的讲座。当时我提到，AI在数千年乃至数万年的跨度内，其影响力或许能与人类的另一项伟大发明——语言相提并论。语言确实是孕育文明的秘密武器。从长远来看，AI确实会扮演类似角色。
关于医疗突破：我认为在大家有生之年，我们都会经历一场在理解生物学及其医疗应用方面的惊人突破，这些突破将归功于AI，且其进程在未来10到15年内会持续加速。随着由AI驱动的洞察和疗法的兴起，我预计像阿尔茨海默症、渐冻症、额颞叶痴呆等神经退行性疾病将在我们这一代得到攻克。癌症领域亦然。
关于教育应用：在教育领域，我们已经看到了AI的初步应用。这仅仅是某种通用的强大力量在教育领域的初露锋芒，它可以被塑造成卓越的辅导系统，帮助学生进行个性化学习。因此，我认为教育系统将助力劳动力在时代的变革中快速完成技能重塑。
关于人文复兴：在自我认知、知识获取及日常交往中，我们也看到了AI助力人类高效沟通、达成共识并清晰表达观点的曙光。理想情况下，它将引发一场重塑人类初心的文艺复兴，让我们更加专注于优化目标并提升共情能力。
04 智能体交互经济体的崛起
对于MBA学生而言，哪些领域正处于非显而易见的转型边缘？在哪些场景下，AI改变的是工作的经济学逻辑，而非仅仅是效率？
Eric Horvitz: 这是一个非常深刻的问题。首先，我们要为意外做好准备。需要注意的是，一些全新的基础架构正在快速崛起。我目前重点关注的是AI Agent市场。如果十年内，商业买卖和中间环节都由各自的AI Agent代理完成，那会是怎样的场景？那将是一个完整的智能体交互经济体。我们Microsoft团队最近发表了一篇名为《即将来临的智能体市场》的论文，并开发了一个开源模拟工具。
关于系统性痛点：医疗保健是另一个值得关注的原型领域。我们常谈论AI辅助诊断，或使用转录工具简化行政流程。但如果你审视医疗运作的全链路，这其实是一个深度思考复杂系统的原型。目前，我们看到许多初创公司正致力于解决其中的痛点。
回到MBA学生的话题，现在大有可为，重点在于理解洞察力管理、科学决策、目标设定，以及理解流程变更对组织的影响。目前虽然存在焦虑，但掌握管理、商业与AI交叉技能的人才将极具竞争力。
05 AI治理需从厂商保障转向社会化规范
关于真实性与深度伪造的挑战，特别是信任缺失和虚假信息将如何影响我们的生活与工作？在目前大语言模型输出难以进行概率校准的情况下，我们该如何应对这种安全威胁并重构社会信任？
Eric Horvitz: 首先我想强调，尽管大语言模型风头正劲，但我们目前还无法对其输出进行准确的概率校准。当这些系统用于建议和决策时，公众必须提出要求：如果你给出了结论，请告诉我它真实的概率是多少。我需要系统具备经过校准的置信度。这对于构建更安全的系统至关重要。
关于安全治理模式的转型：在安全大局观方面，Microsoft在安全领域投入了巨大精力。但随着模型能力日益增强，我有一种预感，虽然我们绝不会停止对安全技术的追求，但在某种程度上，大模型厂商会变得像电力公司一样，无法保证下游所有使用环节的安全。我们必须转向治理、规范、以及类似于电工和保险商实验室（Underwriters Laboratory）那样的社会实践。我正准备推动这种转型，让社会规范、文化、法律和专业实践成为确保AI安全使用的核心。
关于溯源技术：早在2015年左右，我就预见到了苗头。当时大家觉得深度伪造只是个酷炫的学术演示。我曾发表演讲探讨其潜在走向，没曾想短短十年后，预言已成现实。此后，我向团队及政府部门表达了忧虑：真相与虚构将变得难以分辨。我们的团队在白板前反复推演：能否建立一个系统，让摄像机感光元件捕捉到的每一个光子，都能与最终显示器上的光子建立可认证的链路？这促成了媒体溯源技术或安全加密溯源技术的诞生，它为内容盖上了火漆印，确保其在传输过程中未被篡改。这便是如今C2PA内容凭证标准的前身。
关于社会技术学的权衡：但我们必须更进一步。两天前，我们发布了一份54页的报告，那是内部红队测试的结果。我要求团队去攻击它，看看它会如何出错。好消息是，研究提出了一系列高置信度认证的新方法。即使我们不评判真伪，至少我们能确定信息的来源。这涉及最后一米的挑战：技术有效，但用户相信吗？因此，我们必须从社会技术学的视角综合考量。
06 AI正在如何改变人类之间的辅导关系？
鉴于Eric在Microsoft被公认为最慷慨、最高产的导师之一，AI正在如何改变人类之间的辅导关系？在自动化程度不断提高的世界里，我们要如何确保年轻人依然拥有人类主体性和自尊感？
Eric Horvitz: 对我而言，带学生是我保持敏锐和学习的主要途径。Microsoft的博士实习计划非常出色，我带过150多名学生。这就像一个美丽的大家庭。我60岁生日时，房间里坐满了以前的学生。看到每一张脸，我都能想起我们共同奋斗的那段岁月。
关于主体性的保护：即使在自动化程度不断提高的世界里，这种学徒制、导师制和协作关系依然是核心。我乐观地认为，当世界充斥着AI工具时，我们反而会更加关注那些使之为人尊严的特质：与人共事、向人学习、与团队共同创作。在自动化时代，关怀经济会愈发兴起。人们会更加看重手艺的精湛和艺术的独特性，这将为导师制带来更多机遇。我期待35年后的年轻人依然拥有人类主体性（Human Agency）和自尊感。我相信机器将滋养而非剥夺我们的独立与自主。
07 现场问答
在 AI 部署的下一阶段，关于安全评估和治理标准，最重要的开放性问题是什么？
Eric Horvitz: 关于这一点我有许多看法，但我想先说明，尽管目前业界对大语言模型投入了大量的关注，但我们其实还不知道如何从概率角度对它们进行校准。这些AI正被用于提供建议和辅助决策，在这些场景中，世界必须要求：如果你要表达什么，我需要知道其真实性的概率。我希望AI拥有校准良好的置信度。
关于安全和控制还有很多可以探讨的内容。我最近的一个宏观想法是，我们在Microsoft的安全前沿投入了大量的时间和精力。我们制定了指标和评估体系。但目前这些模型正变得异常强大，我有一种预感，生产这些模型的公司会变得像电力公司一样，无法保证其在使用过程中的绝对安全。我们必须转向治理，转向实践和规范。
随着 AI 在医疗领域变得普遍，未来的主要挑战是提高模型性能表现，还是改进机构使用 AI 做出决策的过程？
Eric Horvitz: 我明白了。这两者当然是相互依存的。如果AI具备更强的诊断和治疗规划能力，这些因素将直接决定一个组织会采取什么行动。如果看当下的情况，我的反应是，你需要深入思考你正在使用的工具。你不能只看模型在Med-HELM这种优秀的临床医学通用指标上的表现，还要看它在你自己的数据集和特定受众群体上的表现如何。
我刚刚在国家医学科学院的一次会议上分享了一个大秘密。我说，各位，大秘密就是这些医疗模型是不具备可移植性的。你不能直接把它们从A医院带到B医院并期望它们运行良好。我们多年前在研究贝叶斯网络模型和传统的机器学习模型时就发现了这一点。因此，不仅要深入思考决策，甚至在转录工作中，你也必须清楚地思考潜在的错误及其意义。事实上，在未来的许多年里，我认为需要通过随机临床试验来了解这些AI工具在不同环境的医疗交付中能提供多少帮助。
关于这一点我最后想提的一点是，在医学领域，FDA以及其他医疗工具监管机构会将诊断任务中的平均表现与安全性问题区分开来。这可以用Tesla的自动驾驶汽车作类比，有人会说Tesla让世界更安全，看统计数据就知道了。但接着会有其他人指出，那是一次惨痛的失败。我们必须解决的不仅是诊断中的平均特异性和灵敏度，还要理解并界定那些惨痛的失败。
您将AI类比为蒸汽革命，认为20年后仍有巨变。这种长期观点如何与当前的资本热潮与炒作结合？大家是在玩一场长期游戏，还是短期内就有颠覆性的变革？
Eric Horvitz: 谢谢你这个非常有先见之明的问题。我认为在某些方面我们会对AI的演进速度之快感到惊讶，在另一些方面又会对其速度之慢感到意外。这取决于许多因素。我确实认为总体上事物的发展会比蒸汽或电力更快。然而，在动态性和转型方面，我们正在处理的是一种在应用过程中自身也在不断进化的基础物质。
对于那些感到兴奋并正在投资的人，我会说尽管去做。过程中会有一些失望，也会有一些巨大的胜利。我希望不会发生的是某种过早的收缩和失望。我们都见过加特纳技术成熟度曲线（Gartner Hype Cycle），问题是，即使热度稍退，现在的火堆里是否还有足够的余烬来保持事物向前推进。
我对公众目前的关注程度感到好奇和兴奋。多年来我们一直听说AI的可能性，但人们并不真正了解它。突然之间，一个易于理解的版本就装在他们的口袋里了。所以你可以理解为什么会有这种兴奋。我们正一步一个脚印地前进，并且看到了一些非常出色的应用，包括材料科学领域的应用以及令人难以置信的蛋白质设计工作。因此我认为现在的热度足以维持合理的投资水平。
文章来源：数字开物。更多关于AI产业的前沿观点与技术探讨，欢迎访问云栈社区的智能与数据板块进行深度交流。
发表于 16 小时前
|
查看: 1|
回复: 0
