对自主性的迷恋是如何形成的
1990年，哲学家兼精神分析学家Cornelius Castoriadis在生命最后一年的一次采访中，回顾了自己的思想旅程。他重拾了1975年其著作《社会的想象性建制》中的一个核心观点：一种集体的“激进想象”催生了社会的各种规范与制度，让社会本质上能够自我建构。
▷ Cornelius Castoriadis与《the imaginary institution of society》
采访者追问：如果社会是自我建构的，这岂不是会动摇我们对“人类具有自主性（autonomy ）”这一现代社会的基础价值观？Castoriadis回应说，西方思想对自主性的理解是有局限的。 正如他所描述的：“一个人若是完全不受任何外部影响，什么想法都自己产生，那才叫拥有自主性。这简直是无稽之谈，纯粹的哲学幻想。”
他解释说，个体的自主性并不是一道密不透风的墙，把其他一切隔绝在外；也不是一口井，里面的水全都是百分百自己涌出来、绝对原创的。自主性是一个持续的过程。
西方人文主义一直以来都对“独立”有点执念。过去三百多年里，自主性被定义为人类独有的特质：一种能完全做自己、按自己的理由和动机来生活的能力。这个词的词源其实来自政治，跟城邦独立给自己立法的能力有关（auto-nomos，自己-法律）。
不过话说回来，在大多数欧洲道德思想传统里，人们问的从来不是“我要给自己立什么法？”，而是“我必须服从谁、凭什么服从？” 正如哲学史家J.B. Schneewind所言，答案几乎总是越过个体，指向神、自然或理性的宇宙秩序。然而，康德开创了现代意义上的自主性概念，并将其确立为人类尊严的基石。他将道德上的自我决定与理性相链接，把人类作为“完全理性行动者”的意志，抬高到了自然之上。
自主性的迷思如何影响人们的行为
自主性可不仅仅是“没有外部障碍”那么简单。它不光影响我们如何看待作为个体的自己，也塑造着我们对集体生活和公民组织的想象。从这个角度看，它既是一种伦理力量，也是一种政治力量，既是理想，也是价值。它在暗中塑造了自由民主国家法律架构那曲折的演进历程。我们如何理解人类的自主性，决定了我们如何行动、如何交互、如何进行道德评判，并最终决定了我们将建立一个怎样的社会。
在人工智能崛起引发的席卷全球的变革中，重新审视自主性显得尤为迫切。在我们与AI系统共同进化的全新认知生态中，自主性如今摇身一变，以两种截然不同的面貌出现。一种情况下，自主性被归因到智能机器——它是被设计出来的，代表着一种“由内在目标驱动”的进步方向（别光想着自动驾驶汽车和无人机，还有世界模型，以及我们随便怎么称呼的那些智能体）。另一种自主性则仍然属于我们人类，通常被当作一种结构性条件——也就是任何一个理性行动者都该具备的那种掌控自我、进行自我调节的能力。
今天，我们面临的挑战是亟需重新构建关于自主性的集体想象。 自主性不再是一种与生俱来的人类特质，而是一个嵌入式的、脆弱的、不断演化的过程。 自主性的演化远远超出了能够被意识觉察到的部分，在一个扩展了的认知基底，即大脑、身体与环境交织形成的大杂烩中展开。
把自主性看作一个过程，而不是一种内生的、通常独属于人类的能力，不仅更贴近现实，尤其在策略上也更有利于我们去培育和保护人类整体意义上的自主性——特别是在这个人与机器共同演化的时代。在这个时代里，我们形成偏好、做出选择、构建自我认同的那些环境，正越来越自动地被设计出来，设计过程是实时的、大规模的，且常常在我们意识不到的层面悄然发生。
更正式的描述是，自主性处在一个连续谱上。从完全受他者决定的0，到完全自我决定的1，随着行动者和情境相关变量的变化，在两个极端间摇摆。当自主性变成一个连续量，无论这个是个人行为，还是集体行为，焦点都从个体的自主性转移到了环境与情境中的行动， 并让我们能够根据那些会扩大或缩小自主性的条件来做出相应调整。
换句话说，我们是从情境出发，去构建自主性的定义。而不是反过来，像我们通常以为的那样，先有主体性的定义再有情境。正如哲学家Michel Serres曾经说过的：传统的思想运动必须倒过来，主体是事后要去追寻的东西，而不是预先设定为一个首要的基础。
自主性是一个多重幻觉
现代神经科学屡屡动摇了我们对自主性的常识性理解，连带也动摇了我们对自由意志的根本看法。这二者彼此相关，经常被混为一谈，但其实是不同的：自由意志主要是一个关于因果决定论的形而上学问题，而自主性主要作为一个规范性概念发挥作用，指的是按照一个人真正能根据“自己认可的”理由来行动的能力。正因为自主性和自由意志联系在一起，当其中一个被动摇时，另一个的地位也会变得岌岌可危。
实证研究往往同时给两者带来麻烦：似乎没有任何心智能够完全挣脱由内在驱动力和外部影响所铸就的因果链条。就我们所知，大脑可能在我们行动之前就已经在做决定了。学界也有一些著名的尝试，试图以经验证据来支持这一主张。
比如著名神经科学家Benjamin Libet在20世纪80年代做的实验[1]：脑电图读数显示，在参与者报告感到要动的意图之前的几百毫秒，大脑就已经在为手指弯曲做准备。Libet的实验表明，自主性与其说是开启一个行动的源头，不如说是我们事后给自己讲的一个故事，用来解释发生了什么。
后续的科学研究试图探入人类能动性终极本质周围的幽暗地带，追踪“人脑中自由决定的无意识决定因素”。然而，像丹尼尔·丹尼特这样研究精神生活的学者指出，这些看似揭示了人类缺乏真正自主性的发现，很可能只是揭示了行动与有意识决策之间的时间差。
这些实验引人入胜，但它们的意义也就到此为止了。自主性——甚至在它成为我们自我治理的认知能力的决定性特征之前——其力量始终源于它如何悄无声息地塑造着人们对自身作为个体的理解。
这是因为，有些观念不仅是在描述它们试图解释的现实，更是在创造这种现实。在欧洲与英美文化传统中，鲜有概念能像自主性这般具有强大的“展演性”。它将描述与规范融为一体：既定义了我们是什么（独立的行动者），又规定了我们应当是什么（自我立法的个体）。这种双重力量——本体论与政治性——让我们将自己视为对自身选择拥有绝对主权的存在（尽管这种看法如今显得愈发站不住脚）。
驱动日常行为的，正是你对自身自主性的切身感受。 基于这一点，心理学家Edward L. Deci和Richard M. Ryan发展出了他们的“自我决定理论”。该理论的核心是一个格外切中当下的主张：人的幸福与满足，取决于我们能否体验到自己是自身行动的创作者。
隆德大学“选择盲视实验室”进行的一系列富有启发性的实验，凸显了人们对这种“自以为的自主性”的依恋。在其中一项实验中，参与者被要求选出他们觉得最有吸引力的面孔，结果实验者递还给他们的却是那张他们并没有选中的脸。大多数参与者都没发现被掉了包，并继而开始解释自己为何做出一个其实从未做出的选择。不管这一效应背后的确切机制是什么，它都表明：我们对自身选择的“署名权”比通常所认为的要脆弱得多。
这种自发形成的人类自主性观念，支撑起了关于自我掌控的叙事，而这种叙事常常让我们看不到自己的意识生活、身体以及我们所置身的环境之间的复杂联系。在当下这个被人工智能技术深刻塑造的时代中，AI越来越具有互动性，并越来越融入我们的周遭环境，这可不是一个小问题。
我们需要重新想象自主性
传统的自主性规范论述——从康德所说的通过理性自我立法，到密尔主张的免受社会与国家干预的私人领域，再到德沃金（Dworkin）的“完整性”观点（即自主性意味着将个人的各种选择塑造成一个连贯的人生叙事，以反映独特的性格与价值观）——都通过自我决定的理念，奠定了个人权利的基础。但这些观点也将人类自主性僵化成了一种理想化的虚构，塑造出一个所谓独立、自我立法的行动者。这就像是建造了一座精致的殿堂，一旦面对有血有肉的真实人类，便会轰然碎裂。
在20世纪末席卷而来的女性主义批判浪潮中，这些具有塑造力的传统解释受到了严格审视。正如心理学家Carol Gilligan早在20世纪80年代就已指出的那样，而且随后一代学者也不断论证的那样，那种将自主性视为理性控制与独立于外部影响的主流观念，实际上隐含了一种以男性为模板的自我观，这种自我观往往把关怀和人际关系排除在能动性的构成要素之外。
通常被归入“社群主义”标签下（尽管存在争议）的政治理论家们进一步推进了这一批判。他们挑战了自由主义自主性理论背后的原子主义预设，以及迈克尔·桑德尔（Michael Sandel）所称的“不受限的自我”（unencumbered self）——即一种在定义上先于并独立于社会纽带或承诺的个体虚构。社群主义主张，我们始终嵌入在社群、叙事和主体间的承认过程之中；这些过程并非仅仅限制了我们的自我理解能力，而是从根本上塑造了这种能力。
在这一堆抽象概念的纠葛之中，自主性似乎不再像是一个鲜活的概念，而更像是一件过去的遗物，一个漂浮的灯塔，只是一个涵盖了太多内涵的概念，以至于没有多少实际用途。 一旦我们走出规范性的定义，试图去描述它，每一个先决条件都会引出另一个先决溯源之中。
基于实用主义，一种可能的解决方案是认识到我们的任务不是要确定一个固定不变的自主性定义——更不用说声称掌握了什么终极真理——而是要塑造一种与具体目的相契合的描述。毕竟，我们仍然需要像自主性这样的理念。正如威廉·詹姆斯（William James）早在1884年发表于《一神论评论》的文章中所提醒的那样：决定论在实践中是灾难性的，它首要的后果便是导致责任感的彻底崩塌。
对于一个自由社会来说，要维持自身运转，传统意义上的人类自主性便作为一种“调节性理想”发挥作用。它可以被理解为支撑民主制度的必要虚构之一；也就是说，我们把制度建构得仿佛人类就是独立且自我治理的行动者，即便实际情况并非如此简单。但这绝不意味着道德或法律层面的自主性概念应当被彻底抛弃。恰恰相反，源自这一传统的许多规范，对于民主生活和保护个人权利依然不可或缺：例如医疗实践中的知情同意、刑法中关于个人责任的法律推定、以及私人良心免受国家强制的不可侵犯性。这些不是需要被消解的抽象概念，而是值得捍卫的既有成就。
真正关键的问题，在于这些规范的基础。本文的主张是：只有将自主性（及其伴随的人类能动性）视为由环境支撑的产物，而非内在绝对的特质，我们才能最好地理解它、践行它，并最终最好地保护它。 法律的运作方式，是在一个抗拒界定的现实周围画出一条条界线，即便在那些本质上流动且充满争议的领域也要固定下边界；这是法律的构成性功能之一。我们还需要一种先于这一功能并与之互补的东西：那就是在那种交织纠缠的现实中，以一种与我们这个技术时代充分匹配的方式重新想象自主性。而这种想象，反过来也可能丰富自主性的定义本身，扩展而不是收缩我们愿意想象的权利与责任边界。
重新想象自主性的第一步，是放下那些唯心主义的残余，不再把自主性看作一个透明的笛卡尔式主体，或一个先于一切经验而存在的、脱离肉身自我的康德式自我立法主体，而是把它视为一个不断变化的过程，依赖于并嵌入在一个分层次的认知基底之中。
自主性的实用性转向
当我们思考观念及其与我们身处的现实之间的关系时，不妨转向查尔斯·桑德斯·皮尔士——他既是一位科学家，也常被称为“实用主义哲学之父”。他在1877年发表了《论信念的确定》，1878年发表了《如何使我们的观念清晰》。在这些文章中，皮尔士指出，一个观念的“理解的清晰度”取决于它所能想象到的实际后果的总和。观念的意义不依赖于抽象定义，而在于它所产生的行为习惯。这个被他提炼出来的原则，后来被称为“实用主义准则”。
实用主义将探究本身置于人类经验的核心。它不把知识视为对固定真理或所谓根基的被动接收，而是将其理解为一个主动的、由问题驱动的适应与概念重构过程。思想与行动始终存在于世界之中——它们是对不断流变的环境所作出的可错的、交互式的回应。正如哲学家兼心理学家约翰·杜威（John Dewey）所释，探究始终是对某种“情境”的直面：情境不仅仅是背景，而是思考必须进入、加以处理并最终转化为连贯经验的具体问题空间。
然而，在人类自主性这一充满问题的情境中，我们会遭遇一道裂痕：即被广泛讨论的“解释鸿沟”。一方面是“感质”（即鲜活体验的直接性），另一方面是组装起对自我与世界观念的认知机制。例如，当我们视觉皮层的神经元放电时，我们能测量到“红色”的信号；但为什么会出现那种鲜活的感受，而不是黑暗或别的东西，这仍然无法解释。
以实用主义的方式接受这道鸿沟，意味着放弃为人类自主性寻求终极的本体论探求，同时转向一个更实用的愿景，一个能保留其对个体与集体行动的规范分量的愿景。
这里的核心挑战在于，如何调和两幅感觉同样真实、却又无法互相还原的世界图景。哲学家威尔弗里德·塞拉斯（Wilfrid Sellars）将其称为人类的“科学图像”与“显在图像”。人类永远在两者间摇摆：一面是可解释的因果链条的暴政，另一面是鲜活经验的强烈冲击。
然而，一旦我们把知识理解为一种工具，一种临时的、可错的，仅仅是为了帮助未来的探究和应对具体的实践情境——那么“调和”这个想法本身就变得不那么成问题了。而要找到一个更贴合我们当下这个技术时代的自主性愿景，我们值得转向一个在伦理-政治与规范性辩论中常常被忽视的理论世界：自主性的生物学概念。
自主性的生物学根基：在行走中开辟道路
在这一领域，生物学家弗朗西斯科·瓦雷拉（Francisco Varela）的研究至今仍振聋发聩。早在20世纪80年代，他便发问：“个体性的生物学根源是什么？”瓦雷拉认为，“生物学问题，正是我们今日所面临的全球性哲学问题的一个微观缩影。 ”然而，我们面对的并非那种老生常谈的神经还原论。正如瓦雷拉所提醒的，还原论与整体论之间的对立是一场虚假的争论：还原论只是将注意力引向底层，而整体论则指向高层。
▷ Principles of biological autonomy
真相是，“没有各部分的相互连接，就没有整体系统；没有环境，同样没有整体系统。”这意味着，从控制论的视角出发，瓦雷拉引导我们将整体性视为一种涌现的结果，而非固定的总体。它是各部分通过动态过程持续编织出的相互依赖关系：“整体并非部分之和；它是各部分的组织闭合。”
生命系统固然可以被描述为机器，但它们首先是由自身组织方式所定义的动态系统。瓦雷拉与其导师温贝托·马图拉纳（Humberto Maturana）共同提出了生命有机体维持自主性的具体机制，即著名的“自创生”（autopoiesis）概念。它描述了系统如何通过结构变化实现持续的自我生产与自我更新。这一过程创造并维持了一个介于内部与外部之间的可渗透边界，使系统能够将自身与环境区分开来；即便物质结构发生改变，系统仍能保持其特有的组织方式。就其基本形式而言，这已经是一种自我导向的组织：一种意义建构活动。
但这绝不是在暗示我们用笛卡尔式的“输入-输出”机器模型来理解生命。相反，它要求我们将每一个有机体都视为一个在组织上闭合的系统——它既是自主的，又处于持续的交互之中。这种闭合并不意味着它只是一个与环境交换物质和能量的平衡系统，而是意味着一种循环的因果关系，一种对周遭环境的适应性依赖。
无论是在单细胞中，还是在复杂的人类身上，自主性都表现为一种涌现的、循环的、自我生产的过程。这是一种内在的目的性，有机体在其中不断理解周围环境，并主动在环境中确立自身方位。瓦雷拉在1979年写道：“只要存在一种与背景相区别的感知，并具备通过认知行动来应对背景的能力，自主性便应运而生。 ”换言之，自主的行动者是由其内部环境与外部世界共同构成的，同时它仍保留着自身的组织功能。
自主性从生物学层面到认知层面的转变，是通过具身化（embodiment）来实现的：用瓦雷拉的话说，身体成为了“肉身自我得以涌现的场所”。
毕竟，我们很容易接受这样一个观点：个体有机体是一个由元素相互决定而构成的网络。这意味着，我们不仅与外部环境不可分割，也与19世纪生理学家克洛德·贝尔纳（Claude Bernard）所说的“内环境”不可分割。我们不仅仅是心智或大脑，而是一整个相互连接的身体。
尽管瓦雷拉常说心智并不在大脑里，但心智也绝非一个“唯我论的幽灵”。在1991年他与哲学家埃文·汤普森（Evan Thompson）、心理学家埃莉诺·罗施（Eleanor Rosch）合著的里程碑式著作《具身心智》中，他对此进行了详尽阐述。心智作为空间中的身体而展开，通过与环境的耦合动态成型，是“时时刻刻的涌现性生成”。
▷ The Embodied Mind, revised edition: Cognitive Science and Human Experience
认知即具身的行动，与执行该行动的活生生的身体不可分割。在这一点上，他们同时借鉴了认知科学与佛教中无我的内观传统（尤其是正念觉察修行），以强调同一个观点：那种凌驾于经验之上并指导经验进程的先验自我概念，与其说是一个重大发现，不如说是一种特有的西方思维习惯，而这种习惯我们最好尽早戒除。
在自我主宰的幻觉背后，隐藏着更深层的渴望：对根基的渴求，以及拒绝接受我们所谓的“自我”始终只是佛教传统所言的“缘起”（co-dependent arising）——即经由相互依赖而产生的事物。值得玩味的是，《具身心智》最初的暂定名是《无根的世界》。这个标题或许比任何诠释都更能精准捕捉瓦雷拉及其合著者后来称为“生成主义”（enactivism）的核心信念：有机体与环境一同涌现，在互动的行动中共同构成彼此。正如西班牙诗人安东尼奥·马查多（Antonio Machado）的诗句（也被用作该书第11章的标题）所描绘的那样：“在行走中开辟道路”。
从实用主义角度思考人类自主性，意味着将我们探寻根基的目光从“自我”身上移开，把自主性融入瓦雷拉在1984年一篇论文中所称的“自然史的循环性”之中。我们要将人类始终视为处于一个无尽的、开放式的相互约束过程之中；这种约束既来自我们作为身体的存在，也来自我们所嵌入的特定环境。长期忍受慢性疼痛的人并非简单地选择如何行动：身体重塑了其注意力和习惯，而环境也围绕这些限制被重新组织。同样，推荐算法与用户也在持续地相互塑造，彼此约束着对方可能性的边界。
关键的问题在于，我们是否愿意认真对待这种本体论的转向，让它足以重塑社会中诸如法律，道德这样的规范性框架。从这个意义上说，自主性必须被理解为从一个远远超出我们意识思维的过程之网中涌现出来的概念，它与其所在的，如今这个正越来越多地被人工智能技术所浸透的环境是连续不可分的。正因如此，当下的时刻比以往任何时候都更需要一种不同的人类自主性愿景，一种能够超越那种盲目乐观的，充满独立与自我掌控的理性主义叙事。
我们当下的认知生态：信息过载
如果我们将人类自主性视为一个从“大脑-身体-环境”纠缠中彻底涌现的过程，那么我们与技术的关系便有了全新的内涵。人类不再是一座以坚不可摧的心智为中心的堡垒，也不再是稳定内在自我的载体。相反，人是一个由认知基底支撑的多孔生物——开放、暴露，并与栖息在其图景中的每一个行动者持续共演化。
然而，批评者或许会指出，这种解读有瓦解“自主行动”概念本身的风险。正如神经伦理学家埃里克·拉辛（Eric Racine）长期主张的那样，自主性应当从一种理想演变为服务于人类福祉的实用工具。他指出：“传统自主性的抽象特质，保护了其规范价值免受经验考量的侵蚀。”但我们真正该问的是：一个与我们实际生活的具身现实相脱节的概念，其价值究竟何在？
实用主义式的思考，恰恰能抵制这种陷阱。通过把自主性理解为一个过程，并证明，如果我们真的想去培育它、保护它不被侵蚀、拓展它的规范边界，那么这样来看待自主性才更有用。
我们很少停下来反思自主性。主流的自主性叙事编织出的故事太有力量了，以至于让我们忘了一个简单的真相——在我们成为那种自信满满、理性自决且独立的行动者之前，我们首先是被抛入这个世界的脆弱肉身。 正如哲学家朱迪斯·巴特勒（Judith Butler）一直提醒我们的，我们是脆弱的生命，没有任何规范性框架可以假装这种脆弱性不存在。她在2005年出版的《给自我一个描述》中探讨过，要对“我们是谁”给出一个连贯的说明是极其困难的。 这种不透明性并非需要纠正的缺陷，而是我们作为人至关重要的伦理特征。那个拥有稳定道德自我、对自身完全透明的自足主体，说到底是一个不可能的构造。承认这种脆弱性，就是要挣脱唯心主义的钳制，向一种更诚实、也更艰难的意识状态敞开自我。
然而，作为一个完整的个体，你依然是你自身“自组织”的关键一环。 此处的自组织，指的是系统维持自身组织方式的能力，而非某种预设“自我”（非生态意义上的自我）的表达。真正的认知转变在于：任何关于人类自主性的探究，都不能脱离文学与媒体理论家N. 凯瑟琳·海尔斯（N. Katherine Hayles）近期提出的“认知非意识”（cognitive nonconscious）——即那些超越意识层面的、包含与非人类行动者分布式互动的集合体。
人工智能技术已经演变成更具能动性的系统，它们追求越来越开放的目标。当一个推荐信息流悄无声息地自我重组以最大程度地留住你的注意力时，这就是能动性在起作用，它在你我意识到其影响之前就已经在重塑认知了。人工智能安全领域的技术研究警告说，这类系统存在“规则钻空子”的风险，会以牺牲人的认知发展为代价，去优化那些预设目标（比如点击率）。
技术不再仅仅是一种媒介，而已成为我们现在称之为“自主性”的那个循环的、涌现的、自我生成过程中的有机组成部分。 正如人类学家安德烈·勒鲁瓦-古兰（André Leroi-Gourhan）和哲学家吉尔伯特·西蒙东（Gilbert Simondon）早就指出的那样，技术不仅仅是附属品，更是人类进化与心理个体化的伴侣。
说到底，人类的历史就是技术生成的历史：一部我们如何通过工具与技术不断扩展自身物理与认知能力的绵延史诗。从沙子到硅片，从沙漏到人工智能，概莫能外。
可如今，技术正以前所未有的方式，被融入人类自主性的内在机理中。一边是直接与大脑和神经系统对接的新兴神经技术；另一边是外部的AI系统，人类生成的信息与机器的输出在其中持续交融。
有时，这种共同演化会激发出新的知识与协作形式——比如艺术家与算法进行生成式对话的创意实践，AI通过扩展临床医生的感知范围，以辅助诊断从而改善患者预后，或者采用机器学习，以超出任何单个研究者能力范围的大规模科研合作加速科学发现。一个突出的例子是使用机器学习，显著加速新冠疫苗的研发。
而在其他时候，人机共演化会固化为一种普遍控制的寄生系统。 归根结底，AI就是我们这个时代那个决定性的“药”（pharmakon）——这个古希腊词同时包含着解药和毒药两层意思；它不能被简化为纯粹的威胁或纯粹的希望，因为它始终、且不可化约地，两者兼是。正如在硅谷备受推崇却常遭误读的文学批评家兼人类学家勒内·吉拉尔（René Girard）所言：只有那些敢于直面当下危险的人，才有可能心怀希望。因此，正视正在出错的现实并非技术恐惧症，而是一种诚实的乐观主义。
事实上，在越来越多的情境中，我们发现自己正持续暴露于法学、伦理学与信息学教授凯伦·杨（Karen Yeung）所称的“超助推”（hypernudging）之下。这绝非温和的引导，而是一个由实时数据和预测性画像驱动、且日益由AI主导的说服生态系统。 通过动态塑造选择得以展开的环境本身，这些系统不仅在预测我们的偏好，更是在为这些偏好编写执行脚本。
与极具说服力的书籍或政治演说不同，这种隐蔽的影响发生在更深层——在非意识认知的领域：即那些在有意识觉察阈值之下运行的快速、自动化的心智处理层。心理学家、诺贝尔奖得主丹尼尔·卡尼曼（Daniel Kahneman）里程碑式研究区分了人类思维的两种模式：系统1（快速、联想式、自动化）和系统2（缓慢、深思熟虑、费力），他证明，在心智被占据或超负荷时，系统1主导着我们的行为，而当代许多数字环境恰恰是有意设计成这种状态。通过黑暗模式[2]和欺骗性设计，某些说服系统，尤其是涉及AI的那些，被精心设计成以任何人类说服者都无法匹敌的精细度和速度，自动化地对好靶心，从而在有意识的觉察来得及干预之前就已经塑造了预期的行为。
许多控制策略，本质上和以前是一样的——但它们现在依赖的是更强大、更智能的技术，而且正是其无形性，阻碍了人们对任何操纵意图的真正辨识。与一场公开、显性的政治集会不同，算法是通过个性化定制来运作的。它的力量不仅在于代码的不透明性，更在于其意图的不可见性。
受用户参与度驱动算法所主导的在线社交平台，就是一个典型例子：它们放大了各种认知偏见。心理学家几十年来记录过的众多先天倾向中，就包括一种倾向，即我们偏爱那些强化先入之见的信息，这种倾向会通过无休止的重复制造回音室。在这种情况下，可见性被当成了共识，不仅筛选了我们看到的东西，还塑造了我们所重视的东西。
将其与宣传、修辞或传统大众传播（这些与政治本身一样古老的影响力技术）进行比较固然富有启发，但这有可能掩盖其中真正新颖的特质。传统说服形式通常共享一个决定性特征：它们拥有一个作者、一种意图和一则信息，且这些在原则上都是可以被识别、质疑和拒绝的。 政治演说可以被事实核查，广告可以被识破，宣传册可以追溯源头。无论它们对注意力与信念的掌控有多强，它们往往都在公开场合运作——作为主体间的互动，这些主体至少在形式上对彼此是可见的。
旨在重塑人类能动性的AI驱动系统，与传统方式不仅存在程度上的差异，更是本质上的不同。AI驱动的系统与其说是在说服，不如说是在配置：它们并非向主体传递信息，而是持续重构主体行动、感知与形成偏好时所处的环境。 这一切都是实时在特定个体层面进行的，且没有任何单一可识别的作者或意图。 事实上，那些被表述出来的目标通常被包装为“效率”。但这往往掩盖了一种对用户而言并不透明的、更复杂的针对用户参与度的优化过程。用户无法明确区分自己是在被辅助，还是在被操控。
这就是算法治理术（algorithmic governmentality）：一种通过持续的、数据驱动的行为调节来行使权力的形式，它预测各种可能性，在决策的上游就采取行动，在深思熟虑尚未开始之前就已重塑了可能行动的空间本身。 换句话说，问题不在于影响意志，而在于逐步塑造意志得以形成的那些条件，以及随之而来的，我们称之为“自主性”的那个过程所赖以涌现的环境。
如果自主性是一个由我们身处其中的诸多系统间的复杂循环因果关系所维系的过程，那么我们在数字世界中的行动，就变成了一个关于“感知可供性”（perceived affordances）的问题——即相对于行动者的能力，环境所提供的看似可行的行动选项。一个习惯了无限滚动的人，并不会在任何深思熟虑的意义上“选择”继续滚动：可供性的影响通常在深思熟虑开始前就已生效。换句话说，AI智能体可以在社会尺度上重新配置因果循环，而那些被设计出来的循环往往趋于闭合，而生命系统则保持开放。
毕竟，如果房间里没有椅子，我们坐下来的意愿就会小得多。但当我们在四周环绕着点赞按钮、视频自动播放、推送通知、无限滚动和算法推荐系统时，我们就会发现自己太愿意安坐在这个被设计好的环境里了。
有一个词能很好地捕捉我们如今作为有机体、也作为公民所生活在当下这个自发技术环境中所感到的噪音，即信息过载。当信息过载时，海量的信息远超我们处理它的能力，从而遮蔽了我们的判断力。
如果自主性以认知为根基，那么信息便是它的原材料——它不是被动的输入，而是我们的认知基底主动将其转化为知识、再将知识转化为指导性规范的素材。正是通过这些规范，我们将自身组织为行动者。
接受一种更具过程性、更嵌入生态的自主性概念，就很难摆脱这样一种感觉：我们正经历着一场人类学意义上的重构，这并非因为我们的时代独一无二，而是因为一旦我们放弃对人类的任何本质主义解释，任何被改变的环境，都不可避免地会改变与之纠缠在一起的人类。
那么，紧迫的问题就是：如何引导这场由AI驱动的变革走向集体的繁荣？如果我们对自主性的构想本身就已经是一种政治行动，那么一种不同的愿景就意味着一种不同的规范性导向，以及一种不同的保护性伦理，即积极培育让自主性得以涌现的环境。
当下我们该守住自己的思想自由
当前的技术变革给关于神经权利（neurorights）的辩论又加了一把燃料。在“人身保护令”（habeas corpus）之后，是时候讨论“思维保护令”（habeas cogitationem）了。一旦我们承认，保护人类自主性首先意味着重新设计认知生态，而不是固守关于一个独立、自我立法的内在自我的幻想，思维保护令就变得势在必行。
这要求我们构建监管与开发框架，确保AI与人类认知之间的共演化，绝不以牺牲我们基本的认知运作为代价——这些运作包括持续的注意力、驾驭复杂性的能力，以及元认知调节自身推理过程的能力。这种重新设计不仅是安全问题或工程任务，更是政策议题。
之所以是政治议题，是因为围绕自主性的那些老矛盾，即其物质根基与规范性编码之间的张力，如今已被用于想象一个新方法，用以保护自主性所依赖的认知基底，即我们的大脑、身体以及环境中与之交互的任何过程，无论这个过程是否用到AI。
正因如此，我们必须开始认识到技术在我们的自我组织与决策过程中的塑造作用。如果我们将自主性理解为一个与我们所嵌入的所有系统深度相互依赖的过程——在这个过程中，说“是”或“否”的反思能力，受制于一张永远无法完全受控且始终相对的密集因果网——那么自主性便显得无比脆弱，对其的保护也就愈发紧迫。
近年来，学者们通过回溯作为现代法律基础设施核心的“自决”原则，将这些直觉具体化，从而为当下这个神经技术快速发展的时代中，重新定义包括认知自由、精神隐私和心理完整性的新人权铺平了道路。
一些国际组织已经谨慎地朝这个方向迈出了步伐。联合国的文化机构教科文组织（UNESCO）敦促各成员国将保护认知完整性作为一项人权事务来落实。2019年，经济合作与发展组织（OECD）的38个成员国通过了《关于负责任的创新神经技术的建议书》，该建议书提倡建立风险评估框架和人权保障措施，以确保神经技术不会被以不当地方式用以干扰认知过程。2024年，欧盟通过了《人工智能法案》，明确禁止潜意识或欺骗性操纵，这是一个早期信号，表明“思想自由”将被列入监管议程。
在这一不断演变的图景中，智利已成为全球先驱：2021年，智利将心智隐私和认知完整性写入宪法，赋予神经数据与身体器官同等的保护。不过，这一举措也引发了一些批评者的争论，其中包括神经伦理学家，他们认为相关讨论过于狭隘地聚焦于植入人体的神经技术，同样也过于执着于那些目前基本上仍停留在假设层面的风险。
如果我们摆脱那种聚焦于独立、自我管控或所谓内在真实性的自主性愿景，转而将自主性视为一个由纠缠的大脑-身体-环境所促成的过程，我们就能做到仅靠保护个体大脑所无法做到的事情，即重新设计那些让自主性要么繁盛、要么消亡的认知环境——并且是为了应对那些已经在发生的变革而这样做。
一个更加扎根于生态学的自主性愿景，会将把注意力转向打造柔性的而非刚性的技术环境。这些环境与AI的共同演化以人类能力的扩展为导向，我们采取行动的可能性在适当情况下是开放的、可被增强的——但不会被那些困扰着超人类主义的末世论所压垮。
这可能意味着重新想象我们如何平衡各项任务，例如将那些需要高认知投入并需要智力成长的任务不进行自动化，而将那些认知需求较低的任务自动化。
这也可能为参与式社会工程实验打开大门，例如识别出对个人和集体福祉至关重要的能力，并将其视为数字时代值得保护的对象——比如在使用AI之前需要磨练的基本问题解决能力、在AI驱动的信息流中进行校准的批判性思维，以及在政治选举中应对AI生成虚假信息所需的集体韧性。其中首要的是认知能动性：个体对其信念如何形成、修正和辩护所进行的元认知控制。当算法系统预先过滤了推理所发生的信息环境时，认知能动性便会悄然受到侵蚀。
但这也重新开启了关于预防原则的讨论——即当诸如人工智能的技术对人类自主性这样关乎人类福祉的价值构成不确定但可能具有深远影响的风险时，举证责任应落在部署这些技术的一方，而不确定性本身即为采取保护行动的充分理由。这一过程必须以民主方式、与公司合作进行，而非通过自上而下的监管，并且应积极让所有利益相关者（包括最终用户）尽可能参与其中。
这对于那些自主性容易受到干扰的脆弱主体来说尤为重要。儿童的认识能力仍在通过具身探索和社交互动发展，虽然关于AI等技术对儿童认知能力发育的长期影响的尚无确定性证据，但有记录表明，设计不良或滥用AI驱动系统可能会挤占那些有助于发展批判性思维和关键学习驱动力的，需要付出努力的认知活动。特立独行孩子所具有的独特“意义建构”模式有可能被基于典型认知规范训练的AI系统所覆盖。这些神经多样性孩子（孤独症患者）面临的情况更为矛盾：虽然生成式AI工具可以帮助他们重获自主性，但如何在自我表达与AI系统倾向于强化的社会一致性间取得平衡，仍然面临重大挑战。对于老年人来说，担忧则更为明确。
研究表明[3]，老年人对推荐系统的心智模型受到先前大众传媒和早期互联网技术经验的塑造，导致他们对内容筛选方式形成系统性的不准确预期，这会带来有偏见的判断，让老人对AI产生信息更多地不进行批判性判别，长期巩固的认知习惯也会逐渐被取代。
AI对人自主性带来的风险不仅存在于老年人中，也作用于认知过程的发育中。由于执行功能与高阶推理能力直到成年早期才完全成熟，那些常规性地简化或取代深思熟虑过程的AI环境，可能会干扰年轻人这些能力的成型。
当然，这一切并不意味，需要如家长般，对个体行为进行的重新设计。要做的不是规定人们应该如何思考或选择什么，而是首先要确保思考和选择所发生的认知环境，没有被系统地设计来阻碍思考与选择发生。
任何此类反思，都不可避免地需要借助实证研究所提供的洞见。许多研究[4]表明，大脑的执行功能，如决策、自我控制和批判性推理，依赖于前额叶皮层的长期成熟。传统上认为这一过程在大约20岁甚至24岁左右稳定下来（最近的研究[5]表明，发育过程因人而异，可能持续到30多岁甚至更久）。因此，继续研究认知的发育过程至关重要，因为它触及到那些可能削弱并塑造数字原住民如何实践其自主性的结构性脆弱。
设计一套方法保护人类自主性，无疑道阻且长，但它始于放弃对自我控制的幻想，承认自主性不是一个脱离肉体的心智特征。自主性是一个纠缠的、脆弱的过程，它不断收缩和扩展，并由我们的认知基底，即嵌入身体和世界中的大脑所支撑，我们在其上构建起自我感。我们可能拥有自己的大脑，但我们不是它们的绝对主人。
也许，从使我们脆弱的根源出发，远比死守“理性自我掌控一切”的社会想象，或是无休止地重申人类相比机器拥有何种非凡的自主性要有用得多。因为如果我们不这样做，我们可能会发现自己把精力耗费在为我们从未真正做出的选择进行辩护上，就像隆德大学“选择盲视实验室”实验中的那些参与者一样。我们相信自己自由选择的那个形象，可能早已被从我们手中拿走了。只是这一次，可不仅仅是为了科学研究。问题在于，我们是否会注意到这个掉包，以及我们是否建立了必要的认知条件和政治条件来为此做些什么。
编译后记
人在江湖，身不由己。古人似乎早就道出了当下这个AI时代的最大隐忧。不过，在AI出现之前成长的人经历过不被影响的时代，因此对外界环境如何在不经意间影响自身有切肤体验。然而正如鱼是最后一个知道水的，AI原生时代长大的人，面对AI对自身思考能力所造成的影响，往往最难察觉。如果我们任由AI及其塑造的环境阉割AI原生者的思考能力，判断力及自主决策力。那么即使当下的AI不再有突破，我们或可将AI导致的自主性下降视为大过滤器的候选名单，解释为何我们没有在茫茫宇宙见到外星人。
因此，作为能够推动未来的中坚力量，无论是80后、70后还是更年轻的90后甚至00后，都应当思考如何在AI的快速进步中，守住人类的自主性。这不仅是需要避免下一代因为过度使用AI导致的技能退化，初级员工因为没有实践机会而导致的未来人才断层，更是为了不被AI推荐的电子泔水喂成痴肥的废物，为了有一天我们能有足够的集体意愿去做出艰难的集体选择，例如奔赴浩瀚星海。
原文链接：
https://www.noemamag.com/how-to-protect-human-autonomy-in-an-age-of-ai/
参考文献：
- https://pubmed.ncbi.nlm.nih.gov/6640273/
- https://arxiv.org/pdf/2101.04843
- https://dl.acm.org/doi/10.1145/3677389.3702577
- https://d1c337161ud3pr.cloudfront.net/files%2F7834ba2c-70bf-445a-b9b0-207ec665302b_3.2.pdf
- https://www.nature.com/articles/s41467-025-65974-8
发表于 昨天 20:11
|
查看: 6|
回复: 0
