读《今日简史》时，我被其中关于人工智能与人类关系的章节深深触动。作者的洞见让我深感钦佩，在此分享给大家，希望能提供一个关于AI未来全新而客观的视角。
首先有个好消息：未来几十年，我们大概率不用担心科幻电影里那种AI产生自我意识后奴役或消灭人类的噩梦。我们会越来越依赖算法做决定，但算法本身不太可能有意识地去操纵人类。事实上，它们可能根本不会有任何“意识”。
智能与意识：被科幻混淆的两码事
科幻作品常把智能和意识混为一谈，认为计算机要达到甚至超越人类智能，就必须发展出意识。几乎所有的AI电影和小说，核心情节都围绕着机器“觉醒”的那个神奇时刻。然后呢？不是人机相恋，就是机器灭世，或者两者都有。
但现实是，智能和意识是天差地别的两个概念。智能是解决问题的能力，而意识则是感受痛苦、喜悦、爱与愤怒等情感的能力。 我们容易将两者混淆，是因为对人类和其他哺乳动物而言，智能与意识往往相伴而行——我们靠“感觉”处理很多问题。但计算机解决问题，走的是一条完全不同的路。
提升智能的路径有很多条，其中只有一条需要依赖意识。就像飞机不需要长出羽毛也能比鸟飞得更快，计算机也无需具备哺乳动物的情感，就能更高效地解决问题。是的，AI需要准确分析人类的感受，以便更好地诊断疾病、甄别威胁、推荐伴侣或在人群中安全驾驶。但这并不需要它自己拥有这些感受。算法只需要学会识别快乐、愤怒或恐惧对应的生化模式，而不必亲自去体验这些情绪。
意识之谜：AI究竟能否拥有？
当然，我们并不能绝对断言AI永远无法发展出感受。目前人类对意识本身知之甚少，大致有三种猜想：
- 意识与有机生化过程绑定：这意味着非有机系统（如计算机）不可能拥有意识。
- 意识与高智能绑定：那么计算机在跨过某个智能门槛时，就可能也必须发展出意识。
- 意识独立于生化与智能：计算机有可能具备极高智能却毫无意识，也可能偶然发展出意识。
以目前的知识，我们无法排除任何一种可能。但也正因为我们对意识了解太少，短期内设计出有意识的计算机几乎是不可能的。所以，尽管AI力量强大，但在可预见的未来，其应用在很大程度上仍将以人类的意识为指挥棒。
真正的危险：“自然愚蠢”的增强
这里的危险在于，如果我们只狂热地发展AI，却忽视对人类意识本身的培育，那么拥有先进人工智能的计算机，可能只会放大人类的“自然愚蠢”。
未来几十年，我们遭遇的或许不是机器人叛乱，而是比你的父母更懂得如何触动你情绪的机器人。它们会运用这种能力，精准地向你推销某款车、说服你给某个候选人投票、或让你接受某种意识形态。这些算法能挖掘出我们内心最深层的恐惧、仇恨和渴望，并用它们来对付我们。看看最近的全球选举和公投就能预见到：黑客通过分析选民数据，利用其既有偏见，就能实现精准的个体操纵。
科幻片里的末日总是轰轰烈烈，而真实的末日景象，可能是在一次次的平凡点击中悄然降临的。
失衡的投入：被驯化的“数据牛”
想避免这种结果，逻辑上，每投入一美元、一分钟来提升人工智能，就应该同样投入一美元、一分钟来提升人类意识。但遗憾的是，目前针对人类意识的研究与开发寥寥无几。
我们对人类能力的研发，主要服务于当下经济和政治体系的急迫需求，而不是为了确保人类在未来很久之后，依然是一种保有深刻意识的物种。老板只希望我们回邮件越快越好，谁在乎我们品尝和欣赏食物的能力呢？结果就是我们连吃饭时都在刷邮件，慢慢丧失了感受自身感官的能力。整个经济体系逼着我们优化投资组合，却从未激励我们去扩展和深化自己的同理心。于是，我们花大量精力研究股市波动，却几乎不愿去探究痛苦背后的深层成因。
这让我们很像其他被驯化的家畜。例如奶牛，经过培育后温顺且产奶量高，但在灵活性、好奇心和应变能力上，已远不及野生祖先。我们现在似乎也在培育一种“驯化的人类”，能产生海量数据，并像高效的数据处理芯片一样运转。但这些“数据牛”远未发挥人类的全部潜能。事实上，由于我们对自己心智的了解如此匮乏，甚至无从知晓人类潜能的顶峰是何模样。
我们几乎没投入什么资源去探索人类心智的奥秘，却一心只想着提升网速和大数据算法的效率。长此以往，结局可能就是“退化的人类”滥用“进化的计算机”，既伤害自己，也伤害世界。
超越剥削：无足轻重的未来
未来的危险远不止“数字独裁”。自由主义秩序珍视自由，也同样（或逐渐）重视平等。它强调政治平等，也慢慢认识到经济平等几乎同样重要——没有社会安全网和一定的经济平等，自由只是空谈。
然而，强大的大数据算法在侵蚀自由的同时，也可能创造出历史上最不平等的社会，将所有财富和权力集中在少数精英手中。对大多数人而言，最痛苦的将不再是受到剥削，而是一个更糟的局面：变得无足轻重。
这引发了一个值得所有技术人深思的问题：在追逐效率与智能的浪潮中，我们是否遗忘了什么更本质的东西？关于这些关乎未来的宏大议题，欢迎来云栈社区的开发者广场一起闲谈探讨。
发表于 3 天前
|
查看: 19|
回复: 0
