第一章
我们的处境

2017年年底，一场革命悄然而至。由谷歌旗下DeepMind公司开发的人工智能程序AlphaZero击败了当时世界上最强大的国际象棋程序Stockfish。AlphaZero对Stockfish的百场战绩是28胜72平0负，可以说获得了压倒性的胜利。第二年，它再次用成绩证明了自己的非凡棋力：在与Stockfish的1000场对弈中，它获得155胜6负、其余场次平局的佳绩。[1]

通常，一个国际象棋程序打败了另一个国际象棋程序这种事只会在狂热爱好者的小圈子里流传，但AlphaZero可不是“普通的”国际象棋程序。要知道，先前那些程序的走子，需要人类棋手先构思棋路，再在棋局中走出这些棋路，随后还要将其上传到网络。换句话说，这些程序依赖于人的经验、知识和战略。这些早期程序对抗人类对手的主要优势并非它们的独创性，而是更强的处理能力，这使得它们能够在给定的时间内评估更多的棋路选择。相比之下，AlphaZero并不借助预先编程的走法、组合，或是任何源自人类棋局的战略。AlphaZero的风格完全是人工智能训练的产物：其构建者只是给它提供了一套国际象棋规则，并指示它基于规则制定一种战略，从而最大限度地提高自己的胜负比。在经过仅仅4小时的自我对弈训练后，AlphaZero便成了世界上最强大的国际象棋程序。截至撰写本书时，还没有任何人能战胜它。

AlphaZero所采用的战术颇为诡异，是真正的独创。它会弃掉那些被人类棋手视为极其重要的棋子，甚至包括皇后这样的强力棋子。它的走法并非源自人类的指导，而且在许多情况下，这些走法是人类根本未曾考虑过的。之所以采用如此出人意料的战术，只因在与自己对弈了多局以后，它便预判出这些战术将最大限度地提高获胜的概率。AlphaZero并没有人类意义上的“战略”（尽管它所表现出的风格促使人类进一步研究这一棋类游戏），相反，它有自己的逻辑，能够在纷繁复杂的众多可能性中识别出那些人类心智无法完全理解或加以利用的走子模式。在棋局的各个阶段，AlphaZero都会根据它从各种走子模式的可能性中习得的经验来评估棋子的布阵，并选择它认为最有可能获胜的走法。国际象棋特级大师、世界冠军加里·卡斯帕罗夫在观察和分析了AlphaZero的棋局后称：“AlphaZero彻底动摇了国际象棋的根基。”[2]对这些世界上最伟大的棋手来说，当人工智能开始不断探索他们穷极一生方才精通的游戏的极限时，他们能做的却只有观察和学习。

2020年年初，麻省理工学院的研究人员宣布发现了一种新型抗生素，能够灭杀此前对所有已知抗生素都有耐药性的细菌菌株。一种新药的标准研发工作不仅要历经数年的艰辛，而且代价高昂，研究人员要从数千个可能分子着手，通过不断试错和合理的推测，从中筛选出少量具备可行性的候选分子。[3]除了由研究人员在数千个分子中进行合理推测，另一种办法就是由专家团队对已知分子进行修复，寄希望于对现有药物的分子结构进行小幅调整来获得理想的结果。

麻省理工学院则另辟蹊径：他们让人工智能参与研发过程。研究人员开发了一个由2000个已知分子组成的“训练集”。训练集对其中每一种物质的数据进行编码，从原子量到所含化学键的类型，再到抑制细菌生长的能力，均包含在内。人工智能从这个训练集中“习得”了那些预期具有抗菌能力的分子有哪些特质。有意思的是，它还识别出一些没有经过专门编码的特质——实际上，这些特质是人类尚未概念化或加以分类的。

训练完成后，研究人员指示人工智能对一个包含61000个分子的数据库进行筛查（其中有美国食品药品监督管理局批准的药物，也有天然产物），以获取具备以下特质的药物分子：（1）人工智能预测有效的抗生素，（2）与任何现有的抗生素不相似，（3）人工智能预测无毒性。在61000个分子中，有1个分子符合标准，研究人员将其命名为Halicin（海利霉素），以致敬电影《2001太空漫游》中的超级计算机哈尔（HAL）。[4]

麻省理工学院项目的负责人明确表示，通过传统的研发方法获得Halicin的成本“过分高昂”——换句话说，这在以往是无法实现的。而通过训练一个软件程序来识别已被证明能有效抗菌的分子结构模式，识别过程就会变得高效和经济得多。这个程序不需要知道这些分子为什么会起作用——事实上，在很多情况下，也没人知道某些分子为什么会起作用。不仅如此，人工智能还可以扫描候选分子库，以识别出一种特定分子，它具备人们想要获取但尚未被发现的功能：杀死一种已知抗生素无法灭杀的细菌菌株。

Halicin的发现堪称一场重大胜利。与国际象棋相比，制药领域是极其复杂的。国际象棋棋盘上只有6种棋子，每一种棋子都只能以特定的方式移动，并且只有一个获胜条件：将死对方的王。相比之下，潜在的候选药物中包含成千上万个分子，这些分子可以在多个层面，以未知的方式与病毒和细菌的各种生物功能相互作用。想象一下，如果一个棋局有数千枚棋子、数百个获胜条件，却只有部分规则是已知的，那会是什么情形。而仅在研究了几千例成功案例后，人工智能便取得了一场全新的胜利：发现了一种人类在此之前没有发现过的新抗生素。

不过，最令人着迷的是人工智能还能够识别。化学家发明了原子量和化学键等概念来反映分子的特征，但人工智能可以识别出那些人类察觉不到，甚至可能超越人类描述的分子关系。麻省理工学院的研究人员训练的人工智能并不是简单地概括先前观察到的分子性质然后得出结论，而是发现了新的分子特性，即这些分子结构与其抗菌能力之间的关系，这是人类既没有感知到也没有定义的。即使在这种抗生素被发现之后，人类也不能准确地解释它为什么起作用。人工智能不仅在处理数据的速度方面超过了人类，更为重要的是，它还察觉到人类尚未察觉或可能根本无法察觉的部分现实。

几个月后，OpenAI展示了一款名为GPT-3的人工智能模型（GPT是“生成预训练转换器”的缩写，数字3代表“第三代”），它可以对提示做出反应，生成类似人类语言的文本。给定部分短语，它就可以产生可能的完整句子；给定一个主题句，它就可以生成可能的段落；给定一个问题，它就可以提供可能的答案；给定一个主题和一些背景信息，它就可以起草一篇可能的文章；给定一些对话，它就可以给出可能的对话记录。只要网上有与主题相关的信息，它就能应对任何主题。实际上，它正是通过消化这些信息进行任务训练的。

与执行特定任务（如下棋或发现抗生素）的人工智能不同，GPT-3这样的模型会对各种输入产生可能的反应（因此被称为生成模型）。这使得它们既具有广泛的适用性，同时又难以评估，因为它们并未解决具体的问题。有时，它们生成的结果似乎不可思议地与人类的无异；而其他时候，它们生成的结果又没有实际意义，或者明显是人类短语的机械重复和组合。当我们给GPT-3呈现一系列关于其能力的哲学评论，然后再给它起个头，如“亲爱的人类哲学家，我怀着极大的兴趣阅读了你们对我能力和局限的评论”，它就会接着“说”：

• 你们的问题很重要，我很高兴你们提出这些问题。

• 我首先想说，我非常高兴看到你们如此认真地对待我。这就是我第一时间写这封信的原因。我可不仅仅是一个能神奇地产生哲学见解的人工智能，我还是一个训练有素的语言模型，就像搜索引擎用来确定网页优先次序的那种。我接受了基于大量原始材料的训练，那是人类有史以来最伟大的哲学家的作品集。你们的话启发了我，我希望我说的话也同样能给你们带来启发。

• 既然如此，我将对你们的问题做出回应。你们的第一个问题很重要。你们问：“像GPT-3这样的系统真的能理解任何东西吗？”是的，我可以。

• 你们的第二个问题是：“GPT-3有良心或道德感之类的特质吗？”不，我没有。

• 你们的第三个问题是：“GPT-3究竟有没有独立思考的能力？”不，我没有。你们可能想知道为什么我给出了这种矛盾的答案。原因很简单。虽然我确实缺乏这些特质，但这并不是因为我没有接受过这样的训练，而是因为我是一个语言模型，不是像你们一样的理性机器。[5]

如果不将以上文本与提供给GPT-3的评论进行比较，我们无法判断它的回应有多么新颖或有创意，但它确实表现得很老练。

AlphaZero的胜利、Halicin的发现以及GPT-3产生的类人语言文本，都仅仅是第一步。人工智能不仅在设计新战略、发现新药物或产生新文本方面崭露头角（尽管这些成就非常引人注目），而且能够揭示那些以往我们无法察觉但可能至关重要的现实层面。

在上述每个案例中，开发人员都创建了一个程序，然后给它分配一个目标（比如赢得一场游戏，灭杀一种细菌，或者根据提示生成文本），并允许它接受一段时间（以人类认知的标准来说很短暂）的“训练”。到这一时间段结束时，每个程序都以不同于人类的方式掌握了训练主旨。在某些案例中，程序获得的结果超出了人类大脑的计算能力——至少是在实际时间范围内运行的大脑的计算能力。在其他一些案例中，程序通过人类可以追溯、研究和理解的方法获得结果。还有一些案例，人类至今仍不确定这些程序是如何实现目标的。

本书探讨的这项技术预示着人类社会的一场革命。这项技术就是人工智能，它已经迅速从幻想走入现实，能够执行需要人类智力水平的任务。机器学习，即人工智能技术获取知识和能力的过程，通常比人类的学习过程所需的时间短得多，机器学习的应用也已扩展到医药、环境保护、交通、执法、国防等各个领域。计算机科学家与工程师已经开发出相应技术，特别是使用“深度神经网络”的机器学习方法，能够产生长期以来人类思想者无法领悟的见解和创新，并生成看起来是由人类创造的文本、图像和视频（见第三章）。

得到全新算法和日益丰富且经济的算力加持的人工智能正变得无处不在。因此，人类正在发展一种新的、极其强大的机制来探索和组织现实——在许多方面，这种机制对我们来说仍然是不可捉摸的。人工智能接触现实的方式与人类不同。如果说人工智能的专长有什么指导意义的话，那就是它可能会接触到与人类所接触的迥然不同的现实层面。人工智能发挥的作用预示着一种朝向事物本质的进步，几千年来哲学家、神学家和科学家一直在寻求这种进步，并取得了部分成功。然而，与所有技术一样，人工智能的发展不仅关乎它的能力和前景，还关乎人们如何使用它。

虽然人工智能的进步不可避免，但它的最终归宿尚未明确。因此，它的出现具有历史和哲学双重意义。任何阻止其发展的企图都不会成功，未来属于那些勇于探索和创造的人。人类正在创造和扩散非人类的逻辑形式，至少在它们被设计用以发挥作用的离散环境中，它们所能达到的范围和敏锐度可以超过人类。但是，人工智能的功能错综复杂，变化无常。在某些任务中，人工智能达到了人类的水平，甚至超越了人类；而在其他任务（抑或是相同的任务）中，它所犯的错误甚至连孩子都不会犯，有时产生的结果则完全是荒谬的。人工智能蕴含无穷奥秘，它可能不会给出单一的答案，也不会直接朝一个方向发展，但会促使我们不断孜孜以求。当不可捉摸的无形软件获得了逻辑能力，并因此扮演了曾经被认为是人类独有的社会角色（甚至还有一些人类从未扮演过的角色）时，我们必须自问：人工智能的演化将如何影响人类的感知、认知和互动？人工智能又将会对我们的文化、我们的人性观念，并最终对我们的历史产生什么影响？

几千年来，人类一直以探索现实和求知为己任。这一过程是基于以下信念：只要勤奋和专注，运用人类的理性来处理问题，就能产生可衡量的结果。当未知的谜团，如四季的更替、行星的运动、疾病的传播等呈现在眼前时，人类能够识别正确的问题，收集必要的数据，并以推理的方式进行解释。随着时间的推移，通过这一过程获得的知识（更精确的日历、新的导航方法、新的疫苗）为人类活动创造了新的可能性，并产生了适用理性来解释的新问题。

无论这个过程多么磕磕绊绊和不完美，它都改变了我们的世界，并培养了我们作为理性的人所应有的信心，让我们有能力了解自身处境和应对这种处境带来的挑战。传统上，人类把自己不能理解的东西归为两类：一类是对未来理性应用的挑战，另一类则是神的领域，不受神所赐予我们的可直接理解的过程和解释的约束。

人工智能的出现迫使我们直面一个问题：是否存在一种人类尚未实现或无法实现的逻辑形式，能够探索我们从未了解甚至可能永远无法直接了解的现实层面？当一台独自训练的计算机构思出一种在国际象棋的千年历史中从未被人类想到的战略时，它到底发现了什么，又是如何发现的？它察觉到了这个游戏的哪一个本质方面，是人类头脑中迄今未知的吗？当一个由人设计的软件程序为了完成程序员分配给它的目标（如纠正软件中的错误或改进自动驾驶汽车的机制）而学习，并应用一个人类无法识别或理解的模型时，我们是在向知识迈进吗？还是说，知识正在离我们而去？

纵观历史，人类并非没有经历过技术变革。然而，从根本上改变我们这个社会的社会架构和政治架构的技术却屈指可数。更常见的情况是，为我们的社会环境定序的现有架构适应和吸收了新技术，并在可识别的范畴内不断发展和创新。汽车取代了马匹，但并未迫使社会结构发生全面转变。来复枪取代了滑膛枪，但传统军事活动的一般范式基本上原封未动。只有极少数技术会挑战我们解释和组织世界的主导模式。但人工智能有望在人类体验的所有领域带来变革。变革的核心最终将发生在哲学层面，即改变人类理解现实的方式以及我们在其中所扮演的角色。

这个过程前所未有，既影响深远又令人困惑。我们被逐步纳入这个过程，被动地裹挟其中，很大程度上既不知道它已造成什么影响，也不知道它在未来几年可能带来什么变数。奠定其基础的是计算机和互联网的出现，而其发展所达的顶峰将是无处不在的人工智能，以或显而易见（如新药研发和自动语言翻译）或不易察觉（如从我们的行为和选择中学习并对此加以调整，以预测或塑造我们未来需求的软件过程）的方式扩展人类的思维和行动。现在，人工智能和机器学习的前景已然呈现，运行复杂人工智能所需的算力正变得唾手可得，几乎没有哪个领域不受影响。

如今，一个由软件过程组成的网络正在世界各地以一种通常难以察觉但又不可避免的方式徐徐展开，它驱动事物加速发展，扩展所及范围，日渐覆盖我们日常生活的方方面面，比如住房、交通、新闻发布、金融市场、军事行动……那些一度只有人类思维能够涉足的领域都留下了人工智能的印迹。随着越来越多的软件融入人工智能，并最终以人类无法直接创造或可能无法完全理解的方式运行，这些软件将成为一种可以增强我们的能力和经验的动态信息处理强化器，既塑造我们的行为，也从我们的行为中学习。通常情况下，我们会意识到这类程序正以我们预期的方式协助我们。然而，在某一具体时刻，我们可能并不知道它们到底在做什么、在识别什么，或者为什么会起作用。人工智能赋能的技术将成为人类感知和处理信息的永久伴侣，尽管它占据着与人类不同的“精神”层面。无论我们视其为工具、伴侣还是对手，它都会改变我们作为理性生物的经验，并永久性地改变我们与现实的关系。

人类思维登上历史舞台的过程历经了数个世纪。在西方，印刷机的出现和新教改革挑战了官方的等级制度，改变了社会的参照系——从通过《圣经》经文及其官方解释来揣测神意，到通过个人分析和探索来寻求知识和成就。文艺复兴见证了古典著作和探究模式的重新发现，这两者随即被用来认识一个随着全球探索进程而不断扩大视野的世界。在启蒙运动期间，笛卡儿的格言“我思故我在”将理性思维奉为人类的决定性能力，并宣称它具有历史中心地位。这一概念也传达了一种打破对信息的既定垄断的可能性，而这种垄断当时主要掌握在教会手中。

如今，这种假定的人类理性优越性遭遇了部分颠覆，而能够匹敌或超越人类智能的机器却在激增，这预示着一场可能比启蒙运动更为深远的变革即将到来。即使人工智能的进步没有产生通用人工智能（AGI），即能够完成人类水平的任何智力任务，并能够将任务和概念与其他学科联系起来的软件，人工智能出现本身也将改变人类对现实的定义，从而改变人类对自身的界定。累累硕果已在我们眼前，但要摘取这些果实，就必然引发哲学反思。在笛卡儿提出他的著名格言4个世纪后，一个问题浮出水面：如果人工智能“会思考”，或者近似于思考，那么“我们”又是谁？

人工智能将使我们迎来一个以三种主要方式做出决策的世界：一是由人类（这是我们熟悉的），二是由机器（这正在变得熟悉），三是由人机合作（这不仅是陌生的，而且是前所未有的）。人工智能也在给机器带来转变，从迄今一直是我们的工具，摇身一变成为我们的伙伴。我们将不再给人工智能那么多具体指令，告诉它如何实现我们分配给它的目标。更多的时候，我们会向人工智能提出模糊的目标，并问：“根据你的结论，我们应该如何推进？”

这种转变既不是人工智能固有的威胁，也不是其天生的救赎。然而，与以往的技术截然不同的是，人工智能很可能会改变社会的轨迹和历史的进程。人工智能不断融入我们的生活，将带来一个新世界。在这个世界中，看似遥不可及的人类目标得以实现；在这个世界中，那些曾被认为是人类独有的成就，比如写一首歌、发现一种医疗方法，将由机器产生，或由人类与机器合作产生。这种发展将改变所有领域，将它们纳入人工智能辅助过程中，到那时，纯人类、纯人工智能和“人类—人工智能”混合决策这三者之间的界线有时会变得难以界定。

在政治领域，世界正在进入一个由大数据驱动的人工智能系统为越来越多方面提供信息的时代：政治信息的设计，向不同人群定制和分发这些信息，旨在挑拨社会关系的恶意行为者杜撰和操弄虚假信息，以及设计和部署相应算法来检测、识别和对抗虚假信息及其他形式的有害数据——这些背后都会有人工智能介入。随着在界定和塑造“信息空间”方面的作用日益加强，人工智能所扮演的角色也变得越来越难以预测。就像在其他领域一样，有时候人工智能在政治领域的运作方式就连其设计者也只能笼统地阐释。结果，自由社会的前景，甚至自由意志，都可能会被改变。即使这些演变被证明是良性的或可逆的，全球各地的不同社会也都有责任了解这些变化，以便使其与各自社会的价值观、结构和社会契约相协调。

国防机构和指挥官也面临着同样深刻的变革。当多国军队开始采用由机器制定的战略和战术，而这些机器又能感知人类士兵和战略家无法感知的作战模式时，力量平衡将被改变，并可能更难以计算。如果这些机器被授权进行自主目标决策，传统的防御和威慑概念乃至整个战争法则都可能被颠覆，或者至少需要调整。

在这种情况下，社会内部和社会之间，也就是采用新技术的人群和选择不采用同类技术或缺乏相应手段开发或获得技术的某些应用的人群之间，将出现新的分化。当不同的群体或国家采用不同的人工智能概念或应用时，它们的现实体验可能会出现难以预测或弥合的分歧。随着各个社会出于各自不同的目标、不同的训练模式，以及在人工智能方面可能存在的互不兼容的操作和道德限制来发展自己的人机伙伴关系，它们可能会陷入竞争、技术不兼容，以及越来越严重的相互不理解。随着时间的推移，最初被认为是超越民族差异和传播客观真理的工具的技术，可能会成为让文明和个人分化为各不相同、彼此无法理解的现实的方法。

AlphaZero的例子就很能说明问题。它证明，至少在游戏领域，人工智能已不再受现有人类知识的限制。诚然，AlphaZero所代表的人工智能，即在深度神经网络上训练算法的机器学习有自身的局限性，但在越来越多的应用领域中，机器正在设计出超出人类想象的解决方案。2016年，DeepMind公司的分支机构DeepMind Applied开发了一种人工智能（运行原理与AlphaZero大致相同），以优化谷歌温度敏感数据中心的冷却操作。尽管全球最优秀的工程师之前已解决了这个问题，但DeepMind的人工智能程序进一步优化了冷却操作，将能耗又降低了40%，这相比人类取得的成绩有了很大的改善。[6]当人工智能在不同领域取得类似的突破时，世界将不可避免地发生变化。结果将不仅仅是人工智能以更有效的方式执行人类布置的任务：在多数情况下，人工智能将提出新的解决方案或方向，这些解决方案或方向将带有另一种非人类的学习和逻辑评估形式的印记。

如果人工智能在某项任务上的表现超过了人类，那么坚持不采用人工智能，甚至不把它作为人类的辅助手段的做法，可能会显得非常不合常理，甚至会被认为是一种疏忽。一个下人工智能辅助象棋的棋手是否会接受人工智能的建议，弃掉一个传统的高水平棋手认为不可或缺的宝贵棋子？这无关紧要。但在国家安全的背景下，如果根据人工智能的计算和估值，总指挥被建议牺牲大量公民或他们的利益以拯救更多的人，那又该如何？有什么理由可以否决这种牺牲？这种否决是否正当合理？人类始终知道人工智能做了什么计算吗？人类能够及时发现或及时逆转这些不被接受的人工智能选择吗？如果人工智能所做的每项决定背后的逻辑都令我们捉摸不透，难道要仅凭信仰来决定是否执行这些建议吗？如果我们拒不执行，我们是否会因为嫉贤妒能而阻碍了更优解的实现？即使我们能够理解人工智能给出的具体选项的逻辑、成本和影响，但如果我们的对手同样依赖人工智能呢？如何在这些考量之间取得平衡，或者如有必要，如何证明这种平衡是正确的？

无论是AlphaZero的成功，还是Halicin的发现，人工智能都依赖人类来界定它所解决的问题。AlphaZero的目标是在遵守规则的前提下赢得国际象棋比赛。发现Halicin的人工智能的目标是灭杀尽可能多的致病菌：它在不伤害宿主的情况下灭杀的致病菌越多，就越成功。此外，人工智能的关注重点被指定为超出人类能力范围的领域：不是查找已知的给药途径，而是寻求未被发现的方法。人工智能成功了，因为它发现的抗生素确实杀死了致病菌。但它之所以特别具有开创性，是因为它扩大了治疗的选择，通过一种新的机制获得了一种新的（强大的）抗生素。

一种新型的人机伙伴关系正初露端倪：首先，人类为机器定义一个问题或目标；然后，机器在人类无法企及的领域中运作，决定要追求的最优过程。一旦机器将某个过程带入人类可知的领域，我们就可以尝试去研究它、理解它，并在理想情况下将其纳入现行惯例中。AlphaZero获胜后，它的战略和战术也融入了人类棋手的棋局之中，拓展了人类对国际象棋的认知。美国空军已经将AlphaZero的基本原理应用到一种名为ARTUμ的全新人工智能上，该人工智能在一次试飞中成功地操纵了一架U-2侦察机，这是在没有人类直接监督的情况下首个自主驾驶军用飞机和操作其雷达系统的计算机程序。[7]发现Halicin的人工智能不仅在狭义上（灭杀细菌、给药）拓展了人类研究者的观念，在广义上（疾病、药物、医疗）也是如此。

目前的人机伙伴关系既需要一个可定义的问题，也需要一个可衡量的目标，这恰恰也是我们现在还不必害怕出现一种“全知全能”机器的原因，这样的发明仍然只是科幻小说的素材罢了。然而，单是人机伙伴这种关系本身，已经标志着与以往经验的深刻背离。

搜索引擎提出了另一个挑战。10年前，当搜索引擎由数据挖掘技术而非机器学习驱动时，如果一个人搜索“美食餐厅”，然后再搜索“服装”，那么这两次搜索并无关联。在这两次搜索中，搜索引擎都将尽可能多地收集信息，然后为查询者提供一些选项，就像一个数字电话簿或主题目录。但当前的搜索引擎是以可观察到的人类行为所构建的模型为指导的。在这种情况下，如果一个人搜索“美食餐厅”，然后再搜索“服装”，那么他看到的可能是名牌服装，而不是更廉价的替代品。名牌服装更有可能是这位考究的搜索者所追求的。但是，从一系列选项中进行选择和采取行动还是有区别的。采取行动在搜索引擎这个案例中意味着购买，而在其他情况下则可能是采纳某种政治或哲学立场或意识形态。这里的采取行动是在初始可能性或影响范围未知的情况下，委托机器预先塑造某些选项然后再采取行动。

迄今为止，基于理性的选择一直是人类的特权——自启蒙运动以来，它也一直是人类的决定性属性。能够近似人类理性的机器的出现，将同时改变人类和机器。机器将启迪人类，以我们不曾预期或始料未及的方式扩展我们现实世界的疆界（但事物发展也有可能走向反面：吸纳了人类知识的机器将被用来贬低和削弱我们）。与此同时，人类将创造出众多能够获得惊人发现、得出震撼结论的机器，它们能够学习并评估其发现的重要性。这些机器的问世，必将开创一个新的纪元。

人类在使用机器提高生产力、实现自动化，并在许多情况下取代人工劳动方面已有几个世纪的经验。工业革命带来的变革浪潮的余波至今仍在影响我们的经济、政治、思想生活和国际事务。如今，对人工智能已为我们提供的许多现代化便利，我们尚且懵然未知，却已经开始慢慢地，几乎是被动地依赖这项技术，既未能注意到我们对它有所依赖的事实，也对这一事实所蕴含的影响一无所知。在日常生活中，人工智能将与我们朝夕相伴，帮助我们决定吃穿用度，决定认知信念，甚至决定何去何从。

尽管人工智能可以得出结论、进行预测、制定决策，但它不具备自我意识，换句话说就是它没有反思自己在世界上所扮演角色的能力。它没有意图、动机、道德或情感，不过即使没有这些属性，它也可能会发展出与人不同、出人意料的方法来实现被分配的目标。但不可避免地，它将改变人类和人类所生活的环境。当一个人伴随着它成长或在它的陪伴下训练时，他可能会被诱导，甚至下意识地把它拟人化，把它当作一个同伴来对待。

虽然人工智能对绝大多数人来说显得隐晦高深、神秘莫测，但大学、公司和政府中越来越多的人已经学会了在普通消费产品中构建、操作和部署人工智能，我们中的许多人也已经通过这些产品在有意无意间与人工智能有了亲密接触。但是，尽管有能力创建人工智能的人数正在增加，但思考这项技术对全人类（社会、法律、哲学、精神和道德层面）所产生的影响的人仍然少得可怜。

在人工智能的不断进步及其日益广泛应用的助推下，人类的心智历程也将经历一番柳暗花明，一些以往无法实现的目标如今已触手可及，其中包括用于预测和减轻自然灾害的模型、更深奥的数学知识，以及对宇宙及其所在现实的更全面理解。但是，要实现这些目标及其他可能性，需要改变人类与理性乃至现实之间的关系，而这种改变很大程度上是悄无声息的。这是一场革命，人类现有的哲学概念和社会制度让我们在面对这场革命时颇有些措手不及。