图灵：机器与智能

计算机器与智能

COMPUTING MACHINERY AND INTELLIGENCE

https://www.cs.sfu.ca/~oschulte/teaching/320-09/turing.pdf

1. 模仿游戏
   

我建议考虑“机器能思考吗？”这个问题。首先应当对“机器”和“思考”这两个词的含义下定义。这些定义或许可以尽量反映这些词的日常用法，但这种态度是危险的。如果“机器”和“思考”的意义要通过考察它们通常如何被使用来寻找，那就很难避免得出这样的结论：意义以及“机器能思考吗？”这个问题的答案，需要像盖洛普民意测验那样通过统计调查来寻求。但这很荒谬。

与其试图给出这样的定义，不如我用另一个问题来取代原问题，这个问题与原问题密切相关，并且用相对明确的词语来表达。

这个新形式的问题可以用一种我们称之为“模仿游戏”的游戏来描述。游戏中有三个人：一个男人（A）、一个女人（B）和一个询问者（C），询问者可以是任何性别。询问者待在与其他两人分开的房间里。询问者在游戏中的目标是判断出另外两人中谁是男人、谁是女人。他用标签X和Y来称呼他们，在游戏结束时，他要么说“X是A，Y是B”，要么说“X是B，Y是A”。询问者被允许向A和B提问，例如：C：请X告诉我他或她的头发有多长？

现在假设X实际上是A，那么A必须回答。A在游戏中的目标是设法让C做出错误的判断。因此他的回答可能是：“我的头发是短发，最长的一缕大约九英寸长。”

为了使音调不会给询问者提供帮助，答案应当写下来，或者更好是用打字机打出。理想的安排是让两个房间之间通过电传打字机通信。或者，问题和答案可以由中间人转述。第三位玩家（B）在游戏中的目标是帮助询问者。她最好的策略可能是给出真实的回答。她可以在回答中添加诸如“我是女人，别听他的！”之类的话，但这没有用，因为男人也可以说类似的话。

现在我们问这个问题：“当机器代替A参与这个游戏时，会发生什么？” 当这样进行游戏时，询问者做出错误判断的频率，是否与在男人和女人之间进行游戏时一样？这些问题取代了我们原来的问题：“机器能思考吗？”

1. 对新问题的批判
   

除了问“这个新形式的问题的答案是什么”之外，人们还可以问：“这个新问题值得研究吗？” 这后一个问题我们将直接予以探讨，不再赘述，从而切断无穷倒退。

新问题有一个优点，即它能在人的体力能力和智力能力之间划出一条相当清晰的界线。没有哪个工程师或化学家声称能够制造出一种与人体皮肤无法区分的材料。也许将来某一天这有可能做到，但即使这项发明问世，我们也会觉得，试图通过用这种人造皮肤来装扮一台“思考机器”以使其更有人性，并没有什么意义。我们所设定问题的那种形式，在防止询问者看到或触摸其他参赛者、或听到他们声音的条件中，反映了这一事实。

所提出的这个标准还可以通过一些示例性的问答来展示其其他优点。例如：

问：请给我写一首关于福斯桥的十四行诗。

答：这个可别找我。我从来不会写诗。

问：把34957加上70764。

答：（停顿约30秒后给出答案）105621。

问：你会下国际象棋吗？

答：会。

问：我的王在我的K1格，没有其他棋子。你只有王在K6格和车在R1格。该你走。你走什么？

答：（停顿15秒后）车到R8，将杀。

这种问答方法似乎适合于引入我们希望包含的人类任何活动领域。我们不想因为机器不能在选美比赛中表现出色而惩罚它，也不想因为一个人在跟飞机的比赛中落败而惩罚他。我们游戏的条件使这些缺陷无关紧要。“证人”们如果觉得合适，可以尽情吹嘘自己的魅力、力量或英勇，但询问者不能要求实际演示。

这个游戏也许会受到批评，理由是胜算对机器过于不利。如果那个男人试图假装自己是机器，他显然会表现得很差。他会因为算术上的缓慢和不准确而立刻暴露。机器难道就不能进行某种应当被描述为思考、但却与人类所做的非常不同的事情吗？这个反对意见相当有力，但我们至少可以说，如果尽管如此，仍能造出一台令人满意地玩模仿游戏的机器，那我们就不必为这个反对意见而烦恼了。

有人可能会主张，在玩“模仿游戏”时，机器的最佳策略也许不是模仿人的行为，而可能是别的什么。这种情况或许存在，但我认为这种影响不会很大。无论如何，本文无意在此探讨博弈论，并且将假定，最佳策略是试图给出一个人类自然会给出的回答。

1. 游戏中涉及的机器
   

我们在第1节中提出的问题，只有在我们明确了“机器”一词的含义之后，才能完全确定。我们很自然地希望允许在机器中使用各种工程技术。我们也希望允许这样一种可能性：一个工程师或一个工程师团队可能造出一台能工作的机器，但其构造者无法令人满意地描述其运作方式，因为他们采用了很大程度上依赖实验的方法。最后，我们希望排除以通常方式诞生的人类。要制定出同时满足这三个条件的定义是很困难的。例如，人们可以坚持要求工程师团队必须都是同一性别，但这并不能真正令人满意，因为也许有可能从（比如说）一个人的皮肤单细胞中培养出一个完整的个体。这样做将是生物技术上的壮举，值得高度赞扬，但我们不会倾向于将其视为“制造思考机器”的案例。这促使我们放弃允许使用各种技术的要求。我们之所以更愿意这样做，是因为当前对“思考机器”的兴趣是由一种特定类型的机器引发的，这种机器通常被称为“电子计算机”或“数字计算机”。根据这一建议，我们只允许数字计算机参与我们的游戏。

这一限制乍看起来似乎非常严苛。我将试图说明，实际上并非如此。要做到这一点，就需要对这类计算机的性质和特性作一个简要的说明。

也可能会有人说，这种将机器等同于数字计算机的做法，就像我们关于“思考”的标准一样，只有在这种情况（与我的信念相反）下才会令人不满意，即数字计算机最终无法在游戏中表现出色。

目前已经有许多数字计算机在正常运行，有人可能会问：“为什么不直接进行实验呢？游戏的各项条件很容易满足。可以使用多名询问者，并汇编统计数据，以显示正确识别出性别的频率。” 简短的回答是：我们所问的不是是否所有数字计算机都能在游戏中表现出色，也不是现有计算机能否表现出色，而是是否存在可想象出来的、能够表现出色的计算机。但这只是简短的回答。我们稍后将从另一个角度来看待这个问题。

1. 数字计算机

数字计算机背后的思想可以这样解释：这类机器被设计用来执行任何可以由人类计算员完成的操作。人类计算员被假定为遵循固定的规则；他无权在任何细节上偏离这些规则。我们可以假设这些规则记录在一本书中，每当他接手新任务时，这本书就会更换。他还有取之不尽的纸张供他进行计算。他也可以在“台式机”上做乘法和加法，但这并不重要。

如果我们把上述解释当作定义，就会有循环论证的危险。为了避免这一点，我们给出达到预期效果的手段的概要。数字计算机通常可以被认为由三部分组成：
（i）存储器。
（ii）执行单元。
（iii）控制器。

存储器是信息存储的地方，对应于人类计算员的纸张，无论那是他用来计算的纸，还是印有规则书的纸。就人类计算员在头脑中进行计算而言，存储器的某一部分对应于他的记忆。

执行单元是执行计算中所涉及的各种单独操作的部分。这些单独操作是什么，会因机器而异。通常可以完成相当长的操作，例如“将3540675445乘以7076345687”，但在某些机器中，只能执行非常简单的操作，例如“写下0”。

我们已经提到，提供给计算员的“规则书”在机器中由存储器的某一部分替代。这部分被称为“指令表”。控制器的职责是确保这些指令被正确且按正确顺序执行。控制器的构造使得这一点必然发生。

存储器中的信息通常被分成大小适中的数据包。例如，在一台机器中，一个数据包可能由十个十进制数字组成。存储器中存储各种信息包的位置，按某种系统方式分配了编号。一条典型的指令可能是——“将存储在位置6809中的数加到存储在位置4302中的数上，并将结果放回后一个存储位置。”

不用说，机器中不会用英语表达这样的指令。它更可能以诸如6809430217这样的代码形式出现。其中17表示要对这两个数字执行哪一种可能的操作。在这种情况下，该操作就是上面描述的操作，即“将数相加……”。可以注意到，这条指令占用10个数字，因此非常方便地形成了一个信息包。控制器通常会按照指令存储位置的顺序来依次执行指令，但偶尔也会遇到这样的指令：
“现在执行存储在位置5606中的指令，并从那里继续下去”
或者又是：
“如果位置4505包含0，则接下来执行存储在6707中的指令，否则继续顺序执行。”

后一种类型的指令非常重要，因为它们使得一系列操作可以被反复重复，直到满足某个条件为止，而且在这样做时，每次重复执行的不是新指令，而是相同的指令。举一个日常生活中的类比。假设母亲想让汤米每天早上去上学时顺路到鞋匠那里看看她的鞋是否做好了，她可以每天早上重新嘱咐他。或者，她可以在门厅里贴一张告示，汤米出门上学时会看到，告示告诉他去取鞋，并且如果他把鞋带回来了，就把告示撕掉。

读者必须接受这样一个事实：数字计算机可以按照我们描述的原理来制造，而且确实已经被制造出来，并且它们实际上可以非常接近地模仿人类计算员的动作。

我们所描述的人类计算员使用的“规则书”，当然是一种方便的虚构。真实的人类计算员实际上会记住他们必须做什么。如果想让一台机器模仿人类计算员在某个复杂操作中的行为，就必须问他如何做，然后把答案翻译成指令表的形式。编制指令表通常被称为“编程”。“对机器进行编程以执行操作A”意味着将适当的指令表放入机器中，使它能够执行A。

数字计算机概念的一个有趣变体是“具有随机元素的数字计算机”。这类计算机的指令涉及掷骰子或某种等效的电子过程；例如，这样一条指令可能是：“掷骰子，将所得数字存入存储器1000。”有时这种机器被描述为具有自由意志（尽管我自己不会用这个说法）。通常不可能通过观察一台机器来判断它是否具有随机元素，因为类似的效果也可以通过诸如让选择依赖于π的十进制数字之类的装置来实现。

大多数实际的数字计算机只有有限的存储器。在理论上，设想一台具有无限存储器的计算机并不困难。当然，在任何时候都只能使用其中的有限部分。同样，只能构造有限的部分，但我们可以想象根据需要不断增加。这类计算机具有特殊的理论意义，将被称为无限容量计算机。

数字计算机的概念由来已久。查尔斯·巴贝奇，1828年至1839年间剑桥大学卢卡斯数学教授，曾计划制造这样一台机器，称为分析机，但从未完成。尽管巴贝奇拥有所有基本思想，但他的机器在当时并不是一个非常有吸引力的前景。它能达到的速度肯定比人类计算员快，但比曼彻斯特机器（本身已经是现代机器中较慢的之一）慢大约100倍。其存储系统完全是机械的，使用轮子和卡片。

巴贝奇的分析机完全是机械的，这一事实将有助于我们摆脱一种迷信。人们常常重视现代数字计算机是电气的，并且神经系统也是电气的这一事实。由于巴贝奇的机器不是电气的，而且所有数字计算机在某种意义上都是等价的，我们看出这种对电的使用不可能具有理论上的重要性。当然，电力通常出现在需要快速信号传输的地方，因此我们发现它在两者中都有应用，也就不足为奇了。在神经系统中，化学现象至少与电现象同等重要。在某些计算机中，存储系统主要是声学的。因此，使用电这一特征仅仅是一种非常表面的相似性。如果我们想找到这样的相似性，我们更应当寻找功能上的数学类比。

1. 数字计算机的通用性
   

上一节中考虑的数字计算机可以归类为“离散状态机”。这些机器通过突然的跳跃或咔哒声，从一个非常确定的状态移动到另一个状态。这些状态之间的差异足够大，以至于可以忽略它们之间混淆的可能性。严格来说，并不存在这样的机器。一切事物实际上都是连续运动的。但是有很多种机器可以被有效地视为离散状态机。例如，在考虑照明系统的开关时，一个方便的虚构是每个开关要么明确地处于开状态，要么明确地处于关状态。必然存在中间位置，但对于大多数目的，我们可以忽略它们。作为离散状态机的一个例子，我们可以考虑一个轮子，它每秒咔哒转动120度，但可以被一个从外部操作的杠杆停止；此外，在轮子的某个位置，一盏灯会亮起。这台机器可以抽象地描述如下。机器的内部状态（由轮子的位置描述）可以是q₁、q₂或q₃。有一个输入信号i₀或i₁（杠杆的位置）。任一时刻的内部状态由上一个状态和输入信号根据下表决定：

输出信号（即内部状态的唯一外部可见指示，即灯）由下表描述：

状态：q₁ q₂ q₃
输出：o₀ o₀ o₁

这个例子是典型的离散状态机。只要它们只有有限数量的可能状态，就可以用这样的表格来描述。

看起来，给定机器的初始状态和输入信号，总是可以预测所有未来的状态。这让人想起拉普拉斯的观点，即从某一时刻宇宙的完整状态（由所有粒子的位置和速度描述）应该可以预测所有未来状态。然而，我们所考虑的预测比拉普拉斯所考虑的更接近可行性。“整个宇宙”的系统是这样的：初始条件中相当小的误差，可能在以后产生巨大的影响。某个时刻单个电子位移十亿分之一厘米，可能决定一个人一年后是被雪崩砸死还是幸免于难。而我们称之为“离散状态机”的机械系统，其一个基本属性是这种现象不会发生。即使我们考虑实际的物理机器而不是理想化的机器，对某一时刻状态的合理精确了解，也能在之后任意多步内产生合理精确的了解。

给定对应于一台离散状态机的表格，就可以预测它将做什么。没有理由认为这种计算不能通过数字计算机来执行。只要计算能足够快地执行，数字计算机就可以模仿任何离散状态机的行为。然后，模仿游戏就可以用那台被讨论的机器（作为B）和模仿它的数字计算机（作为A）来进行，而询问者将无法区分它们。当然，数字计算机必须具有足够的存储容量和足够快的运行速度。此外，对于想要模仿的每一台新机器，都必须对它重新编程。

数字计算机的这种特殊属性，即它们可以模仿任何离散状态机，被描述为它们是通用机器。具有这种属性的机器的存在，带来了一个重要结果：除了速度方面的考虑外，没有必要为各种计算过程设计各种新机器。它们都可以用一台数字计算机来完成，只需针对每种情况适当编程即可。可以看出，其结果是所有数字计算机在某种意义上都是等价的。

我们现在可以再次考虑§3末尾提出的那个问题。当时暂定建议将“机器能思考吗？”这个问题替换为“是否存在可想象出的数字计算机，能在模仿游戏中表现出色？”如果我们愿意，可以将其表面更一般化，问“是否存在能表现出色的离散状态机？”但鉴于通用性这一属性，我们看到这两个问题中的任何一个都等价于这个：“让我们把注意力集中在某台特定的数字计算机C上。是否可以通过修改这台计算机使其具有足够的存储、适当提高其运行速度，并为其提供适当的程序，从而使C能够在模仿游戏中令人满意地扮演A的角色，而由人来扮演B的角色？”

6. 对主要问题的不同观点

现在我们可以认为基础已经清理完毕，准备开始就我们的问题“机器能思考吗？”以及上一节末尾引用的其变体进行辩论。我们不能完全放弃问题的原始形式，因为对于这种替换是否恰当，意见会有所不同，我们至少必须听取与此相关的说法。

如果我先说明自己在此事上的信念，对读者来说会更简单。首先考虑更精确的问题形式。我相信，大约五十年后，将有可能对存储容量约为10⁹的计算机进行编程，使它们在模仿游戏中表现出色，以至于普通询问者在五分钟的提问后，做出正确识别的概率不超过70%。而原始问题“机器能思考吗？”我认为过于无意义，不值得讨论。尽管如此，我相信到本世纪末，词汇的用法和普遍的舆论将会发生很大变化，以至于人们可以谈论机器思考而不会遭到反驳。我还相信，隐瞒这些信念没有任何用处。那种认为科学家们只是冷酷无情地从确定的事实推进到确定的事实，从不受到任何未经验证的猜想影响的流行看法，是完全错误的。只要清楚说明哪些是已证明的事实，哪些是猜想，就不会造成伤害。猜想非常重要，因为它们提出了有益的研究方向。

我现在开始考虑与我自己的观点相对立的意见。

（1）神学上的反对意见
思考是人类不朽灵魂的功能。上帝赐予每个男人和女人不朽的灵魂，但没有赐予任何其他动物或机器。因此，没有动物或机器能够思考。
我无法接受其中的任何部分，但将尝试用神学术语来回应。如果动物与人被归为一类，我会觉得这个论证更有说服力，因为在我看来，典型的有生命物与无生命物之间的差异，比人与其他动物之间的差异更大。如果我们考虑一下其他宗教团体的成员会如何看待这一点，正统观点的任意性就变得更加明显。基督徒如何看待穆斯林认为女人没有灵魂的观点？但让我们把这一点放在一边，回到主要论证上来。在我看来，上述引用的论证意味着对全能者全能的严重限制。人们承认有些事情祂不能做，比如使一等于二，但我们难道不应该相信，如果祂认为合适，祂有自由赐予大象一个灵魂吗？我们或许可以预期，祂只会将这种能力与一种突变结合起来，这种突变为大象提供了一个适当改进的大脑，以满足这种需要。对于机器的情况，可以提出形式完全相同的论证。这可能看起来不同，因为它更难“吞下”。但这实际上仅意味着我们认为，祂不太可能认为这些情况适合赐予灵魂。这里所指的情况将在本文其余部分讨论。在尝试建造这类机器时，我们并不比生育孩子更不敬地篡夺祂创造灵魂的权力；相反，在两种情况下，我们都是在祂的意志的工具，为祂创造的灵魂提供居所。

然而，这仅仅是推测。无论神学论证被用来支持什么，我都不会对它印象深刻。这类论证在过去常常被证明是不令人满意的。在伽利略时代，有人论证说，“于是日头停住……不急速下落，约有一日之久”（约书亚记十章13节）和“祂立大地根基，使地永不动摇”（诗篇一百零五篇5节）这些经文足以驳斥哥白尼学说。以我们目前的知识来看，这种论证显得徒劳。但在当时不具备那些知识时，它产生了完全不同的印象。

（2）“鸵鸟政策”反对意见
机器思考的后果将过于可怕。让我们希望并相信它们不能做到这一点。
这种论证很少像上面那样公开地表达出来。但它影响着我们中大多数思考过这个问题的人。我们倾向于相信，人类在某种微妙的方式上高于其他造物。最好能证明人类必然是优越的，这样就不会有失去其主导地位的危险。神学论证的流行显然与这种感觉有关。这种情绪在知识分子中可能相当强烈，因为他们比其他人更看重思考的能力，并且更倾向于将他们对人类优越性的信念建立在这种能力上。
我认为这个论证不够实质，无需反驳。安慰或许更合适：也许应该在灵魂转世中寻求这种安慰。

（3）数学上的反对意见
数理逻辑中有许多结果可以用来证明离散状态机的能力存在局限性。这些结果中最著名的是哥德尔定理（1931年），它表明在任何足够强大的逻辑系统中，都可以构造出在该系统内既不能被证明也不能被证伪的命题，除非系统本身不一致。还有其他在某些方面类似的结果，来自丘奇（1936年）、克林（1935年）、罗瑟和图灵（1937年）。后一个结果是最方便的考虑对象，因为它直接涉及机器，而其他结果只能用于相对间接的论证：例如，如果要使用哥德尔定理，我们还需要有某种手段，用机器来描述逻辑系统，以及用逻辑系统来描述机器。这个相关的结果涉及一种本质上具有无限容量的数字计算机的机器。它指出，这样的机器有某些事情是做不到的。如果它被装配好，像在模仿游戏中那样回答问题，那么会有一些问题，它要么给出错误答案，要么无论给多少时间都无法给出任何答案。当然，可能有很多这样的问题，而且一台机器无法回答的问题，另一台机器可能满意地回答。我们当然暂时假设问题是那些适合回答“是”或“否”的问题，而不是像“你对毕加索有什么看法？”这样的问题。我们知道机器必然失败的问题正是这种类型：“考虑如下指定的机器……这台机器会对任何问题给出‘是’的回答吗？”省略号应替换为对某种标准形式机器的描述，这可能类似于§5中使用的描述。当所描述的机器与被询问的机器具有某种相对简单的关系时，可以证明其答案要么是错的，要么给不出来。这就是那个数学结果：有人论证它证明了机器的某种缺陷，而人类智力则不受此限制。

对这个论证的简短回应是，尽管已经确定了任何特定机器都存在能力限制，但只是断言（没有任何形式的证明）这类限制不适用于人类智力。但我认为不能如此轻率地驳回这个观点。每当这些机器中的一台被问到那个适当的关键问题，并给出明确答案时，我们知道这个答案必定是错的，这给了我们一种优越感。这种感觉是虚幻的吗？毫无疑问它是相当真实的，但我认为不应过分重视它。我们自己也太经常给出错误的答案，以至于不能因为机器这种容易出错的证据而沾沾自喜。此外，我们的优越感只能在这样的时候，相对于我们取得小小胜利的那一台机器才能感觉到。不可能同时战胜所有机器。简而言之，可能有人比任何给定机器更聪明，但同样也可能有其他机器更聪明，如此循环往复。

我认为，支持数学论证的人大多愿意接受模仿游戏作为讨论的基础。而相信前两种反对意见的人，大概不会对任何标准感兴趣。

（4）来自意识的论证
这个论证在杰斐逊教授1949年的利斯特演说中得到了很好的表达，我从中引用一段：“只有在一台机器能够因为感受到的思想和情感而写出一首十四行诗或创作一首协奏曲，而不是靠符号的偶然排列时，我们才能同意机器等于大脑——也就是说，不仅仅是写出它，而且知道它已经写出了它。没有一种机制能够（而不仅仅是人为地发出信号，那是一种简单的装置）为自己的成功感到快乐，为自己的保险丝烧断而悲伤，因奉承而温暖，因自己的错误而痛苦，因性而着迷，或因得不到想要的东西而愤怒或沮丧。”
这个论证似乎是否认我们测试的有效性。根据这种观点最极端的形式，要确定一台机器在思考的唯一方法，就是成为那台机器并感受到自己在思考。然后人们可以将这些感受描述给世界，但当然没有人有理由去理会。同样，根据这种观点，要知道一个人在思考，唯一的方法就是成为那个人。这实际上是唯我论的观点。这或许是最合乎逻辑的观点，但它使得思想交流变得困难。A可能相信“A思考但B不思考”，而B相信“B思考但A不思考”。与其为此不断争论，通常采取礼貌的惯例，即每个人都思考。
我确信杰斐逊教授不想采取这种极端的唯我论观点。他很可能非常愿意接受模仿游戏作为测试。这个游戏（去掉玩家B）在实践中经常以口试的名义使用，以发现某人是否真正理解某件事，还是“鹦鹉学舌般地学会了”。让我们来听一段这样的口试：
询问者：你的十四行诗第一行写道“我能否把你比作夏日”，用“春日”是否也一样好或更好？
证人：那不合韵律。
询问者：“冬日”怎么样？那应该合韵律。
证人：是的，但没有人想被比作冬日。
询问者：你会说匹克威克先生让你想起圣诞节吗？
证人：在某种程度上。

询问者：然而圣诞节是冬日的一天，而且我不认为匹克威克先生会介意这种比较。
证人：我认为你不是认真的。说冬日，指的是典型的冬日，而不是像圣诞节这样特殊的日子。
如此等等。如果那台写十四行诗的机器能在口试中这样回答，杰斐逊教授会说什么呢？我不知道他是否会认为这台机器只是“人为地发出信号”来给出这些答案，但如果这些答案像上面那段对话一样令人满意且连贯，我认为他不会将其描述为“一种简单的装置”。我想，这个短语意在涵盖诸如在机器中放入某人朗读十四行诗的录音，并配以适当的开关时不时地将其打开之类的把戏。
简而言之，我认为大多数支持意识论证的人，可以被说服放弃它，而不是被迫采取唯我论的立场。那样的话，他们很可能会愿意接受我们的测试。
我不想给人留下我认为意识没有神秘之处的印象。例如，任何试图定位意识的尝试都带有某种悖论。但我认为，在我们能够回答本文所关心的问题之前，不一定非要解决这些神秘之处。

（5）来自各种缺陷的论证
这些论证的形式是：“我承认你能让机器做你提到的所有事情，但你永远无法让一台机器做X。”在这方面提出了许多特性X。我挑选一些：
善良、足智多谋、美丽、友好、有主动性、有幽默感、能辨别是非、会犯错、会恋爱、会享受草莓和奶油、能让别人爱上它、能从经验中学习、能正确使用词语、能成为自己思想的主体、能拥有像人一样多样的行为、能做真正新颖的事情。
这些说法通常不提供任何支持。我认为它们大多建立在科学归纳原理之上。一个人一生中见过成千上万台机器。从他看到的这些机器中，他得出了一些一般性结论。它们丑陋，每台都只为非常有限的目的而设计，当需要一个稍有不同目的时它们就没用了，它们中任何一台的行为变化都非常小，等等。自然他会得出结论，这些是机器的普遍必然属性。这些局限性中的许多都与大多数机器非常小的存储容量有关。（我假设存储容量的概念以某种方式扩展到涵盖离散状态机以外的机器。确切定义无关紧要，因为本次讨论不声称具有数学精确性。）几年前，当数字计算机还鲜为人知时，如果人们在不描述其构造的情况下提及它们的特性，很可能会引起许多怀疑。这大概是由于科学归纳原理的类似应用。当然，这些原理的应用很大程度上是无意识的。当一个被烫伤的孩子害怕火，并通过避开火来表现他的恐惧时，我会说他在应用科学归纳。（我当然也可以用许多其他方式来描述他的行为。）人类的著作和习俗似乎不太适合作为应用科学归纳的材料。如果要获得可靠的结果，必须研究时空的很大一部分。否则，我们可能会（像大多数英国孩子那样）断定每个人都讲英语，并且学法语是愚蠢的。
然而，对于已经提到的许多缺陷，还有一些特别的话要说。无法享受草莓和奶油，读者可能觉得这很无聊。也许可以制造一台机器来享受这道美味佳肴，但任何尝试这样做都是愚蠢的。这种缺陷的重要之处在于，它导致了其他一些缺陷，例如，在人与机器之间建立像白人与白人之间或黑人与黑人之间那样的友好关系的困难。

“机器不会犯错”这种说法似乎很奇怪。人们很想反驳：“那难道不是更好吗？”但让我们采取更同情的态度，试着理解它真正的意思。我认为这种批评可以用模仿游戏来解释。有人声称，询问者只需给机器和人类出一些算术题，就能区分出机器。机器会因其绝对精确而暴露。对此的回应很简单。机器（为玩游戏而编程的）不会试图给出算术问题的正确答案。它会故意引入错误，以一种旨在迷惑询问者的方式。

机械故障很可能会通过关于在算术中犯哪种错误的不恰当决定而显露出来。即使对批评的这种解释也还不够同情。但我们没有篇幅深入探讨。在我看来，这种批评依赖于混淆两种不同类型的错误。我们可以称它们为“运作错误”和“结论错误”。运作错误是由于某些机械或电气故障，导致机器的行为偏离了它的设计意图。在哲学讨论中，人们倾向于忽略这种错误的可能性；因此，人们讨论的是“抽象机器”。这些抽象机器是数学虚构，而不是物理对象。根据定义，它们不会发生运作错误。在这个意义上，我们可以真实地说“机器永远不会犯错”。结论错误只有在机器的输出信号被赋予某种意义时才会出现。例如，机器可能打印出数学方程式或英文句子。当打印出一个错误的命题时，我们说机器犯了结论错误。显然，完全没有任何理由说机器不能犯这种错误。它可能什么也不做，只是反复打印“0=1”。举一个不那么反常的例子，它可能有某种通过科学归纳得出结论的方法。我们必须预料到这种方法偶尔会导致错误的结果。

批评机器不能有太多样化的行为，只是说它没有大的存储容量的一种方式。直到最近，即使是一千个数字的存储容量也非常罕见。
我们在这里考虑的这些批评，往往是意识论证的伪装形式。通常，如果一个人坚持说机器能做这些事情中的某一件，并描述了机器可能使用的那种方法，往往不会给人留下什么印象。人们认为这种方法（无论是什么，因为它必须是机械的）其实相当低级。比较一下第22页引用的杰斐逊陈述中的括号部分。

（6）洛夫莱斯夫人的反对意见
我们对巴贝奇分析机的最详细资料来自洛夫莱斯夫人（1842年）的一篇回忆录。她在其中写道：“分析机没有自诩能创造任何东西。它能做我们知道如何命令它执行的任何事”（她的斜体）。哈特里（1949年）引用了这句话，并补充道：“这并不意味着不可能建造出会‘自己思考’的电子设备，或者用生物学术语来说，不可能建立一种条件反射，作为‘学习’的基础。这在原则上是否可能，是一个刺激而令人兴奋的问题，是由这些最新发展所提出的。但当时建造或计划的机器似乎并不具备这种特性。”
我完全同意哈特里的观点。可以注意到，他并没有断言所讨论的机器不具备这种特性，而是说洛夫莱斯夫人可获得的证据并不能鼓励她相信它们具备这种特性。所讨论的机器在某种意义上很可能确实具备这种特性。假设某个离散状态机具有这种特性。分析机是一台通用数字计算机，因此，如果其存储容量和速度足够，通过适当的编程，它可以被用来模仿所讨论的那台机器。也许伯爵夫人或巴贝奇没有想到这个论证。无论如何，他们没有义务去声称所有可以声称的东西。
整个问题将在学习机器的标题下再次讨论。
洛夫莱斯夫人反对意见的一个变体声称，机器“永远不能做任何真正新的事情”。这一点可以用一句格言暂时回应：“太阳底下无新事。”谁能确定自己所做的“原创工作”不仅仅是教育在他心中播下的种子的成长，或者是遵循众所周知的一般原理的结果？这个反对意见的一个更好的变体说，机器永远不会“让我们感到惊讶”。这一说法是更直接的挑战，可以直接回应。机器经常让我感到惊讶。这很大程度上是因为我没有做足够的计算来决定它们会做什么，或者更确切地说，是因为尽管我做了计算，但我是匆忙、马虎地做的，还在冒险。也许我对自己说：“我猜这里的电压应该和那里一样；不管怎样，我们就假设它是一样的。”自然我常常是错的，结果让我惊讶，因为到实验完成时，这些假设已经被遗忘了。这些坦白让我在关于我恶习的讲座面前无地自容，但当我证明我所经历的惊讶时，并不影响我的可信度。

我不指望这个回应能让我的批评者哑口无言。他可能会说，这些惊讶是由于我自己的一些创造性思维活动，而不是机器的功劳。这又把我们带回到意识论证，并且远离了惊讶的概念。这是我们必须认为已经结束的论证路线，但也许值得指出的是，欣赏某件事令人惊讶，无论这惊讶事件是来自人、书、机器还是其他任何东西，都需要同样多的“创造性思维活动”。
我认为，机器不会引起惊讶的观点，源于哲学家和数学家特别容易犯的一个谬误。这个假设是：一旦一个事实呈现在头脑中，该事实的所有后果就同时涌现在头脑中。这在许多情况下是一个非常有用的假设，但人们太容易忘记它是错误的。这样做的一个自然结果是，人们随后会认为，仅仅从数据和一般原理中推出结果并没有什么价值。

我们可以期望，机器最终将在所有纯粹智力领域中与人类竞争。但最好从哪些领域开始呢？这甚至也是一个艰难的决定。许多人认为，像下棋这样非常抽象的活动是最好的。也有人主张，最好给机器配备金钱能买到的最好的感觉器官，然后教它理解和说英语。这个过程可以遵循儿童正常教学的方式。事物会被指出来并命名，等等。同样，我不知道正确答案是什么，但我认为两种方法都应该尝试。

我们只能看到前方一小段距离，但我们可以看到那里有很多需要做的事情。

原文链接：https://www.cs.sfu.ca/~oschulte/teaching/320-09/turing.pdf