原文标题：一说 AI 会思考，祖师爷图灵就发笑：“这个问题无意义，不值得讨论”
原文作者：图灵编辑部
冷月清谈：
- 图灵认为争论“机器是否能够思考”是“无意义的，不值得讨论”。
- 他通过“模仿游戏”提出了衡量机器智能的方法，即由人类观察者无法通过对话区分机器和人类。
- 神经生理学家杰弗逊认为机器没有意识，不能思考，笛卡尔的“语言测试”是辨别机器和动物的有效方式。
- 香农、麦卡锡等学者支持图灵的观点，认为随着技术的进步，机器可能会获得自我意识。
- 图灵-1948 提出的人工智能三条演进路线：逻辑派、神经网络、强化学习。
- 布鲁克斯认为图灵-1948 比图灵-1950 更全面，因为前者探讨了“具身智能”。
- 图灵的“智力”定义不包括“体力”，他认为 AI 应该聚焦于非具身领域。
- 图灵-1950 用模仿游戏衡量“智力”，隐含了“语言即思维”的观点。
- 杰弗逊预言皇家学会将不会接纳机器会员，但 AI4Science 的进步可能很快改变这种情况。
怜星夜思：
2、图灵-1948 和图灵-1950 中人工智能三条演进路线（逻辑派、神经网络、强化学习）最有前途的是哪一条？
3、人工智能的发展是否会对人类社会产生负面影响？
原文内容
本文转载自公众号量子位
大模型风靡全球，有人和 AI 助手搭伙工作，还有人 AI 智能体谈起赛博恋爱。
最前沿的 GPT-4o 模型，甚至做到同时能听、能看、能说……
一个人工智能学科诞生之初就争论不休的问题，又被抬到水面：
机器究竟能思考吗？
知名学者斯坦福李飞飞最近就此发声：不，大模型不具备知觉，参数再多也不行。
图灵奖三巨头之一 Geoffrey Hinton，和他的学生 OpenAI 前首席科学家 Ilya Sutskever 却都认为：随着时间的推移，AI 系统可能会获得自我意识。
更早一些时候，2022 年夏天，被谷歌开除的工程师 Lemoine 警告公司认为“LaMDA 模型已经有了知觉”，一时轰动科技界。
此事件也被认为是让 OpenAI 感到竞争压力，提前把 ChatGPT 发布出来的原因之一。
……
其实这个问题，早在人工智能还只是概念的时候，就有很多大佬深入探讨过。
比如“祖师爷”图灵本人，就曾与当时的学者展开一系列精彩辩论。
相信无论是专业研究人员，还是对人工智能感兴趣的科技爱好者，都能从图灵的思想中获得启发与思考。
机器能思考吗？
对这个问题的回答，在 1948-1952 年大致可分为如下两派：那些已经了解计算机研制进展及其理论的人和那些不了解的人。
前者中回答 yes 的比例肯定比后者要高得多。
图灵、香农、阿什比（Ross Ashby）、维纳（Wiener）属于前者，而神经生理学家杰弗逊和哲学家维特根斯坦等属于后者。
在《哲学研究》里维特根斯坦曾经自问自答“机器能思考吗？‧‧‧‧‧‧ 机器肯定不能思考！‧‧‧‧‧‧”
Could a machine think? …But a machine surely cannot think!…（见 Philosophical Investigationss359-366, s281）。
由此可感觉到：维特根斯坦一方面也有人类中心主义倾向，另一方面，也透露出某种小集体唯我论倾向，即认为意识（包括思维和感觉）是人类所独有的。
这个问题也可以从两个不同的角度分别陈述如下：
-
外延的陈述：机器能模拟思维吗？
-
内涵的陈述：能模拟思维的机器算是能思考吗？
图灵认为“机器能思考吗”这个问题“无意义，不值得讨论”（too meaningless to deserve discussion）。
于是，他的辩论策略是从外延下手。
“脑与心”（brain and mind）是当时英国知识圈的时髦话题。曼彻斯特机器（Manchester Baby和Mark 1）的成功、维纳《控制论》的出版以及美国科学家的访问都是促成因素。
作为最早的可编程计算机，曼彻斯特机器在某种意义上比美国的 ENIAC 更加先进，这个事实为二战后自尊破碎的英国挽回点面子。《泰晤士报》和几家报纸做过几次报道和采访，哲学家波拉尼（Michael Polanyi）、数学家纽曼和图灵等都是采访对象。
伦敦、剑桥都有相关的周末俱乐部，最出名的是剑桥大学的青年才俊们 1949 年组织的“计算俱乐部”（Ratio Club，拉丁文 ratio 有“计算”的含义），其中几个活跃分子是神经生理学家和精神病学家，例如后来成为控制论吹鼓手的阿什比，当然也少不了数学家，例如图灵的学生罗宾·甘迪（Robin Gandy）、图灵在布莱切利庄园做密码学工作的助手之一古德（Jack Good）和伍德华（Philip Woodward）。
值得指出的是：麦卡锡晚年在接受采访时承认“人工智能”这个词他也是从别人那儿听来的，伍德华得知后马上给英国的《新科学家》杂志写信说是他 1956 年访问麻省理工学院时告诉麦卡锡的。但 1955 年麦卡锡等人提交的达特茅斯会议的建议书就明确以“人工智能”为题了。
维纳、香农、麦卡洛克（Warren McCulloch）等在这段时间都陆续访问过英国，甚至参加过俱乐部的活动，活动主题包括控制论、计算机、计算机下棋、电子大脑等。
杰弗逊是当时英国神经科学领域一等一的人物。他是英国第一个神经外科教授，他因为 20 世纪 30 年代最早做了额叶切除手术而出名，他学术生涯的绝大部分时间是在曼彻斯特大学度过的。杰弗逊 1943 年被封 CBE 勋位，图灵 1946 年被封 OBE 勋位，这两种勋位都不能称“Sir”。杰弗逊 1950 年勋位提升，获得 Sir 头衔。
△杰弗逊（Geoffrey Jefferson，1886—1961），英国神经生理学家
他和图灵应该是在后者到曼彻斯特大学之后才相互认识的。他德高望重，人脉广泛，喜欢参加当时的各种交叉科学的活动。而“思维”“感觉”“意识”这些杰弗逊认为属于自己地盘的术语，此时却被数学家们天天念叨，着实令他不爽。
1948 年杰弗逊因对外科学的贡献获李斯特奖章。他利用这个机会宣传自己的哲学观点：机器没有意识，机器不能思考。
他演讲的第二天就接受了 BBC 的采访，这触发了后来 BBC 一系列相关节目，使得机器和智能的讨论成为公众话题。他的思想的反面都在同校的数学系——纽曼、哈特里、图灵，于是 他用“数学家”统称与他对立的人。
事实上，其中也不乏工程师和物理学家。他最早是从曼彻斯特大学电子工程系主任威廉姆斯处听说电子计算机的，但他的多数关于计算机和神经系统的关系的知识来自维纳的《控制论》。
△杰弗逊的演讲稿《机器人之心》发表在《大英医学杂志》上
1950 年，图灵在“图灵–1950”（《计算机与智能》）中的一节“来自意识的异议”就是对杰弗逊观点针锋相对的回答，当时他仔细阅读过《机器人之心》，现在图灵档案中就有被图灵涂鸦过的杰弗逊文章的影印本。
杰弗逊文中有一节“笛卡儿的假设”（Descartes’s Postulation）。相较于区别机器和人，笛卡儿认为区别机器和动物更加难，因为机器很难过得了语言这一关。这被称为笛卡儿的“语言测试”。
于是很多人认为图灵是受到杰弗逊的刺激才想出“图灵测试”的，此言差矣。图灵–1948（即图灵 1948 年给 NPL 写的题为《智能机器》的报告）的结尾已经明确提出了模仿游戏。不夸张地说，图灵整篇文章都是把杰弗逊当作辩论对手或者被教育的读者的。
毋庸置疑，在他们正式写下各自的观点前，在私下非正式场合，应该多次面对面交锋过。值得注意的是，图灵的名字并没有出现在杰弗逊的文章中，杰弗逊文章提到的计算机工程师是同校的电子工程系主任威廉姆斯（Frederick Williams），他是第一台存储程序计算机 Manchester Baby 的负责人。
也许杰弗逊认为图灵作为晚辈不值得一提，也许在他内心真正的对手是图灵。图灵死后，在接到图灵母亲萨拉（Ethel Sara Stoney）说“不必回信”的来信后，杰弗逊仍然写信给萨拉，以长辈的口气回忆图灵，在签名后他加了一句“他是天才，光照人间”（He had real genius, it shone from him）。
大洋两岸的活跃人物都和图灵相熟，他们也互相了解大家的立场。
来访者中，唯一被图灵尊敬的美国同行大概只有香农。图灵、香农以及更年轻的麦卡锡都不喜欢维纳和维纳企图建立的控制论帝国中的徒子徒孙。他们在二战中都从事密码学的工作，1943 年图灵秘密访问美国，在贝尔实验室逗留时，图灵和香农头一次见面，图灵给香农看了图灵–1936，但香农误以为这是图灵正在写的文章。
1950 年，香农到伦敦开会，顺道去曼彻斯特大学拜访图灵。据香农回忆，他们几次交流都没有直接聊密码学，大概是出于保密纪律的原因。但他们认真聊了计算机是否能思考的问题，他们的立场应该相同。
当然，他们肯定不会少谈共同的爱好：下棋。
图灵还给香农看了他在曼彻斯特机器上验证黎曼ζ函数的结果。图灵在剑桥大学读书时就对数论有浓厚兴趣，1942 年还发表过论文。据他的学生罗宾·甘迪说，图灵还研究过计算黎曼ζ函数零点的专用计算机，如果图灵还活着，他肯定会对黎曼ζ函数的可视化感兴趣。图灵在曼彻斯特大学并没有负责计算机的具体设计，而把更多注意力聚焦在应用上，具体地说就是人工智能，他在曼彻斯特机器上编写下棋程序。
这些是从图灵–1948过渡到图灵–1950的背景。
人工智能大致可分为三条演进路线：
-
第一，逻辑派，就是以逻辑为工具刻画人的智能；
-
第二，神经网络，也称深度学习，是最近十几年人工智能的主要驱动力；
-
第三，强化学习，这一派的思路可以追溯到进化论，他们的重要性通过 AlphaGo 才得以显现。
图灵指出人身上的任何小部件都可以用机器来模仿，他还提到基因、进化和选择。正是因为如此，麻省理工学院的机器人专家布鲁克斯认为图灵–1948是人工智能几条路线分歧的原点，而他自己的观点则是图灵–1948比图灵–1950更为重要。布鲁克斯指出，正是图灵–1948给了他关于“具身智能”的启示。一个人形机器人所需要的都属于“具身智能”。布鲁克斯近来也渐渐认识到“造脑”（building brain）比“造身”要更难。
图灵–1948只是做了“具身”和“非具身”的区别，他明确列出属于智力而非体力的5个领域：
-
游戏（如下棋）
-
语言学习
-
语言翻译
-
密码学
-
数学（定理证明）
图灵认为应该聚焦于智力，即“非具身”的领域，而非体力领域。图灵甚至提到当时的机器能处理的数学问题还不能涉及太多的图，也就是说一开始不适合搞几何，大概他还没想明白怎么在机器上把图实用地表示出来。后来定理证明的演化很有意思，20 世纪 50 年代刚开始时，重要的结果都是代数和逻辑的，但后来却是吴文俊的几何定理证明最早开始实用。
图灵在撰写 1950 年的那篇文章时已经胸有成竹，他不仅提出了问题（“机器能思考吗”），还提出了问题的各种变体；不仅给出了答案，还预想出了答案的可能异议，以及对异议的反驳。
图灵–1950为一系列后学者模仿的文章提供了范文，最典型的就是塞尔（Searle）的“中文屋”。布鲁克斯认为图灵–1948 更加全面的原因是他从中读出了“具身智能”。
值得指出的是，所谓“具身智能”和“非具身智能”之分，在图灵–1950中，对应为“体力”（physical capability）和“智力”（intellectual capability）的区分，而图灵–1950虽没有忽视“体力”，但聚焦点是“智力”。
图灵用模仿游戏来测度“智力”，蕴含了“语言即思维”的某个版本，这也明确表明图灵不是行为主义者，倒是更接近后来的自称理性主义者的乔姆斯基。
△图灵–1950，《计算机与智能》发表在《心》上
因为“自动计算机”和“电脑”（electric brain）已经成为《泰晤士报》等纸质媒体的流行话题，BBC 作为当时的新媒体岂能落下，于是在 1951 年请了几位领头人物（包括纽曼、图灵、哈特里、威尔克斯、威廉姆斯等）做广播讲座。
1952 年 1 月，BBC 又把纽曼、图灵和杰弗逊等聚集到一起，做了一次广播辩论，题为“自动计算机能思考吗？”，期盼吸引更多的“耳朵”。这次辩论可以作为图灵–1948和图灵–1950的最佳注释。
1952 年 1 月 23 日 BBC 重播了这场辩论，图灵听完重播，抱怨自己嗓音不好，晚上回家就发现被盗。他于是设计了一套复杂的报警程序，但最终还是导致自己的同性恋行为被曝光。
杰弗逊在“机器人之心”演讲临近结尾处，以擅长的雄辩语气说道：“我冒昧地预言，皇家学会的优雅场馆不得不变成车库来容纳新会员的那一天将永远不会到来。”
I venture to predict that the day will never dawn when the gracious premises of the Royal Society have to be turned into garages to house the new Fellows.
杰弗逊演讲的地点是英国皇家学会的场所。所谓“会员”（Fellow）就是“院士”的意思，杰弗逊 1947 年（61 岁时）成为会员，而图灵 1951 年（39 岁时）成为会员。“学会”怎么能对齐“院士”是个神学话题；所谓“车库”是指将来某一天停泊的都是机器。但是考虑到现在 AI4Science 的进展速度，那一天也许不远了吧，我倒是担心未来的机器们会嫌弃：皇家学会（无论是哪儿的）的那些唯物的、丑陋的车库也配！
重磅新作《理解图灵》
图灵与维特根斯坦、杰弗逊等学术巨擘的对话与辩论，揭示了图灵关于机器智能的独到见解及其思想的演进过程。
重磅新书《理解图灵》，由中华优秀出版物图书奖得主、吴文俊奖获得者、央视“2017 年度中国好书”作者张晓东（尼克）创作，是当代最好的一本全方位深入了解图灵的佳作。也是普通人认识图灵的最好的一部作品。书中以注释形式对图灵 1950 年的文章《计算机与智能》进行了细致解读。
尼克｜著
全书首先追溯了图灵的生平和思想轨迹，特别是他对智能与机器关系的早期洞察，以及他在计算理论方面的重大贡献——提出图灵机；接着通过分析图灵与同时代其他思想家的交流与辩论，如与哲学家维特根斯坦的深入对话，以及在 BBC 广播讨论中与神经生理学家杰弗逊的激烈交锋，逐步揭示了图灵对于机器智能的独到见解及其思想的演进过程。本书力图使读者在充分理解背景知识的基础上，更加深刻地领会图灵文章的内涵，也使得对图灵思想的探讨更加全面和深入。
