Hale on Nostr: “终结者”的“审判日”永远不会到来 李松 李松mises 2016-03-24 ...
“终结者”的“审判日”永远不会到来
李松 李松mises 2016-03-24 18:11
图片
李世石的4：1惨败，让人们纷纷惊呼：“奇点来了”、“机器人要超越人类了”……各种段子在调侃着计算机技术的伟大、人类的无能。危言耸听的媒体和爱好遐思的人工智能爱好者则到处宣称着：未来机器人会比人强，机器人甚至有可能统治人类。
不必惊慌，哲学思考会告诉你，机器人达到人的智能高度甚至超越人的智能的那一天永远不会来到。没必要懂得围棋棋术、更不必精通人工智能科学，我也完全可以做出这样的断言。理由很简单，“制造和人的心智一模一样的机器人”--这样的智力活动超出了人类理性的边界。它是理性永远无法企及的领域，类似于康德的“人无法认识的物自体”。
首先澄清一些概念。
说机器人超越人，“超越”是什么意思呢？假如比较单方面的某个能力，无数的工具早已超越人类了。10块钱买的电子计算器在处理复杂四则运算时，完全碾压心算能力最快的数学天才；电脑硬盘的存储能力则远胜于脑容量最大的个人；起重机则藐视所有大力士……实际上，人类之所以会创造出来工具、机器，就是因为机器在单方面的能力、生产效率远超人类的精力。所以，谈起“超越”时，自不待言，我们心中想的不是这层含义。
而指的是，机器人在理性的能力上超越了人的心智结构，触及到人心无法企及的领域，能人所不能。这不是指人类理性可及但由于能力不够或现阶段技术不足而暂时无法达到的领域，而是指人从根本上就不能想往的领域。天文探索可以去到人脚步不及的外太空，这并不是说人类理论上不能去，而是说现阶段技术能力、飞行能力的不够。因此，超越人类，指的是机器人去到人类永远不可能到的地方、认识人永远认识不到的领域。
何谓智能、意识、理性能力呢？它指的是认识主体用以认识外界所依凭的思维法则，在人身上，它是心智结构。
那么，机器人有没有可能完全具备（甚至超越）人那样的心智结构呢？这个问题其实在说：人是否有可能复制出完全和人本身一样（甚至超越）的思维法则？
为了搞清楚这个问题，先来看看认识论：
每个人都很容易就能察觉到，存在着两种类型的存在物：一种是外在世界，另一种存在则是人类的心灵本身。一个是外在的被认识对象，另一个则是认识的主体。
对外在的对象，我们不知道它们的本质是什么。我们只凭借自己的感觉和概念能力把握它们展示给我们的现象，从而把它们和其他不同的外在存在物区别开来了。视觉告诉我眼前的桌子是黑色的，触觉告诉我桌子是光滑的，嗅觉告诉我桌子散发着松木香味；概念能力则让我们区别桌子和非桌子（比如椅子或床铺）……除了认识这些感官、心智能力允许我们认识的现象之外，我们没办法去完全地认知承载着“黑色”、“光滑”、“松木香味”……种种属性的背后的那个东西、那个本质到底是什么。一句话，我们无法认识“物自体”。
对外在存在的经验探究产生了我们的经验科学：物理、化学……
另一方面，对人类的心灵本身，我们只知道人心必定遵循着确定不移的思维法则。凡是思考，则必须承认它们、用到它们。比如：同一律、因果律、自我意识、几何学的基础……
这些描述思维法则的命题和其他的经验命题相比，有着很明显的特征：它们是不可分析的。所有的认识都是为了把概念和定义分解为更为基础的概念和定义。然而，思维法则不可被进一步分析为更基础的概念，因为它们本身就是最基础的概念。所有的思考必须以它为基础，即便是试图反驳它，你也不得不用到它。假如有人要反对矛盾律，要你证明为什么A不等于非A；假如有人试图反驳欧式几何的五个公理；假如有人试图证明自己没有意识……你除了反复地重复这些命题本身之外，无法提供更进一步、更基础的论证。同样的，反驳者本身也不免于使用这些命题本身。
假如A=非A了，则人无法对任何实体做出区分了，因为A和非A对它而言不存在差别了，一切都是无尽的矛盾。对这样的一个浑沌的心智而言，证明A=非A这个思维活动根本就不可能存在。因为只要你在思考问题，即便是以证否矛盾律为目标的思考，也必须以人类的分类能力为起点，而人之所以可以分类，是因为存在矛盾律：某物是A，其他物则被归类为非A。否认几何学的公理本身，则掏空了几何学的全部基础，从而也不可能再几何学领域寻找到可资用来证明的任何论点了。否认自己的自我意识，也面临同样的问题：思考本身，就意味着存在着一个在为了某个目的而思考的意识主体。
对这类命题，我们把它叫做公理、先验命题、思维法则（the law of thinking）。对这些先验综合命题、公理的研究，使得我们获得了先验的科学：数学、形式逻辑、几何学、经济学……
对人世间所有的事件、现象，人心都不免去追问：作为今天状况的事件A，是由之前的什么事件或因素促成、演变而来的呢？对这些问题本身，人在逻辑上是可能找到答案的，只不过受限于当时的技术或智力水平，人暂时无法得到答案。但如果人试图去追问：人为何需要（且必然）以因果律、矛盾律去思考？为什么不能以其他的逻辑结构来进行思维活动呢？对这样的问题，我们永远也不知道。形而上学的解释只给予我们认可这类公理的信念，形而上学并不能证实这类命题。
认识的实质在于对现象的属性进行区别和分类。对原子运动和作用的不同归纳，可以使我们区分出氢元素和氧元素、对不同作用效果的识别使得我们区分出无机物和有机物……正是在可观察的条件下，人的认识通过不断地追溯到更原本的因素的方法，增进了对外在世界的分类，增进了人类的认识。
然而，假如人试图用同样的方法来区别出人心的属性、特性的话，则不免于陷入荒诞的玄想了。试图刻画人心结构的特性，则必须同时理解另外一种不同于人心的心灵结构作为对照，否则何以区别出“特性”呢。然而这是我们无法做到的。语言可以让我们说：某物种、某外星人、某个凭想象建构出来的心智是多么的与现在的人心所不同。但我们心中一秒钟都无法真正想象一个不同于人类的心灵。你可以试试去想象一个没有矛盾律的心智是什么样的状况：A是等于非A的。你也可以去尝试着想象什么叫做“正方形的圆”。
事实上，即便科学昌明的今天，科技也无法使我们管窥一个低等动物的心灵状况。“子非鱼焉知鱼之乐”的困境是一个永恒的鸿沟。我们充其量只能通过观察研究低等动物的作息规律来进行一些拟人化地大概的推论。然而，对于人能否理解青蛙的思维这样的问题，谁人都可以断言：不可能。
或许一个超人的心智，可以对人的思维法则、人的心智的来源做一个融会贯通而不涉及矛盾的解释。但处于我们人这样心智结构的人，倘若试图去探究自己心智结构的成因，那就好像是在抓着自己的头发试图把自己提地而起。又或者像一个妄图完全客观、抽离自身地站在一边去细致观察自己的孤魂一样虚妄。
经验的研究显然无法解答这里的问题。试图用分子、电子、遗传学、神经元……来解释思维法则的成因很明显无法得到任何答案。因为经验材料的证据只有在人心中配备的精神工具加工下才能得到理解。换句话说，心智结构、逻辑范畴使得人类可以理解经验材料的意义，否则的话，外界实在只是一个无尽的芜杂材料堆砌的浑沌，没有任何一丝规律可以被人察觉到。试图用经验去研究先验，必定陷入循环论证。
非经验的哲学推理，也只能给出一个形而上学的信条，形而上学并不给予论证，它只抚慰我们关于各种已知真理的信念。理智不适于用来拷问理智本身。
然而，心智的结构、逻辑范畴反应了外在的真实，否则我们没法解释为什么纯粹演绎推理出来的几何学可以用来指导现实的桥梁建设，可以用来推测天文运行；也没法解释为什么坐在书斋里安安静静做推理的经济学家得出的结论竟可以分毫不爽地预测经济现象。只要心智是这个宇宙间的一部分，我们就可以说，它必定是宇宙及其环境演变的产物。的确，进化论可以告诉我们，人身体的各种生物性状是如何受环境的影响而一步步变成今天的模样。然而，没有任何方法可以告诉我们：宇宙间何等因素铸就、演化出了今天的人心，是什么力量为我们人装配了理解现实的这些精神工具。认识论或许可以解释为什么先验知识可以准确地反应真实，可认识论对逻辑结构的来源，一无所知。
对自我意识、逻辑能力、意志这些存在的来源，我们从古到今所知的都一样：它们是个迷。近代的脑神经科学、生物心理学试图用唯物主义的方法去把所有心智现象（心理内容和思维的形式）归结为外界分子、电子的运动。可这些学科对我们问题的解答，并不比中世纪的独断哲学家更靠谱。这些现代唯物主义者除了贡献了一些经不起推敲的妄断之外，不过是在用些含混的暗喻和粗率的类比把过去的问题搞得面目全非而已。
回到人工智能的问题。假如人无法追溯清楚人的心智结构的成因的话，没法搞清楚是什么样的因素、变化促成了我们的心灵结构的话，那么人如何可以知道是哪些因素促成了我们的心智结构并制造出一个和人心一模一样的“算法”、“程序”、“机器人”（不管你叫它什么名字）来呢？假如你制作一部机器，那么你首先得搞清楚该机器运作的原理，并且找到促成该机器产生的要素。可是，对于人类心智的成因、对于人类心智为何是今天这样的---对这些问题，我们一无所知。而且我们必然永远无法认识，因为如上所述的，它超出了理性可以探究的领域。它是理智思考、认识活动的最终给定。
搞清楚了认识论对认识活动所设定的边界之后，可以去看看人工智能的具体问题了，考察下几种流行的看完《终结者》就玄思不断的胡想了。
好疑的人首先会质疑上述内容的其中一点：既然你说人没法搞清楚人心智结构、思维发展、公理的来源，那就无法在电脑程序上复制该思维法则的话。那为什么形式逻辑这样的心智结构、思维法则可以被很成功地移植在电脑程序上呢？
这是个混淆了实质的质问。因为电脑程序不是推理主体，电脑程序是人设计的指令，按照人设定好的既定指令去行事：若输入信息A，则输出结果a；若输入信息B，则输出结果b……
所有程序的基础都是这样的if函数，它本身并不作推理。只不过因为程序指令的复杂，使得电脑处理能力及范围变得很大，以至于在处理复杂讯息时，似乎是一个人在推理。然而，究其本质，电脑是不推理的，推理的只能够是人，电脑只负责输出程序员设定好的算法所应该输出的结果；程序能做到的一切都已经全部蕴含在了程序员的指令当中，它并不自发地意识到命题的意义，它也不进行逻辑推理。这就好比人脸识别的软件，并不因为它识别出人脸，它就获得了人的视觉和记忆的能力。而是人以达到识别的目的给它设计的既定输出路径。程序的本质是机械，不是智能。类比式的思考和形似实非的程序输出结果，让人们误解了程序的基本原理和实质。
电脑也无法理解人才能理解的意义和价值。的确，炒股软件、财务工具能提供指导你会计计算的适用工具，甚至可以帮你遴选投资产品，然而，获利和亏损在心理上、在行动学意义上的心理损益永远也没办法让电脑理解，因为电脑不具备行动人的基本公理、基本心智结构：手段-目的、成本-利润。人们只是对电脑的输出结果进行了拟人化的设定：假如资金减少，则输出亏损，反之则反。
从这个角度来看，电脑在实质上和任何古代的人工器械没有任何区别：假如满足某条件，则该工具产生某结果。只不过电脑处理的信息强大远超过古代任何一种工具。
另外一些人工智能爱好者则相信：在未来，程序不会像现在这么简单，程序会复杂的多，随着联网交互，机器人获取的信息不断增加、迭代，随着交互作用的不断复杂化、纵深化，电脑会脱离人所设定的程序，演化出偏离人设计初衷、人无法想象的新的程序。而随着新的程序不断地加强演化，最终，人会面对一个以人心无法去测量的机器世界。
假如深刻理解上述认识论内容，则很容易看清楚这类说法的妄诞。人没法搞清楚心智结构的成因，因此人无法发现这个宇宙中那些促使“自我意识”出现的因素究竟是什么，从而人无法用那些促使人心出现的因素来设计出有自我意识、推理、学习能力的机器人。只要科幻式人工智能爱好者没解决自我意识和自我学习的存在论问题（这些能力是如何而来的呢？），机器人就不可能会莫名其妙地通过自发演化突然获得这些心智能力，而永远是按照人规划好的路径去运动的。科幻式人工智能爱好者只不过是在把上面所提出的困境推给一个无限可能的未来而已。然而，正如上文所表明的：人心智结构的来源问题并不是一个现在无法解决的问题，它是永恒无解的问题，它本身超越了理性追问的范畴。非要去解答这个问题，是对理性的僭越和滥用。
另外一些试图幻想“机器人进化成人”观点的科幻式人工智能爱好者则把“奇点的到来”寄托给无尽地偶然性和运气。他们声称：即便存在你所谓的心智结构的来源无解的问题，但万一有一天人们误打误撞，创造出了一个遵循和人心一样法则去思考的机器人呢。就像炼丹的道士误打误撞炼出了炸死人的火药；就像误打误撞的辉瑞在治疗心脏病时发现伟哥一样。历史的运气和巧妙会误打误撞创造出“和人一样甚至超越人”的机器人。对这种“往天上扔砖头，掉下来恰好组成一个房子”的概率，我们可以指出一点的是：误打误撞的发明其实是发现了本就已经存在于世界上的物质。然而，对人心的法则来说，除了在我们人身上存在之外，没有任何根据可以推测它存在于这个宇宙的其他地方。因此，没有任何可见的线索和理由可以支撑这样的“误打误撞”。
（首发于人文经济学会公号）
李松 李松mises 2016-03-24 18:11
图片
李世石的4：1惨败，让人们纷纷惊呼：“奇点来了”、“机器人要超越人类了”……各种段子在调侃着计算机技术的伟大、人类的无能。危言耸听的媒体和爱好遐思的人工智能爱好者则到处宣称着：未来机器人会比人强，机器人甚至有可能统治人类。
不必惊慌，哲学思考会告诉你，机器人达到人的智能高度甚至超越人的智能的那一天永远不会来到。没必要懂得围棋棋术、更不必精通人工智能科学，我也完全可以做出这样的断言。理由很简单，“制造和人的心智一模一样的机器人”--这样的智力活动超出了人类理性的边界。它是理性永远无法企及的领域，类似于康德的“人无法认识的物自体”。
首先澄清一些概念。
说机器人超越人，“超越”是什么意思呢？假如比较单方面的某个能力，无数的工具早已超越人类了。10块钱买的电子计算器在处理复杂四则运算时，完全碾压心算能力最快的数学天才；电脑硬盘的存储能力则远胜于脑容量最大的个人；起重机则藐视所有大力士……实际上，人类之所以会创造出来工具、机器，就是因为机器在单方面的能力、生产效率远超人类的精力。所以，谈起“超越”时，自不待言，我们心中想的不是这层含义。
而指的是，机器人在理性的能力上超越了人的心智结构，触及到人心无法企及的领域，能人所不能。这不是指人类理性可及但由于能力不够或现阶段技术不足而暂时无法达到的领域，而是指人从根本上就不能想往的领域。天文探索可以去到人脚步不及的外太空，这并不是说人类理论上不能去，而是说现阶段技术能力、飞行能力的不够。因此，超越人类，指的是机器人去到人类永远不可能到的地方、认识人永远认识不到的领域。
何谓智能、意识、理性能力呢？它指的是认识主体用以认识外界所依凭的思维法则，在人身上，它是心智结构。
那么，机器人有没有可能完全具备（甚至超越）人那样的心智结构呢？这个问题其实在说：人是否有可能复制出完全和人本身一样（甚至超越）的思维法则？
为了搞清楚这个问题，先来看看认识论：
每个人都很容易就能察觉到，存在着两种类型的存在物：一种是外在世界，另一种存在则是人类的心灵本身。一个是外在的被认识对象，另一个则是认识的主体。
对外在的对象，我们不知道它们的本质是什么。我们只凭借自己的感觉和概念能力把握它们展示给我们的现象，从而把它们和其他不同的外在存在物区别开来了。视觉告诉我眼前的桌子是黑色的，触觉告诉我桌子是光滑的，嗅觉告诉我桌子散发着松木香味；概念能力则让我们区别桌子和非桌子（比如椅子或床铺）……除了认识这些感官、心智能力允许我们认识的现象之外，我们没办法去完全地认知承载着“黑色”、“光滑”、“松木香味”……种种属性的背后的那个东西、那个本质到底是什么。一句话，我们无法认识“物自体”。
对外在存在的经验探究产生了我们的经验科学：物理、化学……
另一方面，对人类的心灵本身，我们只知道人心必定遵循着确定不移的思维法则。凡是思考，则必须承认它们、用到它们。比如：同一律、因果律、自我意识、几何学的基础……
这些描述思维法则的命题和其他的经验命题相比，有着很明显的特征：它们是不可分析的。所有的认识都是为了把概念和定义分解为更为基础的概念和定义。然而，思维法则不可被进一步分析为更基础的概念，因为它们本身就是最基础的概念。所有的思考必须以它为基础，即便是试图反驳它，你也不得不用到它。假如有人要反对矛盾律，要你证明为什么A不等于非A；假如有人试图反驳欧式几何的五个公理；假如有人试图证明自己没有意识……你除了反复地重复这些命题本身之外，无法提供更进一步、更基础的论证。同样的，反驳者本身也不免于使用这些命题本身。
假如A=非A了，则人无法对任何实体做出区分了，因为A和非A对它而言不存在差别了，一切都是无尽的矛盾。对这样的一个浑沌的心智而言，证明A=非A这个思维活动根本就不可能存在。因为只要你在思考问题，即便是以证否矛盾律为目标的思考，也必须以人类的分类能力为起点，而人之所以可以分类，是因为存在矛盾律：某物是A，其他物则被归类为非A。否认几何学的公理本身，则掏空了几何学的全部基础，从而也不可能再几何学领域寻找到可资用来证明的任何论点了。否认自己的自我意识，也面临同样的问题：思考本身，就意味着存在着一个在为了某个目的而思考的意识主体。
对这类命题，我们把它叫做公理、先验命题、思维法则（the law of thinking）。对这些先验综合命题、公理的研究，使得我们获得了先验的科学：数学、形式逻辑、几何学、经济学……
对人世间所有的事件、现象，人心都不免去追问：作为今天状况的事件A，是由之前的什么事件或因素促成、演变而来的呢？对这些问题本身，人在逻辑上是可能找到答案的，只不过受限于当时的技术或智力水平，人暂时无法得到答案。但如果人试图去追问：人为何需要（且必然）以因果律、矛盾律去思考？为什么不能以其他的逻辑结构来进行思维活动呢？对这样的问题，我们永远也不知道。形而上学的解释只给予我们认可这类公理的信念，形而上学并不能证实这类命题。
认识的实质在于对现象的属性进行区别和分类。对原子运动和作用的不同归纳，可以使我们区分出氢元素和氧元素、对不同作用效果的识别使得我们区分出无机物和有机物……正是在可观察的条件下，人的认识通过不断地追溯到更原本的因素的方法，增进了对外在世界的分类，增进了人类的认识。
然而，假如人试图用同样的方法来区别出人心的属性、特性的话，则不免于陷入荒诞的玄想了。试图刻画人心结构的特性，则必须同时理解另外一种不同于人心的心灵结构作为对照，否则何以区别出“特性”呢。然而这是我们无法做到的。语言可以让我们说：某物种、某外星人、某个凭想象建构出来的心智是多么的与现在的人心所不同。但我们心中一秒钟都无法真正想象一个不同于人类的心灵。你可以试试去想象一个没有矛盾律的心智是什么样的状况：A是等于非A的。你也可以去尝试着想象什么叫做“正方形的圆”。
事实上，即便科学昌明的今天，科技也无法使我们管窥一个低等动物的心灵状况。“子非鱼焉知鱼之乐”的困境是一个永恒的鸿沟。我们充其量只能通过观察研究低等动物的作息规律来进行一些拟人化地大概的推论。然而，对于人能否理解青蛙的思维这样的问题，谁人都可以断言：不可能。
或许一个超人的心智，可以对人的思维法则、人的心智的来源做一个融会贯通而不涉及矛盾的解释。但处于我们人这样心智结构的人，倘若试图去探究自己心智结构的成因，那就好像是在抓着自己的头发试图把自己提地而起。又或者像一个妄图完全客观、抽离自身地站在一边去细致观察自己的孤魂一样虚妄。
经验的研究显然无法解答这里的问题。试图用分子、电子、遗传学、神经元……来解释思维法则的成因很明显无法得到任何答案。因为经验材料的证据只有在人心中配备的精神工具加工下才能得到理解。换句话说，心智结构、逻辑范畴使得人类可以理解经验材料的意义，否则的话，外界实在只是一个无尽的芜杂材料堆砌的浑沌，没有任何一丝规律可以被人察觉到。试图用经验去研究先验，必定陷入循环论证。
非经验的哲学推理，也只能给出一个形而上学的信条，形而上学并不给予论证，它只抚慰我们关于各种已知真理的信念。理智不适于用来拷问理智本身。
然而，心智的结构、逻辑范畴反应了外在的真实，否则我们没法解释为什么纯粹演绎推理出来的几何学可以用来指导现实的桥梁建设，可以用来推测天文运行；也没法解释为什么坐在书斋里安安静静做推理的经济学家得出的结论竟可以分毫不爽地预测经济现象。只要心智是这个宇宙间的一部分，我们就可以说，它必定是宇宙及其环境演变的产物。的确，进化论可以告诉我们，人身体的各种生物性状是如何受环境的影响而一步步变成今天的模样。然而，没有任何方法可以告诉我们：宇宙间何等因素铸就、演化出了今天的人心，是什么力量为我们人装配了理解现实的这些精神工具。认识论或许可以解释为什么先验知识可以准确地反应真实，可认识论对逻辑结构的来源，一无所知。
对自我意识、逻辑能力、意志这些存在的来源，我们从古到今所知的都一样：它们是个迷。近代的脑神经科学、生物心理学试图用唯物主义的方法去把所有心智现象（心理内容和思维的形式）归结为外界分子、电子的运动。可这些学科对我们问题的解答，并不比中世纪的独断哲学家更靠谱。这些现代唯物主义者除了贡献了一些经不起推敲的妄断之外，不过是在用些含混的暗喻和粗率的类比把过去的问题搞得面目全非而已。
回到人工智能的问题。假如人无法追溯清楚人的心智结构的成因的话，没法搞清楚是什么样的因素、变化促成了我们的心灵结构的话，那么人如何可以知道是哪些因素促成了我们的心智结构并制造出一个和人心一模一样的“算法”、“程序”、“机器人”（不管你叫它什么名字）来呢？假如你制作一部机器，那么你首先得搞清楚该机器运作的原理，并且找到促成该机器产生的要素。可是，对于人类心智的成因、对于人类心智为何是今天这样的---对这些问题，我们一无所知。而且我们必然永远无法认识，因为如上所述的，它超出了理性可以探究的领域。它是理智思考、认识活动的最终给定。
搞清楚了认识论对认识活动所设定的边界之后，可以去看看人工智能的具体问题了，考察下几种流行的看完《终结者》就玄思不断的胡想了。
好疑的人首先会质疑上述内容的其中一点：既然你说人没法搞清楚人心智结构、思维发展、公理的来源，那就无法在电脑程序上复制该思维法则的话。那为什么形式逻辑这样的心智结构、思维法则可以被很成功地移植在电脑程序上呢？
这是个混淆了实质的质问。因为电脑程序不是推理主体，电脑程序是人设计的指令，按照人设定好的既定指令去行事：若输入信息A，则输出结果a；若输入信息B，则输出结果b……
所有程序的基础都是这样的if函数，它本身并不作推理。只不过因为程序指令的复杂，使得电脑处理能力及范围变得很大，以至于在处理复杂讯息时，似乎是一个人在推理。然而，究其本质，电脑是不推理的，推理的只能够是人，电脑只负责输出程序员设定好的算法所应该输出的结果；程序能做到的一切都已经全部蕴含在了程序员的指令当中，它并不自发地意识到命题的意义，它也不进行逻辑推理。这就好比人脸识别的软件，并不因为它识别出人脸，它就获得了人的视觉和记忆的能力。而是人以达到识别的目的给它设计的既定输出路径。程序的本质是机械，不是智能。类比式的思考和形似实非的程序输出结果，让人们误解了程序的基本原理和实质。
电脑也无法理解人才能理解的意义和价值。的确，炒股软件、财务工具能提供指导你会计计算的适用工具，甚至可以帮你遴选投资产品，然而，获利和亏损在心理上、在行动学意义上的心理损益永远也没办法让电脑理解，因为电脑不具备行动人的基本公理、基本心智结构：手段-目的、成本-利润。人们只是对电脑的输出结果进行了拟人化的设定：假如资金减少，则输出亏损，反之则反。
从这个角度来看，电脑在实质上和任何古代的人工器械没有任何区别：假如满足某条件，则该工具产生某结果。只不过电脑处理的信息强大远超过古代任何一种工具。
另外一些人工智能爱好者则相信：在未来，程序不会像现在这么简单，程序会复杂的多，随着联网交互，机器人获取的信息不断增加、迭代，随着交互作用的不断复杂化、纵深化，电脑会脱离人所设定的程序，演化出偏离人设计初衷、人无法想象的新的程序。而随着新的程序不断地加强演化，最终，人会面对一个以人心无法去测量的机器世界。
假如深刻理解上述认识论内容，则很容易看清楚这类说法的妄诞。人没法搞清楚心智结构的成因，因此人无法发现这个宇宙中那些促使“自我意识”出现的因素究竟是什么，从而人无法用那些促使人心出现的因素来设计出有自我意识、推理、学习能力的机器人。只要科幻式人工智能爱好者没解决自我意识和自我学习的存在论问题（这些能力是如何而来的呢？），机器人就不可能会莫名其妙地通过自发演化突然获得这些心智能力，而永远是按照人规划好的路径去运动的。科幻式人工智能爱好者只不过是在把上面所提出的困境推给一个无限可能的未来而已。然而，正如上文所表明的：人心智结构的来源问题并不是一个现在无法解决的问题，它是永恒无解的问题，它本身超越了理性追问的范畴。非要去解答这个问题，是对理性的僭越和滥用。
另外一些试图幻想“机器人进化成人”观点的科幻式人工智能爱好者则把“奇点的到来”寄托给无尽地偶然性和运气。他们声称：即便存在你所谓的心智结构的来源无解的问题，但万一有一天人们误打误撞，创造出了一个遵循和人心一样法则去思考的机器人呢。就像炼丹的道士误打误撞炼出了炸死人的火药；就像误打误撞的辉瑞在治疗心脏病时发现伟哥一样。历史的运气和巧妙会误打误撞创造出“和人一样甚至超越人”的机器人。对这种“往天上扔砖头，掉下来恰好组成一个房子”的概率，我们可以指出一点的是：误打误撞的发明其实是发现了本就已经存在于世界上的物质。然而，对人心的法则来说，除了在我们人身上存在之外，没有任何根据可以推测它存在于这个宇宙的其他地方。因此，没有任何可见的线索和理由可以支撑这样的“误打误撞”。
（首发于人文经济学会公号）