【導讀】近期火出圈的游戲《賽博朋克2077》把上世紀80年代的一支科幻藝術流派重新帶回了公眾視野。多年來，賽博朋克的創作一支保持著一系列極具辨識度的反烏托邦設定：高技術低社會、貧富分化、環境污染、彌漫式的增強現實、身體賽博格化、意識上傳、人工智能……如果說前幾種設定在今天正逐步應驗，那么賽博朋克關于人工智能的激進想象則體現出計算機黃金年代人們對技術發展的盲目樂觀——畢竟，今天沒有并出現《銀翼殺手》里的復制人，而Siri的功能基本還只限于上鬧鐘。
在二戰后計算機技術的發展過程中，人工智能其實是個順理成章的想法：既然大腦中的神經元通過只存在“有”和“無”兩種狀態的電化學信號來傳遞信息，而晶體管的導通與截止、繼電器的開合也是“有”和“無”兩種狀態，那么是否有可能制造出“電子大腦”？
1943年，香農在貝爾實驗室見到圖靈時，就討論到這種人造思維機器的設想。在后來的歷史中，圖靈的通用圖靈機概念與香農用電子開關模擬布爾邏輯運算的想法都成了人工智能學科的奠基性理念。
然而，人工智能畢竟是一個意識體對自身意識的模擬，這種“上帝的工作”注定困難重重，其中既有通過硬件和算力上的“量變”可以克服的，也有在邏輯上被無情鎖死的技術禁區。
今天的計算機盡管看似已經出現了智能，但其思想原理仍然來源于萊布尼茨對于“普遍語言”的推演以及圖靈創制的圖靈機5種基本操作；而人類智能除了記憶、計算之外，還有諸如感知、想象、直覺、學習等難以還原為純粹邏輯的能力。因此，本文認為與其擔憂人工智能超越人類，真正應該擔心的是使用人工智能的人。
本文發表于《文化縱橫》2020年2月刊，僅代表作者觀點，供諸君思考。
邏輯的引擎：
人工智能的舊限度與新可能
? 杜國平 | 中國社會科學院哲學研究所
人的能力主要包括體力、智力、意志力、繁衍力等。創造并借助各種工具，不斷拓展各種能力，是近現代人類社會飛速發展的顯著特征。20世紀，人類發明了計算機，21世紀，人類借助人工智能技術極大地拓展了各種智力。人工智能存在不同的認識和定義，本文采用的是比較通行的認識：人工智能指的是人類利用計算機對人類智力活動進行模擬。人工智能的飛速發展在提升人類智力的同時，也提高了人類社會的生產效率，給社會生活帶來各種便利。但是，另一方面，由于人工智能表現出來的在某些方面遠超人類的智能水平，又引發了許多人的驚懼。本文擬從邏輯的角度對這一問題進行剖析，以期澄清若干似是而非的問題。
游戲《賽博朋克2077》截圖
▍計算機的“智能”
人工智能的工具載體是計算機，人工智能對人類智能的模擬均需借助計算機來實現，計算機功能的不斷拓展是人工智能拓展的內在依據，計算機功能的限度也制約著人工智能功能的限度。那么計算機的功能限度是什么？為此，我們必須厘清計算機本質上在執行什么樣的功能。
毫無疑問，計算是計算機的基本功能之一。歷史上曾經有許多人提出使用機械來實現計算或者幫助人類進行計算的夢想。
早在17世紀，人類歷史上最偉大的思想家之一萊布尼茨就提出一個偉大的構想：創制一種“普遍語言”，這種文字是一個表意的、精確無歧義的符號系統，其中的每一個符號都以一種非常自然而恰當的形式表達某個概念，單個符號表達基本概念，復雜概念可以由若干基本概念組合形成，這個符號系統可以涵蓋人類全部知識領域，使用這些符號可以將人類的知識表達出來；在此基礎上，以一些基本的知識作為前提，通過“推理演算”對這些符號根據演繹規則進行操作，就可以推演出各種新知識。
根據這一設想，人們可以很容易消除各種分歧和爭論，當甲、乙雙方遇到爭論的時候，只需雙方心平氣和地坐下來，使用“普遍語言”將雙方的前提和結論表達出來，然后拿起筆在桌子前耐心地進行“推理演算”，就可以消除爭論，獲得真理。萊布尼茨還設計了可進行四則運算的計算機模型。但是由于其他理論和物理條件的限制，萊布尼茨之夢在當時未能得到充分實現，但這一偉大構想為計算機和人工智能的產生奠定了思想基礎。
不難看出，要實現萊布尼茨之夢，有兩個基本條件，一個是“普遍語言”的創制，一個是“推理演算”之演算規則系統的建立。19世紀末20世紀初，由于傳統邏輯的不斷發展和現代邏輯的創立，這兩個條件都已經基本具備了。一方面，由于弗雷格、羅素等人的工作，邏輯形式語言這種初級的、類“普遍語言”的人工語言得以建立，特別是邏輯語言“非（?）”“與（∧）”“或（∨）”“全稱（?）”“存在（?）”被普遍接受和使用；另一方面，諸如命題邏輯演算、謂詞邏輯演算等各種邏輯演算系統這種類“推理演算”也不斷創立。
在理論上已經具備了重啟萊布尼茨之夢的初步條件之時，英雄人物圖靈適時出現了，他構想的圖靈機是實現萊布尼茨之夢的第一個現代計算機理論模型。要對人類的計算進行模擬并通過計算機來實現，就必須對人類的計算過程進行抽象。盡管人類的計算種類、計算過程千差萬別，但是其面對的基本前提條件是：
（1）若干需要處理的符號數據等；
（2）對符號數據進行計算的變形規則（如加法口訣、乘法口訣等）；
（3）可以讀取、存儲、輸出的紙、筆等工具、裝置。
其運算的基本程序是：
（1）獲得需要處理的若干有限數據符號等；
（2）根據計算或者變形規則處理獲得的數據符號；
（3）輸出并存儲新獲得的數據；
（4）確立下一步需要進行的步驟（讀取什么數據符號，依據什么規則進行操作等）；
（5）在完成需要的結果之前重復上述步驟；
（6）不停地計算下去或者獲得需要的計算結果。
圖靈在分析諸如上述計算基本結構的基礎上構造了計算機的一個理想模型——圖靈機。圖靈機由兩個基本構件組成：一個可以滿足計算需要的足夠長的印著連續的若干空白方格的紙帶，一個可以讀取、擦抹、打印數據符號的可運動的機械裝置。構件之外，一個特定的圖靈機還有一個由若干指令構成的規則集合，以約定符號處理時的變形規則，每條指令規定獲取到符號數據時機械裝置所要執行的操作。該操作有且只有以下幾個基本動作：
（1）擦去符號數據；
（2）打印符號數據；
（3）左移一格；
（4）右移一格；
（5）終止操作。
工作時，圖靈機獲取紙帶上某一格的符號數據，然后根據數據指令集確定并完成上述規定的動作之一。未運行到“終止操作”，則重復上述步驟；若運行到“終止操作”，則計算完成。
通過上述直觀的以及嚴格描述的圖靈機不難看出，圖靈機結構清晰、簡單，“能夠完成現代計算機能夠完成的所有事情” ，盡管在物理存在、計算速度、存儲空間等方面存在差異，但是其基本功能和今天最強大的計算機并無本質的區別。也可看出，圖靈機作為理想的計算機模型，能夠完成的基本功能就是存儲和計算，別無其他。
人的智能包括感知、記憶、分析判斷、推理計算、控制決策、學習等能力。從圖靈機基本功能看現代計算機對人類智能的模擬僅僅是其記憶、計算等功能，甚至連感知功能都不具備。因為感知是人類意向性地獲取信息、理解信息的過程，其中的核心要素是自主性、理解性。計算機對符號信息的“獲取”，不存在自主性。準確地說是人類將信息輸入計算機，計算機被動接收，談不上對符號信息的理解。
即使今天人工智能能夠“獲得”大量的街景、個人信息等，但認真分析就可以發現這也只是借助人類契約（盡管有些約定可能未征得當事人的同意，但是遵循了社會公共道德和公序良俗）和攝像設備的信息輸入。攝像設備不是主動感知，也不可能主動感知，只是人類在使其攝取信息；數據對計算機的傳輸以及計算機接收數據也不是主動感知，借助這兩者實現的人工智能的信息“獲取”，也不是主動感知。
計算機能夠完成計算的每一步必須是清晰的、完全確定的，即使是在包括選擇性、概率性的操作中，其進行的下一步也是完全確定的，而不是隨機的。例如在包含選擇性任務的p∨q中，它選擇執行p還是q不是隨機的，而是確定的。其執行的指令是諸如“若S1，則p”“若S2，則q”的條件句，而S1和S2是由此前的步驟確定的。
因此，即使是計算，計算機能夠完成的也是“能行可計算”（effectively computable）的操作。圖靈論題指出，任何能行可計算函數都是圖靈可計算的。由此可見，今天的計算機盡管功能極其強大，但其基本功能理論上不會超過圖靈機。而從對人類智能模擬的角度看，圖靈機的基本功能是存儲和數據計算（或符號處理），并且其功能的實現最終是依據人類設計的指令集來完成的。
盡管人工智能借助其他工具實現了某些極其強大的功能，可以打敗人類棋手，可以在復雜的災害環境中搜救傷員，顯示出高度的“智能”性，但其本質仍然是存儲和計算，其基本操作仍然等價于一臺圖靈機的5種基本操作：擦、寫、左移、右移、停止，并且這5種操作還是根據人類指令來執行的：人可以自主提出目標指令，而人工智能至多只能提出執行人的指令的指令。只不過這5種操作經過各種算法不斷組合、變化、再組合，已經變得非常復雜，特別是經過硬件技術的不斷改進之后，遠遠超過了人類的想象。
在棋類比賽中，一臺人工智能在幾個小時內完成數億人數億年的“擦、寫、左移、右移、停止”工作，而且分工明確、組織有序。以此觀之，這么多人有序的計算工作打敗一個世界頂級的棋手其實沒有什么值得大驚小怪的。而如果將一臺人工智能的智能行為的實現要素分解、延展來看的話，其中還包括從亞里士多德到萊布尼茨再到20世紀的希爾伯特、圖靈、馮諾依曼等偉大頭腦的智力工作。棋手們一點都不應該失落，因為他們輸給了迄今為止人類最頂級團隊集體智慧的結晶體。
今天，人工智能的記憶和運算能力已經遠超任何一個一般的人類個體，在這一點上，人工智能是極其聰明的。但是人類智能除了記憶、計算之外，還有諸如感知、想象、直覺、學習等能力，人工智能的智能尚有很大的拓展空間。
▍否定性清單
作為大存儲、疾運算的計算機，即使是在計算方面其功能也存在著一個“否定性清單”，即計算機在邏輯上不可能完成的任務，它至少包括非圖靈可計算函數、不可判定性定理、哥德爾不完全性定理、“真”概念的不可定義性定理等。這些內容也許太過專業，我在這里僅以通俗易懂的方式提出其中的關鍵環節，討論人工智能的限度。
（一）非圖靈可計算函數
計算是人工智能的一項基本功能，函數運算是非常基本的一類計算，計算機是否可以完成所有的函數運算呢？答案是否定的。計算機能夠計算的函數只是圖靈可計算函數，而非圖靈可計算函數是大量存在的。準確地說，圖靈機能夠計算的函數和自然數一樣多，而它不能計算的函數卻和實數一樣多。所以，即使對于函數運算，計算機能夠處理的也只是其中非常少的一部分。人工智能再強大，它也只能完成一部分函數運算。
（二）不可判定性定理
計算機執行的指令集可以分為不同的層次，其中最基本、最底層的指令無疑就是邏輯和數學指令。給定一組前提和一個結論，我們期待通過這些邏輯和數學指令以及其他相關指令，在有窮步驟內判定結論是否是這一組前提的推論。那么一個簡單而直接的問題是，邏輯或者數學是否是能行可判定的？
對于命題邏輯，確實有方法來判定任給一個公式是否是真的，這些工作可以由計算機輕松地完成。但是對于帶等詞的謂詞邏輯——形式算術，就不存在一個能行的方法，能夠判定任給一個公式是否是真的，也不能判定任給一個公式在通常的謂詞邏輯公理系統中是否是可證明的。這就是形式算術的不可判定性定理。更進一步，以此為基礎的數學當然也是不可判定的。
不可判定性定理從理論上說明了判定任一數學命題是否是真理的能行程序是不存在的。這也符合人們的直覺：如果存在這樣的判定程序，那么所有的邏輯和數學問題都可以通過計算機來實現，這倒是令人奇怪的了。人工智能可以在技術上實現記憶力更強、計算速度更快，但無法完成基礎性的理論創新和突破，它再怎么聰明都無法取代邏輯學家和數學家的創造性。
（三）哥德爾不完全性定理
萊布尼茨之夢的一個自然推論是對于一個領域的知識，從恰當的前提出發通過“推理演算”可以演繹出該領域的所有真知。但是，當邏輯知識的范圍，由命題邏輯拓展到謂詞邏輯，再由謂詞邏輯進一步擴展到更加豐富的邏輯系統的時候，情況就變得復雜了。
有些拓展如某些模態謂詞邏輯仍然是具有完全性的，即以某些恰當的模態謂詞邏輯公式作為公理，是可以將確定領域的所有邏輯規律推演出來的；但是有些拓展如將謂詞邏輯進一步一致地拓展到包含初等算術系統的時候，完全性就不成立了，即無論以哪些公理作為出發點，總有該領域的真理無法從這些公理通過“推理演算”而得出。這就是哥德爾的不完全性定理。它說明了公理化方法對于內容足夠豐富的領域，不可能通過演算得出該領域的所有真理。而計算機執行的指令集就相當于一個公理系統，當這些指令集足夠豐富（包含極小算術）的時候，總是會存在該范圍內的一些語句及其否定，都無法從這些指令集得出。計算機對這些語句將茫然不知所措。
（四）“真”概念的不可定義性定理
對于人工智能是否具有智能的討論，圖靈測試和塞爾的中文屋是比較有影響的兩個論題，其中控辯雙方爭論的焦點之一是計算機是否能夠“理解”其輸入輸出和處理的語句。究竟什么是“理解”或者什么樣的操作才能稱得上“理解”，這是一個頗有爭議的話題，但是有一點是不容質疑的，那就是“理解”至少是一個三元關系，即“理解”是一個“主體”對于“符號”的“信息賦值”，其中“主體”可以是一個人、一個生物個體，當然也可以是面對“符號”的任何一臺機器，包括人工智能；“符號”是一個輸入輸出和需要處理的對象；而“信息賦值”就是給“符號”一個“語義”。
簡而言之，“理解”至少包含一個“主體”對于“語形符號”的“語義賦值”。相對于具體的“主體”人工智能而言，它所面對的“語形符號”無疑就是數據和邏輯的形式語言，其中最為基本的符號就是數字1、0以及邏輯符號“非（?）”“與（∧）”“或（∨）”“全稱（?）”“存在（?）”等，人工智能需要讀取的是這些形式語言中的合式公式。人工智能對這些“語形符號”的“語義賦值”就是對其進行解釋的過程。它對這些語言符號的“信息賦值”盡管可能有各種不同，例如可能將其賦值為英文，也可能將其賦值為中文，但是“真”“假”是其中最為基本的邏輯“語義賦值”。
人工智能對符號的“理解”是通過對“語言”進行“語義賦值”來實現的。這在命題邏輯和謂詞邏輯中是不難實現的，但是當語言豐富到包括極小算術的時候，塔斯基定理告訴我們，在這樣的系統中，“真”概念不是算術可定義的，在這樣足夠豐富的語言中定義該語言的真謂詞將導致悖論。這就給人工智能的“理解”戴上了一道緊箍咒：在簡單的形式語言中，人工智能可以“理解”最基本的語義“真”，但是到了足夠豐富的算術語言中，人工智能甚至連最基本的“真”都無法“理解”。
▍另辟蹊徑
如前所述，人工智能是人類利用“計算機”對“人類智力”活動進行“模擬”。從邏輯、語言的角度分析，人工智能要取得重大的基礎性突破，可能需要轉換路徑。
（一）基于“模擬”
當下，人工智能的應用主要面向的是社會、生活需求，模擬的主要是工程、技術方面的場景需求。人工智能在滿足人類物質需求、享樂需求的同時，立意應該更加高遠，更多地追求滿足人類的理性需求。
人類最基本的理性需求和創造性需求是發現知識、證明知識。知識發現與定理證明是人類高層次的發展需求、精神需求和創造性需求。知識發現與定理證明都是人類的創造性活動，但兩者之間存在顯著的差別。其中在推理方面的主要區別是，定理證明主要運用的是演繹推理，而知識發現主要運用的是非演繹推理。人類知識發現的基本程序是形成概念、做出判斷、探求因果聯系、統一理論、預測應用等。其中運用的非演繹推理主要有歸納推理、類比推理、溯因推理等。例如，在量子力學的探尋過程中，首先要從大量的諸如觀察事實、實驗數據中歸納形成量子、態、物質波、不確定關系等概念，在此基礎上建立不同概念之間的聯系并提出各種帶驗證的假說。這些創造性活動中大量運用歸納推理。歸納推理的基本特征是從若干個別或特殊性事例中提升出一般性的概念或判斷，這是一個不斷抽象的過程，而這一過程是一個主觀創造的過程，并無一個可操作的規范性程序，即沒有一個能行的歸納程序。目前，計算機對人類智能的模擬本質上是依據算法等指令對人類智能能行性的模擬，而人工智能要取得突破，關鍵是對創造性的模擬。
定理證明的基本程序是從若干公理或者前提假設出發，依據確定的若干推理規則進行演繹，并最終得出待證命題的過程。這一過程在若干范圍內是計算機可模擬的，而且人工智能也比人類要快捷許多，例如對命題邏輯的定理證明。但是在比之復雜的謂詞邏輯公理系統中，其定理證明就不是人工智能可以實現的，因為不存在一個能行的判定程序。如何縮小前提范圍、不受否定性清單的約束、恰當選擇極小算術的若干片段來實現重要定理的證明，這是人工智能理性探索的一個重要課題。
在智能模擬的方法上，今天的人工智能對數據的處理主要采取的是演繹路徑；對不確定問題主要采取的是對數據進行統計歸納和概率演算，而缺乏因果性、相關性的探求。這只能依賴于邏輯基礎理論的創新和突破。自亞里士多德、斯多葛學派以來，經歷萊布尼茨、布爾、皮亞諾、弗雷格、羅素等線索發展起來的是嚴格的演繹邏輯體系，這方面的成果蔚為大觀，前述否定性清單中的成果都屬于這個路徑，這些成果可以說是人類理性探索的典范性、巔峰性成果；而培根、穆勒、萊欣巴哈、貝葉斯、卡爾納普等線索發展的歸納邏輯體系研究則顯得勢單力薄，歸納邏輯的元理論成果，特別是巔峰性成果尚未出現。人工智能在模擬人類理性探索、創造性探索方面需要新的邏輯基礎理論成果，特別是非演繹邏輯的重大進展。非演繹推理型計算機的創制將是未來人工智能發展的一個重要路徑。
（二）基于“人類智力”
人類智力是人認識、理解客觀事物并運用經驗、知識、工具解決問題的能力，包括感知、記憶、想象、思考、判斷、預測、決策和學習等能力。從能力模擬的角度看，現在的人工智能存在尚未充分模擬的能力，如想象能力、直覺能力等。除此之外，尚有圖靈機不可模擬的能力，甚至不可使用語言或者符號表達的能力以及人不可感知的能力（隱性能力）。這些都是未來人工智能拓展的巨大空間。
人工智能對智能的模擬有一個基本假定，就是人類的智能是計算的。如果僅僅從計算控制的角度進行規約，這是否會陷入一種循環？神經中樞控制身體，大腦控制神經中樞，C腦區控制D腦區，B腦區控制C腦區，這樣追溯下去，終極控制是什么？模糊的整體論或者互動論并不能解決根本問題。如何突破這一基本假定，對人類智能本質獲得更加深刻的認識，是人工智能哲學需要解決的基本問題之一。
（三）基于“計算機”
關于智能的工具載體要拓展思路：在借助計算機來模擬人類智能之外，可否借助其他工具，例如借助生物智慧或者利用群體生物智慧來模擬人類智能？現代生物醫藥的發展，已經能夠通過給生物創造虛擬現實環境，并且可以捕獲生物對虛擬現實環境的刺激，進行放大、縮小、改變，借助生物反應，來控制智能體對環境做出反應。是否可以進一步探究生物感知反應、直覺反應和學習技能等來拓展人工智能。
另外，與借助符號、結構、模式的數據模擬不同，也可以通過實際事件或物理模型來模擬從而實現瞬時、即時反應。例如模擬天象的渾天儀，并不需要復雜的運算就可以隨時確定天體的運行方位，就是一個典范。
▍余論
人工智能會反殺人類嗎？這種擔心其實沒有必要。人工智能僅僅是一個特殊的工具而已。真正應該擔心的是制造人工智能或利用人工智能的人。人工智能迄今仍然是沒有自主性的智能工具，從其根目錄上看它執行的是人類的指令。盡管人工智能在程序的執行過程中會表現出“疑似自主性”，如前所述，這是虛假的自主性，本質上是一種選擇性、隨機性，和人類的自主性完全不是一回事。
通行定義中的人工智能只是對人類智能的模擬：“人工智能”一詞容易引起誤解，其實它就是人工機器，并無智能。從記憶功能看，古人使用擺放石子來計數，使用結繩計數，但是我們并不會認為石頭、繩子有智能；從運算功能看，人們曾經使用算盤運算，帕斯卡用加法機運算，人們也不認為算盤、加法機有智能；從存儲程序看，皇陵中防盜的機關、獵人捕獵的陷阱以及多米諾骨牌都有一定的程序存儲功能，但是我們也不會認為機關、陷阱和骨牌有獨立的智能，因為它們只是包含了人類的智能。當然我也并不否認可能存在真正意義上有智能的“人工智能”，存在不局限于計算機對人類智能的模擬的人工智能，它很可能用其他形式逼近或超越人類智能。
人類的任何思想，只要是自然語言可表達的，均可以使用一組符號無歧義地準確表達出來——這是人類歷史上一批偉大的邏輯學家，如亞里士多德、萊布尼茨、布爾、弗雷格、羅素、希爾伯特等人的思想成果。今天，只要使用四組符號：個體符號、函數符號、謂詞符號和括號即可表達人類的任何思想。這是對萊布尼茨偉大思想的一個推進。今天，我們如何重回起點，探求實現萊布尼茨之夢的新路徑，可能比設計一種新算法或者增加更多層次的人工神經網絡更為根本。而盡量使用思想來解決問題，而不是使用不斷擴充的設備來解決問題，這應該是拓展人類智能的根本之路。
本文發表于《文化縱橫》2020年2月刊，原題為“邏輯的引擎：人工智能的舊限度與新可能”。圖片來源于網絡，如有侵權，敬請聯系刪除。歡迎個人分享，媒體轉載請聯系本公眾號。
