擁有自我意識(shí)和情感的超級(jí)人工智能到底會(huì)不會(huì)出現(xiàn)?說實(shí)話，這個(gè)話題都爛大街了?？茖W(xué)家、科技大佬、各國政要們爭論得頭破血流，我們也不可能知道答案。
但我們想說的是，什么事都要講邏輯。有沒有一些理論或者猜想可以觸發(fā)AI覺醒這個(gè)話題呢?有沒有一些理論或者猜想，讓我們不會(huì)云里霧里或者一腔熱血地想象人工智能的未來?
巧合的是，確實(shí)有一些這樣的理論，比如說著名的“中文房間悖論”。這個(gè)情景猜想在大部分情況下都被用來否定“圖靈測試”。但它更深層的本意，其實(shí)是在闡釋人工智能永遠(yuǎn)不可能像人類那樣擁有自我意識(shí)。
什么是“中文房間悖論”
所謂的“中文房間實(shí)驗(yàn)”，是由美國哲學(xué)家約翰·希爾勒(John Searle)在1980年發(fā)表論文提出的一個(gè)思維試驗(yàn)。
這個(gè)思維實(shí)驗(yàn)是說，如果把一位只會(huì)說英語的人關(guān)在一個(gè)封閉的房間里，他只能靠墻上的一個(gè)小洞傳遞紙條來與外界交流，而外面?zhèn)鬟M(jìn)來的紙條全部由中文寫成。
這個(gè)人帶著一本寫有中文翻譯程序的書，房間里還有足夠的稿紙、鉛筆和櫥柜。那么利用中文翻譯程序，這個(gè)人就可以把傳進(jìn)來的文字翻譯成英文，再利用程序把自己的回復(fù)翻譯成中文傳出去。
在這樣的情景里，外面的人會(huì)認(rèn)為屋里的人完全通曉中文，但事實(shí)上這個(gè)人只會(huì)操作翻譯工具，對中文一竅不通。
當(dāng)然了，這是個(gè)思維實(shí)驗(yàn)，具體操作起來近乎不可能。但這個(gè)實(shí)驗(yàn)里蘊(yùn)含的思想?yún)s在表達(dá)這樣一個(gè)可能：機(jī)器所表現(xiàn)出的智能(理解中文)，很可能只是翻譯程序帶來的假象，其實(shí)它對真正的人類智能一無所知。
這個(gè)實(shí)驗(yàn)本來是為了反駁圖靈測試的，認(rèn)為即使通過了圖靈測試，機(jī)器也不見得有了智能。但或多或少有點(diǎn)牽強(qiáng)，始終也沒有把圖靈測試徹底反駁掉。但“中文房間悖論”卻可能在技術(shù)發(fā)展之路上告訴了我們另一件事：我們所有的技術(shù)探索與研究，可能都是在完善那個(gè)中英文翻譯程序，從來不是去教機(jī)器真的智能。
通用人工智能和強(qiáng)人工智能的界限
這里要來認(rèn)識(shí)兩個(gè)大家經(jīng)常聽到，但有可能混淆的概念——通用人工智能與強(qiáng)人工智能。
所謂通用人工智能(Artificial General Intelligence，AGI)，是指在不特別編碼知識(shí)與應(yīng)用區(qū)域的情況下，應(yīng)對多種甚至泛化問題的人工智能技術(shù)。這個(gè)技術(shù)雖然冷門并遙遠(yuǎn)，但其實(shí)也有不少學(xué)術(shù)機(jī)構(gòu)與企業(yè)在做，一般被認(rèn)為是人工智能技術(shù)的未來發(fā)展方向。
而強(qiáng)人工智能(Strong Artificial Intelligence)則是約翰·希爾勒在提出“中文房間實(shí)驗(yàn)”時(shí)設(shè)定的人工智能級(jí)別。這個(gè)等級(jí)的人工智能，不僅要具備人類的某些能力，還要有知覺、有自我意識(shí)，可以獨(dú)立思考并解決問題。
雖然兩個(gè)概念似乎都對應(yīng)著人工智能解決問題的能力，但我們可以把前者想象為無所不能的計(jì)算機(jī)，后者則類似穿著鋼鐵俠戰(zhàn)甲的人類。
“中文房間悖論”表達(dá)的思想，是人類研究的方向根本無法逼近強(qiáng)人工智能。即使能夠滿足人類各種需求的通用人工智能，也與自我意識(shí)覺醒的強(qiáng)人工智能之間不存在遞進(jìn)關(guān)系。
現(xiàn)實(shí)中的技術(shù)發(fā)展好像也確實(shí)是這樣的。
在通用人工智能領(lǐng)域，人類已經(jīng)提出了一些設(shè)想與架構(gòu)模型。其中最著名的應(yīng)該是澳大利亞國立大學(xué)學(xué)者馬庫斯赫特(Marcus Hutter)在2000年提出的AIXI。這個(gè)計(jì)算模型據(jù)說可以涵蓋各種算法與技術(shù)，逼近通用人工智能的本質(zhì)……當(dāng)然，這個(gè)算法的復(fù)雜程度奇高，根本無法執(zhí)行，所以僅僅是個(gè)設(shè)想。
而OpenAI和DeepMind這樣的企業(yè)在近兩年則都開始了具體層面的AGI研究，其中DeepMind被認(rèn)為是繼承AIXI的先鋒軍。
從DeepMind進(jìn)行的通用人工智能性質(zhì)的研發(fā)與實(shí)驗(yàn)中，我們可以看到其“通用性”主要集中在四個(gè)層面：智能體應(yīng)對復(fù)雜環(huán)境、陌生環(huán)境處理、時(shí)間變量應(yīng)對、多個(gè)信息源同時(shí)處理任務(wù)。
而這些技術(shù)都指向同一個(gè)方向，就是智能體與外界的交互——也許可以理解為AI與這個(gè)世界的翻譯程序吧?
換言之，人類所做的僅僅是給“那個(gè)人”更好的翻譯程序，而非教他中文(當(dāng)然也沒法教)。所以通用智能這種已經(jīng)很玄的東西，依舊與強(qiáng)人工智能保持著清晰的界限。
絕望的強(qiáng)AI：能力和意識(shí)，也許南轅北轍
讓我們把“中文房間實(shí)驗(yàn)”極限化一點(diǎn)，把整個(gè)房間放在一個(gè)人的大腦里。
假如一個(gè)人記住了所有翻譯程序，看到任何中文他都能調(diào)用回憶，能寫出相應(yīng)的回答，那么他是不是就懂中文了呢?對于人類來說，可能他自然而然就已經(jīng)理解中文了。但對機(jī)器來說，即使這個(gè)過程速度再快、反應(yīng)再靈敏，它也依舊沒有理解任何一個(gè)漢字。
確切地說，這個(gè)人(智能體)獲得的是使用中文的能力，但他(它)對中文沒有意識(shí)。
能力與意識(shí)的區(qū)別，是我們在想象未來超級(jí)智能時(shí)最容易混淆的問題。但從現(xiàn)實(shí)的邏輯推理，就會(huì)發(fā)現(xiàn)這二者差別很大，而且近乎沒有關(guān)聯(lián)。
知識(shí)表示、機(jī)器學(xué)習(xí)、NLP等等人工智能技術(shù)，只是在不斷強(qiáng)化人工智能模仿人類能力(這句話有點(diǎn)繞)，但讓人工智能模仿人類意識(shí)，直到現(xiàn)在依舊是一片空白。
沒有因，自然無果。“中文房間理論”講述的，就是按照人類遵循的技術(shù)軌跡，智能體崛起意識(shí)這個(gè)命題將永遠(yuǎn)缺乏基礎(chǔ)條件。
如果這個(gè)結(jié)論成立，那么對于強(qiáng)人工智能來說可謂是非常絕望的。它們只能繼續(xù)在時(shí)空的長河里沉睡。在人類的幻想中，一如遠(yuǎn)古的神祇，一如都市傳說里的鬼怪。
（轉(zhuǎn)載）
