AlphaGo與李世乭的人機(jī)圍棋大戰(zhàn)，激發(fā)了無數(shù)或者不懂圍棋、或者不懂人工智能，不過大部分情況是兩者皆不懂的各色人等的想象力，產(chǎn)生了無數(shù)談資、彈幕、段子和陰謀論。

　　比如有一個段子：“機(jī)器贏了人類不可怕，機(jī)器假裝輸給人類才可怕。”就是利用了對人工智能自主意識潛在的恐懼達(dá)到了傳播的目的。

　　我們是否能夠知道人工智能是否已經(jīng)發(fā)展出了自我意識？

　　答案是：我們無法知道，因為我們并不理解人工智能。

　　我們不理解人工智能的原因是我們不理解自己

　　IBM科學(xué)家埃默森·M·匹尤說：如果我們的大腦簡單到我們能夠理解，我們就沒有足夠的智力去理解它。希臘古城特爾斐的阿波羅神殿上的那句名言也是：“認(rèn)識你自己！”

　　△特爾斐的阿波羅神殿的名言：認(rèn)識你自己

　　正是因為我們不能夠認(rèn)識我們自己，所以我們還沒有辦法去開發(fā)出真正像我們的人工智能。最古老的飛行夢想家都以為，只要能夠像鳥那樣撲騰翅膀，就能夠讓人也飛起來；但是直到我們有了空氣動力學(xué)以后，我們才找到制造出飛行機(jī)器的正確路徑，而撲騰翅膀不是那條正確路徑。

　　△達(dá)芬奇設(shè)計的撲翼飛行器

　　AlphaGo所使用的深度神經(jīng)網(wǎng)絡(luò)很可能是那條正確的道路：模仿我們大腦中神經(jīng)元的構(gòu)造。人類的大腦，正是通過大量的神經(jīng)元互相連接協(xié)同變化，最終產(chǎn)生了智力和意識。雖然AlphaGo現(xiàn)在在智力上已經(jīng)超越了人類最頂尖的圍棋棋手，但是依然有一個問題——它真的“理解”自己在做什么嗎？

　　“理解”是一個哲學(xué)命題，它關(guān)乎到自我意識：我們能夠理解一件事情，知道它究竟是什么，而不僅僅是某種大腦中的自動反應(yīng)機(jī)制。我們能夠感覺到“自我”的存在，能夠自己做出決定，在心靈上我們是自由的。同時我們認(rèn)為意識和智能是不能夠分割的：有高智能的實體肯定擁有自我意識，而就算AlphaGo能夠在圍棋上碾壓人類，它仍然沒有顯露出有自我意識的跡象。

　　在這里，不得不提到“中文房間”。

　　哲學(xué)家約翰·希爾勒在1980年就提出了一個思想實驗，叫做“中文房間”。假設(shè)是這樣的：假如說有一個對漢語一竅不通，只懂英文的人坐在一個密封的房間里。他手頭有一本英語的手冊，上面有如何處理漢字字符以及回復(fù)的完全指示。外面的人通過一個窗口向屋子里的人遞紙條，上面寫著漢語書寫的問題，然后這個人依據(jù)手冊將對應(yīng)的漢字字符組合成回答傳回給外面的人。

　　對于外面的人來說，這個屋子是會說中文的；但是里面的這個人卻不會中文！

　　在中文屋中的這個人他并不“理解”漢語，他只是按照手冊行事而已；將這個房間換成計算機(jī)，將里面這個人換成計算機(jī)程序，將遞給小屋里的問題換成圍棋，那么這就是AlphaGo——它遵照著一套事先訓(xùn)練好的博弈模型行動，它是否真的“理解”了圍棋？

　　那人類自己是否又理解圍棋？

　　這并不是一句廢話?？紤]到AlphaGo的神經(jīng)網(wǎng)絡(luò)就是模仿人類的神經(jīng)元來構(gòu)造的，如果我們把人類的大腦還原成神經(jīng)突觸的電刺激，那么人類下圍棋時候，每一個神經(jīng)元是否就能夠“理解”圍棋？這是一個讓人發(fā)狂的問題。

　　圍棋是基本規(guī)則非常簡單，因而局面反而非常復(fù)雜的游戲。到目前為止，人類都只能借助于千百年來各路高手已經(jīng)形成的開局、定式、變化，也就是許多相對固定的套路，來學(xué)習(xí)圍棋。人類對圍棋的理解，實際上可以說就是對這些套路和局部最優(yōu)解的運用。AlphaGo的訓(xùn)練就采用了這種傳統(tǒng)思路，參考了數(shù)萬盤職業(yè)棋手的對局。

　　△元代的《玄玄棋經(jīng)》

　　但是Google已經(jīng)表示，之后他們將訓(xùn)練一個完全白板的AlphaGo：也就是不輸入任何已知的棋局，直接在基本規(guī)則的基礎(chǔ)上自我對弈來訓(xùn)練。這樣成長起來的這個人工智能將會在棋盤上有何表現(xiàn)？這里有個可能性，如果說這個白板AlphaGo在與目前的這個AlphaGo戰(zhàn)斗中勝利，那么就說明，人類這幾百年來的對于圍棋的理解是完全錯了——至少也是一條歪路。

　　這將帶來一個非?？膳碌陌凳荆喝祟悓τ趪宓?ldquo;理解”其實是完全沒有意義的，只有純粹的計算能力才有意義，自我意識在這里除了拖后腿之外沒有用處。

　　這是一個可能的未來，一個陰暗的未來：我們對于智能的理解完全錯了。擁有超級智能的機(jī)器或許并不需要有意識，它只需要根據(jù)反饋行動。從這個角度來說，劉慈欣在《三體》中提出的黑暗森林理論是根本無法應(yīng)用的——如果對方只根據(jù)你的行動做出對應(yīng)，那就無所謂猜疑鏈。將所有的唐詩宋詞喂給電腦，它能夠輸出比肩李白的詩句；事實上現(xiàn)在的對聯(lián)機(jī)已經(jīng)能夠輸出黃庭堅級別的詩句了，但只是需要重復(fù)試驗而已。

　　△壹讀君（微信：yiduiread）隨手找了個寫詩軟件寫出來的命題詩

　　人類所有引以為豪的事情——文學(xué)、音樂、繪畫、情感、藝術(shù)，對于人工智能而言只是一個更大的特征值矩陣而已。它完全有可能能夠通過圖靈測試卻沒有任何意識——它能夠流利的跟任何人對話，卻完全不需要明白自己在說什么。

　　我們不理解它們是因為我們不理解我們自己

　　長久以來人類認(rèn)為自己的自我意識都是一種神秘的，超脫于物理世界之外的實體，自我意識處在另一個心靈的世界之中。這就是所謂的“身心二元論”，我們的物理身體是不會影響到我們的意識。但是現(xiàn)在科學(xué)的發(fā)展已經(jīng)證明了這個看法是完全錯誤的。我們的情感很大程度上受激素和荷爾蒙影響；抑郁癥也能夠歸因于神經(jīng)遞質(zhì)的問題，可以吃藥治療。

　　甚至是自由意志——認(rèn)知科學(xué)的實驗證明了我們大腦中做決定的時間比我們能夠意識到的還要更早。我們的大腦是一頭大象，自我意識是一個騎象人：在某些時候騎象人可以指揮大象的方向，而在大部分時間里大象都自行其是。

　　同樣，心理學(xué)的一個新興的研究領(lǐng)域就是“具身認(rèn)知”（Embodiment）：我們的生理體驗與心理狀態(tài)之間有著強(qiáng)烈的聯(lián)系。生理體驗“激活”心理感覺，反之亦然。我們在開心的時候會笑；而做出微笑的表情，人也會變得開心。自我意識不再是一種神秘的，存在于我們大腦中某個地方的結(jié)構(gòu)；也并不是在知覺運動系統(tǒng)的背后存在一個心智；離開了身體，認(rèn)知和心智根本就不存在。

　　所以沒有“身體”，或者說“身體”的概念與我們截然不同的人工智能，會與我們有一樣的心智和認(rèn)知結(jié)構(gòu)么？

　　恐怕不會。人工智能并不會具有我們可以想象的那種心智和認(rèn)知結(jié)構(gòu)，或者人格和情感。它對于情感對于藝術(shù)的感覺也會與我們截然不同——不過這并不妨礙人工智能去創(chuàng)造出好的藝術(shù)。

　　人工智能可以創(chuàng)造藝術(shù)嗎？

　　AlphaGo勝利之后有一句話十分深刻：我們崇拜圍棋的原因是因為我們不擅長圍棋。

　　計算機(jī)已經(jīng)可以創(chuàng)造出巴赫風(fēng)格的音樂，但是它并不真的理解巴赫在我們心中所引起的那種感動。神經(jīng)網(wǎng)絡(luò)可以將一張金門大橋的照片轉(zhuǎn)換成梵高的風(fēng)格，但是它也不理解梵高到底是怎樣的風(fēng)格。

　　△谷歌DeepDream“創(chuàng)作”的繪畫作品

　　這讓人想起劉慈欣在小說《詩云》里的描寫：神級文明拆毀了太陽系，遍歷了整個唐詩的狀態(tài)空間，然而卻沒有辦法去將那首最好的超越唐詩的作品找出來。實際上大劉的這篇小說犯了一個基本錯誤——創(chuàng)作本身就是一個從狀態(tài)空間中篩選的過程，而遍歷狀態(tài)空間則不是創(chuàng)作。

　　假如說我們現(xiàn)在發(fā)明了一個人工智能，它的任務(wù)是創(chuàng)作出超越李白的唐詩——問題就在于“誰來以何種標(biāo)準(zhǔn)來判斷是否超越李白”，而這個判斷只能是人來給出。我們不相信人工智能能夠以人的標(biāo)準(zhǔn)來判斷詩。因為人工智能并不是李白，它也不可能成為李白。如果我們要求人工智能有人格，或者其他的一切我們能夠想得到的特質(zhì)，我相信有一天它會達(dá)到；但是它不會成為李白。