很棒的故事，我從別處抄來的。

遐想「人類（意識）」的起源，以及「機器（意識）」的去途 ……… （摘自王爍，「為什麼我們總是看錯人」）

機器人終將獲得意識

1 機器人寓言

如果你想親眼看到一萬年後的地球，唯一的辦法是休眠。你爬進休眠艙，然後在西元 12016 年醒來。

可是，問題沒這麼簡單。休眠艙需要經受萬年考驗，要保證能源供給不斷，要能經得起環境災變，如果受損還得自我修復，數不清的考驗，它都要能應付，否則你就永遠睡過去了。

找個最理想的位置，有陽光、空氣和水，以及維繫休眠艙所需要的所有資源，然後定在那裡，行不行？

這不算好辦法，一萬年間，地震、海嘯、隕石撞地球，這麼長時段中，風險想想就知道沒法能靠譜地預測。人算不如天算。要不然，萬年一遇的事情怎麼總是在發生？福島核電站怎麼會發生洩露？天津港怎麼會發生那麼大的爆炸？

無法預測未來，那怎麼辦？

製造一個能感知外界、回避風險、尋找資源的機器人，把休眠艙放進去。

說到這裡，你應該明白點了。不動，能動，是從自然界複製而來的兩個策略，前者是植物，後者是動物。

造這樣的機器人很難，比你想像的還要難。一萬年裡，你一開始給它下達了“讓我活著”的指令，然後便一直沉睡，不能給它臨場指導，所以，你的機器人必須能夠自己制定策略，“知道”如何去尋找資源，如何轉移到安全地帶，如何預判和回避危險。

這些你不可能都提前想到，就算想到一部分你也不能事事都提前準備，你準備不起：所需資源太多，太笨重，更不能適應環境變化。

挑戰不止於此。

未來一萬年不會只有你的那個機器人。有許多人也想看到一萬年後的世界，可能有許多機器人彼此競爭或與人類競爭。你的機器人得具備與其他機器人競爭和合作的能力，合縱連橫。

最終，你的機器人會表現出自運行的能力。休眠中的你不能即時控制，機器人在保證你的生機這個最終目標之下，根據環境變化，會自己衍生出許多次生目標，一旦允許機器人從最終目標中自己衍生出次生目標，衍生就意味著脫離，脫離於當初的目標。

不忘初心，何其之難。

允許機器有相繼決策的自主權，那麼它一定會超越你的預想範圍。阿爾法圍棋戰勝李世石的招法，它的設計者們可下不出來，他們只是設定了演算法，然後跟我們一樣驚歎于阿爾法在棋盤上表現出來的“自主”構思。

講到這裡，你終於明白了。上面講的機器人不是別人，正是人自己。在演化中，基因創造出人來做它們的機器人，以保護它們在人類深處的漫漫休眠。

這個故事，道金斯在《自私的基因》裡講過，丹尼特在《信息泵》裡也講過。

人是基因為了自己生存而造出來的機器人，但在基因不得不讓渡的自主決策空間中，人類演化出了自由意志。我們作為人的利益，與“造物主”基因的利益，走上叉路。從基因賦予人類學習能力，授權自主決策的那一天起，這就是註定的結果。

2 短期只是人類換工作而已

現在談論人工智慧（AI）取代人，還太早。

在 AI 獲得意識之前，它就只是人的一種工具，只不過這種工具很特殊。以前的工具，如汽車，能跑但只能跑，你要它採礦它做不到，得另外造。今天的阿爾法已經是通用 AI ，可不止能下棋，很快就會看病。

就連大家談得比較多的工作競爭這件事，也基本是假問題。

新工具不會減少人類的工作機會，只會改變人類工作的方式。有一些工種會消亡，有一些工種會增加，能力固化難以調整的那些人，會付出代價，但這主要是人類內部之間的博弈，AI的進步暫時只是個扳機，還不是主角。而且肯定會帶來極大好處，人類的閒暇會增加，但人又是一種永遠閑不下來的動物，沒有閒暇就沒有發明，誰知道人會折騰出什麼新東西來呢？

人的創造力將與 AI 的演化賽跑，勝負至關重要。

3 機器終將獲得意識

長期中，AI終將獲得意識，只要人類給它的使命越來越開放，越來越籠統，包含著越來越複雜的權衡，以及越來越充分的授權。

作為一個封閉有限遊戲，圍棋存在理論上的確定解，但阿爾法圍棋不是求得了一個確定解，它是在一個最終目標下，自己制定策略，自己權衡，自己做決定。阿爾法圍棋戰勝李世石，是里程碑式的一步。

前面講透了，人類獲得自我意識，最初也是這樣的，只不過花了數百萬年時間，而如果從生命出現至今算，花了數十億年。人類是很特殊，但說到底不過是一堆碳，碳可以，矽為什麼就不行？

Jim Ling：這篇文章由 王爍所寫，原發表於微信公眾號“ BetterRead ”，後收錄於「為什麼我們總是看錯人」一書出版。