最近看了一個科幻故事， 在知乎問題下“如果蘋果、穀歌、微軟打算毀滅世界會怎樣？”alienbat的回答，我這裏節選一部分：

　　

2050年12月：聚集了三千人的北美人類抵抗軍借漫天風雪的掩護衝擊至前蘋果公司“飛船”總部，意圖摧毀Siri的核心計算集群，但最終被AI部隊全麵屠殺，史稱“最後的聖誕節”。最後一個抵抗軍戰士在被火箭彈炸成肉碎之前，看到了這樣一番景象：飛船總部的外牆玻璃全部碎裂，每層樓中都看得見集群工作站的電源LED藍光閃閃
，如同鬼火。和人類抵抗軍領袖的想法相反，“飛船”總部對AI而言無關緊要，也並不是Siri Enterprise的核心部分。Siri Enterprise作為分布係統沒有核心。

　　

2051年1月1日0點0時：Siri Enterprise對全球發動無差別核武攻擊，以圖一舉消滅剩餘人類
，史稱“審判日”。巨大的核火球在世界各地的城市升起。剩餘極少數人類躲藏在山區，放棄全部科技
，過著極度原始的生活。全球生態崩潰。

　　

2055年：崩潰的人類社會已完全退化到石器時代，殘存的人類在核冬天中依靠搜集文明的殘留物，苟延殘喘。

　　

這個聳人聽聞的故事會不會發生
？從AlphaGoyurenleiduizhan，woxiangdaolehenduohuati，shejidaorengongzhineng，xunixianshi
，chaoyuexianshi，jiqirenganqing，renleiwenming
，woyemeiyouzuizhongdaan
，jiujinliangbazhexiexiangfazhenglichulai，suanshizawenba。woxianhuidaoyigejibenwenti：如何定義人工智能。

　　

　　

1950年，英國的數學家阿蘭·圖靈在曼徹斯特大學提出了著名的“圖靈測試”理論，代表著人工智能的概念被初步提出。“圖靈測試”理論具體為一個人和一台機器隔開的情況下接受測試
，要求提問者不斷提出各種問題，從而辨別回答者是人還是機器，如果機器有30%的回答騙過了提問者，那麼這台機器就通過了測試，並被認為具有人類智能

，即人工智能。

 

 

比如你如果反複問被測試者同一個問題，“你吃藥了嗎？”連問五遍，假如被測試者是人類，多半會蹦出來罵街：“你丫神經病煩不煩啊”，但機器人則不會

，機器永遠會基於答案的對錯來回答問題
，這就是計算機與人類大腦的區別。2014年6月7日，也是圖靈逝世60周年，尤金·古斯特曼通過了圖靈測試，達到13歲小孩的水平，是人工智能乃至於計算機史上的一個裏程碑事件。

　　

　　

前段時間
，筆者跟田淵棟（卡耐基梅隆大學機器人係博士，Facebook人工智能組研究員）交流，他做的也是計算機圍棋AI－－黑暗森林（熟悉三體的朋友知道怎麼回事）
，今年1月份被機器學習頂級會議ICLR 2016接受（表達學習亦被江湖稱作深度學習或者特征學，已經在機器學習社區開辟了自己的江山
，成為學術界的一個新寵）。他在聊天中談到
，自從穀歌收購了DeepMind
，投入大量資源去做好人工智能項目

，不為別的


，就是要向世界證明穀歌智能的強大。發表在頂級期刊《Nature》的論文光看作者就20個，明顯是下了血本，前兩位都是計算機圍棋界的大牛，一作David Silver是計算機圍棋和強化學習的頂級專家，整個博士論文就是做的圍棋； 二作Aja Huang以前寫過多年圍棋軟件，自己又是AGA 6D的水平。

 

　　

在昨天的《知識分子》線xian上shang討tao論lun群qun中zhong，有you人ren問wen機ji器qi會hui詐zha輸shu麼me
，這zhe個ge問wen題ti其qi實shi是shi偽wei命ming題ti，因yin為wei問wen的de人ren假jia設she機ji器qi已yi經jing產chan生sheng意yi識shi，那na麼me假jia裝zhuang輸shu給gei人ren類lei以yi爭zheng取qu發fa展zhan時shi間jian
，待dai強qiang大da以yi後hou再zai消xiao滅mie人ren類lei。這zhe顯xian然ran太tai高gao估gu機ji器qi了le。

　　

圍wei棋qi是shi信xin息xi透tou明ming的de遊you戲xi，而er在zai一yi些xie信xin息xi不bu透tou明ming的de遊you戲xi如ru撲pu克ke中zhong，任ren何he出chu牌pai都dou可ke能neng造zao成cheng信xin息xi泄xie露lu。機ji器qi完wan全quan可ke以yi選xuan擇ze犧xi牲sheng局ju部bu以yi避bi免mian信xin息xi泄xie露lu。

 

 

AlphaGo這次用到了1202 CPU，176 GPU
，100多名科學家
，而另一邊李世石
，一個人腦＋一杯咖啡。

　　

　　

在這些封閉的博弈係統中（圍棋），戰勝人類這個也不奇怪，因為它雖然計算複雜度高（10^100以上）
，但是每個狀態是確定性的，就在棋盤方寸間
；而一些社會行為
，比如股票投資不確定因素就大多了，所以其他類似的確定性的game機器遲早都會贏的。

　　

我記得有些預言家說過未來20年
，98%的人類工作將會被機器取代
，那麼我們現在要怎麼做
？怎麼才能成為那2%的(de)人(ren)
，人(ren)類(lei)怎(zen)麼(me)辦(ban)。我(wo)想(xiang)辦(ban)法(fa)總(zong)會(hui)有(you)的(de)
，通(tong)用(yong)智(zhi)能(neng)也(ye)不(bu)一(yi)定(ding)那(na)麼(me)快(kuai)就(jiu)能(neng)到(dao)來(lai)，還(hai)會(hui)有(you)很(hen)多(duo)未(wei)知(zhi)障(zhang)礙(ai)，比(bi)如(ru)讓(rang)機(ji)器(qi)去(qu)發(fa)展(zhan)科(ke)學(xue)理(li)論(lun)。有(you)一(yi)點(dian)可(ke)以(yi)肯(ken)定(ding)
，有(you)生(sheng)之(zhi)年(nian)
，機(ji)器(qi)會(hui)取(qu)代(dai)越(yue)來(lai)越(yue)多(duo)的(de)人(ren)類(lei)勞(lao)力(li)，這(zhe)是(shi)雙(shuang)刃(ren)劍(jian)，既(ji)是(shi)好(hao)事(shi)也(ye)是(shi)壞(huai)事(shi)
，自(zi)動(dong)化(hua)生(sheng)產(chan)線(xian)取(qu)代(dai)部(bu)分(fen)勞(lao)動(dong)力(li)，可(ke)能(neng)人(ren)類(lei)會(hui)越(yue)來(lai)越(yue)懶(lan)。但(dan)我(wo)想(xiang)創(chuang)意(yi)靈(ling)感(gan)還(hai)是(shi)機(ji)器(qi)學(xue)不(bu)來(lai)的(de)。

　　

人(ren)與(yu)人(ren)的(de)差(cha)異(yi)性(xing)是(shi)人(ren)類(lei)創(chuang)造(zao)力(li)的(de)基(ji)礎(chu)，正(zheng)是(shi)豐(feng)富(fu)的(de)思(si)想(xiang)造(zao)就(jiu)了(le)科(ke)技(ji)的(de)繁(fan)榮(rong)，想(xiang)到(dao)春(chun)秋(qiu)諸(zhu)子(zi)百(bai)家(jia)，文(wen)藝(yi)複(fu)興(xing)時(shi)代(dai)，世(shi)界(jie)第(di)一(yi)次(ci)大(da)戰(zhan)前(qian)
，民(min)國(guo)時(shi)期(qi)
，百(bai)花(hua)齊(qi)放(fang)，大(da)師(shi)輩(bei)出(chu)。但(dan)思(si)想(xiang)差(cha)異(yi)同(tong)時(shi)促(cu)成(cheng)了(le)種(zhong)族(zu)、信仰、國(guo)家(jia)的(de)產(chan)生(sheng)，也(ye)是(shi)戰(zhan)爭(zheng)與(yu)仇(chou)恨(hen)的(de)源(yuan)泉(quan)
，如(ru)果(guo)世(shi)界(jie)是(shi)一(yi)個(ge)整(zheng)體(ti)
，自(zi)私(si)的(de)基(ji)因(yin)怎(zen)麼(me)會(hui)讓(rang)自(zi)己(ji)資(zi)源(yuan)不(bu)均(jun)呢(ne)
，怎(zen)麼(me)會(hui)覺(jiao)得(de)自(zi)己(ji)有(you)的(de)部(bu)分(fen)處(chu)在(zai)不(bu)公(gong)的(de)位(wei)置(zhi)呢(ne)
？

 

　　

人類文明中的智力正在實現指數式的增長。技術是文明的一部分。人們討論機器和人類的衝突，但是，庫茲韋爾說“我們創造的機器並不是來自火星的入侵者
，我們創造了工具，以擴展我們自身的能力。” 說兩句他的背景，學術界出身
，後來任Google首席工程師，執掌Google Brain計劃
，多次發表他對科技未來預測

，據說準確率高達86%。成立“奇點大學”，這個大學的名稱和教育探索，源起於一本《奇點臨近》的圖書。

 

 

這是他在奇點臨近的書提到的加速回歸定律
，人類的科技在2050年左右必將跨過一個拐點，然後由於納米科技、基因科技
、機器智能這三塊技術的發展
，人類會與機器結合
、改造自己到最終變成機器
，結局是：將奇點人的光輝撒向宇宙。

　　

引用他的兩個預言：

　　

一.“人腦雲端互聯”

　　

庫茲韋爾認為到2030nian，renleixueyezhongfangrushuyiwanjibiedexueqiuxibaodaxiaodenaimixingshiweidiannao，xiezhuweichirentigongneng，shenzhijinrudanao，badanaopicengheyunduanwangluoliantong
，suoyirenzaisikaowenti，jiukeyitongguodanaopicenglianjie。

　　

二.“永生進化”

　　

庫茲韋爾把“永生”視為不斷進化的過程
，沒有所謂的永恒，真正談的是人類走向下一個階段：

　　

第一階段人類通過補品來維持生命健康。

　　

第二階段生物技術革命，人類遠離疾病。

　　

第三階段時納米技術革命
，那時人類將納米機器人植入血管、器官中，增強免疫係統。它能識別所有疾病
，而且可以對抗新疾病。預計2045年，人類可借助人工智慧獲得“永生”。

　　

“我們是一個人類—機器文明。機器是我們智力的一部分。” 機器智力的部分會飛速成長，從而導致奇點的到來，人類的曆史也會改變。那時候，人類將更加富有、更geng為wei長chang壽shou。他ta更geng關guan注zhu是shi富fu有you的de方fang麵mian。富fu有you並bing不bu隻zhi是shi財cai務wu上shang的de
，科ke技ji將jiang使shi我wo們men的de生sheng活huo更geng加jia豐feng富fu，通tong過guo擴kuo展zhan我wo們men的de智zhi力li，人ren類lei表biao達da的de所suo有you形xing式shi，藝yi術shu、科技等都將會得到擴展。

　　

　　

智能電腦到底是人還是機器的意識，學術界著名的“10個思想問題”之一“缸中大腦”的故事。

 

 

這個實驗的內容是：想(xiang)象(xiang)有(you)一(yi)個(ge)瘋(feng)狂(kuang)科(ke)學(xue)家(jia)把(ba)你(ni)的(de)大(da)腦(nao)從(cong)你(ni)的(de)體(ti)內(nei)取(qu)出(chu)
，放(fang)在(zai)某(mou)種(zhong)生(sheng)命(ming)維(wei)持(chi)液(ye)體(ti)中(zhong)。大(da)腦(nao)上(shang)插(cha)著(zhe)電(dian)極(ji)，電(dian)極(ji)連(lian)到(dao)一(yi)台(tai)能(neng)產(chan)生(sheng)圖(tu)像(xiang)和(he)感(gan)官(guan)信(xin)號(hao)的(de)電(dian)腦(nao)上(shang)。因(yin)為(wei)你(ni)獲(huo)取(qu)的(de)所(suo)有(you)關(guan)於(yu)這(zhe)個(ge)世(shi)界(jie)的(de)信(xin)息(xi)都(dou)是(shi)通(tong)過(guo)你(ni)的(de)大(da)腦(nao)來(lai)處(chu)理(li)的(de)，這(zhe)台(tai)電(dian)腦(nao)就(jiu)有(you)能(neng)力(li)模(mo)擬(ni)你(ni)的(de)日(ri)常(chang)體(ti)驗(yan)。如(ru)果(guo)這(zhe)確(que)實(shi)可(ke)能(neng)的(de)話(hua)
，你(ni)要(yao)如(ru)何(he)來(lai)證(zheng)明(ming)你(ni)周(zhou)圍(wei)的(de)世(shi)界(jie)是(shi)真(zhen)實(shi)的(de)，而(er)不(bu)是(shi)由(you)一(yi)台(tai)電(dian)腦(nao)產(chan)生(sheng)的(de)某(mou)種(zhong)模(mo)擬(ni)環(huan)境(jing)？

　　

強(qiang)人(ren)工(gong)智(zhi)能(neng)是(shi)人(ren)類(lei)發(fa)展(zhan)的(de)重(zhong)要(yao)裏(li)程(cheng)碑(bei)，形(xing)式(shi)不(bu)重(zhong)要(yao)，也(ye)許(xu)不(bu)是(shi)量(liang)子(zi)計(ji)算(suan)機(ji)，沒(mei)有(you)實(shi)體(ti)，也(ye)許(xu)是(shi)一(yi)種(zhong)意(yi)識(shi)場(chang)，如(ru)同(tong)特(te)斯(si)拉(la)的(de)無(wu)線(xian)能(neng)量(liang)傳(chuan)輸(shu)。

　　

　　

有一次坐飛機時候看過一部電影
，《超驗駭客》，這(zhe)個(ge)與(yu)開(kai)頭(tou)提(ti)到(dao)的(de)科(ke)幻(huan)故(gu)事(shi)有(you)些(xie)類(lei)似(si)
，天(tian)才(cai)科(ke)學(xue)家(jia)威(wei)爾(er)的(de)意(yi)識(shi)數(shu)據(ju)化(hua)上(shang)傳(chuan)到(dao)智(zhi)能(neng)電(dian)腦(nao)中(zhong)。奇(qi)妙(miao)而(er)幸(xing)運(yun)的(de)是(shi)，成(cheng)功(gong)在(zai)虛(xu)擬(ni)世(shi)界(jie)中(zhong)複(fu)生(sheng)，他(ta)進(jin)入(ru)任(ren)何(he)一(yi)個(ge)電(dian)腦(nao)係(xi)統(tong)獲(huo)取(qu)信(xin)息(xi)，可(ke)以(yi)監(jian)控(kong)任(ren)何(he)一(yi)個(ge)角(jiao)落(luo)

，他(ta)知(zhi)曉(xiao)一(yi)切(qie)，並(bing)且(qie)發(fa)明(ming)新(xin)的(de)納(na)米(mi)技(ji)術(shu)——修複受損細胞

、增強再生能力，治愈一切殘疾。最後把思想複製到別人腦中

，而這些肉身可以自我修複，成為威爾永恒的力量。

 

 

這個片子細微之處在於當被問道是否要毀滅全世界，威爾答曰：不是。我隻是超驗他們。電影的英文名Transcendence，翻譯過來是“超越”

，其另一個涵義是宗教方麵的“超然性”
，相信電影用的是後一種釋義

，Transcendence代表這對神的超越，也就是淩駕於造物主之上，說白了
，就是讓威爾變得比造物主更加牛逼。

　　

 

 

機器人會不會統治人類乃至消滅人類？阿西莫夫提了三定律以後又加了第零定律：jiqirenbudeshanghairenleizhengti，huoyinbuzuoweishirenleizhengtishoudaoshanghai。zaiwokanlai，zhetiaojiadedayouwenti。qiansantiaoqishimeishenmeyongchu，eximofuyeyishidaole。tafuyujiqirenbaohurenleidezeren，ruguojiqiyoujubeizugoudewuli，namebiranchuxiandeqingkuangjiushi
，jiqigenjuqibuchengshudezhineng，panduanweilerenleizhengtibixuxiaomieyibufenhuairen，zheshihousuoyoudangzaitalushangderendouhuibeidangchenghuairen
，bixuxiaomiediao。zaizheliyongle“必然”yici
，zheshiyinweilixingyongyuanbunengqiongjinshijianwanwudeguilv。gedeerdinglishuole
，renheyunhansuanshudexitong
，jiuhuizaixitongneipengdaowufazhengmingdemingti。jiqizhihuigenjugailvgaodizuoyixiepanduan，quzuidakenengxing，danzheyangbushirenleisikaohetuilifangshi。

　　

我是符合邏輯的選擇。它計算出了我有45%的概率生還，但是薩拉隻有11%。她也是一個人的孩子，11%也許夠了。每個人類都知道怎麼在警察和12歲的小女孩之間抉擇
，但是機器人不會。 ——戴爾·斯普納（電影 機器公敵 中的警探）

　　

那麼應該怎樣約束機器？有一條就是絕對服從人類命令。要是給壞人控製怎麼辦，這就是人與人之間的問題，而不是人與機器了。

　　

　　

大家認為這張圖中到底左邊藥丸是紅色，還是右邊是紅色？

 

 

ruguowobabeijingqudiao，nijiufaxianyaowanyanseshiyiyangde，danjibushihongseyebushilanse
，suoyinideshijiaoqipianleni。jiushishuozhouweideshijieshiyouzijidetounaochuangzaochulaide。（reality is created by mind）
，當我們在生下來通過視覺來學習外在世界的表征
，在大腦皮層建立映射，就“看到了”東西。

 

 

虛擬現實，增強現實當下的科技發展熱點，技術方麵很快就要成熟了
，之前筆者也發過《AR技術不得不說的秘密》，筆者最近看了這本心理學的書（作者斯坦福大學虛擬人機交互實驗室創辦人Jeremy Bailenson）。

　　

作者講一件事情：其qi實shi我wo們men所suo看kan到dao的de東dong西xi
，並bing不bu一yi定ding都dou是shi現xian實shi。首shou先xian
，很hen多duo層ceng麵mian的de現xian實shi，是shi人ren類lei的de感gan覺jiao器qi官guan無wu法fa捕bu捉zhuo到dao的de，例li如ru
，我wo們men看kan不bu到dao紅hong外wai線xian，我wo們men聞wen不bu到dao一yi氧yang化hua碳tan。並bing且qie，人ren們men接jie收shou到dao的de感gan官guan刺ci激ji的de質zhi量liang——天空的顏色
、玫瑰的香味、砂紙的觸感
、鋼琴上彈出的低音 C——對每個人來說並非完全一樣。所以，包括赫胥黎在內的許多科學家、作家和哲學家
，到宗教領袖們
，都認為所有感覺實際上隻不過是擁有一些特質的幻覺而已。

　　

可以說我們所講的現實，往往隻是我們意識到的現實，它有時候隻是現實的子集，有的時候，則是經過意識加工、偏離現實的幻象。

　　

　　

書裏麵提到有兩個你，虛擬現實中的你，一個是online模式，還有一個是 offline模式。虛擬世界中的人物一般有兩類：一種是屏幕背後有真人操縱的角色，可稱之為“化身”（阿凡達）；另一種是由計算機算法生成的角色，叫代理（agent）。如果沒有“實體的接觸”，一般人很難判斷屏幕的對麵究竟是化身還是代理


，也許憑一些小的細節就會把對方當做真人（聯想到蘋果手機中的Siri，或者微軟研究院做的智能助手小冰）。

　　

　　

zhexuekaowen，jiujingshenmeshixuni
，shenmeshixianshi
？jiujingruhecainengzhidaoshenmeshizhenshi
？xianshizhiyunali，xunikaishiyunali？keyirangzijizailingyigeshijiezhongshijianlvxing？yuzhoudaodiyoumeiyoushijian，haishizhishiwomendingyizijidecunzaierjiaxiangdegainian？

　　

“你自己可以欺騙你自己
，你看到的信息是由頭腦決定的
，你怎麼去解釋。從“心靜自然涼”到笛卡爾“我思故我在”
，是shi意yi識shi主zhu義yi的de進jin階jie。前qian者zhe隻zhi是shi強qiang調tiao意yi識shi可ke以yi影ying響xiang肉rou體ti，後hou者zhe則ze完wan全quan否fou認ren了le肉rou體ti決jue定ding意yi識shi的de觀guan點dian
，它ta認ren為wei人ren的de思si想xiang才cai是shi一yi切qie物wu質zhi的de基ji礎chu，失shi去qu了le思si想xiang的de身shen體ti就jiu是shi行xing屍shi走zou肉rou
，不bu具ju有you任ren何he意yi義yi。有you個ge玄xuan幻huan小xiao說shuo，作zuo者zhe普pu遍bian認ren為wei人ren的de靈ling魂hun是shi一yi組zu記ji憶yi碼ma
，本ben身shen擁yong有you極ji其qi強qiang大da的de能neng量liang，反fan而er是shi肉rou體ti的de存cun在zai束shu縛fu了le靈ling魂hun的de力li量liang
，作zuo者zhe甚shen至zhi幻huan想xiang具ju有you高gao度du文wen明ming的de外wai星xing人ren已yi經jing脫tuo離li了le形xing體ti
，全quan是shi一yi組zu組zu含han有you超chao多duo信xin息xi量liang的de代dai碼ma，僅jin靠kao“思想”就可以完成一切行為。” －－來自於《黑客帝國》影評

　　

你選擇紅色藥丸還是藍色藥丸？

　　

影片黑客帝國拋出了這樣一個令人深思的問題。如果選擇藍色的藥片僅僅是讓生活像以前一樣繼續。如果去拿紅色的藥片
，警告說：“記住
，我要告訴你的隻有一樣東西——真相。”紅(hong)色(se)藥(yao)片(pian)象(xiang)征(zheng)著(zhe)風(feng)險(xian)
，懷(huai)疑(yi)和(he)恐(kong)懼(ju)。也(ye)許(xu)你(ni)的(de)生(sheng)活(huo)和(he)世(shi)界(jie)押(ya)在(zai)一(yi)個(ge)從(cong)未(wei)體(ti)驗(yan)過(guo)的(de)上(shang)麵(mian)。在(zai)人(ren)類(lei)曆(li)史(shi)上(shang)許(xu)多(duo)人(ren)都(dou)已(yi)為(wei)此(ci)提(ti)出(chu)疑(yi)問(wen)或(huo)進(jin)行(xing)探(tan)究(jiu)
，他(ta)們(men)中(zhong)的(de)大(da)多(duo)數(shu)並(bing)非(fei)科(ke)學(xue)家(jia)、醫生或哲學家，而僅僅是愛問“怎麼了”或“為什麼”的普通人
，而這些好奇心最終引領我們發現真理，推動科技和社會前進。

　　

12.夢想與奔跑

　　

上shang麵mian的de哲zhe學xue思si辨bian也ye許xu有you杞qi人ren憂you天tian
，或huo者zhe不bu切qie實shi際ji，那na麼me我wo們men仰yang望wang天tian空kong的de同tong時shi
，當dang下xia要yao怎zen麼me做zuo？路lu在zai腳jiao下xia，飛fei不bu了le就jiu跑pao吧ba，我wo還hai是shi拿na田tian博bo士shi在zai《2015年末總結 —遠東軼事》說到的作為激勵：

　　

在我有時候會問自己：“我是不是背棄了夢想
？”我wo想xiang除chu了le我wo自zi己ji，任ren何he人ren都dou不bu會hui給gei我wo答da案an，任ren何he評ping論lun也ye不bu具ju效xiao力li。我wo記ji得de有you人ren問wen過guo，如ru果guo夢meng想xiang從cong踐jian行xing的de一yi開kai始shi，就jiu在zai不bu自zi覺jiao地di向xiang現xian實shi妥tuo協xie，那na樣yang的de夢meng想xiang還hai是shi最zui初chu的de夢meng想xiang麼me
？其qi實shi，這zhe樣yang的de問wen題ti沒mei什shen麼me可ke糾jiu結jie的de，因yin為wei世shi界jie從cong來lai就jiu不bu是shi二er元yuan的de，夢meng想xiang和he現xian實shi，如ru同tong高gao懸xuan的de日ri月yue，日ri月yue之zhi間jian，有you一yi條tiao灰hui色se的de路lu

，在zai自zi己ji腳jiao下xia蜿wan蜒yan曲qu折zhe，繞rao過guo各ge種zhong險xian阻zu，一yi直zhi向xiang前qian。