社會(huì)產(chǎn)生前后，人類遭遇的進(jìn)化機(jī)制不同。產(chǎn)生之前，是純粹生態(tài)的進(jìn)化機(jī)制，由偶然性和適應(yīng)性控制，由創(chuàng)造性進(jìn)化的躍遷和適應(yīng)性進(jìn)化的分化構(gòu)成，循環(huán)往復(fù)。產(chǎn)生之后，人類認(rèn)知把想象變成現(xiàn)實(shí)，創(chuàng)造出社會(huì)，以應(yīng)對(duì)自然生態(tài)。

但人類的困境在于，我們會(huì)把自己的想象和創(chuàng)造當(dāng)真，讓想象成為實(shí)體，成為與自然一樣的客體。社會(huì)和自然兩個(gè)客體共同影響人。人，社會(huì)，自然的關(guān)系由人-工具-自然，轉(zhuǎn)變?yōu)樽匀?人-社會(huì)的三明治。這是協(xié)同進(jìn)化的基礎(chǔ)。我們的想象成為影響人類生物進(jìn)化的力量，與自然平齊。

想象，是人類進(jìn)化的自主能力，讓人以理想調(diào)整現(xiàn)實(shí)。 想象創(chuàng)造社會(huì)現(xiàn)實(shí)，社會(huì)現(xiàn)實(shí)影響生理機(jī)制，從而影響人的進(jìn)化。

AI是當(dāng)代人類的巔峰想象。

AI帶來(lái)的變革，已經(jīng)悄無(wú)聲息的進(jìn)入我們的生活，引領(lǐng)著時(shí)代，而我們對(duì)于AI的認(rèn)知到底有多少？在SELF講壇年度大會(huì)上的“AI·異變”圓桌對(duì)話中，四位來(lái)自不同領(lǐng)域的人工智能專家，帶領(lǐng)我們打開AI認(rèn)知的大門，深入探究AI背后更多耐人思考的問(wèn)題。

嘉賓介紹（從左到右）：

葉盛 主持人 中科院生物物理所副研究員

蔡雄山 騰訊研究院法律研究中心副主任、首席研究員

陳孝良 聲智科技創(chuàng)始人

劉鋒《人工智能學(xué)家》主編

何清 中科院計(jì)算技術(shù)研究所研究員

以下內(nèi)容為圓桌對(duì)話實(shí)錄：

主持人：今天這場(chǎng)對(duì)話是關(guān)于AI的，我先講一個(gè)可能跟AI沒什么關(guān)系的事情。

我有一個(gè)朋友小有資產(chǎn)，2016年夏天他突然給我打電話，說(shuō)最近有一個(gè)中科院專家找他投資項(xiàng)目，是有一個(gè)技術(shù)把普通的化肥變成量子化肥。這位朋友也不懂什么是量子科學(xué)，但他覺得這事聽起來(lái)不太靠譜，他就來(lái)問(wèn)我，我說(shuō)：“我不知道這位專家的名字，但是我可以負(fù)責(zé)任地告訴你，絕對(duì)沒有量子化肥這件事?！?/p>

這是一個(gè)很值得我們深思的現(xiàn)象，隨著中國(guó)科普事業(yè)做得越來(lái)越好，很多高科技名詞已經(jīng)深入人心了，可是我們真的了解這些高科技名詞背后的含義是什么嗎？就像量子進(jìn)軍化肥界，納米已經(jīng)被玩壞，我相信接下來(lái)的幾年，一些騙子和不法商販也會(huì)拿AI來(lái)忽悠人了。

今天有四位來(lái)自人工智能不同領(lǐng)域的專家坐在一起，能否請(qǐng)幾位專家給我們界定一下人工智能的概念，有沒有簡(jiǎn)單的方法判斷一下，當(dāng)一個(gè)商品說(shuō)自己有AI技術(shù)的時(shí)候是真還是假呢？

何清：關(guān)于AI這個(gè)概念可以說(shuō)已經(jīng)被炒熱了，現(xiàn)在滿大街是AI的產(chǎn)品、投資人，到底AI是什么概念呢？人工智能本質(zhì)的特征，用一句話總結(jié)，就是在你的服務(wù)或者產(chǎn)品是否具備在不確定情況下，或者不確定的環(huán)境下，能夠自主做出行為的抉擇。如果是這樣，你的服務(wù)、產(chǎn)品才叫具有智能，核心的關(guān)鍵詞是不確定條件、環(huán)境。

比如下圍棋就有不確定的問(wèn)題。首先在下棋的時(shí)候，你下完這一步，對(duì)手會(huì)下哪一步是不確定的，由于這個(gè)不確定導(dǎo)致了你當(dāng)前要確定走哪一步變得極其困難，機(jī)器人下圍棋這件事情，大家還是公認(rèn)有智能的。

但是并不是所有的事情看起來(lái)都有智能，比如數(shù)碼機(jī)床。當(dāng)我們輸入一些程序以后，機(jī)床就會(huì)自動(dòng)加工，這個(gè)我們叫smart，就是敏捷制造，不能叫做智能制造。

原因在哪里？因?yàn)槟闼鶊?zhí)行的那個(gè)過(guò)程，不是機(jī)器自主的，是事先輸入程序的，沒有不確定性的，事先就知道加工出來(lái)的是什么樣的，所以數(shù)碼機(jī)床不能說(shuō)是智能機(jī)床。

只有在不確定的工況條件下，比如它拿起一個(gè)工件，它想要車銑刨磨，這個(gè)原料的形狀不確定，怎么下料、選料，這個(gè)機(jī)器人自主能夠處理，而且處理的行為還要合理，不敢說(shuō)最優(yōu)，但要合理，在這種情況下才稱為有智能。

陳孝良：我補(bǔ)充一下，剛才說(shuō)到很多產(chǎn)品都加了“AI”這兩個(gè)字母，因?yàn)槲揖褪茿I創(chuàng)業(yè)者，從真正的落地產(chǎn)品來(lái)看，我們倒不認(rèn)為人工智能里面有多少智能，我們從定義上看是有多少智能就有多少人工。

舉一個(gè)比較簡(jiǎn)單的例子，今年我們大家能夠買到的智能音箱、智能電視、智能冰箱、智能汽車，很多產(chǎn)品都帶智能，但是它并沒有真正達(dá)到人類一樣的類人智能，還是把它定義為簡(jiǎn)單的機(jī)器智能。從我們現(xiàn)在來(lái)說(shuō)，技術(shù)的迭代包括數(shù)據(jù)的積累，還是基于數(shù)據(jù)進(jìn)行一些挖掘的事情，并沒有達(dá)到像類人一樣，可以產(chǎn)生一些創(chuàng)新或者突變的真正智能。

主持人：現(xiàn)在很多人都知道AlphaGo 是很厲害的人工智能，但是大家可能不知道，開發(fā)AlphaGo 的公司叫DeepMind，在2017年發(fā)了一篇文章，把他們開發(fā)的人工智能與星際爭(zhēng)霸游戲之間的接口向全世界公布了，他們希望更多的人工智能專家能夠參與到這個(gè)研究項(xiàng)目中來(lái)，為什么呢？

因?yàn)樗麄児居肁lphaGo體系想教會(huì)人工智能打星際爭(zhēng)霸，結(jié)果發(fā)現(xiàn)這個(gè)程序連采礦都學(xué)不會(huì)。大家知道星際爭(zhēng)霸這個(gè)游戲本身帶就帶有AI，一般的菜鳥都玩不過(guò)它，那個(gè)AI靠程序告訴它見招拆招該做什么，這兩種都叫AI，但是又給人感覺此AI非彼AI，哪位老師評(píng)價(jià)一下這是怎么回事呢？

何清：在AI里面要學(xué)習(xí)，目前所見到的具有一定人工智能的游戲都這樣。比如下棋的程序，實(shí)際上它有專用的程序，專門完成一個(gè)特定的任務(wù)，或者是提供一種特定的服務(wù)，是在這種情況下研制出來(lái)。

它的核心有深度學(xué)習(xí)，它是用來(lái)做特征學(xué)習(xí)的。蒙特卡洛方法是為了選擇哪一步是最優(yōu)的，是把別人已有的經(jīng)驗(yàn)，比如下一步有多少種下法，以往人是怎么下的。用抽樣的方法，抽到對(duì)它價(jià)值比較大的步驟，然后做下一步。

在此過(guò)程中，純屬是按照圍棋的規(guī)則來(lái)做事情。而在這里面只有蒙特卡羅方法——深度學(xué)習(xí)技術(shù)，對(duì)遇到新的特定任務(wù)，去組合才有可能換一個(gè)場(chǎng)景、任務(wù)還能做好。

蔡雄山：現(xiàn)在的人工智能的概念比較廣泛，國(guó)際把人工智能分為幾個(gè)階段。第一個(gè)階段是弱人工智能階段，機(jī)器只能處理一些比較簡(jiǎn)單、單向的事情?，F(xiàn)在的AlphaGo 或者軟件，其實(shí)都是處理比較簡(jiǎn)單的事情，我們現(xiàn)在是處理弱人工智能階段。

那么到強(qiáng)人工智能階段，也叫通用人工智能，機(jī)器可以像人一樣思考行動(dòng)；下一個(gè)階段叫做超人工智能階段，那個(gè)階段可能機(jī)器的智力會(huì)超過(guò)人類，就比較科幻了。

我們現(xiàn)在的技術(shù)就是簡(jiǎn)單的弱人工智能階段，那么什么時(shí)候到強(qiáng)人工智能階段？全世界的科學(xué)家對(duì)此分歧非常大，在2015年的時(shí)候，美國(guó)召開了一次AI會(huì)議，全世界幾千名AI的科學(xué)家相聚，大家得出了一個(gè)比較中位的說(shuō)法：可能在2055年可能實(shí)現(xiàn)強(qiáng)人工智能。

但是還有很多科學(xué)家認(rèn)為，強(qiáng)人工智能根本就實(shí)現(xiàn)不了。2017年的年底，我去了美國(guó)斯坦福大學(xué)計(jì)算機(jī)實(shí)驗(yàn)室——全世界頂尖級(jí)的AI研究機(jī)構(gòu)。在那我和一個(gè)資深教授交流，他的觀點(diǎn)是兩個(gè)“不”。

第一個(gè)“不”是“不猜測(cè)、不預(yù)測(cè)”。因?yàn)樗f(shuō)預(yù)測(cè)時(shí)間的早晚都會(huì)被人罵；另外一個(gè)“不”是“不知道”，因?yàn)槿祟惔竽X構(gòu)造非常復(fù)雜的，所以什么時(shí)候機(jī)器能像人一樣思考行動(dòng)，我們確實(shí)不知道。

但是也有人非常樂觀，比如北大計(jì)算機(jī)系的主任講，可能30年之后就能實(shí)現(xiàn)。他是比較樂觀了，他說(shuō)很多時(shí)候產(chǎn)業(yè)是走在前面的，理論還沒有發(fā)現(xiàn)，產(chǎn)業(yè)已經(jīng)走在前面了。比如造飛機(jī)的時(shí)候，萊特兄弟造飛機(jī)的時(shí)候是不知道空氣動(dòng)力學(xué)的，研究出飛機(jī)之后，人們才開始研究空氣動(dòng)力學(xué)。所以我覺得現(xiàn)在誰(shuí)說(shuō)什么都不重要，最重要的是客觀的認(rèn)識(shí)這個(gè)東西，有不同的觀點(diǎn)，這才是一種比較中肯的態(tài)度。

劉鋒：游戲里面的AI系統(tǒng)，是依靠軟件設(shè)置的規(guī)則進(jìn)行運(yùn)轉(zhuǎn)，而外部的比如DeepMind設(shè)計(jì)的人工智能程序，玩游戲，是需要在現(xiàn)實(shí)世界中觀察虛擬世界，發(fā)現(xiàn)里面的規(guī)律，它不能放在虛擬世界里面，否則就作弊了。

主持人：前不久央視播出了一個(gè)很贊的紀(jì)錄片，叫《創(chuàng)新中國(guó)》。我看的時(shí)候很喜歡，聽配音很耳熟，我上網(wǎng)查了一下配音是已故的著名播音員李易老師的聲音，實(shí)際上是科大訊飛和央視合作，用AI學(xué)習(xí)了李易老師的樣本，全程用AI進(jìn)行配音。

這個(gè)問(wèn)題讓我想到一個(gè)非常邪惡的應(yīng)用，現(xiàn)在電話詐騙很猖獗，如果電話詐騙掌握了你的聲音樣本，還掌握了AI技術(shù)，可以在屏幕上敲鍵盤有你的聲音出來(lái)，去騙你的家人。如果真的是這樣，那么電話詐騙真的是防不勝防。

這就提出了一個(gè)問(wèn)題：在AI的大背景下，個(gè)人數(shù)據(jù)的隱私安全問(wèn)題怎么解決？

陳孝良：這好像是一個(gè)比較敏感的話題，先給大家一個(gè)結(jié)論，當(dāng)我們收集大家足夠多數(shù)據(jù)的時(shí)候，我們真的可以做到模仿任何人的聲音。科大訊飛和CCTV是為了展現(xiàn)一下技術(shù)的美麗，但是技術(shù)有兩面性，帶來(lái)便利的同時(shí)也帶來(lái)很多潛在的問(wèn)題。

這是一個(gè)挺難解決的問(wèn)題，因?yàn)槟銦o(wú)法用技術(shù)帶來(lái)的有利面，再去對(duì)抗它的不利面，這需要整個(gè)社會(huì)包括法律體系去探討解決的問(wèn)題。

但至少說(shuō)在這個(gè)階段，全世界都有一個(gè)共識(shí)，還是為了促進(jìn)產(chǎn)業(yè)的發(fā)展，就像以前我們能容忍汽車、火車出現(xiàn)事故，就像現(xiàn)在核技術(shù)依然在發(fā)展，這是一樣的?，F(xiàn)在美國(guó)和英國(guó)已經(jīng)探討這些問(wèn)題，我想很多問(wèn)題是法律界人士更關(guān)注的，從技術(shù)界里面來(lái)說(shuō)，是無(wú)法用技術(shù)解決技術(shù)的難點(diǎn)問(wèn)題。

主持人：在剛剛閉幕的達(dá)沃斯論壇上，AI技術(shù)是廣泛談?wù)摰脑掝}。很多大佬們都談到AI數(shù)據(jù)隱私問(wèn)題，包括創(chuàng)新工廠的CEO李開復(fù)博士，他就提出一個(gè)觀點(diǎn)：“中國(guó)為什么在AI的技術(shù)上能夠彎道超車？是因?yàn)槲覀儑?guó)家有‘實(shí)用主義’的文化特點(diǎn)，可以繞開道德的考量、隱私的考量，讓AI技術(shù)更快落地?！?/p>

關(guān)于他的觀點(diǎn)不知道幾位嘉賓是不是同意?，F(xiàn)在英國(guó)和美國(guó)做一些頂層設(shè)計(jì)、法律設(shè)計(jì)，那么我們中國(guó)在AI相關(guān)的產(chǎn)業(yè)制度、法律制度上有沒有哪些作為？有沒有哪些需要補(bǔ)強(qiáng)的地方？

蔡雄山：從2016年底開始，全世界都做頂層設(shè)計(jì)，包括美國(guó)2016年發(fā)布了人工智能發(fā)展戰(zhàn)略規(guī)劃，中國(guó)2017年年初的時(shí)候也有新一代人工智能發(fā)展規(guī)劃。中國(guó)在人工智能發(fā)展方面的頂層設(shè)計(jì)提到了很多制度問(wèn)題，比如加強(qiáng)隱私保護(hù)、促進(jìn)產(chǎn)業(yè)發(fā)展等等問(wèn)題。

我們現(xiàn)在很多時(shí)候講一個(gè)產(chǎn)業(yè)的發(fā)展，經(jīng)常講的是要有先進(jìn)的技術(shù)，要促進(jìn)產(chǎn)業(yè)的發(fā)展，這其中是一個(gè)方面，比如人工智能底層的芯片。另外一個(gè)方面，在軟實(shí)力方面，要與制度建設(shè)匹配，這樣才能促進(jìn)發(fā)展。

舉一個(gè)很簡(jiǎn)單的例子，比如人工智能非常重要的應(yīng)用就是無(wú)人駕駛，它已經(jīng)逐漸的要走進(jìn)我們的生活，而且應(yīng)用很快?，F(xiàn)在按照中國(guó)的法律規(guī)定，沒有司機(jī)開車是違法的，連無(wú)人駕駛測(cè)試的標(biāo)準(zhǔn)都沒有，現(xiàn)在無(wú)人駕駛不可以在高速公路路測(cè)，只能在封閉的環(huán)境中，路況還是有很大的差距的。

現(xiàn)在中國(guó)的工信部、交通部正在制定無(wú)人駕駛的車輛測(cè)試標(biāo)準(zhǔn)，立法可能也要修改，就是無(wú)人駕駛也可以合法化，包括聯(lián)合國(guó)的維也納道路交通公約去年進(jìn)行了修改，為無(wú)人駕駛打開了一個(gè)口子。

我們以前很注重產(chǎn)業(yè)和技術(shù)方面的進(jìn)展，在軟實(shí)力方面其實(shí)還需要加強(qiáng)，這樣才能促進(jìn)產(chǎn)業(yè)的發(fā)展，搶占戰(zhàn)略的制高點(diǎn)，人工智能已經(jīng)成為新一波的產(chǎn)業(yè)浪潮，其實(shí)每個(gè)國(guó)家都在積極布局。

何清：我個(gè)人認(rèn)為無(wú)人駕駛，也叫自主駕駛，這項(xiàng)技術(shù)和其他物化的比如發(fā)動(dòng)機(jī)技術(shù)是一樣的，技術(shù)本身就歸類成技術(shù)，既然歸類成技術(shù)假如有由自主駕駛系統(tǒng)造成的問(wèn)題，應(yīng)該歸類為技術(shù)問(wèn)題。因此它所產(chǎn)生的問(wèn)題，本質(zhì)上由智能駕駛系統(tǒng)提供商來(lái)提供的，它有bug，它沒有把某一種不確定情況考慮在內(nèi)，以致產(chǎn)生了問(wèn)題。雖然這種不確定性情況發(fā)生的概率非常低，但是它發(fā)生了。

在這種情況下，還是要由廠家負(fù)相關(guān)的責(zé)任。如果輪胎出了毛病，而且輪胎的毛病導(dǎo)致這一批產(chǎn)品都有問(wèn)題，就要召回。那么發(fā)現(xiàn)了它的自主駕駛系統(tǒng)中，有這樣的bug也是統(tǒng)一召回，然后把bug補(bǔ)上。只不過(guò)這套系統(tǒng)進(jìn)入市場(chǎng)之前，準(zhǔn)入一定要嚴(yán)格，至少保證測(cè)到99.9%的不確定情況，在這樣的情況下，才會(huì)保證廠家在召回的時(shí)候也不會(huì)召回太多。

主持人：關(guān)于AI技術(shù)應(yīng)用，之所以在達(dá)沃斯論壇成為熱點(diǎn)，我覺得一個(gè)不可否認(rèn)的事實(shí)，就是在我們國(guó)家AI技術(shù)的確應(yīng)用起來(lái)了，比如工業(yè)制造領(lǐng)域、物流領(lǐng)域，包括港口裝卸領(lǐng)域，比如洋山港可以做到無(wú)人化港口裝卸。這樣就提出了一個(gè)所謂的熄燈工廠概念，就是說(shuō)這工廠里沒有工人工作，不需要開燈，就可以在熄燈的狀態(tài)下24小時(shí)運(yùn)轉(zhuǎn)。

說(shuō)到這里，我就想到卓別林著名的電影《摩登時(shí)代》，當(dāng)時(shí)流水線技術(shù)的出現(xiàn)讓人們很恐慌，大家覺得工人的工作都要失去了，當(dāng)然現(xiàn)在我們都知道這是杞人憂天。

可是由于AI的發(fā)展現(xiàn)在出現(xiàn)了一種新的擔(dān)憂，有人已經(jīng)提出有哪些職業(yè)將被AI取代。剛才我們談到無(wú)人駕駛，那么司機(jī)就是首當(dāng)其沖的職業(yè)。那么對(duì)于這種取代人類崗位的擔(dān)憂，究竟是像《摩登時(shí)代》一樣杞人憂天，還是會(huì)變?yōu)楝F(xiàn)實(shí)？

劉鋒：這是社會(huì)非常關(guān)注的問(wèn)題，對(duì)于這個(gè)問(wèn)題我有三個(gè)觀點(diǎn)想闡述。第一，為什么人工智能會(huì)突然爆發(fā)出來(lái)？其實(shí)背后還是有互聯(lián)網(wǎng)的背景。我們反復(fù)說(shuō)無(wú)論是云計(jì)算、物聯(lián)網(wǎng)、大數(shù)據(jù)，到今天人工智能，背后是互聯(lián)網(wǎng)發(fā)展，才導(dǎo)致人工智能興起。

為什么中國(guó)在人工智能領(lǐng)域走在前沿？也跟中國(guó)互聯(lián)網(wǎng)基礎(chǔ)有關(guān)系。有這個(gè)大背景，人工智能對(duì)于我們的威脅，有點(diǎn)負(fù)面的問(wèn)題，其實(shí)人工智能本身沒有對(duì)職業(yè)造成那么大的沖擊，而是人工智能加互聯(lián)網(wǎng)沖擊比較大。比如最近故宮網(wǎng)上售票系統(tǒng)的開放，導(dǎo)致了幾百位售票人員全部下崗，這就是因?yàn)榛ヂ?lián)網(wǎng)導(dǎo)致大批的失業(yè)問(wèn)題。

第二，未來(lái)相對(duì)安全的職業(yè)，一定是和創(chuàng)造、創(chuàng)新有關(guān)的職業(yè)。比如科學(xué)家、藝術(shù)家，比如樂器演奏的藝術(shù)表現(xiàn)跟現(xiàn)場(chǎng)群眾產(chǎn)生的共鳴，這對(duì)于AI想實(shí)現(xiàn)太難了，這種創(chuàng)造性不是AI輕易能夠去實(shí)現(xiàn)的。

第三，從歷史上看，在機(jī)器工業(yè)時(shí)代曾經(jīng)有過(guò)這種恐懼，傳統(tǒng)手工業(yè)者被機(jī)器替代，人們當(dāng)時(shí)有擔(dān)心，但是經(jīng)過(guò)科技發(fā)展產(chǎn)生了很多想象不到的新職業(yè)，比如飛機(jī)駕駛?cè)藛T、汽車制造工人。

同樣的，即使AI消滅了很多職業(yè)，它也會(huì)誕生出很多職業(yè)，整個(gè)人類社會(huì)要維系龐大的AI和互聯(lián)網(wǎng)結(jié)合的一個(gè)巨系統(tǒng)，比如無(wú)人機(jī)駕駛有很多設(shè)計(jì)、維護(hù)、演化的工作，都會(huì)產(chǎn)生很多新的職業(yè)。

還有一些以前想象不到的職業(yè)，就是大工業(yè)時(shí)代想象不到的職業(yè)，比如網(wǎng)紅直播這個(gè)工作是以前想象不出來(lái)的。所以我們要相信科學(xué)家、企業(yè)家在未來(lái)會(huì)絞盡腦汁產(chǎn)生更多創(chuàng)業(yè)機(jī)會(huì)，這和大工業(yè)時(shí)代以后出現(xiàn)的情況是一樣的。

陳孝良：我補(bǔ)充一下，我們還要相信人工智能給大家?guī)?lái)財(cái)富的，現(xiàn)在的人工智能行業(yè)薪酬是最高的。很多時(shí)候超過(guò)了對(duì)原先技術(shù)所謂的定義，所以從這個(gè)來(lái)看，在未來(lái)人工智能會(huì)帶來(lái)更多、更有前景的幫助大家賺錢的新職業(yè)。

蔡雄山：人工智能帶來(lái)的失業(yè)更多是結(jié)構(gòu)性的，說(shuō)白了就是我們?nèi)诉€是要不斷去學(xué)習(xí)，要適應(yīng)時(shí)代，因?yàn)槲覀儧]法去抗拒它。

主持人：關(guān)于人工智能將會(huì)取代人類職業(yè)，我也跟人工智能的專家討論過(guò)這個(gè)問(wèn)題，我說(shuō)科學(xué)家應(yīng)該是安全的吧，他說(shuō)不一定，如果數(shù)據(jù)交給人工智能，接下來(lái)的結(jié)論靠邏輯推理也能推出來(lái)，那么科學(xué)家也會(huì)失業(yè)的。

深層次討論一下，其實(shí)AI與人類搶奪職業(yè)這件事情，代表了AI和人類的對(duì)抗、對(duì)立關(guān)系，這個(gè)問(wèn)題最早探討的應(yīng)該是科幻作家。雖然科幻作家寫的是小說(shuō)、文學(xué)，但是他們?cè)诤芏喾矫嬉矔?huì)有更深刻的思考。

在科幻電影里，為了讓戲劇沖突能更加強(qiáng)烈，比如《終結(jié)者》、《黑客帝國(guó)》系列，都呈現(xiàn)出了人類和AI之間“你死我活”的斗爭(zhēng)。這里有一個(gè)比較科幻的問(wèn)題，像這些電影里描述的AI戰(zhàn)勝、統(tǒng)治人類，甚至消滅人類的場(chǎng)景，真的會(huì)在未來(lái)出現(xiàn)嗎？

何清：這個(gè)問(wèn)題我持反對(duì)態(tài)度。我表述的智能定義已經(jīng)說(shuō)明了，在不確定的環(huán)境和條件下，做出自主的行為，但是沒有說(shuō)產(chǎn)生自主的意識(shí)。意識(shí)和行為是兩個(gè)不同的概念，行為是有物的載體，它的執(zhí)行是人看見的，而意識(shí)不知道哪里飄來(lái)的。

從這個(gè)角度來(lái)看，我們目前實(shí)現(xiàn)的人工智能是不包含產(chǎn)生自主意識(shí)的。至于產(chǎn)生自主意識(shí)，一些科學(xué)家把最本質(zhì)的問(wèn)題，如果找不到理由就歸于意識(shí)，這是有可能的。但是我想30年后再看，那時(shí)候有什么樣的人工制造出來(lái)的智能體能夠具備自主意識(shí)。

到目前為止，我所看到的人們說(shuō)的智能服務(wù)、智能系統(tǒng)、智能產(chǎn)品，當(dāng)把機(jī)理全部公布于眾以后，能看出來(lái)是根本不可能產(chǎn)生意識(shí)的。

主持人：我是研究生物學(xué)的，雖然不是搞神經(jīng)和意識(shí)研究的，但是生物學(xué)家們已經(jīng)很清楚地知道意識(shí)建立在物質(zhì)層面上。我們的大腦與計(jì)算機(jī)之間最大的區(qū)別還是在于復(fù)雜度上，現(xiàn)在沒有任何的計(jì)算機(jī)在復(fù)雜度、計(jì)算單元的互聯(lián)程度上達(dá)到腦的水平，如果有那么一天，說(shuō)不定計(jì)算機(jī)真的會(huì)產(chǎn)生意識(shí)。

劉鋒：我的觀點(diǎn)與何老師一樣，我認(rèn)為目前從科學(xué)角度上，是找不到科學(xué)路徑，實(shí)現(xiàn)讓機(jī)器人產(chǎn)生獨(dú)立的意識(shí)。還有一個(gè)問(wèn)題，我們往往會(huì)把人工智能和機(jī)器人背后的科學(xué)家、程序員、產(chǎn)品經(jīng)理給忘掉。人工智能和機(jī)器人每一點(diǎn)進(jìn)展，都是由科學(xué)家和程序員推動(dòng)的，兩者結(jié)合在一起，才會(huì)形成帶有威脅性的舉動(dòng)。我們?cè)?jīng)在一篇文章寫過(guò)：“與其說(shuō)人工智能與機(jī)器人的對(duì)抗，不如說(shuō)是一批人與另外一批人的對(duì)抗?！?/p>

陳孝良：我對(duì)這個(gè)問(wèn)題是持一個(gè)中性的態(tài)度。毀滅一個(gè)人其實(shí)沒必要非要有意識(shí)，只要把財(cái)富毀掉，基本上這個(gè)人也很難存活于社會(huì)中。雖然現(xiàn)在人工智能很難產(chǎn)生意識(shí)，但是它會(huì)有對(duì)于財(cái)富的一種很大的威脅性。這種威脅性不僅是所謂的利用聲音詐騙手段，在理財(cái)、經(jīng)營(yíng)中事實(shí)上人工智能技術(shù)都在滲入。

金融領(lǐng)域中有一種高頻交易操作，是在極短時(shí)間內(nèi)處理大量的訂單，獲取小數(shù)點(diǎn)后面很多位的差值的錢，實(shí)際中也有這類交易操作，很多科幻小說(shuō)也已經(jīng)寫到了，這好像也是一筆很大的財(cái)富。

我認(rèn)為人工智能是一個(gè)強(qiáng)中心化的過(guò)程，很多人認(rèn)為人工智能是去中心化過(guò)程，但是從實(shí)踐中我們能看到它的強(qiáng)中心化更嚴(yán)重。如果說(shuō)人工智能強(qiáng)中心化聚集到某個(gè)點(diǎn)，統(tǒng)治到整個(gè)金融系統(tǒng)，甚至是自動(dòng)駕駛系統(tǒng)、智能家居系統(tǒng)，這時(shí)候造成的危害和它有沒有意識(shí)可能就沒有直接關(guān)聯(lián)了。

蔡雄山：有人提出，現(xiàn)在擔(dān)心人工智能毀滅人類，就像擔(dān)心火星人口過(guò)剩一樣，想得比較遙遠(yuǎn)。

美國(guó)有一本書，還沒有翻譯成中文，叫做《生命3.0》，這本書是目前討論人工智能比較深刻的。這本書把生命分為三個(gè)階段，第一個(gè)階段，比如草履蟲階段，生命中有軟件和硬件組成，都是沒法改變的，是進(jìn)化而來(lái)的。

第二個(gè)階段是人，人的身體是進(jìn)化而來(lái)的，是沒法改變的，但是軟件可以改變，通過(guò)學(xué)習(xí)、教育可以改變；第三個(gè)階段是人工智能階段，這個(gè)階段就是硬件和軟件都可以改變，比如機(jī)器的手可以多一只少一只，機(jī)器在不斷地學(xué)習(xí)進(jìn)步。這本書是麻省理工的一個(gè)教授寫出的非常暢銷的一本書。未來(lái)是不是有一個(gè)人機(jī)共存的世界？這個(gè)問(wèn)題比較科幻，只是給大家提供一個(gè)視角。

主持人：圓桌對(duì)話上半場(chǎng)信息量還是很大的，感謝四位嘉賓妙語(yǔ)連珠的回答。接下來(lái)把提問(wèn)的權(quán)利交給觀眾手中。

觀眾：我想問(wèn)一個(gè)問(wèn)題，目前人類意識(shí)產(chǎn)生于大腦，只是因?yàn)樯窠?jīng)元與神經(jīng)連接足夠復(fù)雜，如果把它嵌套到互聯(lián)網(wǎng)腦結(jié)構(gòu)里，把每一個(gè)終端都想成一個(gè)神經(jīng)元，把網(wǎng)線或無(wú)線連接都想成神經(jīng)連接，這樣的話是不是整個(gè)互聯(lián)網(wǎng)也是非常復(fù)雜，那么它有沒有自我意識(shí)呢？

劉鋒：這也是我們當(dāng)時(shí)研究互聯(lián)網(wǎng)類腦架構(gòu)里提到的，它的智能中心有兩個(gè)。第一，以人工智能為核心，和互聯(lián)網(wǎng)結(jié)合起來(lái)，這是一個(gè)智能中心；第二，是以社交網(wǎng)絡(luò)為核心的，把群體智慧結(jié)合在一起形成的系統(tǒng)，互聯(lián)網(wǎng)類腦系統(tǒng)是以這兩個(gè)智能中心為核心的智能巨系統(tǒng)，是人機(jī)結(jié)合的混合智能巨系統(tǒng)。

從測(cè)試來(lái)看，目前可以對(duì)互聯(lián)網(wǎng)的人工智能系統(tǒng)去測(cè)試智商，譬如達(dá)到人類五六歲的水平。但是如果把一個(gè)問(wèn)題拋到社交網(wǎng)絡(luò)里面，我們可以想象到，這個(gè)智商的測(cè)試會(huì)爆表，為什么呢？因?yàn)槲覀內(nèi)祟惖闹腔郾旧砭秃軓?qiáng)大，如果通過(guò)社交網(wǎng)絡(luò)所產(chǎn)生的群體智慧，遠(yuǎn)遠(yuǎn)比現(xiàn)在擔(dān)心的機(jī)器智慧強(qiáng)大的多。

還有一點(diǎn)，智慧和意識(shí)并不是像線路和節(jié)點(diǎn)聯(lián)結(jié)在一起，就可以形成意識(shí)。在歐洲的科學(xué)家已經(jīng)做這各方面的工作，把很多模擬的神經(jīng)元線路結(jié)合在一起，但是并不能夠形成意識(shí)。

意識(shí)有很多最基礎(chǔ)的科學(xué)問(wèn)題還沒有被解決，包括生物進(jìn)化方向，包括大腦深層次意識(shí)產(chǎn)生的問(wèn)題，這些基礎(chǔ)的科學(xué)問(wèn)題沒有被解決的?；蛘哒也坏娇梢詫?shí)現(xiàn)的科學(xué)路徑，所以有些擔(dān)心確實(shí)像我們說(shuō)的，是杞人憂天。

觀眾：人工智能在中醫(yī)辯證方面的討論持續(xù)了很久，大家都很期待，因?yàn)檫@可能是解放醫(yī)護(hù)人員、病患和緩解醫(yī)患關(guān)系的一個(gè)重要的事情。我的問(wèn)題是，用人工智能重現(xiàn)出類似張仲景的醫(yī)學(xué)經(jīng)驗(yàn)大概還有多久？各位專家覺得其中最大的難點(diǎn)在哪里？在AI領(lǐng)域有誰(shuí)朝這個(gè)方向努力？

何清：關(guān)于中醫(yī)，實(shí)際上我們國(guó)家科技部一直布置這種專項(xiàng)，這種叫做專家系統(tǒng)，在AI里面算是一部分。它涉及到的是一個(gè)知識(shí)工程，相當(dāng)于把人類專家的知識(shí)搞成一個(gè)專家系統(tǒng)、知識(shí)庫(kù)。這方面的知識(shí)庫(kù)現(xiàn)在已經(jīng)有了，但是它的認(rèn)可度和應(yīng)用度，還達(dá)不到實(shí)際應(yīng)用的水準(zhǔn)。

但是從功能來(lái)說(shuō)，目前我看到一個(gè)系統(tǒng)把北京市的名老中醫(yī)大概找了40個(gè)，用人工智能把所有的方子和診病的病例對(duì)應(yīng)起來(lái)學(xué)習(xí)，學(xué)習(xí)完以后，來(lái)了一個(gè)病人，根據(jù)病人的病癥，讓機(jī)器人專家系統(tǒng)去開方子，可以模擬某一位中醫(yī)?，F(xiàn)在這種功能做到了，但是它的評(píng)價(jià)是不是可靠、精準(zhǔn)，在這些方面做的還是有距離。

觀眾：AI機(jī)器人為什么有些功能沒有具備呢？比如敵我意識(shí)。

陳孝良：我從語(yǔ)音交匯的角度簡(jiǎn)單闡述一下。現(xiàn)在我們讓機(jī)器準(zhǔn)確分辨每個(gè)人，實(shí)際上是還沒有做到的?，F(xiàn)在只能根據(jù)每個(gè)人的聲紋，簡(jiǎn)單分出來(lái)每個(gè)人不同，雖然可以做到模仿聲音，但是讓機(jī)器一開始就準(zhǔn)確分辨某個(gè)人，這是很難做到的事情。這涉及到視覺問(wèn)題、聲光電熱力磁等整個(gè)傳感問(wèn)題，再去分辨對(duì)方。

除非作為特殊的標(biāo)記，有一個(gè)敵我的意識(shí)，否則機(jī)器無(wú)法自主分辨人和人之間的，特別是情感之間的任何意識(shí)?，F(xiàn)在我們的技術(shù)還沒有像大家想象的那樣，能夠解決現(xiàn)在很多實(shí)際的問(wèn)題，還需要很長(zhǎng)一個(gè)研究階段。當(dāng)然，如果數(shù)據(jù)運(yùn)用足夠多，比如中國(guó)有13億人口，如果我們有13億人口的聲紋，有可能會(huì)做到對(duì)每個(gè)人精確的分辨，這是一個(gè)逐步累積的過(guò)程。

劉鋒：當(dāng)我們談到敵我意識(shí)的時(shí)候，首先要思考站在誰(shuí)的立場(chǎng)上，去討論敵我意識(shí)。比如陳孝良老師提到的智能音箱，如果我們想給他建立敵我意識(shí)有兩種選擇，第一種是有人把智能音箱摔在地上，讓智能音箱產(chǎn)生憤怒，并對(duì)摔它的人產(chǎn)生敵我意識(shí)，第二種是有人傷害音箱的主人，也就是擁有者，這是讓音箱產(chǎn)生憤怒，并把傷害主人的人當(dāng)作敵人？我們是按照哪個(gè)原則來(lái)建立敵我意思呢？這些基礎(chǔ)的問(wèn)題是需要解決的。

這些問(wèn)題想清楚以后，再探討背后要判斷敵我的時(shí)候，還要有龐大的知識(shí)數(shù)據(jù)做支撐，這時(shí)候才能完整解決這個(gè)問(wèn)題，但是目前這些情況還都是不完善的。

觀眾：人工智能帶給了我們高效的學(xué)習(xí)，在人工智能發(fā)展下，越聰明的人效率越高，但是人與人之間還是有差距的，這種情況下人工智能對(duì)我是一種恐怖，因?yàn)槲覜]有辦法去跟擁有高智慧又有人工智能輔助的人進(jìn)行競(jìng)爭(zhēng)。那么人工智能會(huì)讓聰明的人更加聰明嗎？

陳孝良：這個(gè)現(xiàn)象是存在的。AI不光是效率提升方面，其實(shí)在財(cái)富方面都有一些集中化的趨勢(shì)。如何借助AI的很多工具提高效率，如果融合在一起，確實(shí)會(huì)產(chǎn)生想象不到的效果。

特別是AI根本上基于很多數(shù)據(jù)，當(dāng)數(shù)據(jù)的規(guī)模到一定量，比如超過(guò)200T的時(shí)候，平均識(shí)別率達(dá)到99%以上，但是當(dāng)數(shù)據(jù)在一個(gè)G以內(nèi)，識(shí)別率只有零點(diǎn)幾。

其實(shí)深度學(xué)習(xí)不是一個(gè)純粹的物理模型，即便是做到99%，也可能會(huì)有1%或者0.001%的概率出現(xiàn)。不用擔(dān)心這個(gè)趨勢(shì)會(huì)集中在金字塔頂，總會(huì)有一個(gè)自然分散的過(guò)程。

在互聯(lián)網(wǎng)領(lǐng)域這個(gè)現(xiàn)象很明顯，大家知道全球躺著賺錢的公司基本誕生在互聯(lián)網(wǎng)領(lǐng)域。我們要從不同角度看待AI所帶給我們的，是不是讓資源更加集中，這涉及到很多社會(huì)層面，也包括未來(lái)很多經(jīng)濟(jì)層面的問(wèn)題。

觀眾：假定一個(gè)機(jī)器人能聽懂另外一個(gè)機(jī)器人說(shuō)話，能夠部分理解，時(shí)間長(zhǎng)了以后，它們互相理解，智慧會(huì)不會(huì)增值，一直增值到有意識(shí)？

何清：首先，它產(chǎn)生一個(gè)現(xiàn)象，就是在交互過(guò)程中，由于交互時(shí)間長(zhǎng)了，剛開始聽得懂部分的語(yǔ)音識(shí)別，后來(lái)相互交流溝通的時(shí)候理解準(zhǔn)確率會(huì)提高，交互的效率會(huì)提高。但這并不意味著它們兩個(gè)合在一起，就能產(chǎn)生意識(shí)和智能，這只是一個(gè)交互的效率提高。這是我的一個(gè)粗淺看法。

劉鋒：關(guān)于機(jī)器之間的交流互動(dòng)，從計(jì)算機(jī)之間的通訊協(xié)議誕生之后就已經(jīng)開始了，計(jì)算機(jī)和計(jì)算機(jī)之間的信息交流，包括知識(shí)的共享，其實(shí)在之前已經(jīng)發(fā)生了，只是要表明兩個(gè)機(jī)器之間相互聽懂并且共享知識(shí)，甚至能發(fā)現(xiàn)一些新的東西，這一切背后依然要有程序員和科學(xué)家做控制和推動(dòng)。如果沒有這個(gè)程序員設(shè)計(jì)這樣的程序，機(jī)器沒有完成這樣功能的機(jī)會(huì)。所以我們不用擔(dān)心這兩個(gè)機(jī)器人知識(shí)共享，因?yàn)檫@依然在人類的控制之下，更直接地說(shuō)是在程序員和科學(xué)家控制之下。

陳孝良：關(guān)于這個(gè)問(wèn)題，我們現(xiàn)在正在致力解決。其實(shí)這個(gè)很簡(jiǎn)單，如果買兩個(gè)智能音響，如果一個(gè)智能音箱開始說(shuō)話的時(shí)候，兩個(gè)智能音箱就會(huì)糾纏下去。所以我們現(xiàn)在正在解決的是，當(dāng)兩個(gè)音響共同喚醒的時(shí)候，另一個(gè)音箱不要說(shuō)話。

主持人：感謝今天到場(chǎng)來(lái)賓，感謝所有嘉賓，圓桌論壇到此結(jié)束。