很難想象，未來50年中還有別的技術(shù)比人工智能對人類世界的影響更大。目前，機器學(xué)***技術(shù)正幫助我們的計算機自學(xué)各種技能，因此各種突破指日可待，無論是醫(yī)療診斷，還是無人駕駛汽車。與此同時，人們也產(chǎn)生了越來越大的擔(dān)憂。

　　誰將控制科技？

　　技術(shù)是否將搶走我們的工作？

　　人工智能危險嗎？

　　美國總統(tǒng)奧巴馬很愿意回答這些問題。近期，奧巴馬和麻省理工學(xué)院媒體實驗室主任伊藤穰一在白宮接受了《連線》雜志的專訪，他們談到了關(guān)于人工智能的希望、熱潮和擔(dān)憂。

　　以下為專訪全文：

　　《連線》：最近怎么樣，總統(tǒng)先生？

　　奧巴馬：很忙，很有建設(shè)性。你知道，許多地方發(fā)生了國際危機。

　　《連線》：我希望對話能圍繞人工智能。人工智能正在從科幻小說變成現(xiàn)實，改變我們的生活。你是何時知道，真正的人工智能時代已經(jīng)降臨？

　　奧巴馬：我的觀察是，人工智能正在以各種方式滲透至人們的生活，但我們尚未察覺。部分原因在于，流行文化對人工智能的描繪存在偏見。《連線》的讀者可能已經(jīng)知道，通用人工智能和專用人工智能之間存在差別。在科幻小說中，你看到的是通用人工智能。計算機比人類更聰明，而結(jié)論是人類變得越來越?jīng)]用。隨后，人工智能給我們灌輸“毒品”，讓我們在愉快中變得肥胖，或者我們將會陷入《黑客帝國》的世界。

　　根據(jù)高級科學(xué)顧問與我的對話，我們距離這樣的現(xiàn)實還很遙遠(yuǎn)。思考這樣的場景很有價值，這讓我們想象力發(fā)散，促使我們思考選擇和自由意志等問題，最終帶來圍繞專用人工智能的重要應(yīng)用。我們已在生活的各個領(lǐng)域看到了專用人工智能，例如醫(yī)藥、交通，以及電力傳輸。這創(chuàng)造了更高效的經(jīng)濟。如果妥善應(yīng)用，專用人工智能可以帶來繁榮和機會。不過從導(dǎo)致就業(yè)機會減少來看，專用人工智能也存在不利的方面，而我們需要對此進行研究。這可能導(dǎo)致不平等，影響工資水平。

　　伊藤穰一：這也讓我們麻省理工學(xué)院的***們感到失望。然而我擔(dān)心的問題之一在于，這一領(lǐng)域?qū)⒈荒贻p的孩子，尤其是白人孩子們所主導(dǎo)。他們將圍繞人工智能開發(fā)核心的計算技術(shù)。相對于與人交談，與計算機的對話讓他們更舒適。他們中許多人認(rèn)為，如果能開發(fā)出類似科幻小說中的通用人工智能，我們將不必?fù)?dān)心政治和社會等許多復(fù)雜問題。他們認(rèn)為，機器將為我們指明所有一切。

　　奧巴馬：是的。

　　伊藤穰一：然而他們低估了困難，我認(rèn)為，今年人工智能將不再僅僅是計算機問題。所有人都需要理解人工智能的行為方式，這很重要。在媒體實驗室，我們采用術(shù)語擴展智能（擴展智能意為通過機器學(xué)***技術(shù)去強化人類智能）。因為問題在于，我們要如何給人工智能帶來社會價值？

　　奧巴馬：在我們剛剛的午餐過程中，伊藤穰一用無人駕駛汽車來舉例。技術(shù)已經(jīng)在這里。我們的機器可以做出許多快速決策，大幅減少交通事故，提高交通路網(wǎng)的效率，協(xié)助解決導(dǎo)致全球變暖的碳排放等問題。然而，伊藤穰一提出了非常重要的一點，即我們可以給汽車加入什么價值？你可以做許多選擇，而最典型的問題是：當(dāng)無人駕駛時，車輛可以轉(zhuǎn)向避免撞到行人，但汽車將會因此撞墻導(dǎo)致你自己的傷亡。這是個道德問題，而誰可以來制定這些規(guī)則？

　　伊藤穰一：在我們研究這一“搭車問題”時，我們發(fā)現(xiàn)許多人都更傾向于犧牲司機和乘客，確保更多人的安全。不過他們也表示，不會購買無人駕駛汽車。

　　《連線》：在我們探討人工智能的道德問題時，***將扮演什么角色？

　　奧巴馬：我的看法是，在人工智能的早期發(fā)展階段，監(jiān)管框架應(yīng)當(dāng)支持百花齊放。***應(yīng)當(dāng)施加相對較少的監(jiān)管，更多地投資于科研，確?；A(chǔ)研究和應(yīng)用研究之間的轉(zhuǎn)化。隨著技術(shù)的興起和成熟，隨后我們要考慮如何將其納入現(xiàn)有監(jiān)管框架中。這是個更難的問題，而***需要更多參與。我們并不總是要讓新技術(shù)去適應(yīng)現(xiàn)存監(jiān)管框架，而是確保監(jiān)管符合更廣泛的價值。否則我們可能會發(fā)現(xiàn)，某些人群將因此處于不利地位。

　　伊藤穰一：不知道你是否聽過神經(jīng)多元化運動?？屏_拉多州立大學(xué)教授坦佩爾·格拉?。?a href="http://www.greenbey.cn/tags/te/" target="_blank">Temple Grandin）認(rèn)為，如果莫扎特、愛因斯坦和特斯拉仍然健在，那么都會被認(rèn)為是自閉癥患者。

　　奧巴馬：他們可能屬于自閉癥譜系人群。

　　伊藤穰一：是的。如果我們消除自閉癥，讓所有人的精神都保持正常，我可以打賭，麻省理工學(xué)院的許多孩子們將不會是現(xiàn)在這樣。無論我們討論的是自閉癥還是更廣泛的多元化，問題之一都在于，我們何時才允許市場來做出決定。即使你可能不希望自己的孩子成為愛因斯坦，但簡單地表態(tài)“我想要個普通孩子”，這也無法創(chuàng)造最大化的社會價值。

　　奧巴馬：這是我們與人工智能打交道時面臨的更大的問題。人類的一大特點就是會有奇思妙想。有時，一些突變或異常反而能創(chuàng)造出藝術(shù)和新發(fā)明。我們必須假定，如果系統(tǒng)是完美的，那么就是靜態(tài)的。然而讓人類發(fā)展到目前狀態(tài)，確保人類生存的重要一部分在于，我們是動態(tài)的，我們常常干出乎意料的事。我們需要思考的挑戰(zhàn)之一在于，何時何地讓事情嚴(yán)格按照預(yù)想中發(fā)展才合適？

　　《連線》：關(guān)于將擴展智能用于***、民營行業(yè)和學(xué)術(shù)界，研究中心在哪，或者說是否有這樣的中心？

　　伊藤穰一：我認(rèn)為，麻省理工學(xué)院可能會說，應(yīng)該是在麻省理工。（笑）以往，這通常是一群學(xué)術(shù)界人士，并獲得了***的協(xié)助。然而目前，大部分投資達到10億美元的實驗室都屬于企業(yè)。

　　奧巴馬：我們認(rèn)識向人工智能投資的人士。如果你接觸拉里·佩奇（Larry Page）或其他這些人，他們一般的態(tài)度是，“在我們尋求獨角獸的過程中，最不想看到的是一系列***導(dǎo)致進度放慢”。這樣的想法可以理解。

　　然而我們看到的問題的一部分是，社會對基礎(chǔ)研究的投入正在減少。我們共同行動的信心正在消失，這部分是由于我們的思想和言論。

　　關(guān)于偉大的技術(shù)突破，我們?nèi)栽谑褂玫念惐仁堑窃拢词沟窃乱呀?jīng)過去了50年。有人提醒我，登月項目的耗資達到了GDP的0.5%。這聽來不算什么，但按今天的情況來看相當(dāng)于每年花800億美元。實際上，我們目前每年對人工智能的投入只有不到10億美元。這一數(shù)字毫無疑問將上升，但我們需要理解的一點是，如果希望這些突破性技術(shù)去代表多元化群體的價值，那么***投資必須成為其中的一部分。如果***不參與投資，那么伊藤穰一提出的關(guān)于技術(shù)價值的問題將不會得到解答，甚至不會被討論。

　　《連線》：你提到了一種有趣的緊張關(guān)系，而伊藤穰一曾經(jīng)也寫過：邊緣創(chuàng)新與發(fā)生在諸如太空項目中創(chuàng)新的差異。我們?nèi)绾未_保所有這些思想得到傳播？

　　奧巴馬：我想要強調(diào)的是，***提供資金并收集數(shù)據(jù)并不意味著我們會隱瞞，或是軍方需要這些?？梢耘e個具體例子：在精確醫(yī)療的項目中，所做工作的一部分是通過足夠多的美國人收集關(guān)于人類基因足夠大的數(shù)據(jù)集。我們的做法不是向斯坦福大學(xué)或哈佛大學(xué)提供資金，讓他們獨享這些樣本數(shù)據(jù)，而是提供了一個所有人都可以訪問的基因數(shù)據(jù)庫。我們提供了公共的數(shù)據(jù)值、公共的架構(gòu)，確保研究可以被分享，而不是只被某個集團用于謀利。

　　《連線》：然而毫無疑問會存在一些風(fēng)險。我們聽到伊隆·馬斯克（Elon Musk）和尼克·博斯特羅姆（Nick Bostrom）等人說，人工智能的發(fā)展有可能超過我們的理解能力。隨著我們的進步，我們要如何看待他們的言論？我們不僅試圖保護自己，還試圖保護整個人類。

　　奧巴馬：我們首先來談?wù)勛钇惹械膿?dān)心。在專用人工智能的領(lǐng)域，這是個可以解決的問題。我們需要警惕。如果你的計算機可以下圍棋，一種有著許多變化的復(fù)雜棋類游戲，那么開發(fā)一種算法，讓你在紐約股票交易所的利潤最大化也并非遙不可及。如果有人或組織首先做到了這點，那么他們就可以迅速摧垮股市，或是導(dǎo)致我們對***的完備性產(chǎn)生懷疑。

　　隨后，可能會有一種算法說：“去滲透***密碼，研究如何發(fā)射導(dǎo)彈?！比绻@就是軟件的全部工作，如果軟件能自我學(xué)***，同時又是個非常有效的算法，那么你就會遇到麻煩。我對國家安全團隊的指令是，目前還不用太擔(dān)心機器會掌管世界。如果你擔(dān)心的是非***組織，或是懷有敵意的活動者去滲透這些系統(tǒng)，那么從理論上來說，這與我們目前所做的信息安全工作沒有太大區(qū)別。這只是意味著，我們需要做得更好，因為可能部署這些系統(tǒng)的人也在變得更厲害。

　　伊藤穰一：總體上同意這一說法。唯一的警告是，有些人認(rèn)為，有很高的概率通用人工智能會在未來10年中誕生。然而在我看來，如果希望開發(fā)出通用人工智能，那么我們需要十余項甚至二十余項突破。你可以看看，這些突破會發(fā)生在什么時間。

　　奧巴馬：你可以讓人坐在電源旁。（笑）如果你發(fā)現(xiàn)通用人工智能誕生，那么可以讓他立即把電源拔了。

　　伊藤穰一：重要的是找到愿意將人工智能用于善意用途的人群，包括社區(qū)和領(lǐng)導(dǎo)者，隨后研究如何給予他們幫助。

　　奧巴馬：傳統(tǒng)上，當(dāng)我們思考安全問題，以及如何保護自己時，我們會想到盔甲和墻壁。然而目前我會越來越多地想到藥品、病毒和抗體。信息安全問題依然很困難，部分原因在于，威脅并不像是一隊***朝你沖來，而是整個系統(tǒng)很容易被蠕蟲入侵。這意味著，對于安全問題我們需要有不同的思考，進行不同的投資。這樣的投資可能并不性感，但卻與其他東西一樣重要。

　　很多時候我會擔(dān)心諸如傳染病的問題。你不可能建設(shè)一堵墻，將通過空氣傳播的致命流感阻擋在我們的土地外。我們需要具備的能力是建設(shè)體系，在全世界各個地方發(fā)展公共健康系統(tǒng)，在發(fā)現(xiàn)有異常時啟動開關(guān)通知我們，確保我們有迅速執(zhí)行的協(xié)議和系統(tǒng)，讓疫苗更智能。因此，通過公共健康的模式，你就可以想象我們?nèi)绾翁幚硇畔踩珕栴}，以及如何以建設(shè)性的方式去思考人工智能威脅。

　　伊藤穰一：有趣的一方面在于我們?nèi)绾慰创⑸?。有多方面證據(jù)顯示，利用好細(xì)菌去攻擊壞細(xì)菌，而非全面殺菌，是一種策略。

　　奧巴馬：是這樣。我不會允許寵物犬Sunny和Bo5去舔我，因為當(dāng)我在路邊草坪遛狗時，我發(fā)現(xiàn)他們會撿地上的東西咬。我可不想要這些。（笑）

　　伊藤穰一：我們需要思考，干凈的定義是什么。信息安全和國家安全的情況也類似。我認(rèn)為，如果你的思路是制定嚴(yán)格命令，或是清除一切可能的病原體，那么將非常困難。

　　《連線》：這是否可能帶來新軍備競賽的風(fēng)險？

　　奧巴馬：毫無疑問，圍繞信息安全和人工智能制定國際準(zhǔn)則、協(xié)議和認(rèn)證機制還處于起步階段。這一問題之所以有趣，部分是因為攻擊和防御之間的界線正在模糊。而在人們失去對***信任的情況下，這尤為困難。全球許多國家都認(rèn)為美國是信息霸主，因此是時候我們?nèi)フf，“我們愿意自我限制，只要你們也愿意自我限制”。挑戰(zhàn)在于最復(fù)雜的***參與者，例如俄羅斯和伊朗，他們通常和我們有著不同的價值觀和準(zhǔn)則。然而，我們需要把這些定位成國際問題，從而有效地處理。

　　伊藤穰一：我認(rèn)為，我們正處于人們愿意相互溝通的黃金時代。如果我們有能力保證，資金和能源可以帶來公開的分享，那么將有很多好處。你無法憑空做得很好，目前仍是國際社會的問題。

　　奧巴馬：我認(rèn)為伊藤穰一的說法完全正確。我們與對此感興趣的所有人舉辦了一系列會議。我們說得不多，而我想回頭去看的一方面是，我們需要思考經(jīng)濟方面的意義。大部分人沒有花很多時間去擔(dān)心“奇點”，而是擔(dān)心“我的工作是否會被機器取代”。

　　我傾向于持樂觀態(tài)度。以往我們也曾接受過新技術(shù)，人們會看到新工作崗位被創(chuàng)造出來，而他們將會隨之遷移，我們的生活標(biāo)準(zhǔn)將普遍上升。我認(rèn)為，由于人工智能和其他技術(shù)的普遍適用性，目前我們處于一個略微不同的時期。在這樣的體系下，高技能人才做得很好。他們可以利用自己的才能，可以通過機器界面去擴大覆蓋，增加銷售，拓展產(chǎn)品和服務(wù)。

　　低薪酬、弱技能的人群將越來越顯得多余，他們的工作崗位可能不會被替代，但工資將持續(xù)受到壓力。如果我們希望成功管理這樣的過渡，那么關(guān)于如何進行管理，我們需要展開全社會的對話。如果我們完成更多的生產(chǎn)，但其中越來越多的部分只被少數(shù)人獲取，那么我們?nèi)绾未_保經(jīng)濟具有包容性？我們?nèi)绾未_保，人們擁有維持生活的收入？從支持藝術(shù)和文化發(fā)展，或是確保老兵得到合適照顧的角度來看，這又意味著什么？社會契約需要容納這些新技術(shù)，我們的經(jīng)濟模式也需要容納這些技術(shù)。

　　伊藤穰一：很難猜測，什么樣的工作將被取代。如果假定你有一臺計算機，能理解醫(yī)療系統(tǒng)，非常善于診斷，那么相對于護士和藥劑師，醫(yī)生更容易被取代，因為護士和藥劑師的成本更低。一些高端工作崗位，例如律師和審計師，也有可能不復(fù)存在。相對而言，許多服務(wù)行業(yè)工種，以及藝術(shù)類工作，即計算機不太擅長的領(lǐng)域，很難被替代。我不知道你如何看待普遍基本收入，但當(dāng)我們看到有崗位被替代時，一種思路是我們?nèi)タ纯雌渌Ｊ?，例如學(xué)術(shù)研究和藝術(shù)，在這些領(lǐng)域人們的目標(biāo)不與金錢直接相關(guān)。我認(rèn)為，問題之一在于，我們有一種普遍的觀念，如果你沒錢，那么算什么聰明？但實際上，在學(xué)術(shù)界，我遇到過許多沒錢的聰明人。

　　奧巴馬：完全正確，這也是我所說的重新設(shè)計社會契約。目前，無論普遍基本收入是否是正確的模式，這一模式是否被廣泛的人群所接受？這是個我們已經(jīng)討論了10年、20年的話題。人工智能取代的不僅是弱技能的工作，也可能會是高技能的工作，但這些工作的可重復(fù)性很強，因此計算機有能力勝任。毋庸置疑的是，隨著人工智能得到更廣泛的應(yīng)用，社會可能會越來越富裕，生產(chǎn)和分配之間的關(guān)聯(lián)，即干多少和掙多少之間的關(guān)聯(lián)將越來越弱化。計算機將會去完成大量工作。因此，我們需要做一些更困難的決定。我們給老師們支付的報酬不足，盡管這是困難的工作，計算機也很難做得好。因此我們需要重新評估價值觀，我們愿意為什么樣的人支付更高的報酬，是教師、護士、護工、全職媽媽、藝術(shù)家？這些事都很有價值，但在我們的薪酬體系中排序不高。我們需要啟動這樣的對話。

　　《連線》：在解決***中最大的挑戰(zhàn)時，你會關(guān)心什么樣的技術(shù)？

　　奧巴馬：為了讓***對人民更友好，或者說至少讓你的報稅流程變得像點披薩或買機票一樣簡單，我們還有很多工作要做。無論是鼓勵人們投票，還是推進大數(shù)據(jù)應(yīng)用，幫助人們更快地完成在線表格處理，都需要做很多工作，推動聯(lián)邦***、州***和地方***進入21世紀(jì)。***和企業(yè)界的人才差距并不是那么大。然而，技術(shù)的差距是巨大的。當(dāng)我首次來到這里時，我認(rèn)為白宮戰(zhàn)情室肯定非?？?，就像是湯姆·克魯斯在《少數(shù)派報告》中場景。實際上根本不是這樣。（笑）特別是我們要打擊地球另一邊的***時，電影會把我們描繪成為無所不能，實際并非如此。我們的資金不足，機制設(shè)置也不合理。

　　關(guān)于圍繞技術(shù)更廣泛的問題，我堅定地相信，如果我們希望正確處理氣候改變，如果我們想要踩下剎車，阻止海平面上升6英尺，那么人類需要弄清一些問題。我是樂觀主義者。我們已經(jīng)完成了許多不錯的工作，但還有很長的路要走。

　　關(guān)于我們要如何以負(fù)責(zé)任、透明、安全的方式管理互聯(lián)網(wǎng)上的連接，幫助我們找出壞家伙，并保證***不會對我們所有人的生活造成太大干擾，我們?nèi)栽谶M行研究。其中一些是技術(shù)問題，加密就是很好的例子。我多次見過自由主義者和與國家安全相關(guān)的人士。這是個棘手的問題，因為關(guān)于我們要如何調(diào)和這一問題，沒有人能給我真正好的答案。

　　由于這是個前沿問題，我希望提到的最后一點是，我仍是個太空迷，而在對下一代太空旅行展開探索的過程中我們的資金投入不足。民營公司完成了很棒的工作，因為對瘋狂概念的投資已經(jīng)取代了***投資。不過當(dāng)我們設(shè)想太空飛行時，我們研究的仍然是“阿波羅”時代的化學(xué)反應(yīng)。時間已經(jīng)過了50年，我們應(yīng)當(dāng)取得一些突破。

　　《連線》：我知道你是《星際迷航》的粉絲。這部電影的靈感來自于對技術(shù)的烏托邦式理想。在你對未來的看法中，這帶來了什么影響？

　　奧巴馬：當(dāng)我還是小孩子時，我就很喜歡《星際迷航》。電影很有趣。讓這部電影經(jīng)久不衰的是，這實際上與技術(shù)無關(guān)。這關(guān)于價值觀和人際關(guān)系。這也說明了，為何特效不是那么重要。這部電影探討的關(guān)鍵在于共同人性，以及我們解決問題能力的信心。

　　近期有部電影反映了同樣的精神，這就是《火星救援》。不僅是因為這有著復(fù)雜的場景，也是由于電影中展示了許多不同人物嘗試解決同一個問題。通過創(chuàng)造性和努力，并堅信最終能夠成功，我們就可以做到。這是我最喜歡美國的一點，也是這部電影持續(xù)吸引全球各地觀眾的原因，即對于面臨的問題，我們的精神是“我們可以解決這個問題”。以這種觀念來看，科學(xué)最大的價值也是在于幫助我們解決問題。我們會嘗試，如果不成功，我們將會探索為何不成功，隨后再進行別的嘗試。我們將***自己的錯誤，因為這最終將教會我們?nèi)绾谓鉀Q問題。如果失去這樣的精神，我們將會失去美國的本質(zhì)和人類的本質(zhì)。

　　伊藤穰一：完全贊成。我喜歡《星際迷航》中的樂觀精神。而我也看到，聯(lián)邦的構(gòu)成非常多元化，船員多元化，而壞家伙實際上并不是惡魔，他們只是被誤導(dǎo)。

　　奧巴馬：與任何優(yōu)秀的故事一樣，《星際迷航》所說的是，我們所有人都很復(fù)雜，我們總是有多個側(cè)面。這就是我所說的解決問題。解決問題的一部分是克服障礙，彌合差異。我們相信理性，并保持一定的謙卑。對最優(yōu)秀的藝術(shù)和科學(xué)來說，情況都是這樣。我們已經(jīng)掌握了可以為我所用的許多難以置信的思想。然而，我們?nèi)灾唤议_了幕布一角，不應(yīng)該過于自大。我們應(yīng)當(dāng)提醒自己，還有很多是我們不知道的。