本文系網(wǎng)易智能工作室（公眾號(hào)smartman163）出品。 聚焦AI，讀懂下一個(gè)大時(shí)代！

【網(wǎng)易智能訊9月8日消息】特拉斯的馬斯克和Facebook的扎克伯格關(guān)于人工智能的辯論是近日來的社會(huì)各界的一大關(guān)注點(diǎn)，而關(guān)于人工智能是否應(yīng)該受到監(jiān)管的話題也引發(fā)了有美版知乎之稱的Quora(果殼問答網(wǎng)站）大神之間的互懟。以下就是兩位著名Quora大神之間的見解。

| Xavier Amatriain ：我不是不屑一顧的內(nèi)部人士！AI不用監(jiān)管

前ML研究員、目前在Quora負(fù)責(zé)工程技術(shù)的Xavier在Quora上表示：人工智能應(yīng)該受到監(jiān)管嗎？答案是不。我知道最近的時(shí)代發(fā)展和相關(guān)的炒作對(duì)人們來說可能是可怕的，特別是因?yàn)榕c人工智能相關(guān)的世界末日?qǐng)鼍耙呀?jīng)成為我們幾十年來流行文化的一部分。我也明白，為了解決Ben Y.Zhao的擔(dān)憂，我的觀點(diǎn)可能會(huì)被歸為那些“不屑一顧的內(nèi)部人士”的觀點(diǎn)。然而，我認(rèn)為至少有三個(gè)理由支撐我們不用監(jiān)管人工智能。

1）人工智能是一項(xiàng)基礎(chǔ)技術(shù)

人工智能是一個(gè)研究和開發(fā)領(lǐng)域。你可以將它與量子力學(xué)、納米技術(shù)、生物化學(xué)、核能甚至數(shù)學(xué)進(jìn)行比較，但只是舉幾個(gè)例子。基礎(chǔ)研究領(lǐng)域或技術(shù)領(lǐng)域不應(yīng)受到監(jiān)管。它們都可能有可怕的或負(fù)面的應(yīng)用程序，但在基本層面上進(jìn)行監(jiān)管毫無疑問將阻礙其發(fā)展，其中一些可能會(huì)產(chǎn)生有利的影響，而這些影響比我們所想象的更為積極。

從這個(gè)角度來看，也許目前唯一受到高度監(jiān)管的基礎(chǔ)研究領(lǐng)域是醫(yī)學(xué)。當(dāng)然，醫(yī)學(xué)已經(jīng)發(fā)展了好幾個(gè)世紀(jì)了，它有內(nèi)在的問題，因?yàn)獒t(yī)學(xué)需要直接在人類身上或至少在生物身上進(jìn)行測(cè)試。即使考慮到這一點(diǎn)，人們也普遍認(rèn)為，在醫(yī)學(xué)領(lǐng)域的強(qiáng)有力監(jiān)管使創(chuàng)新變得極其困難，成本高昂。正因?yàn)槿绱耍麄€(gè)醫(yī)療領(lǐng)域在基礎(chǔ)技術(shù)進(jìn)步方面顯然落后多年。

因此，人工智能不應(yīng)該受到監(jiān)管。應(yīng)該嚴(yán)格監(jiān)管的是它在危險(xiǎn)領(lǐng)域上的應(yīng)用，比如槍支或武器。

2）現(xiàn)在談?wù)摫O(jiān)管還為時(shí)過早

如果你問如今的專家，在人工智能中應(yīng)該如何進(jìn)行監(jiān)管，答案必然是“我們也不知道”。如果你看一看馬斯克未來生活研究所的研究，你會(huì)發(fā)現(xiàn)所有的項(xiàng)目都是研究性質(zhì)的（比如如何更好地估計(jì)自動(dòng)駕駛汽車的概率），而且大多數(shù)都還處于起步階段（這個(gè)項(xiàng)目的描述是關(guān)于如何教授機(jī)器學(xué)習(xí)道德準(zhǔn)則）。

老實(shí)說，如果我們必須要在短時(shí)間內(nèi)對(duì)人工智能進(jìn)行監(jiān)管，我們就不知道該怎么做了。更糟糕的是，我們可以讓完全不了解這項(xiàng)技術(shù)的人來做這件事。如果我們將這一技術(shù)與之前的人工智能技術(shù)相結(jié)合，我們就有了解決這個(gè)災(zāi)難的方法。這比讓政府在80年代監(jiān)管互聯(lián)網(wǎng)還要糟糕。

3）在什么層面上進(jìn)行監(jiān)管？

好吧，讓我們假設(shè)之前的兩個(gè)原因還未能完全說服你，你還是堅(jiān)持要監(jiān)管人工智能。我的問題是：監(jiān)管應(yīng)該達(dá)到什么程度？你會(huì)希望美國(guó)政府在總體上對(duì)其研究和部署進(jìn)行監(jiān)管，而其他國(guó)家（包括朝鮮）自由地繼續(xù)創(chuàng)新和部署最新進(jìn)展嗎？顯然不是。我猜，像馬斯克這樣提議監(jiān)管的人甚至還沒有考慮過這個(gè)問題，或者許多人考慮在聯(lián)合國(guó)層面上制定一項(xiàng)監(jiān)管規(guī)定？那，祝你好運(yùn)。

就我所知，健康問題是國(guó)際監(jiān)管水平的唯一一個(gè)例子。世界衛(wèi)生組織曾花了10多年的時(shí)間，設(shè)法說服世界上大多數(shù)國(guó)家簽署《國(guó)際衛(wèi)生條例》。包括美國(guó)在內(nèi)的許多國(guó)家都簽署了但仍持有保留意見。

所以，總結(jié)一下，人工智能不應(yīng)該受到監(jiān)管，因?yàn)樗且豁?xiàng)基礎(chǔ)技術(shù)，在這一點(diǎn)上，我們不知道該如何監(jiān)管，也不知道如何獲得足夠的國(guó)際支持來實(shí)現(xiàn)這一點(diǎn)。不過，要公平地對(duì)待馬斯克和其他一些持有相同觀點(diǎn)的人，考慮到它可能需要50年的時(shí)間才能完成所有的工作，現(xiàn)在就有一些呼聲來推動(dòng)這一目標(biāo)可能還不錯(cuò)。我只是希望不要過早地聽到他們的聲音，因?yàn)槲覀冏罱K會(huì)陷入這樣一種情況：沒有任何線索和相關(guān)信息的人，會(huì)在人類發(fā)展的關(guān)鍵領(lǐng)域破壞這項(xiàng)創(chuàng)新成果，從而阻止我們走向更美好的未來。

| Ben Y.Zhao： 亡羊補(bǔ)牢為時(shí)未晚，AI 監(jiān)管是個(gè)好主意且有道理

來自芝加哥大學(xué)計(jì)算機(jī)科學(xué)的教授Ben Y.Zhao，他在Quora上回答：我使用ML語言，用ML構(gòu)建系統(tǒng)，并嘗試在ML中找出漏洞。無論怎么聯(lián)想，我都不是ML語言專家。很有可能我理解“足夠危險(xiǎn)”。但對(duì)于這樣的問題，還不清楚誰是回答這個(gè)問題的最佳人選：那些真正的專家？但是他們可能會(huì)因自己對(duì)空間的詮釋而產(chǎn)生偏見。還是對(duì)這個(gè)領(lǐng)域知之甚少的人？而他們對(duì)問題的看法有完全錯(cuò)誤的印象。

當(dāng)我在耶魯大學(xué)讀本科的時(shí)候，我參加了一個(gè)人工智能課程，這并不是什么神秘的東西，在某種程度上，它有點(diǎn)讓人失望。我?guī)е鴮?duì)如何構(gòu)建“智能”的希望參加了這門課程，并對(duì)如何“解決”問題提出了一個(gè)初級(jí)的理解，即把所有事情都看成是一個(gè)巨大的搜索問題，例如，你如何通過繪制出所有可能的步數(shù)組合來下棋，并選擇能最大化獲勝幾率的路徑，或者通過某種指標(biāo)獲得一個(gè)有利的位置。如今的統(tǒng)計(jì)機(jī)器學(xué)習(xí)和深層神經(jīng)網(wǎng)絡(luò)是完全不同的。

我想我對(duì)基本的ML語言分類器以及如何使用它們有了更合適的理解。但和我們大多數(shù)人一樣，我對(duì)深度神經(jīng)網(wǎng)絡(luò)DNNs（神經(jīng)網(wǎng)絡(luò)CNNs、遞歸神經(jīng)網(wǎng)絡(luò)RNNs、LSTMs等）在某些特定問題上的表現(xiàn)，并沒有很好的把控能力。在相當(dāng)長(zhǎng)的一段時(shí)間里，在這個(gè)問題上有著對(duì)立的兩種意見，比如馬斯克和Ng/Dean/…我發(fā)現(xiàn)自己被困住已經(jīng)有一段時(shí)間了。這種情況一直持續(xù)到杰夫?迪恩來到加州大學(xué)圣芭芭拉分校(UCSB)，并向一位杰出的講師介紹了谷歌的ML語言/人工智能項(xiàng)目。除了很酷的應(yīng)用程序之外，在我的腦海中還有兩件事是:a）付出大量的努力來加速DNN模型訓(xùn)練數(shù)據(jù)（“傳感器”）和b自我校正/優(yōu)化模型（盡管這部分在早期階段是公認(rèn)的）。

因此，從較高的層面來看，我的直覺是，人工智能監(jiān)管是個(gè)好主意。ML專家正在努力解決一些問題，這些問題將會(huì)加速模型的學(xué)習(xí)速度，而且能夠通過優(yōu)化那些不理想的性能問題幫助模型進(jìn)行自我提升。把兩者結(jié)合起來，就好像你擁有了一輛失控的火車的全部特質(zhì)。從保守的角度來看，監(jiān)管是有道理的，因?yàn)樵谧顗牡那闆r下也有可能意味著世界末日。如果我們想要做“正確”的事情，我們需要給它時(shí)間。食品及藥物管理局(FDA)，聯(lián)邦通信委員會(huì)(FCC)，或者其他任何監(jiān)管機(jī)構(gòu)（如果這確實(shí)是一個(gè)恰當(dāng)?shù)念惐龋蓟撕荛L(zhǎng)時(shí)間才適應(yīng)今天的情況。任何監(jiān)管人工智能的嘗試都需要付出巨大的努力來教育一些政策制定者，并且花更多的時(shí)間來理解“監(jiān)管”在人工智能中究竟意味著什么。

我多少有些驚訝于一些相反的觀點(diǎn)是多么的不屑一顧。普遍的回答是“我們離世界末日還很遙遠(yuǎn)，比如天網(wǎng)，如今世界上還有很多更重要的問題。”但我覺得這種說法缺乏說服力。幾十年來，安全部門一直都在犯這個(gè)錯(cuò)誤。事后卻不能再提高對(duì)安全性的考慮。然而，系統(tǒng)構(gòu)建者經(jīng)常忽略這一點(diǎn)，并構(gòu)建具有重大設(shè)計(jì)缺陷的系統(tǒng)。即使在今天的人工智能領(lǐng)域，人工智能/ML的負(fù)面研究（使用人工智能或?qū)剐缘腗L）也遠(yuǎn)遠(yuǎn)落后于核心的ML工作。對(duì)于像我這樣的安全工作人員來說，這是一件好事（我們?cè)贑CS?2017中有一篇論文即將發(fā)表，它展示了如何將深度神經(jīng)網(wǎng)絡(luò)DNNs作為一種強(qiáng)大的武器來生成虛假的在線評(píng)論，而這些評(píng)論是人類用戶和軟件都無法檢測(cè)到的，我們還有其他許多有趣的項(xiàng)目正在進(jìn)行中）。然而，與其他計(jì)算系統(tǒng)不同的是，奇異性問題最糟糕的故障模式是從災(zāi)難性模式到世界末日型模式不等。因此，如果它需要一些過度謹(jǐn)慎的措施，也可能是值得的。“我們還有其他更重要的問題”的論點(diǎn)也失敗了，因?yàn)樗俣艘环N不存在的資源理性利用和流動(dòng)性問題。國(guó)會(huì)不會(huì)在氣候變化問題上變得更有效率，因?yàn)樗尫帕吮O(jiān)管人工智能的資源。

我個(gè)人擔(dān)心的并不是天網(wǎng)或黑客帝國(guó)，但這也是不可否認(rèn)的問題。我更擔(dān)心的是，這種復(fù)雜的深度神經(jīng)網(wǎng)絡(luò)DNNs會(huì)自動(dòng)優(yōu)化成無法預(yù)測(cè)的結(jié)果，而用戶或工程師無法找到這些漏洞，卻僅僅只是因?yàn)樗鼈兊牟煌该餍浴Ｒ坏┎渴鸬轿唬鼈兒苋菀自谑炀毜墓粽呋螂S機(jī)輸入的情況下產(chǎn)生輸出，而這個(gè)輸出的后果不堪設(shè)想。使用人工智能的強(qiáng)大結(jié)果似乎總是超過對(duì)人工智能的安全性理解，例如，面部識(shí)別在中國(guó)被廣泛應(yīng)用，但我們?nèi)栽趯懻撐模懻撊绾螌⒁桓毖坨R或面部標(biāo)記轉(zhuǎn)化為另一種識(shí)別結(jié)果。

所以我想我的答案是肯定的，我認(rèn)為人工智能的監(jiān)管是個(gè)好主意，而且很可能是不可避免的。無論是為了避免奇點(diǎn)，還是僅僅為了管理不善理解和廣泛部署的人工智能工具，我認(rèn)為監(jiān)管是必要的，而且需要盡快開始，以便有機(jī)會(huì)跟上人工智能/ML領(lǐng)域的創(chuàng)新。

看了兩位大神對(duì)于人工智能是否應(yīng)該受到監(jiān)管的回答，你更贊同哪位呢？(選自：HUFFPOST 編譯：網(wǎng)易見外智能編譯平臺(tái) 審校：Simone)

關(guān)注網(wǎng)易智能公眾號(hào)（smartman163），獲取人工智能行業(yè)最新報(bào)告。