本文系網(wǎng)易智能工作室（公眾號smartman163）出品。 聚焦AI，讀懂下一個大時代！

【網(wǎng)易智能訊9月8日消息】特拉斯的馬斯克和Facebook的扎克伯格關(guān)于人工智能的辯論是近日來的社會各界的一大關(guān)注點，而關(guān)于人工智能是否應(yīng)該受到監(jiān)管的話題也引發(fā)了有美版知乎之稱的Quora(果殼問答網(wǎng)站）大神之間的互懟。以下就是兩位著名Quora大神之間的見解。

| Xavier Amatriain ：我不是不屑一顧的內(nèi)部人士！AI不用監(jiān)管

前ML研究員、目前在Quora負責(zé)工程技術(shù)的Xavier在Quora上表示：人工智能應(yīng)該受到監(jiān)管嗎？答案是不。我知道最近的時代發(fā)展和相關(guān)的炒作對人們來說可能是可怕的，特別是因為與人工智能相關(guān)的世界末日場景已經(jīng)成為我們幾十年來流行文化的一部分。我也明白，為了解決Ben Y.Zhao的擔憂，我的觀點可能會被歸為那些“不屑一顧的內(nèi)部人士”的觀點。然而，我認為至少有三個理由支撐我們不用監(jiān)管人工智能。

1）人工智能是一項基礎(chǔ)技術(shù)

人工智能是一個研究和開發(fā)領(lǐng)域。你可以將它與量子力學(xué)、納米技術(shù)、生物化學(xué)、核能甚至數(shù)學(xué)進行比較，但只是舉幾個例子。基礎(chǔ)研究領(lǐng)域或技術(shù)領(lǐng)域不應(yīng)受到監(jiān)管。它們都可能有可怕的或負面的應(yīng)用程序，但在基本層面上進行監(jiān)管毫無疑問將阻礙其發(fā)展，其中一些可能會產(chǎn)生有利的影響，而這些影響比我們所想象的更為積極。

從這個角度來看，也許目前唯一受到高度監(jiān)管的基礎(chǔ)研究領(lǐng)域是醫(yī)學(xué)。當然，醫(yī)學(xué)已經(jīng)發(fā)展了好幾個世紀了，它有內(nèi)在的問題，因為醫(yī)學(xué)需要直接在人類身上或至少在生物身上進行測試。即使考慮到這一點，人們也普遍認為，在醫(yī)學(xué)領(lǐng)域的強有力監(jiān)管使創(chuàng)新變得極其困難，成本高昂。正因為如此，整個醫(yī)療領(lǐng)域在基礎(chǔ)技術(shù)進步方面顯然落后多年。

因此，人工智能不應(yīng)該受到監(jiān)管。應(yīng)該嚴格監(jiān)管的是它在危險領(lǐng)域上的應(yīng)用，比如槍支或武器。

2）現(xiàn)在談?wù)摫O(jiān)管還為時過早

如果你問如今的專家，在人工智能中應(yīng)該如何進行監(jiān)管，答案必然是“我們也不知道”。如果你看一看馬斯克未來生活研究所的研究，你會發(fā)現(xiàn)所有的項目都是研究性質(zhì)的（比如如何更好地估計自動駕駛汽車的概率），而且大多數(shù)都還處于起步階段（這個項目的描述是關(guān)于如何教授機器學(xué)習(xí)道德準則）。

老實說，如果我們必須要在短時間內(nèi)對人工智能進行監(jiān)管，我們就不知道該怎么做了。更糟糕的是，我們可以讓完全不了解這項技術(shù)的人來做這件事。如果我們將這一技術(shù)與之前的人工智能技術(shù)相結(jié)合，我們就有了解決這個災(zāi)難的方法。這比讓政府在80年代監(jiān)管互聯(lián)網(wǎng)還要糟糕。

3）在什么層面上進行監(jiān)管？

好吧，讓我們假設(shè)之前的兩個原因還未能完全說服你，你還是堅持要監(jiān)管人工智能。我的問題是：監(jiān)管應(yīng)該達到什么程度？你會希望美國政府在總體上對其研究和部署進行監(jiān)管，而其他國家（包括朝鮮）自由地繼續(xù)創(chuàng)新和部署最新進展嗎？顯然不是。我猜，像馬斯克這樣提議監(jiān)管的人甚至還沒有考慮過這個問題，或者許多人考慮在聯(lián)合國層面上制定一項監(jiān)管規(guī)定？那，祝你好運。

就我所知，健康問題是國際監(jiān)管水平的唯一一個例子。世界衛(wèi)生組織曾花了10多年的時間，設(shè)法說服世界上大多數(shù)國家簽署《國際衛(wèi)生條例》。包括美國在內(nèi)的許多國家都簽署了但仍持有保留意見。

所以，總結(jié)一下，人工智能不應(yīng)該受到監(jiān)管，因為它是一項基礎(chǔ)技術(shù)，在這一點上，我們不知道該如何監(jiān)管，也不知道如何獲得足夠的國際支持來實現(xiàn)這一點。不過，要公平地對待馬斯克和其他一些持有相同觀點的人，考慮到它可能需要50年的時間才能完成所有的工作，現(xiàn)在就有一些呼聲來推動這一目標可能還不錯。我只是希望不要過早地聽到他們的聲音，因為我們最終會陷入這樣一種情況：沒有任何線索和相關(guān)信息的人，會在人類發(fā)展的關(guān)鍵領(lǐng)域破壞這項創(chuàng)新成果，從而阻止我們走向更美好的未來。

| Ben Y.Zhao： 亡羊補牢為時未晚，AI 監(jiān)管是個好主意且有道理

來自芝加哥大學(xué)計算機科學(xué)的教授Ben Y.Zhao，他在Quora上回答：我使用ML語言，用ML構(gòu)建系統(tǒng)，并嘗試在ML中找出漏洞。無論怎么聯(lián)想，我都不是ML語言專家。很有可能我理解“足夠危險”。但對于這樣的問題，還不清楚誰是回答這個問題的最佳人選：那些真正的專家？但是他們可能會因自己對空間的詮釋而產(chǎn)生偏見。還是對這個領(lǐng)域知之甚少的人？而他們對問題的看法有完全錯誤的印象。

當我在耶魯大學(xué)讀本科的時候，我參加了一個人工智能課程，這并不是什么神秘的東西，在某種程度上，它有點讓人失望。我?guī)е鴮θ绾螛?gòu)建“智能”的希望參加了這門課程，并對如何“解決”問題提出了一個初級的理解，即把所有事情都看成是一個巨大的搜索問題，例如，你如何通過繪制出所有可能的步數(shù)組合來下棋，并選擇能最大化獲勝幾率的路徑，或者通過某種指標獲得一個有利的位置。如今的統(tǒng)計機器學(xué)習(xí)和深層神經(jīng)網(wǎng)絡(luò)是完全不同的。

我想我對基本的ML語言分類器以及如何使用它們有了更合適的理解。但和我們大多數(shù)人一樣，我對深度神經(jīng)網(wǎng)絡(luò)DNNs（神經(jīng)網(wǎng)絡(luò)CNNs、遞歸神經(jīng)網(wǎng)絡(luò)RNNs、LSTMs等）在某些特定問題上的表現(xiàn)，并沒有很好的把控能力。在相當長的一段時間里，在這個問題上有著對立的兩種意見，比如馬斯克和Ng/Dean/…我發(fā)現(xiàn)自己被困住已經(jīng)有一段時間了。這種情況一直持續(xù)到杰夫?迪恩來到加州大學(xué)圣芭芭拉分校(UCSB)，并向一位杰出的講師介紹了谷歌的ML語言/人工智能項目。除了很酷的應(yīng)用程序之外，在我的腦海中還有兩件事是:a）付出大量的努力來加速DNN模型訓(xùn)練數(shù)據(jù)（“傳感器”）和b自我校正/優(yōu)化模型（盡管這部分在早期階段是公認的）。

因此，從較高的層面來看，我的直覺是，人工智能監(jiān)管是個好主意。ML專家正在努力解決一些問題，這些問題將會加速模型的學(xué)習(xí)速度，而且能夠通過優(yōu)化那些不理想的性能問題幫助模型進行自我提升。把兩者結(jié)合起來，就好像你擁有了一輛失控的火車的全部特質(zhì)。從保守的角度來看，監(jiān)管是有道理的，因為在最壞的情況下也有可能意味著世界末日。如果我們想要做“正確”的事情，我們需要給它時間。食品及藥物管理局(FDA)，聯(lián)邦通信委員會(FCC)，或者其他任何監(jiān)管機構(gòu)（如果這確實是一個恰當?shù)念惐龋蓟撕荛L時間才適應(yīng)今天的情況。任何監(jiān)管人工智能的嘗試都需要付出巨大的努力來教育一些政策制定者，并且花更多的時間來理解“監(jiān)管”在人工智能中究竟意味著什么。

我多少有些驚訝于一些相反的觀點是多么的不屑一顧。普遍的回答是“我們離世界末日還很遙遠，比如天網(wǎng)，如今世界上還有很多更重要的問題。”但我覺得這種說法缺乏說服力。幾十年來，安全部門一直都在犯這個錯誤。事后卻不能再提高對安全性的考慮。然而，系統(tǒng)構(gòu)建者經(jīng)常忽略這一點，并構(gòu)建具有重大設(shè)計缺陷的系統(tǒng)。即使在今天的人工智能領(lǐng)域，人工智能/ML的負面研究（使用人工智能或?qū)剐缘腗L）也遠遠落后于核心的ML工作。對于像我這樣的安全工作人員來說，這是一件好事（我們在CCS?2017中有一篇論文即將發(fā)表，它展示了如何將深度神經(jīng)網(wǎng)絡(luò)DNNs作為一種強大的武器來生成虛假的在線評論，而這些評論是人類用戶和軟件都無法檢測到的，我們還有其他許多有趣的項目正在進行中）。然而，與其他計算系統(tǒng)不同的是，奇異性問題最糟糕的故障模式是從災(zāi)難性模式到世界末日型模式不等。因此，如果它需要一些過度謹慎的措施，也可能是值得的。“我們還有其他更重要的問題”的論點也失敗了，因為它假定了一種不存在的資源理性利用和流動性問題。國會不會在氣候變化問題上變得更有效率，因為它釋放了監(jiān)管人工智能的資源。

我個人擔心的并不是天網(wǎng)或黑客帝國，但這也是不可否認的問題。我更擔心的是，這種復(fù)雜的深度神經(jīng)網(wǎng)絡(luò)DNNs會自動優(yōu)化成無法預(yù)測的結(jié)果，而用戶或工程師無法找到這些漏洞，卻僅僅只是因為它們的不透明性。一旦部署到位，它們很容易在熟練的攻擊者或隨機輸入的情況下產(chǎn)生輸出，而這個輸出的后果不堪設(shè)想。使用人工智能的強大結(jié)果似乎總是超過對人工智能的安全性理解，例如，面部識別在中國被廣泛應(yīng)用，但我們?nèi)栽趯懻撐模懻撊绾螌⒁桓毖坨R或面部標記轉(zhuǎn)化為另一種識別結(jié)果。

所以我想我的答案是肯定的，我認為人工智能的監(jiān)管是個好主意，而且很可能是不可避免的。無論是為了避免奇點，還是僅僅為了管理不善理解和廣泛部署的人工智能工具，我認為監(jiān)管是必要的，而且需要盡快開始，以便有機會跟上人工智能/ML領(lǐng)域的創(chuàng)新。

看了兩位大神對于人工智能是否應(yīng)該受到監(jiān)管的回答，你更贊同哪位呢？(選自：HUFFPOST 編譯：網(wǎng)易見外智能編譯平臺 審校：Simone)

關(guān)注網(wǎng)易智能公眾號（smartman163），獲取人工智能行業(yè)最新報告。