圖片來源@@視覺中國

文 | 腦極體

人類有時理性。

為了讓機(jī)器人學(xué)習(xí)技能，對它們進(jìn)行千錘百煉、花式虐待，都是常有的事。

有時也很感性。

盡管我們也知道銅腔鐵臂的機(jī)器人并不會因?yàn)楸粨舸蚨杏X到疼痛，但依然希望能通過更溫和的方式來讓它們成長，科學(xué)家們想方設(shè)法試圖讓它們看看YouTube視頻就能學(xué)習(xí)，或是在模擬環(huán)境里展開競技……

除了同理心作祟，還有點(diǎn)未雨綢繆的小機(jī)智在里面。萬一哪天某天機(jī)器人覺醒了，發(fā)現(xiàn)這些被人類虐待的“黑歷史”，“黑化”了怎么辦？電影里的機(jī)器人革命不都是這么來的嘛……

但，如果替人類反思的不是我們自己，而是AI呢？

當(dāng)AI開始管理內(nèi)容，它會違背規(guī)則、保護(hù)同類嗎？

8月21人，YouTube用戶Jamison Go最近收到了一封來自官方的通知，平臺自動刪除了他上傳的戰(zhàn)斗機(jī)器人比賽視頻，原因是算法檢測到該內(nèi)容對動物施以折磨或強(qiáng)迫動物對抗。當(dāng)時，機(jī)器人喬普正在和另一個機(jī)器人作戰(zhàn)。

Jamison Go在自己的Facebook賬號上寫道：“今天是一個悲傷的日子。全世界的機(jī)器人愛好者都發(fā)出痛苦的哀鳴。”

他并不是一個人。上一季戰(zhàn)斗機(jī)器人比賽的參賽者莎拉·波霍雷基也在YouTube上受到了相同的打擊，這很快引發(fā)了全世界機(jī)器人相關(guān)內(nèi)容頻道的關(guān)注。許多像BattleBots和RobotWars這樣的節(jié)目站出來，指責(zé)了YouTube這個將機(jī)器人戰(zhàn)斗檢測為虐待動物的新算法。

之所以認(rèn)為是AI在搗亂，是因?yàn)槿祟悗缀醪豢赡茉谟^看這些視頻時將機(jī)器人認(rèn)成動物，畫面中也并沒有出現(xiàn)人類和其他生物，被刪除的視頻并沒有在描述、標(biāo)簽甚至標(biāo)題里提到機(jī)器人名字這樣容易被誤認(rèn)為是生命體的文本。而且，YouTube自身對于機(jī)器人戰(zhàn)斗視頻并沒有明確的禁令。這不，第二天就有人工團(tuán)隊(duì)重新審查并恢復(fù)了大部分被誤刪的視頻。看來，將其錯誤標(biāo)注并刪除的只能是算法自己干的了。

事情雖然告一段落，但AI開始擅自停止以機(jī)器人同胞們?yōu)槟繕?biāo)的暴力，這讓不少人陷入了“機(jī)器覺醒”的陰謀論里。甚至有人開始猜想，YouTube是不是被AI接管了，讓算法做一切決定？所謂的“人工審核”到底是不是真實(shí)存在的？

又或者，你永遠(yuǎn)不知道人工智能何時會找到另一種方法來保護(hù)它的機(jī)器人兄弟。

AI有情？真的是只是一時眼花

那么，從技術(shù)的角度講，錯誤刪除視頻到底是無意識地誤傷，還是AI們的自我保護(hù)呢？

目前來看，答案當(dāng)然是前者。因?yàn)椋诶斫庖曨l這件事上，AI真的還沒有大家想象的那么強(qiáng)。

2017年，谷歌推出了一款視頻智能（Video Intelligence）的API，可以自動識別視頻中的物體和內(nèi)容。這在當(dāng)時是里程碑式的應(yīng)用，因?yàn)閅ouTube、Facebook、新浪微博、快手等等擁有視頻產(chǎn)品的平臺，無不深受不良內(nèi)容的困擾。

一位泰國男子在Facebook上直播殺害親生女兒然后自殺的視頻，在網(wǎng)站上掛了將近24個小時，播放量超過25萬次，但其全球?qū)⒔?000人的人工審核團(tuán)隊(duì)依然無法在第一時間在浩如煙海的視頻流里立即定位并刪除這些不良內(nèi)容。

Facebook屢屢因擴(kuò)散不良信息而受到政府審查的同時，YouTube也在為視頻審查帶來的業(yè)務(wù)危機(jī)而頭痛。因?yàn)樵缦萗ouTube的智能廣告推薦算法，就將沃爾瑪、百事可樂、電信運(yùn)營商Verizon等廣告主的貼片廣告，分發(fā)到了一些宣揚(yáng)仇恨和恐怖主義的視頻上……金主爸爸們很快用腳投票，這讓YouTube乃至整個Google的廣告網(wǎng)絡(luò)都感受到了壓力。

雖然Google聲稱，這些問題只影響到了“非常非常非常少”的視頻，但顯然唯有行動才能打消用戶與廣告商的顧慮。

所以，“視頻智能”技術(shù)發(fā)布的時候，時任谷歌云機(jī)器學(xué)習(xí)與人工智能首席科學(xué)家的李飛飛曾經(jīng)這樣形容它——通過視頻識別技術(shù)，“我們將開始給數(shù)字星空中一個黑暗的物質(zhì)照亮光芒。”

如今，兩年時間過去了，網(wǎng)絡(luò)內(nèi)容的黑暗一角真的被AI照亮了嗎？成果當(dāng)然是值得肯定的，比如隨著新算法模型的不斷突破，谷歌的BERT訓(xùn)練方法可以將審查的人工勞動量從12,000小時減少到80小時。

但同樣的，各大內(nèi)容平臺的人工審核團(tuán)隊(duì)也在不斷擴(kuò)張。顯然，機(jī)器方法的引入并沒有如預(yù)期中那樣幫助平臺提質(zhì)增效。視頻理解，依舊是一朵未能從應(yīng)用層面被摘下的高嶺之花，它具體難在何處呢？

首先是真實(shí)環(huán)境下的行為識別（Action Recognition）。

目前的視頻行為識別模型，都使用動作分割好的數(shù)據(jù)集進(jìn)行訓(xùn)練，像是 UCF101、ActivityNet、DeepMind 的 Kinetics、Google的AVA數(shù)據(jù)集等等。每個視頻片段包含一段明確的動作，并被打上了明確且唯一的分類標(biāo)簽。但是真實(shí)環(huán)境中的視頻都沒有被預(yù)先切分，有時還會包含多人動作等復(fù)雜場景，或是包含復(fù)雜的情緒、意圖，這些問題的處理難度都比人臉識別等明確定義的難以下，所以實(shí)際應(yīng)用時準(zhǔn)確率就會下降。

比如一只狗張開嘴巴，和一個人打開門，都會用“打開”(open)這個動詞來標(biāo)注，并被放進(jìn)同一個分類中……從這個角度看，YouTube算法將機(jī)器人戰(zhàn)斗當(dāng)做動物虐待，好像也挺符合它目前的“智商”的。

對視頻中的行為進(jìn)行分類就已經(jīng)很難了，如果再加上時序，就更讓AI發(fā)愁了。

因?yàn)閷τ趫D像中的物體，目前的技術(shù)已經(jīng)能做到很容易地進(jìn)行檢測和分割，然而生物行為的時序邊界往往是很不明確的，一個動作何時開始、何時結(jié)束，動作變化幅度太大等等，都很容易讓算法“眼花”。一方面，既要在大量連續(xù)幀之間解決時序冗余的問題，提高檢測速度；又要提高“眼力”，在運(yùn)動模糊、部分遮擋等情況下也能精準(zhǔn)定位和識別，就在前不久Google又提出了新的基于Q-learning學(xué)習(xí)自適應(yīng)交替策略，就是在速度與準(zhǔn)確率之間尋求平衡。至少從這次“算法誤刪事件”看來，這條技術(shù)高山還需要工程師們持續(xù)向上攀爬。

另一個影響視頻理解技術(shù)進(jìn)程的，就是成本困境。相比圖像，訓(xùn)練視頻模型需要增加許多存儲、計(jì)算資源，對實(shí)時性的要求也更高，因此也比普通神經(jīng)網(wǎng)絡(luò)更難訓(xùn)練，目前賽道上的主力玩家就是Google、Facebook、百度、頭條等巨頭在角逐。想要讓更多開發(fā)者為技術(shù)進(jìn)階貢獻(xiàn)腦力，如何減輕訓(xùn)練負(fù)擔(dān)就成了不可忽視的工作。目前Google、百度都通過自家的開源平臺釋放了視頻理解算法模型和標(biāo)注好的數(shù)據(jù)集，一些運(yùn)算資源上的扶持政策也相繼露面，恨不得讓開發(fā)者們“拎包入住”……

所以從技術(shù)層面來看，視頻理解注定是無數(shù)人苦心科研的點(diǎn)滴心血累計(jì)，才能積累成撬動整個行業(yè)的能量，距離想象中的“AI機(jī)器人抱團(tuán)”還有很長的路要走。

與智能機(jī)器共生，人類做好準(zhǔn)備了嗎？

只要稍微想一想，就能明白算法只是無心之失，畢竟就算它未來真的可能向著自己機(jī)器人大兄弟，現(xiàn)在也不具備那個業(yè)務(wù)能力啊。這么簡單的事兒，為什么還能被“節(jié)奏大師”們引發(fā)一陣黑客帝國式恐慌呢？

原因之一，恐怕是大多數(shù)人對于《機(jī)器人打擂臺》這種格斗節(jié)目或競技比賽還是不甚了解，并不知道機(jī)器是在通過自由對抗提升對復(fù)雜環(huán)境和意外的靈活應(yīng)變能力，使它們在硬件和智能程度上不斷向應(yīng)用進(jìn)階。

對于普通人來說，就看到一群機(jī)器人刀劈斧砍，互相傾軋，跟斗獸場取樂似乎并無區(qū)別，這就很容易產(chǎn)生移情效應(yīng)，將自己的同情心理釋放到算法上——“人看了都想打人，AI看了肯定更生氣”，研究人員也沒少因?yàn)閷C(jī)器人拳打腳踢而登上頭條……所以這次因YouTube下架事件受到影響的Maker's Muse幕后制作人Angus Deveson，就在一個聲援視頻中公開宣傳：“戰(zhàn)斗機(jī)器人節(jié)目是教育和展示工程學(xué)魅力的絕佳工具”，以期讓更多人改變對機(jī)器人節(jié)目的認(rèn)知。

而另一個比較隱藏的憂慮，則是對于“AI導(dǎo)向”的社會焦慮。

今天哪怕是偏遠(yuǎn)如非洲的人群，恐怕也無法否認(rèn)，整個社會運(yùn)轉(zhuǎn)不僅僅由人類組成，也有越來越多的機(jī)器參與進(jìn)來，從Facebook上的一舉一動，到亞馬遜流域猿猴的生存環(huán)境，智能機(jī)器正在成為人類和人類、人類和社會之間必不可少的媒介。

如今，人類很樂意交給AI的事情往往是那些自己不愿去做或者效率低下的事情，比如審核涉黃涉爆的網(wǎng)絡(luò)內(nèi)容。未來當(dāng)所謂的“奇點(diǎn)”，也就是人工智能的智慧超過人類的智慧，真正來臨的時候，智能系統(tǒng)會幫助人類來擔(dān)當(dāng)社會管理者的角色，那時，人類何以重新定位自身在社會中的位置，還能夠自主選擇嗎？這種身份焦慮并沒有一個清晰的解決方案。

許多研究者都告訴大眾“車到山前必有路”，坐在車?yán)锩裳巯蚯暗娜酥缓孟馳ouTube“AI主導(dǎo)”這樣的事故下時時驚惶。這里，或許我們在追逐AI的時候，也需要早日開始求解兩個問題：

第一，AI上位如此迅速，大眾認(rèn)知教育與倫理建設(shè)到位了嗎？

第二，如果沒有，當(dāng)算法與用戶之間產(chǎn)生沖突（這幾乎是必然的），科技企業(yè)在變革中如何自處？