科技獵社交媒體的“人肉盾牌”：時間線擦洗工
馬尼拉TaskUs公司的一名員工。TaskUs為美國科技公司提供內容篩選服務。（MOISES SAMAN/MAGNUM攝）
那些互聯網科技的巨頭公司們，總是以鋪張的自助餐廳、舒適的通勤班車、立等可取洗衣服務等員工福利而聞名。不過，誰能想到在這樣一個普通的、潮濕悶熱的星期二下午，一些巨頭公司最重要的工作，卻是在7000英里外的一座菲律賓小鎮里完成的。
馬尼拉西南13英里，一個叫巴克奧爾的多風沙的小鎮上，一棟小樓坐落在一排汽車修理鋪的盡頭。小樓原來是一所小學，當我沿著狹窄的樓梯拾級而上，我得貼著墻壁避開魚貫而出去抽煙的員工。二樓，一個昏昏欲睡的警衛給我指了指那個他們稱之為“前臺”的東西——昏暗的走廊里一個堆滿了文件夾的木頭桌子。繞過警衛，我來到一個大房間：一條條長桌上擠擠挨挨坐滿了操作電腦的員工。在這兒我見到了Michael Baybayan，一個精力充沛、快活自信、長著棕紅色頭發的年輕人。
正如這個房間并不像新公司的辦公地，Baybayan電腦屏幕上顯示的也不像新手要處理的活兒：一張大特寫的圖片，拍的是一個兩頭分叉的人造陰莖擠進陰道的情景。在Baybayan很隨意地用鼠標點開這張圖之前，我看到的只是一個信用卡大小的縮略圖，看上去就是一堆肉和粉紅色半透明的塑料——幾乎無法辨別是什么東西。
Baybayan是這個房間里正在進行“內容篩選”工作的密集勞動力之一，他和他的同事們負責為美國的社交網站篩除不宜公開的用戶上傳內容。當社交媒體前所未有地將人們越來越緊密地聯結在一起，大公司都會面臨一個“祖母難題”：現在爺爺奶奶輩也會日常性地使用像Facebook這樣的社交工具去聯系他們的子孫，因而他們就有可能碰上怪咖、種族主義、驚悚、犯罪、欺凌行為等等“全套網絡奇葩”。如果他們發現他們的家庭照片混在一大堆血肉模糊的俄羅斯高速車禍現場和赤裸裸的色情視頻中間，他們可能就不會再登錄了。
社交媒體如今已經發展為幾十億美元的產業，它的持續吸引力大部分基于公司如何劃定用戶自創內容的邊界——以保證祖母們不會撞上Baybayan處理的那種圖片。所以像Facebook和Twitter這樣的公司，依靠一支雇傭勞力大軍吸收了社交網絡中人性最惡的部分，保護了我們剩下的所有人。這個“擦洗者”的職業是一個大規模軍團，蓄積著大群未進入公眾視線的勞動力。Hemanshu Nigam是MySpace的前任安全長官，現在經營著自己的在線安全咨詢公司SSP Blue。據他估算，全球社交網站、手機app、云存儲服務的“擦洗者”已經遠遠超過100,000人——這個數目是Google公司員工的2倍、Facebook公司員工的14倍。
“擦洗者”們最大的聚集地是菲律賓。作為美國原來的殖民地，菲律賓保持著和美國的親密文化紐帶，于是內容篩選公司聲稱，他們的業務可以幫助菲律賓辨別什么樣的內容在美國是“不宜公開”的。另外，他們也可以讓更多的菲律賓人獲得工作，拿一份“美國水平”的工資。Ryan Cardeno以前是微軟的合同工，他告訴我之前他在內容篩選業務外包公司Sykes工作了三年半，到最后，一個月能賺500美元。去年他去另一家為Facebook做內容篩選的公司，每個月賺312美元——這是整個行業的平均水平。
在這個小學舊址，Baybayan和他的同事們也為Whisper（一家位于舊金山的創業公司）工作。Whisper是一款匿名社交應用，可供用戶匿名分享秘密、發布照片。最近這家公司被風投估值為200,000,000美元。Baybayan所在的業務外包公司叫做TaskUs。
我其實有點驚訝Whisper會讓一個記者參觀他們的內容篩選流程。當我問微軟、谷歌和Facebook他們究竟是怎樣管理用戶內容的時候，這些公司只給了些模糊的說法，聲稱要保護用戶隱私，不能提供太多細節。很多公司都讓他們雇傭的“時間線擦洗工”簽署了保密協議，禁止他們向別人提及自己的工作內容——哪怕是同一個外包公司的同事也不行。
Sarah Robert是西安大略大學的媒介研究學者，也是為數不多的研究商業媒體內容控制的學者。她說：“我想，內容篩選就算沒有明確的保密制度，也必定有口頭約束。” 她認為互聯網公司都不愿意承認用戶的媒介體驗中還要求一層人工篩查，這樣會導致人們對互聯網的誤解，或者導致科技的祛魅——因為大家或多或少都覺得科技是很“魔幻”、不需要任何人工輔助的。
我之所以得以目睹Whisper的內容篩選流程，是因為Whisper的CEO Michael Heyward覺得內容篩選是他們產品整體特征的一部分，也是他們app的一個賣點。Whisper執行“積極篩選”的理念，這種篩選尤其耗費人力，因為每一個貼文在發表時就要被實時審核；而許多別的公司則采用“反應式篩選”策略——當一則貼文被其他用戶標注為“反感”時才進行篩查。“我們想要利用匿名性創造一個空間，在這個空間里我們要求用戶展露自我并且感到自己的弱點。”他告訴我，“但是“自我”這東西如同牙膏，一旦被擠出管子，再想收回去就很難了。”
看著Baybayan工作，我清晰地意識到要把Whisper的“牙膏”留在管子里需要多么龐大的員工數量。（在我到訪之后，Baybayan就不干了，TaskUs公司的巴科奧爾鎮辦公室也被菲律賓版的“聯邦調查局”搜查了，理由是在電腦上使用盜版軟件。所以這家公司把他們的內容篩選業務轉移到了馬尼拉） Baybayan的工作從網格狀的貼文開始，每個網格里是一張矩形的照片，有很多照片上面還覆蓋著一層粗體字。匿名帶來的隨心所欲，已經讓Whisper的功能內化，被用戶用來懺悔、發泄或表達不宜在Facebook和Twitter上出現的隱秘欲望。“時間線擦洗工”們要實時審查一批又一批新出爐的貼文。被剝離了語境的這些貼文，讀起來就像“穢語多動綜合癥”患者的絮叨，比如“有沒有紐約的雙性戀女生想要聊天？”或者“我討厭愛爾蘭口音！”或者“我跟我繼父發生了關系，并且以此勒索他給我買輛車。”
一塊白板上面，有潦草的筆跡寫著“擦洗工”們要在時間線上搜尋的“目標”：色情，血腥，未成年人，性引誘，暴露身體隱秘部位的圖片，種族主義。當Baybayan發現一個目標，他就把它設為限制級別，然后過濾掉——從時間線上和用戶賬戶里一并刪除。然后他再回到網格中尋找下一個目標。在25分鐘內，Baybayan就篩除了大量膻色腥照片、仇恨言論和約炮帖。
更難處理的是那種發輪廓分明的男性胴體特寫圖的帖子，圖下面寫著“想要一次同性戀體驗，本人18歲。”這種帖子如果視為表達隱秘欲望則是被允許的，但如果視為約炮請求則要被刪除。到底怎么區分？Baybayan（他和大多數TaskUs公司的員工一樣都有大學學歷）若有所思地說出了他的評價標準：“要看發帖人的目的是什么。”他說，“得在‘想法’和‘引誘’之間做個區分。”他只有幾秒鐘的時間去判斷，因為新的內容正不斷涌現在屏幕上，把之前的內容擠下去。最后，他將這則帖子視為性引誘而刪除。在另一個不知名的地方，一個青少年的春夢破碎，而Baybayan繼續把屏幕上的網格滾動到頂端，開始下一輪篩查。
八年過去了，另一個“時間線擦洗工”Jake Swearingen至今還能想起那個讓他瞬間失語的視頻。那時他24歲，在舊金山灣區待業，隨后他得到了一個工作機會：為當時的一家視頻創業公司VideoEgg做“擦洗工”。上崗三天后，一個砍頭的視頻突然出現在他的任務序列里。“天吶！我這兒有個砍頭的視頻！”他驚呼出聲。一個比他稍大一點兒的穿著黑色套頭衫的同事漫不經心地轉過椅子：“哦？哪一個？”那一瞬間，Swearingen決定自己再也不要做“砍頭視頻鑒賞家”。“我不想回望過去，發現自己已經厭倦看到人們遭遇如此恐怖的不幸，厭倦、麻木到竟然能就此冷嘲熱諷或者開玩笑。”現在，Swearingen已經是亞特蘭大傳媒的一名社交網絡編輯。
現在全球各地每天有大量的信息篩選正在進行，其中許多是在美國處理的，“擦洗工”都是像Swearingen這樣剛剛大學畢業的年輕人。許多公司甚至采用“雙層篩選模式”——基本的信息篩選業務外包給海外的公司，更復雜的、需要一定文化熟悉度的篩選在國內進行。美國本土的“擦洗工”們享受比海外同行們高得多的待遇：一個剛入行的“擦洗工”為大互聯網公司工作一個小時掙的錢，可能比菲律賓一個熟練員工一天掙的錢還多。即便如此，在外包公司謀個“擦洗工”的職位，仍然是菲律賓年輕人們非常渴望的——可對于美國的“擦洗工”來說，“墮入”這個行當往往是沒有退路時的選擇，而且常常很快就喪失了熱情。
“一般三到五個月員工就到達極限了。”曾為YouTube工作過的“擦洗工”Rob說，“三到五個月，你就會坐在那兒一直想‘我這天天干的都是什么啊？！’那種感覺太糟糕了。”Rob是在2010年入這一行的。他大學畢業后跟女朋友一起來到舊金山灣，在這兒，他發現他拿著歷史學學位求職簡直就像身上背著一塊恥辱記，到哪都不受人待見。好幾個月過去了，Rob越來越絕望。然而有天，他突然接到一家承包公司的電話，讓他去應征Google的一個職位——去給YouTube做內容篩查。
“沒錯，是Google！”——電話里，他被告知這份工作會簽合同，以后還有機會轉正成為正式員工，薪水大約是20美元一小時，比在快餐店當服務員強太多了。于是他去面試了，并且簽了一年期的合同。“我簡直太振奮了，”Rob說，“這份工作薪酬很不錯，而且我以為YouTube這個頭銜以后寫在簡歷上會很好看。”
最初的幾個月，Rob并不介意在YouTube的圣布魯諾總部做一個視頻“擦洗工”。他的同事們都是和他一樣剛畢業的年輕人，大部分像他們這樣的文科生都很慶幸找到這種比服務業好很多的工作。Rob的上司人很好，工作還有一些額外福利——比如在自助餐廳吃一頓免費午餐。Rob工作的八小時內，他通常會坐在YouTube的開放辦公室里，桌上擺著兩臺顯示器——在其中一個屏幕上，10個視頻綁定為一批，他要快速檢視。在另外一個屏幕上，他想干什么都可以。Rob通常是一只眼睛掃視那些折磨人的視頻、仇恨言論，另一只眼睛看電視劇——他已經這樣看完了整部《銀河星戰》。因為這個工作，Rob也有幸見證了YouTube的內部工作機制。比如，2010年末，有個英國婦女聲稱自己看了伊斯蘭教牧師Anwar al-Awlaki的極端布道視頻，受到啟發想要去刺殺一名政客。隨后，Google的律師團隊通知擦洗工們緊急刪除該牧師的所有視頻。
但是幾個月后，這些令人不適的內容卷土重來，特別是血腥內容：暴力的街頭斗毆、折磨動物、自殺性爆炸、斬首、恐怖的車禍。當“阿拉伯之春”運動蓬勃高漲的時候，活動家們用YouTube把政府鎮壓行為昭告天下。擦洗工們收到警告，要把這些“具有新聞價值”的視頻留著——盡管它們的內容已經違反了規定。那些抗議者們的尸體和街戰的近景照片，已經遠遠超出了Rob和他同事們的承受能力。那些因為病態的喜好而拍攝的內容殘酷的視頻，摧殘著擦洗工們的精神。
“有的人上傳虐待動物的視頻，對，就是施暴的那個人傳的。他很為這種行為自豪。”Rob說，“做變態的事，還很驕傲……通過施暴人的視角看視頻不像以第三方視角報道這種變態行為，會傷你傷得尤其厲害。這樣的視頻會讓你看到人性特別黑暗的一面。”在工作之余，Rob也開始細想這些視頻的內容。他開始變得沉默寡言、暴躁易怒。YouTube給擦洗工們雇了心理咨詢師，理論上誰都可以和他們談心，但Rob不知道如何接近他們。據他所知，也沒有誰去找過咨詢師。所以他只能靠自我調節——他喝酒喝得越來越多，身材也越來越胖。
同時，Rob也越來越清晰地意識到他永遠也不會成為一個Google的正式員工，因為簽完合同幾個月之后，他就提交了轉正申請，但被告知不能參加面試，因為他的學業成績未達到標準（雖然Google否認學業成績是一個決定性的招聘條件）。Rob說，就算成績合格，也很少聽說有哪個合同工最終能夠獲得Google正式職位。在離合同到期還有幾個月的時候，Rob找到了新的工作并辭了職。當最后一天值班晚上七點結束后，Rob如釋重負地離開了。他跳上車，開到父母家，倒頭睡了整整三天三夜。
雖然“時間線擦洗工”的人數已經占社交網絡公司人力資源的一半左右，做這份工作可能帶來的長期精神代價還是需要仔細考量。Jane Stevenson曾是英國NCS（相當于美國聯邦調查局）職業健康與福利部負責人。2000年初，當第一波互聯網反兒童色情組織成立時，她親眼目睹調查員們因為看了太多兒童色情圖片而不堪重負。即便她后來離了職，一些機構和私人組織還在向她求助，所以她開設了一個職業健康咨詢公司，專門針對高壓行業提供服務。從那以后，她就開始為英國的社交網絡公司提供咨詢，同時她也發現，這些公司的“時間線擦洗工”們面臨的挑戰，呼應了那些反兒童色情組織人員、執法機關反恐調查員們的遭遇。
“在你往第一張圖片上看第一眼的時候，你就被永久性地改變了。”Stevenson說。但是，有同樣問題的執法機關已經為雇員開展了特別的心理治療計劃，并聘請了有經驗的精神健康專業人士，然而許多網絡科技公司還沒有意識到問題的嚴重性。“有人認為這種心理傷害就如同喪親，或者工作中的恃強凌弱，人們可以自行調節，”Stevenson說，“因為幾乎所有人都經歷過親友的逝去，或者因為聽到某人說了某些不中聽的話而倍感壓力，所以大家都認為這些都是很尋常的。但是和一個兩歲的孩子發生性行為是正常的嗎？慢慢地（請注意我并不想嚇唬你但是砍頭真的都不是一瞬間的事）砍掉一個人的頭是平常的行為嗎？這是你預期會發生的嗎？”
在馬尼拉，我見到了心理顧問Denise（化名），她受雇于菲律賓兩家內容篩選公司，辦公室窗外是一條喧囂不已的高速公路。當面對坐，她告訴我：“這種影響類似于‘創傷后精神緊張性精神障礙’，受創者的思維里有記憶痕跡。”Denise和她的團隊為客戶建立了大規模的監控體系，給擦洗工們做一系列的心理測試來測量他們的精神底線，之后便會經常提供訪談、咨詢去降低那些令人不安的圖片帶來的影響。但是，即便是最好的咨詢，也難抵消長時間注視人性黑暗面遭受的代價。擦洗工們常見的辭職原因是——他們每天長時間盯著那些色情圖片導致對性麻木，再也不愿親近自己的配偶。另一些人則描述他們為過于強烈的性沖動而困擾。“誰能每天八個小時盯著色情內容？每天！”Denise問，“這種狀況你能忍受多久？”
不遠處的一個大賣場里，我見到了Maria（化名）。這會兒正是她午飯休息的時間。Maria也在一家外包公司工作，為美國一家科技巨頭公司的云存儲服務篩選照片和視頻。Maria是“質保代表”，這意味著她的職責包括復檢他們組幾十個代理人的活計，確保他們沒有遺漏。所以她必須觀看許多被擦洗工們標記的視頻。她說：“我被那些施加在孩子身上的暴行深深困擾，我想我必須停下，哪怕停一會兒放松放松，去星巴克喝杯咖啡什么的。”說完她笑了，覺得自己把一次恐怖的性犯罪和一杯昂貴的拿鐵相提并論很荒唐。
持續暴露在這樣的視頻中，讓Maria的一些同事變成了嚴重的偏執狂，因為每天他們都會發現，原來人類的墮落的方式是五花八門、無窮無盡的。于是他們開始以最壞的惡意揣測自己日常生活中接觸的人，想象身邊的人們都在硬盤里藏著怎樣不可告人的東西。Maria有兩個女同事已經多疑到不肯把孩子留給保姆照看，以致于她們常常因為找不到信任的人看孩子而缺勤。
Maria自己也因剛入行時看到的一個視頻而留下心理陰影。“一個女的，”她壓低了嗓門說，“大概15到18歲的樣子，我不大確定，不過她看起來像是未成年人，有個禿頂的男人正把他的頭往她下體塞，女孩被蒙著眼睛，銬著雙手，一邊哭一邊慘叫。”視頻長達30多分鐘，Maria剛看了一分鐘就忍不住因悲傷憤怒而顫抖。誰能想到一個人能如此殘暴地對待另一個人？她仔細審視那個施暴的男人——禿頂，看上去像是中東血統，但長相沒有一點兒辨識度。這張惡魔的臉就是那種你在超市擦身而過也不會再看第二眼的類型。
在云存儲內容篩選公司呆了兩年半之后，Maria打算年底辭職去讀醫學院，但她覺得哪怕她離職不干了，那個視頻也會如影隨形地纏著她。“我不知道我能不能把它忘了，”她說，“我是很久以前看到的，但是，感覺真的就像是在昨天。”
（作者：Adrian Chen ? ?原文鏈接：http://www.wired.com/2014/10/content-moderation/ ? ?編譯：北京大學新聞與傳播學院社會化媒體研究中心）
本文被轉載2次
首發媒體
| 轉發媒體
