我在大廠做“鑒黃師”，現(xiàn)在哭著求被辭退

鈦媒體注：本文來自于微信公眾號顯微故事（ID：xianweigushi），作者為常寧寧、 蜜斯桃、李海草，鈦媒體經(jīng)授權(quán)發(fā)布。

有一群人，他們的工作就是屏蔽你在網(wǎng)絡(luò)上無法看到的內(nèi)容。

他們就是“鑒黃師”，也叫網(wǎng)絡(luò)審核員。

許多人都以為鑒黃師很輕松、很爽，每天只需要看平臺更新的內(nèi)容即可。但實(shí)際上，鑒黃師看到這些問題內(nèi)容時，他們能做的只有通過、刪除。

當(dāng)一個人被無數(shù)次暴露在血腥、黃色、謾罵的環(huán)境下，心態(tài)逐漸失衡。殊不知，這些負(fù)責(zé)清掃網(wǎng)絡(luò)垃圾信息的人，也是抑郁癥高發(fā)的群體。

他們不僅需要996加班、工資低，還沒有人能夠保障他們的心理健康。

曾有部講述Facebook審核員的電影《網(wǎng)絡(luò)審查員》（the cleaners)，片中一位審查員，生前是負(fù)責(zé)審查自殘視頻，看過了數(shù)不清的自虐視頻后，在家上吊自殺了。

沒有人關(guān)心他們的心理健康。

本期顯微故事講述的是一群“鑒黃師”，他們之中：

有的人是海歸碩士，抱著職業(yè)夢想進(jìn)入今日頭條成為“審核員”，最終卻因升職困難、工作壓抑，降薪去了一家創(chuàng)業(yè)公司；

有的人曾一天看4000多條黃暴信息，深夜給領(lǐng)導(dǎo)打電話哭著要辭職；

有的人曾是微博審核員，負(fù)責(zé)給明星控制負(fù)面輿論、但自己也被網(wǎng)暴，最后轉(zhuǎn)行成了心理咨詢師；

還有的人是網(wǎng)文平臺審核員，除了文字，還要處理用戶千奇百怪地、逃避審核機(jī)制的黃暴信息；

以下是關(guān)于他們的真實(shí)故事：

干滿一年就算資深員工：月薪5000元、無法加薪、難以跳槽

小鹿 前今日頭條用戶運(yùn)營 25歲

今年，我接受了降薪、加班的新工作，就為了逃離“內(nèi)容審核員”的工作。

在互聯(lián)網(wǎng)公司，內(nèi)容審核、電話銷售，被稱為兩個最沒前途的崗位。一旦你選擇了，一手好牌就打壞了。

2017年，我從英國某大學(xué)研究生畢業(yè)，加入了一個互聯(lián)網(wǎng)公司做運(yùn)營。這家公司是某知名大廠，校招時十分“卡學(xué)歷”，沒有985背景很難走到最后一關(guān)面試。

我所在的組里有十多個實(shí)習(xí)生，其中本科都畢業(yè)自復(fù)旦、上海交大、武大等985院校，還有很多有海外留學(xué)背景的海歸碩士。

我們有兩個團(tuán)隊：初審的團(tuán)隊（由二線城市子公司、外包公司承包）；還有就是運(yùn)營團(tuán)隊，負(fù)責(zé)一線城市和復(fù)審，就是我所在的團(tuán)隊。

復(fù)審團(tuán)隊會把初審團(tuán)隊評定為“安全”的內(nèi)容，人工打上“優(yōu)”、“良”、“一般”的標(biāo)簽，不同的標(biāo)簽決定內(nèi)容的曝光推薦級別，直接影響內(nèi)容數(shù)據(jù)。

按公司規(guī)定，用戶上傳的內(nèi)容要在2小時內(nèi)審核完，每天要完成全部當(dāng)日新增內(nèi)容審核。

為了保證內(nèi)容審核“日清”，初審團(tuán)隊采用“三班倒”，這樣24小時都有人審核。他們的KPI就是每天審了多少條、準(zhǔn)確率多少。

第一次聽見這個KPI時，我驚訝了，這完全是工具人啊！

復(fù)審則輕松得多。但主管為了讓我們提高效率，讓程序員寫了“警報裝置”，只要有超時沒審的內(nèi)容，系統(tǒng)自動報警。

通常，我們吃個午飯回來，辦公室里就警報聲響成一片。

我們常自嘲是“人工智能”里的“人工”，一旦出現(xiàn)了審核紕漏，我們成了“人工智障”。

這份工作看著簡單，做起來也很簡單。但是留不住人；而且很消耗人。

紀(jì)錄片《網(wǎng)絡(luò)審查員》劇照

我們也常和初審團(tuán)隊有交流。

對他們來說，能在公司做1年就是資深員工了。除了工作機(jī)械外，他們還要處理更多黃色、暴力、辱罵的內(nèi)容，對精神傷害極大。

初審團(tuán)隊的薪資在每個月5000元左右，基本也沒有更高的漲薪空間。

這份工作也不能給履歷帶來多大的價值，更不要想著跳槽了，就這么成了互聯(lián)網(wǎng)“炮灰”。

我的工作也不過是訓(xùn)練機(jī)器審核，提高準(zhǔn)確率。公司內(nèi)部計劃在未來用機(jī)器審核取代人工審核，每次開會，程序組都會量化機(jī)器訓(xùn)練的進(jìn)度。

每次我看到那些機(jī)器審核準(zhǔn)確度數(shù)據(jù)上漲時，都覺得我未來的職業(yè)道路正在被堵住。

去年tiktok的審核團(tuán)隊被大量裁員，讓我感受到了危機(jī)。

被美國封殺后，國內(nèi)的小語種審核團(tuán)隊大規(guī)模被優(yōu)化。這些人當(dāng)時都是名校嬌子，做了一年審核工作，原有的語言優(yōu)勢反而被弱化，裁員后只能繼續(xù)找審核相關(guān)的工作。

35歲職場危機(jī)就在眼前。

紀(jì)錄片《網(wǎng)絡(luò)審查員》劇照

當(dāng)我認(rèn)識到這一點(diǎn)后，我決定離職。

當(dāng)時我的薪資是14k左右，但我再去面試其他崗位時，名校+大廠的背景不好用了。心直口快的面試官會直接告訴我，“能力不足支撐崗位”。

我不得不降低薪水，在一家小創(chuàng)業(yè)公司找到需要加班、更累人的工作。但我不后悔，至少這份工作里，我不再是沒有感情的審核機(jī)器。

深夜看黃圖就崩潰大哭，公司為了“哄”大家設(shè)立“發(fā)泄基金”

小Z 女 27歲 某平臺內(nèi)容運(yùn)營主管

我們平臺的用戶大多在下沉市場，大部分文化程度不高中老年人。

近年來以老年人為受害者的詐騙案頻發(fā)，而我們平臺每天有幾十萬老年人在此獲取內(nèi)容并分享。

這也要求我們在內(nèi)容的管控上要更嚴(yán)格，擔(dān)心不良內(nèi)容導(dǎo)致用戶財產(chǎn)受損。

我是內(nèi)容主管，但管理審核團(tuán)隊、協(xié)助技術(shù)團(tuán)隊提高內(nèi)容質(zhì)量也是我工作的一部分。

我們團(tuán)隊有15個人，大部分是97后。審核員里沒有”前浪"，這份工作枯燥無味、重復(fù)性高，薪水也低，幾乎沒人能堅持過一年。

每次有人離職，我們就去學(xué)校招實(shí)習(xí)生，或者剛畢業(yè)的新人補(bǔ)位——這活沒啥技術(shù)門檻。

我們平臺每天更新數(shù)萬條內(nèi)容，文字、視頻、圖片都有。有些是用戶上傳的、我們內(nèi)部爬蟲抓取的，涉及需要審核的內(nèi)容有數(shù)千條。

我們需要人工打上“屏蔽”、“隱藏”、“推薦”的標(biāo)簽，并針對里面廣告詞手動刪除。

那些擦邊球內(nèi)容（涉及暴力、金錢、性、夸大宣傳），往往能吸引流量，換來個人收益，所以經(jīng)常會遇到有團(tuán)隊（俗稱“做號公司”）換各種賬號，批量上傳黃暴內(nèi)容。

文字最好處理。我們內(nèi)部做了”敏感詞庫“，負(fù)面詞匯會直接變成“xx”顯示。

容易踩線的詞一旦出現(xiàn)在標(biāo)題、文章中，系統(tǒng)會自動屏蔽，需要審核員復(fù)審沒問題后才能放出。

這是我經(jīng)常會接觸到的圖片，不算黃暴，但每天都要看到好幾張

為了逃避審核，有的人會把小黃文生成圖片上傳，或者在敏感詞前加字母、數(shù)字等防止被識別到。

對小公司來說，圖片和視頻審核比較困難。我曾遇到過一批視頻，在播放的最后5秒里出現(xiàn)虛假廣告，就讓技術(shù)增加了“去5秒”功能。

魔高一尺，道高一丈。

沒幾天這個用戶就把視頻幀亂序后加上廣告（廣告出現(xiàn)時間隨機(jī)）。此外，還夾雜了不少黃色內(nèi)容，最后不得不繼續(xù)用人工審核。

這樣的工作，經(jīng)常會讓審核員自我懷疑，覺得接受那么多年教育就是為了做這個工作嗎？這樣的工作到底對我有什么價值？

我最怕深夜接到電話。大多夜里的電話都是我下屬情緒崩潰、鬧著辭職、甚至覺得人生沒意義想要自殺。

這種情緒處理不好可能遇到員工的辭職。

去年我們公司就遇到了這樣的事。一名審核員辭職后，公司和她關(guān)系很好的女孩子也說說自己因?yàn)樽鲞@個工作得了抑郁癥。

當(dāng)時那位主管批評對方心理脆弱，結(jié)果導(dǎo)致更多審核員離職。一時間，平臺上出現(xiàn)過載的負(fù)面內(nèi)容，運(yùn)營組的人都被臨時叫上去分擔(dān)“審核”工作。

沒過幾天大家都有些不正常了，每天神神叨叨、消極、覺得工作沒意義，甚至說“再要審核，我們就集體離職”。

紀(jì)錄片《網(wǎng)絡(luò)審查員》劇照

迫于壓力，公司迅速補(bǔ)招審核員，還順帶找了名心理咨詢師，并撥款給審核團(tuán)隊用做“發(fā)泄基金”。

所以，每當(dāng)收到深夜崩潰電話時，我都要耐心“哄”他們。

比如說，“我們的工作讓老人不會受騙、很有價值”，此外還經(jīng)常在群里分享用戶的好評、增加工作信心、承諾申請更多獎金。

但我何嘗不覺得這份工作意義不大？

我內(nèi)心很矛盾，一方面想挽留他們，畢竟這樣我就不用被臨時調(diào)去一線審核。另一方面，我覺得很自責(zé)，我面對一個個原因相信我的年輕人，畫了一個又一個“升職加薪”的大餅。

這個餅，可能永遠(yuǎn)不會實(shí)現(xiàn)。

受夠每天4000條負(fù)面微博：審核員沒有技術(shù)含量，大部分是應(yīng)屆生

紀(jì)霖 26歲 女 前微博內(nèi)容審核員

我曾經(jīng)是微博內(nèi)容審核員，最忙的時候，每天要看4000多條微博。

對內(nèi)容審核來說，圖片內(nèi)容相對容易審核。通過舉報陳述、或者直接判斷圖片內(nèi)容是否不雅，就可以進(jìn)行刪除，并對發(fā)布者進(jìn)行相應(yīng)處罰：禁言或者封號。

我的同事都來自各行各業(yè)，有曾在天安門負(fù)責(zé)治安的城管、也有政法大學(xué)的高材生、應(yīng)屆生。

做內(nèi)容審核最重要的是，情商要高。不僅要懂得維護(hù)關(guān)系，也要有底線和原則，不能誰求你幫忙都幫。

剛做審核時，每天都能找到很多樂子，能見到很多奇葩的人。

但做久了，接受的負(fù)面、黃暴信息多了以后，就越發(fā)覺得無聊。這職業(yè)根本不需要技術(shù)能力，只要機(jī)械性的審核、判斷就可以。

所以，但凡有點(diǎn)夢想的年輕人都很難持續(xù)下去。

這些審核員們大多都是男性，看多黃暴圖片真的很容易印象心理狀態(tài)，讓人對平時生活里欲望也沒有了。

甚至有段時間，我因?yàn)榭戳颂嘭?fù)面信息，感覺人生壓抑。怎么社會上會有這么多罵人的方法、到處都是骯臟、變態(tài)的人。

如果我不做審核員，我根本不知道社會上有這么多奇葩的人。

有的人專門賣“原味”，還有些戀足癖、內(nèi)衣癖，還有人在閑魚上專門尋找別人的二手內(nèi)衣，這都是非常普遍的事情。

有時還會遇到些“掛羊頭賣狗肉”的釣魚內(nèi)容。比如有些人會發(fā)自己的自拍，吸引別人問她是否賣“私房”，甚至可以線下銷售“自己”。

對于他們來說，無論是微博、閑魚、還是其他社交渠道，都只是展示和銷售自己的方式之一，在哪里都可能遇到。

前段時間，有人曝光潘瑋柏、郭富城的妻子實(shí)際上是上過“嫁豪門”課程的。

其實(shí)通過看他們的微博、微信內(nèi)容也很容易發(fā)現(xiàn)，她們樂于分享自己的照片、生活，吸引明星、土豪給自己發(fā)私信。

這種看照片驗(yàn)顏值約妹子的行為，被我們內(nèi)部稱為“選妃”，很多愛慕虛榮的網(wǎng)紅就是這么被撩到的。雖然我們不能看用戶私信，但還是會在舉報內(nèi)容中看到。

我們公司內(nèi)部開發(fā)了一個程序篩查黃色圖片，從屬于視頻部門的網(wǎng)監(jiān)部下。視頻里包含肉色的幾幀會第一時間被被篩選出來。

好笑的是，這種機(jī)制會經(jīng)常篩選出加菲貓的圖片——許多加菲貓也是肉色的。這時就需要我們?nèi)斯づ袛嗉臃曝埢蛏閳D。

大部分垂直內(nèi)容是相互獨(dú)立審核的，比如，有的同事負(fù)責(zé)服務(wù)大V，對明星的舉報進(jìn)行重點(diǎn)維護(hù)。

明星出了任何問題，是可以直接找到微博負(fù)責(zé)人，同時他們也有相應(yīng)的刪帖名額，可以進(jìn)行熱搜降級、評論處理等。

我們所收到的舉報信息都是有舉報原因的。比如涉政、淫穢色情、垃圾短信、還有各種糾紛等。

甚至有些男人分手后報復(fù)前女友，直接在平臺上發(fā)她的裸照，后臺覺得可憐同情，也會幫她刪掉的。

紀(jì)錄片《網(wǎng)絡(luò)審查員》劇照

這個工作太負(fù)能量了，一度讓人抑郁。

所以沒有做多久我就發(fā)現(xiàn)不適合，大概一年后我就辭職，考了心理咨詢師資格證，轉(zhuǎn)行做了心理咨詢師。

相比屏蔽負(fù)面內(nèi)容，我更愿意從根源上讓大家在內(nèi)心化解掉怨恨和欲望。

語音轉(zhuǎn)文字內(nèi)容也不能放過，一旦平臺出事，我們的工作就都沒了

李海草 男 27歲 創(chuàng)業(yè)者

2015年，我曾在一家網(wǎng)文平臺里做編輯，偶爾也協(xié)助做安審。

我們平臺開放全網(wǎng)注冊，所以免不了有的用戶會發(fā)布違規(guī)內(nèi)容。大部分違規(guī)內(nèi)容是廣告、色情、賭博信息，還有少量血腥暴力內(nèi)容。

比如“紐約雙性戀的姑娘，出來聊一聊？”“我跟繼父睡覺，然后要挾他給我買一輛車”……

我們系統(tǒng)會自動攔截、刪除明顯的違規(guī)信息，嚴(yán)重的就封掉用戶賬號。

如果系統(tǒng)判定網(wǎng)文作者某個字、某句話涉嫌違規(guī)，系統(tǒng)會將這部分內(nèi)容高亮放大。

如果只是個別字句，審核人員會幫助修改。但涉及到劇情、文章架構(gòu)，需要大幅度修改的，審核人員會打回該章節(jié)，讓作者修改后重審。

如果文章里有配圖，那么每張圖片系統(tǒng)都會攔截出來，讓審核人員進(jìn)行判斷。雖然是寫作類APP，上傳圖片的用戶較少，但還是有些不懷好意的人上傳的色情圖片。

我第一次看到黃色圖片時，就是系統(tǒng)攔截到了好幾頁全是光溜溜的身體部位。

剛開始看到這種內(nèi)容我還有點(diǎn)不好意思，但見多了以后，一看到這種圖片就反胃。

現(xiàn)在用戶逃避審核的方式也很多樣化。

有一位用戶上傳了QQ群聊天截圖，其中有段信息是語音轉(zhuǎn)換成文字，轉(zhuǎn)化出來的都是一些語氣詞，嗯嗯啊啊的，明顯是和色情相關(guān)的內(nèi)容。

當(dāng)時我就很緊張，找領(lǐng)導(dǎo)商議。但領(lǐng)導(dǎo)覺得我神經(jīng)太敏感，我還是堅持己見，把那張圖刪掉了。

安審工作看起來簡單輕松，但如果走神讓不良信息曝光出來，對平臺造成的影響可大可小。嚴(yán)重的話，我們連工作都保不住。

但長時間暴露在不良內(nèi)容下，誰都受不了。我們審核部的同事，平均一天八個小時都要面對這些信息。

日積月累，難免崩潰，我們一位女同事，干了沒幾個月就去看心理咨詢了。

因此，為了減少審核人員的心理負(fù)擔(dān)，內(nèi)容部門的人每周換著輪崗，一人做一周的內(nèi)容安全審核工作。

我也專門做過幾次，后勁很大，現(xiàn)在再也不想碰了。