大家好，這里是投中網「后窗」欄目的第三期。這是一檔關于職場+人的欄目，在這里，我們照見職人另一面。透過個體化的故事，去觀察人的處境與產業前沿的變化。

兩年前，一部講述Facebook審核員的紀錄片《網絡審查員》在圣丹斯電影節上映。豆瓣上有人評論，“這是新時代最殘酷的職業”。85分鐘時間，是一場關于血腥、暴力、色情乃至煽動性內容對上萬名“人肉”個體心理素質的挑戰。

但剔除獵奇因素，影片表達的主題背后，是一場關于全球資源大調配，暗藏與萬億互聯網公司做生意的巨大商機。

陳太鋒說他是國內最早嗅到這一商機的“先鋒之一”。

他曾是國內某知名獨角獸公司的副總裁。一年多前，開始從北京向南一路遷徙，在江蘇如皋扎營，攬下了多家互聯網大公司的內容審核業務，“你能想象么，我一個人一年做了大幾千萬元業績。”

也就在陳太鋒“南遷”的這一年，人民網內容審核業務增速高達166%，并計劃將審核團隊從300人擴增到3000人。這一年財報發出后的投資者溝通會上，內容風控業務幾乎成了現場被問及頻次最高的事情。

《后窗》欄目做到第三期，有人問我，你們這個欄目是不是就是尋找財富故事？并不盡然。在這個欄目里，我想探尋個人努力的結果與時代周期的關系。

這一期《后窗》，我找到了從事內容審核業務的一線從業者、從0到1搭建內容審核體系的互聯網大廠內容安全總監，以及All in內容審核的創業者。當我向他們分別拋出另一個受訪者現階段所遇到的困惑，發現他們竟然彼此相熟。透過本期欄目，他們將隔空進行一次對話，或許能夠解答這條產業鏈上的很多疑惑。

并且，他們都不避諱那個調侃性稱謂——鑒黃師。

張凱碩 某千億市值互聯網公司內容審核部門負責人

“下屬找到我，覺得自己‘臟了’。”

從2015年進入我現在的這家公司算起，在這個行業我已經做了6年，現在是一家互聯網公司內容審核團隊的經理。如果用一句話來形容我工作的日常，工作分配機和心理按摩師。

從基層審核員做到管理崗，帶上百人的團隊，每天都在想信息和人員調度怎么統籌、謀劃和管理，還要對狀態不對的下屬進行心理疏導。做我們這一行的，尤其是剛畢業的新員工，一開始接觸大量之前他/她看不到的東西，心理上有可能消化不了。

印象最深刻的是，有個女同事，剛干了幾個月，崩潰了，每天看大量血腥、色情、暴力、詐騙等違法信息，覺得自己“臟了”。那一陣子我就總是安慰她，“那些內容并不是生活的全部，只是別有用心的人擾亂秩序的惡意行為，就把它當成個活兒嘛”。心理素質不強，立場不夠堅定的人確實做不了這行。

但其實，我也是從那個階段過來的。入行的時候我才24歲。當時就想找一份每天呆著就能上班的工作，不要拋頭露面的到處跑，于是入了行，怎么說當時也算互聯網大廠。

這一行勞動量特別大，基層審核員7×24h工作制，三班倒，音視頻、動圖、文章都要涉及。就拿審文章來說，一名審核員一天大概要審2000篇文章，沒有體力、耐不下性子、坐不住，這一行干不了。說白了，有點青春飯內味兒。

相對應的是，薪資并不高，我入行的時候月薪4000元起，現在新入行的審核員上漲到了8000元左右，但還是比互聯網公司其他崗位要低。內容審核領域分為兩層，技術會做初級篩查，人工進行更細致的過濾，我一開始做的就是后邊人工審核的這部分。當然啦，如果你干得好，每年有30%的漲薪也再正常不過。

行業的門檻也不高，2015年前后，專科就行，經驗比學歷重要，但現在必須是本科起步，甚至得是一本。這種轉變是工作內容使然，5年前，基層審核員無非是刷一些色情、暴力、血腥圖片，純粹意義上面對受眾的違法信息，識別難度不大。但道高一尺魔高一丈，現在，像我之前以為的“呆著干活兒”的招數已經不靈了，需要思考的場景越來越多，如果理解能力不夠，這個工作是干不來的。

學歷和這份工作之間的關系，我覺得存在一個悖論。能不能把這份工作做好，最直接的關聯是一個人的見識和知識儲備，但每次招學歷高的人進來，我總覺得差點意思。你再去看這個行業的老師傅，對信息的判斷和應急處理能力，確實“味兒對了”。

說實話，這兩年，我帶上百人的團隊，能把這份工作做得好的人并不多。

這一行做的時間久了，也會有疲倦的時候，就像你去打掃一個房間。總有打掃干凈的一天，但做內容審核這個工作，怎么掃啊掃啊，這個房間一直打掃不干凈，而且越來越難打掃。我也不是沒動過離開的念頭，但是每次在我很疲憊的時候，恰好就趕上我升職，從這個角度來說，在這一行也是有點甜頭的吧。

這兩年，我慢慢的察覺我們這個崗位在公司的位置也在發生轉變，對外接觸重要部門的機會越來越多，是會覺察到機會是比之前多的。我愛人跟我是同行，不過她現在已經轉去做數字運營了。

趙宵 某互聯網大廠內容安全總監

“《網絡安全法》實施之后，再大的廠子都禁不住罰。”

樓上說自己是互聯網大公司，但從內容審核角度來說，只能算是“小廠”。原因很簡單，字節、快手、騰訊、微博這種公司屬于復雜社區，音視頻、文字、帖子各種內容形式全覆蓋，這種屬于“大廠”沒啥毛病；但做搜索業務、問答業務起家的平臺，覆蓋的內容形式少，即便市值超千億的公司或者位列BAT，他們的審核員的含金量與復雜社區審核員的含金量一定是不同的。內容審核業務上的“大小廠”區分，與常規的互聯網公司的“大小廠”區分，并不是同一個概念。

一般來說，“小廠”的審核員來“大廠”面試，很難躍級；與此同時，“小廠”又很難招到“大廠”的審核員。不過話說回來，我自己也是在所謂的“小廠”中摸爬滾打出來的，十幾年前我入行，從0搭建起老東家的內容審核團隊，也眼見著互聯網行業的興起，網絡內容傳播的無序和失控所造成的危害逐漸形成全球共識，這個崗位在一家公司中的重要性越來越高。舉個簡單的例子，四年前，我們甚至還沒有《網絡安全法》，對于違規的處罰相對粗糙。2017年《網絡安全法》頒布，違規信息處罰單條上限為50萬元，管理的顆粒度越來越細，即便是“大廠”，海量的信息沖擊之下，也真的禁不住罰。

毫無疑問，這是一個巨大的市場。世界各大互聯網巨頭都在加大內容審查的投入，主要體現在兩個方面：1.審查技術的研發和應用不斷加強；2.人工審查領域的投入不斷加大。

像騰訊、字節這樣的“大廠”，內容審查人員至少有上萬人。全球范圍來看，不少互聯網巨頭的審查人力資源都在全球調配。據我所知，2019年Facebook在全球雇傭的內容審查人員已經超過3萬人，其中，僅印度IT外包商高知特（Cognizant）一家，為Facebook提供審查外包服務的團隊規模就已經達到6000人。

此外，菲律賓、馬來西亞、印尼等國均有多家公司為推特、亞馬遜及谷歌、Facebook等巨頭提供內容審查外包服務。從這個角度來說，這確實是一個快速增長的新興行業，不管是“大廠”還是“小廠”，大家都有這方面的訴求。

關于“機審”還是“人審”，大小廠之間也有區別。“大廠”機審可能占90%以上的比例，需要制定詳盡的安全策略，機器能把絕大多數和黑白內容審核掉，人審的更多是在于“灰色地帶”，占比可能連10%都不到。中小互聯網公司的內容沒有那么多，技術過濾相對簡單，人力參與的比例會更大，甚至有些會占到50%。

在我看來，機器替代人審是大勢所趨，需要多維的研判才需要人來研判。我正在做這套多維研判的工具，好讓新手審核員能夠快速上手。

要說審核員的上升路徑，無非是縱向與橫向兩種。縱向向上是審核負責人；比較牛的審核員可以橫向向上，比如風險評估、風險控制、輿情及GR的崗位，也可以轉崗去做產品和運營。但實話說，能從審核員崗位上闖出來的人并不多，100個人里大概有8-10個能成功轉型。

為什么有審核員可以轉型去做GR？他們甚至做到VP崗位，因為業內公認GR最好狀態是，既能懂安全業務，又能懂得溝通方式，這是一個內外兼修的崗位。內容審核員確實是最懂安全業務的一批人之一。

做這一行做久了，難免會有職業病。這十多年，甭管我在哪，國內還是國外，手機時刻不離身，焦慮已經成為常態。不管是信息安全還是技術安全，不可控的因素實在太多，隨時都在想，“今天千萬別出事”，總怕有審核不到位的地方。另外，高度敏銳也算是職業病之一吧，有時候經常冷不丁冒出許多感想，時不時在朋友圈發個“小作文”。

陳太鋒 內容安全創業者

“專業的機構和不專業的機構擺在一起競爭，覺得難受的時候，也正是機遇來臨的時刻。”

趙總的壓力，我們可以分擔。甭管“大廠”還是“小廠”，但凡涉及到內容與傳播，大家都渴望去接受合規化管理，但是并不是所有的企業都有能力或承載力去獨立完成內容安全的業務，這也是我們內容審核創業者的機會所在。于是，2019年我創辦了國信聚安。

進行內容安全創業是因為前同事的一句話點醒。有一天她突然跟我說，“每天去跟大家溝通內容安全，溝通審核，很多人都不懂，尤其跟創業公司溝通時，他們更不懂。咱們在這個行業做的這么好，為什么不能把這方面的能力對外輸出？”也許當時她只是無心感慨，我卻當了回事兒，而且這個行業確實是我的專長和興趣所在。

這個行業的現狀和大趨勢是，風平浪靜之時，內容審核部門存在感并不高，但一旦出了岔子，對于整個公司都有可能是滅頂之災。

單從內容審核外包來看，某種程度上這一行確實是人員密集型工作。要么企業自己做，要么外包，但對于大公司來說，這么大體量的人力資源調配，招聘成本、用工風險和企業的運行效率都會受到影響，如果是上市公司，還有可能影響公司人均產能財務報表。我們要做的，就是為這類企業提供一站式內容安全整體解決方案，幫他們解決內容風險和用工風險。

目前，我的客戶有國內排名前三的社交平臺、最大的國產手機廠商、市場占有率最高的教育公司。但你能想象么，我們800多人的團隊，目前商務拓展人員只有我一個。

這些公司跟我們合作的業務主要有兩部分，一是內容的安全審核與合規審核，二是數據標注。在提供服務的過程中，我們還會給企業提供內容安全整體解決方案的咨詢服務，諸如如何搭建高效的內容審核平臺、怎么利用人機審核提升效率、如何完善日常管理流程制度等等。

誠如樓上所說，這一行分為兩類，技術安全與內容安全。像360、奇安信、綠盟等公司這類提供技術安全服務的公司很多，內容安全公司的業態卻相對匱乏。目前的競爭格局更多是傳統人力資源的外包，純業務方向的外包比較少。這也就是趙總所說外包公司的審核質量稂莠不齊的原因，業內普遍還是以“買人頭”的方式運轉，但內容審核行業也有淡旺季，人頭也不能等同于質量，確實會有資源配置上的浪費。于是，我們在業內首創了按量計費的業務模式，這樣一來方便質量管理，二來也能提高人效。目前，我們的人效高出行業內平均水平大約30%。

我把審核業務放在江蘇如皋，一個江蘇省轄的縣級市，基地目前大約有800位審核員。選擇這個城市的原因一是人力成本較低，二是方便管理，當地政府還會有一些政策扶持。不同于其他人力資源外包公司，我們的審核員分為培訓崗、審核崗、質檢崗、輿情崗、重點項目專項維護崗。其中，我們最大的成本支出之一在于培訓崗，每一個員工的招聘，都要通過筆試和心理測試，來綜合評估人員的安防背景與心理素質，緊接著是22天的理論知識培訓，培訓之后再進行考試，一個完全合格的審核人員至少需要有半年的時間成長。

這個行業的門檻并沒有外界臆想的那么低，我培養一個員工太不容易了，所以各種福利保障和工作內容調配都要盡可能讓他們舒適。

如果說有什么讓我會產生心理波動，也就是與做人力外包的公司產生競爭的時候。對于一部分客戶來說，因為預算局限，挑選供應商時，供應商的能力只占他們考量要素的40%，價格則占到60%，一旦涉及價格戰，我就會比較難受。

前不久一家選了人力資源外包的客戶，沒多久就在審核團隊搭建和業務承建的過程中爆雷了，兜兜轉轉還是找到我們來解決問題，這也說明現在這個行業的競爭和發展還處于草莽時期。

2020年，我的公司做了數千萬元的業績。這個行業不像互聯網風口行業，踩對了節點會突然有數量級的爆發，一著不慎就會跌下神壇，我們會一直平穩往上漲。

創業者一定會時時刻刻想著如何提高企業的運行效率。現在，我有大量的精力都在找尋技術伙伴一起合作，或者引入內容安全技術領域的資金來互為補充。我認為，至少5年內，機審都不能完全替代人審，長久的經驗積累搭建的模型會成為這個行業另外一個難以替代的因素。