本文由 網易雲 發布。
早在今年年初，今日頭條就啟動高達2000人的內容審核編輯招聘，並點出黨員優先。而在4月10日，今日頭條ceo張一鳴又在乙份公開信中表示，會將現有6000人的運營審核隊伍再度擴大——總人數達到10000人。
與今日頭條「步調」一致的還有快手，快手ceo宿華在4月初發表反思言論之後，立馬宣布急招3000人審核團隊，將目前的審核團隊從2000人擴大至5000人。
瘋狂招人的背後，是相關部門的嚴監管。就拿今日頭條而言，2023年以來，受到央視、工商行政管理局等有關部門的點名、批評或處罰就高達8次。
嚴監管只是影響結果的其中乙個因素，但要把人工審核的「復興」歸結於它，就有點敷衍塞責了。那客觀來說，內容審核復興的根本原因是什麼？
嚴監管是「果」，而不是「因」
首先得澄清下，嚴監管並不是今日頭條、快手們瘋狂招人的根本原因。
如果把目光從國內轉向國外，你會發現，人工審核早就復興了。
facebook在2023年就宣布，將會新增3000名內容審核崗位。而到該年年中，facebook審查員數目對比過去八個月幾乎增加了一倍，其人員數量相當於當時的twitter或snapchat的員工總數。
這樣的轉變為何？這得提下發生在去年的幾件事。
人工智慧跌下內容神壇
人的認知是非常容易受影響的，「曾參殺人」、「三人成虎」的歷史典故充分證明了這一點。對於乙個謠言，乙個說可能沒有人相信，兩個人說也許有一部分人會去相信，但是三個人或者更多人也這樣說，那麼人們大概率會認為這件事可能是真的了。
內容的推薦工作全部由機器完成，給我們的不是我們自己想要的東西，也不是對我們有好處的東西，而是我們實際關注的東西。也就是說，我們看某樣東西越多，這方面的東西就會更集中的推向我們。而別有用心的人，就會利用演算法這個特點，針對影響我們。
「我相信我們面臨的最大風險是我們自己正在失去辨別現實的能力。」reddit ceo steve huffman在其撰寫的一篇文章中無不擔憂地說。而這，也是facebook資料洩露一事鬧得沸沸揚揚的根本原因，如果再不對資料進行嚴格監管，我們就不是我們了。
張一鳴說，後續今日頭條首先改變的是：將正確的價值觀融入技術和產品。這也預示著今日頭條撥亂反正，全面糾正演算法和機器審核的缺陷。
技術不是萬能的，很多事情並不是通過投入大量的工程師就可以解決。
朋友圈裡某位老師說，產品需要價值觀，消費至死和娛樂至死的確會有很大問題。從這來看，人工審核的「回歸」就成了必然。
但人工審核，又是「一本萬利」的生意嗎？
今天的內容是海量的，依靠人工，成本會變得很高。就比如擴招2000人，乙個人工資給4000元，一年光明面上的工資成本就近億，企業的競爭力從何而來？並不是所有的公司都能像今日頭條、facebook那樣，為了實現7x24小時全覆蓋的審核，動輒就招聘數千名人員，規模維持上萬，這是第一。
國外有一名內容審核人員描述了瀏覽這些暴力、色情和令人不安的內容給她留下的情緒損傷和心理影響，她說：「當我從myspace離開的時候，我大概有3年的時間不肯和人握手，因為我覺得人們都很噁心。我無法觸碰別人。」她稱，世界上最普通的人也都是他媽的怪胎。「我從那裡出來的時候對人**到厭惡。我的同僚們，大多數也和我有一樣的感覺，我們都對人性留下了可怕的觀感。」
從這來看，人工審核又不見得是乙個好的方案。
向左，還是向右？
筆者非常喜歡乙個人取的花名——「行中」，名取自於易經，意為中間態、調和態做事。回到內容審核上，要想解決這個問題，也要行中。
拋除人的優勢不說，當初之所以用演算法取代人工審核和推薦，是因為人工有很多弊端，比如說效率、成本以及對人的影響。演算法固然有缺陷，但其高效、低成本的優勢也令人神往。人工+演算法，實際上是天生的一對，沒必要因為一時的「摩擦」，就拆散它們倆。
那我們不得不面對乙個問題：有的公司其實也在「行中」，利用人工和演算法結合去解決內容的問題，為什麼不ok？
一位網易雲易盾內容安全的專家就該問題剖析時指出，演算法+人工是現在、也是未來一段時間最為合適的形態。當下並不是演算法+人工不行，而是國內有些公司積累和沉澱太少，以為拿機器學習的框架再加一些資料喂一下就好。「網易之所以在內容安全上做的效果很不錯，就是得益於其擁有的20年內容審核和技術經驗。」這位從事多年安全業務的專家接著說，不積跬步，無以致千里，內容審核重中之重是要有足夠的積累，得「經驗」加持。
「這個積累有兩方面，乙個是有效性資料的持續積累，其次是內容運營和審核人員的經驗和思考力的積累，二者結合，不斷訓練機器、不斷抽象和校正方向，才能夠得到乙個合理的『人工+智慧型』的結合邊界，才能更加接近人的判斷。」他強調，這不是一朝一夕的事情，也無法僅僅用工程師的堆砌來替代。
聊完後，筆者陷入進一步的思考中：人是有思想、有情感的，一些海量、重複性、低價值的工作肯定會被技術取代，而人則會做更高階、更有創造性的事情。
如果能跳到未來，是不是可以發現內容審核不會向左，也不會向右，而會朝著乙個必然的方向發展——人與人工智慧的默契配合。
結束語
文章的最後，想談談監管和商業利益。
從當下頻頻發力的監管政策來看，內容類產品要想獲得快速發展，首先要邁過監管的門檻。在有些人眼中，則認為被念了緊箍咒，但筆者不這麼認為。
4月11日，今日頭條ceo張一鳴的宣告，如果用幾句話來解讀的話，大致意思是：
我是工程師出身，創業的初心是希望做一款產品，方便全世界使用者互動和交流。過去幾年間，我們把更多的精力和資源，放在了企業的增長上，卻沒有採取足夠措施，來補上我們在平台監管、企業社會責任上欠下的功課，比如對低俗、暴力、有害內容、虛假廣告的有效治理。網上有一張圖盤點了今日頭條被點名批評的歷程。細數了下，一年四個月的時間被點名批評16次，平均一月一次。直到最近的一次，內涵段子被下令關停，再也回不來。ps：以上為解讀，張一鳴宣告原文見：
最後筆者想說兩點：技術的確是中立的，但如何利用技術、傳播何種內容卻是有偏倚的，這需要人來糾正；第二，長期的商業利益和監管並無衝突，內容平台重視監管、做好內容安全是發展中非常重要的組成部分，希望內容創業者謹記。
如果你是中小創業公司，在內容審核上覺得投入成本過高，無運營經驗，也擔心相關政策理解不到位，更擔心投入了那麼多沒效果，那麼你可以嘗試用下易盾的反垃圾業務，一鍵接入易盾內容安全解決方案。
了解 網易雲 ：
網易雲官網：
新使用者大禮包：gift
網易雲社群：
糾結html5，向左還是向右？
近幾年一直在開發企業管理軟體，伺服器端的j2ee架構一直比較穩定，但客戶端時刻都在變化。在最早幾年，客戶端一直是以ie為標準，並且大部分應用僅支援ie客戶都能接受，因為客戶作業系統清一色的xp。最近2年從平板電腦，智慧型手機火起來的時候起，跨瀏覽器跨裝置的需求不斷有使用者提出，這應該是合理的，也是大...
國產中介軟體，向左還是向右？
中介軟體，是位於作業系統之上和應用系統之下的一種軟體門類，在it系統中起著承上啟下的關鍵作用，與作業系統 資料庫一起同屬基礎軟體範疇，也是國家重點鼓勵和支援的軟體類別之一。不過，與國產作業系統和國產資料庫在市場的完全弱勢相比，國產中介軟體的境遇顯然要好得多，已經是中介軟體市場一支不可忽視的力量。根據...
管理 管理向左 ERP向右？
管理向左 erp向右？問題提出 從 管理混亂的全部暴露 來說，王暉也確實稍嫌冤枉，現代化 倉庫問題僅僅是冰山一角，筆者也相信鑫華峰機械erp系統上線遭遇的也不僅僅是倉庫問題，而是一系列的連鎖問題！究其原因是鑫華峰機械在基礎管理及erp上線方面都存在嚴重的問題。倉庫的 現代化 實施需要重視是對倉庫的 ...