短視頻正成為人類世界最流行、最普及的精神產品之一。短短兩三年時間，抖音為代表的短視頻平臺成為最能聚焦國民眼球、最具成長性的互聯網內容生產模式。

　　鮮花之后必有荊棘，不少投機者瞄準了這塊蛋糕，試圖通過鉆空子、打擦邊球的方式獲取不當利益。對抖音等短視頻平臺而言，自創建以來就全力推動的平臺治理再次面臨挑戰——這場反黑灰產戰事已經進入中場。

　　這是一場前所未有的非虛擬戰爭。原因在于，短視頻平臺要面對的各類黑產與違法違規內容看似是一個個線上賬號，其背后的灰色利益鏈條卻深藏線下，人員覆蓋“莊家”、黑客、“營銷人員”等，且跨平臺化發展趨勢日益突出。

　　與“影子”的戰爭剛剛開始，或許在很長時間里不會有終點。然而，抖音們必須全力以赴。

　　1、10億短視頻用戶背后的“妖魔鬼怪”

　　隨著短視頻行業的火爆，抖音、快手以及其他短視頻產品的用戶已經超過10億之多，其中僅抖音一家日活就達到6億，使用時長30分鐘以上用戶占比35%。

　　繁榮的短視頻平臺10億用戶的背后，隱藏著奇形怪狀的各色妖魔鬼怪：各種黑灰產、色情、詐騙等違法違規內容層出不窮。

　　我們常見的，有些主播為了所謂的高人氣和相應收益，與非法刷量機構共謀，刷粉、刷直播帶貨量，也有人以冒充名人等方式進行詐騙，也有人發布性暗示內容進行色情導流。

　　近期網絡熱傳的“假靳東”故事讓人五味雜陳的故事，正是騙子利用部分女性在人生某個階段出現情感空白、內心孤獨感滋生等軟肋，從而蓄意詐騙的典型案例。

　　作為短視頻平臺的領先者，用戶規模最大的抖音，更成為不法者眼中的豐盛蛋糕。根據媒體調查，一個粉絲數達137萬的抖音號，售價高達8萬元;5萬粉絲+5萬個贊+5萬次分享+5000評論+100萬播放量，售價5800元;抖音音樂人認證298元，企業認證700元……

　　這些幾元至萬元不等的刷粉、刷贊、賣號生意，其實早已悄悄地布滿了所有網絡搜索通道。棘手的是，這些妖魔鬼怪隨時都在變形，從最早的電話詐騙，到利用社交網絡、電商平臺詐騙，可謂“與時俱進”。

　　而現在，伴隨短視頻平臺的火爆，它們也將生意做到了這里。由此，短視頻平臺與妖魔鬼怪的對抗成為常態。

　　為了應對時不時冒出來騷擾用戶的“妖魔鬼怪”，平臺也需要從各個角度去做防御。例如，抖音就從用戶側出發，針對用戶功能場景建設防御措施，比如在用戶的搜索場景中，通過搜索干預，對疑似高危賬號進行屏蔽處理，同時對用戶展示提醒文案，提醒用戶注意識別，防止造成損失。

　　每一個問題視頻，事件雙方都處于不同的場景、關聯不同的人群、對應不同的風險點。以未成年人為例，相比成年人用戶，孩子們更加缺乏辨識能力、自我保護能力乃至舉報能力。對此，抖音在運營側會針對可能對青少年造成誤導的內容，提供模型策略，讓其與青少年群體進行隔離。

　　10億短視頻用戶，場景不同，圈層不同，相同的是，他們都必須受到平臺的保護。

　　2、與“影子”的較量

　　對短視頻平臺來說，各色妖魔鬼怪就像影子一樣，看到卻摸不著，如影隨形擺脫不了。

　　一方面，與傳統打黑除惡相比，黑灰產在平臺上似乎可以看到，但實物并不在那里，打擊難度大。比如線下打擊色情場所，表面上是一個頁面上、一個彈窗，但背后發布引流信息的團伙卻在不斷更換賬號，發布的內容也在不斷變動。

　　另一方面，有陽光的地方就有陰影，黑灰產自互聯網誕生之初就存在，隨著互聯網的繁榮，黑灰產也遍布各個行業、各類產品。某互聯網巨頭的安全業務負責人曾向媒體表示，金融、電商、社交、直播、出行、游戲等行業都容易遭遇互聯網黑灰產。

　　根據世界經濟論壇發布的《2020年全球風險報告》，數據欺詐或被盜、網絡攻擊是可能發生的全球前十大風險，到2021年，互聯網黑灰產將給全球造成高達6萬億美元的損失。

　　反黑灰產以及平臺治理，一直以來都是互聯網行業的重點任務，是一項需要各大巨頭們關注的、復雜而長期的系統工程。中外的互聯網巨頭，很多同時也是互聯網反黑灰產巨頭，比如微軟、亞馬遜、阿里、騰訊、百度、抖音。

　　由于自身的行業特性——與文字、圖片等不同，視頻問題的發現難度大——短視頻行業的平臺治理更為復雜。為了用更好的方式打擊“陰影”，抖音摸索出了從發現問題、處理問題到規避問題的一整套治理工作鏈條，其中尤其注重前期的發現問題。

　　為此，抖音成立了安全中心，下設安全風險巡查團隊，負責每日的站內巡查和清理。這支隊伍有些像影視中的網絡特戰隊，只是他們的武器不是槍炮，而是算法、程序、技術攔截。

　　這場“虛擬戰爭”同時也是一場“群眾戰爭”，每天數以千萬級的短視頻審核，僅依靠專業團隊還遠遠不夠。因此，用戶充當了“斥候”的角色，通過站內舉報、郵箱舉報、電話舉報、啄木鳥小程序等舉報與投訴機制，成為第一時間發現“陰影”的吹哨者。

　　這是一場對“陰影”的全方位打擊，人之外，技術也必不可少。底層，抖音以技術所形成的帳號模型和內容模型為基礎，快速篩選及識別，最短時間內解決大量疑似問題內容的“真偽驗證”。

　　“假靳東”事件后，抖音制定了應急方案，短期內對靳東相關賬號進行速清，清查了5000+疑似靳東仿冒賬號。截至10月底，完成下架話題143個，并處理了問題存量視頻195萬個。

　　戰斗，每天都在發生。戰斗之余，抖音會對每次遇到的問題進行復盤，因此，抖音平臺治理的各項細化功能會經常迭代，在發現、處理問題的基礎上規避問題。

　　“假靳東”事件之前，抖音安全中心已經開始對仿冒名人的問題進行研究總結，在上半年，抖音安全中心上線了針對仿冒明星的識別模型;隨著7、8月監測到明星直播下仿冒名人賬號突增，抖音安全中心又搭建了專門的審核機制、標準和流程，研發上線了新的風控策略模型。

　　對抗中，其上線了大V認證，后臺上線了針對仿冒明星客服的模型策略，在私信功能側上線了黑灰產私信語義模型、私信舉報策略等。

　　最終，它做到了對仿冒明星客服類黑灰產賬號的實時打擊，尤其是在知名明星直播的過程中。有一次，在陳赫直播時監測到有黑產團伙試圖冒充客服賬號進行詐騙，抖音對其進行了實時處理，甚至誤殺了陳赫本人的賬號。

　　當陰影無處不在，唯一的應對方式就是治理無時不在, 無處不在，哪怕是跨平臺——抖音平臺治理團隊所遵循的就是這一原則。

　　3、平臺治理的下半場

　　隨著短視頻行業規模不斷擴大，違法者為了利益最大化，也在不斷武裝自身。在治理過程中，抖音平臺治理團隊發現，越來越多的挑戰撲面而來。

　　一方面是技術演進，比如黑產團伙利用群控系統，可以同時進行大規模批量作惡，由于使用的是和正常人一樣的真實設備，平臺識別難度大大增加。

　　另一方面則是跨平臺特點明顯。跨平臺的違法違規行為越來越多，比如色情導流，黑產團伙大批量購買短視頻平臺的賬號，然后發布帶有性暗示的信息視頻、評論，將用戶引流到微信、QQ等第三方平臺，給黃色網站導流，或者販賣色情視頻，或者招嫖。

　　與此同時，黑灰產業規模壯大，產業鏈上下分工更加細化。在最新的黑灰產業團伙作案現象中，最上游成員負責提供黑產情報，比如哪家平臺又發了新的優惠券，哪個平臺又做了拉新活動，哪個平臺的審核規則變化可以鉆空子。他們情報的來源包括QQ/微信、電報群、羊毛線報論壇、暗網以及一些技術博客等。

　　黑產團隊中的中上游成員，則負責提供基礎的資源，比如代理IP、卡池、接碼平臺。其中，代理IP可以用來注冊賬號使用，因為如果一直是同一個IP注冊，平臺就容易封殺;接碼平臺用來手機注冊時收取驗證碼。

　　此外，中游成員負責提供作案工具，比如秒殺的工具、注冊機、刷粉軟件等;下游成員負責變現渠道，進行紅包提現、代下單、賬號倒賣、刷粉服務售賣、黃牛倒賣等。

　　這意味著，包括抖音在內的短視頻平臺治理進入了更復雜、更多變的下半場。

　　技術是典型的雙刃劍，抖音平臺治理團隊在不斷推動治理技術的優化與完善，而黑灰產團伙也憑借自身的資源，將各類黑客所研發的“新技術”快速應用，這造成了抖音與黑灰產對抗的升級。

　　新的對抗困難點也隨之出現，比如信息不對稱，在被攻擊之前，平臺不知道黑產會通過何種手段進攻。抖音平臺治理團隊給出的答案是持續研發新技術，目前其運用移動安全、大數據分析、人工智能等技術構建了立體的防御體系，幫助平臺進行全面、多維度的風險識別。

　　被動式防御永遠不如主動式防御。抖音平臺治理團隊在新困難點下展開了更專業的攻防，比如進行安全運營與風控研究，主動了解灰黑產是如何攻擊的。

　　如同正規軍隊需要不斷通過演習來檢驗實戰能力，抖音安全中心內部組建了攻防團隊，模擬黑產對業務進行攻擊，并對作惡路徑進行復現研究，用于發現潛在的攻擊威脅。在這個階段中，抖音安全中心經歷了作弊者從機器到真人的演化，也研究了相關的防御手段。

　　由此，抖音平臺治理團隊每天都在同時進行兩場“戰斗”，一場是對外的，應對真實的黑灰產團伙；一場是對內的，是攻防團隊的常態化模擬演練，其激烈程度絲毫不亞于對外攻防。

　　然而，抖音平臺治理團隊仍面臨越來越大的壓力，黑灰產等團伙的跨平臺作案趨勢日趨明顯，這不僅加劇了抖音單個平臺的治理難度，也給整個互聯網的安全治理帶來了更大的隱患。

　　抖音平臺治理團隊成員的最大感受，是希望未來能持續強化跨平臺聯動治理。首先希望企業與企業的黑灰產大數據聯動，提升發現問題的效率和打擊效果，同時可以早一步處理在其他平臺上的詐騙行為。

　　平臺治理的價值核心是技術，抖音平臺治理團隊認為，未來能否探索風控模型的聯合建設是技術驅動下進行平臺治理的關鍵：基于黑灰產大數據的聯動，多平臺在風控模型的建設上進一步實現聯合建模，提供給行業使用，提升處理問題的效率。

　　除了平臺與技術的協同，抖音平臺治理團隊還希望能強化平臺與公安等執法機關的聯動打擊，從而做到“線上溯源、線下查處”，每發現一起黑灰產案件線索，就能將其團伙連鍋端。

　　在抖音平臺治理團隊看來，短視頻行業的任何一個問題都不是單個平臺的問題，而是行業和社會共同面臨的問題，這就要求舉全行業、全社會之力來實現資源共享、協同共治。

　　4、結語

　　跨平臺治理、企業與執法機關常態化聯動，這或許是一項難度更大的命題，但抖音平臺治理團隊對此充滿信心：“無論是抖音還是其他短視頻平臺，抖音平臺治理所面臨的問題有一部分是老問題，有一部分是新問題，而抖音相信，技術與人的融合，能夠更加有效地應對這一全新課題。”

　　技術是武器，人是戰士，只有動員起所有能動員的資源轉化為武器和戰士，社會才能真正打贏針對線上黑灰產的這一仗。抖音與萬千妖魔鬼怪和“影子”的攻防，不只是一家平臺的戰斗，也是其它平臺以及整個社會戰斗的一環。唯有協同發力，才能推動這場涉及全民、全社會的戰役向縱深挺進。