隨著生成式人工智能的商業(yè)化，網(wǎng)上虛假內(nèi)容的數(shù)量急劇增加。根據(jù)身份驗證平臺Sumsub的數(shù)據(jù)顯示，從2023年到2024年，全球深度偽造的數(shù)量增長了四倍。2024年，深度偽造占所有欺詐行為的7%，涉及從冒名頂替、賬戶接管到復(fù)雜的社會工程活動等多種形式。

　　為應(yīng)對這一問題，Meta發(fā)布了一款新的工具——Meta Video Seal，旨在通過在AI生成的視頻中加入不可察覺的水印來打擊深度偽造。這款工具于周四開源發(fā)布，旨在便于集成到現(xiàn)有的軟件中，并與Meta之前推出的其他水印工具Watermark Anything和Audio Seal相輔相成。

　　Meta的人工智能研究科學(xué)家Pierre Fernandez在接受訪時表示:“我們開發(fā)Video Seal的目的是提供更有效的視頻水印解決方案，特別是用于檢測人工智能生成的視頻并保護原創(chuàng)性。”

　　盡管Video Seal并不是首個提出的視頻水印技術(shù)，DeepMind的SynthID和微軟的水印方法也在市場上已有一定應(yīng)用，但費爾南德斯指出，現(xiàn)有的水印工具普遍存在一些不足之處。他表示:“雖然有其他水印工具，但它們在視頻壓縮后效果不佳，而視頻壓縮在社交平臺上傳播內(nèi)容時非常常見;一些方法的運行效率也較低，無法開放或無法復(fù)制;此外，許多方法源自圖像水印，但圖像水印并不適用于視頻。”

　　除了水印功能，Video Seal還可以在視頻中嵌入隱藏信息，后續(xù)可以通過揭開這些信息來追溯視頻的來源。Meta宣稱，Video Seal能夠有效抵抗模糊、裁剪等常見編輯手段，以及常用的壓縮算法。

　　然而，F(xiàn)ernandez也承認(rèn)，Video Seal存在一定的局限性，特別是在水印的可察覺程度與抗篡改能力之間的權(quán)衡。他指出，過度壓縮和大幅編輯可能會破壞水印或使其無法恢復(fù)。

　　Meta面臨的更大挑戰(zhàn)是，開發(fā)者和行業(yè)人士缺乏使用Video Seal的動機，特別是那些已經(jīng)在使用其他專有解決方案的用戶。為此，Meta推出了一個名為Meta Omni Seal Bench的公共排行榜，用于對比不同水印技術(shù)的性能，并將在今年的主要AI會議ICLR上舉辦一場關(guān)于水印技術(shù)的研討會。

　　Fernandez表示:“我們希望越來越多的AI研究人員和開發(fā)者能夠在他們的工作中融入某種形式的水印技術(shù)，并希望與業(yè)界和學(xué)術(shù)界合作，推動該領(lǐng)域的更快發(fā)展。”