QQ在線
企業微信
資訊
700deepfake技術利用AI算法，可以“扣出”影片、圖片和音頻中的特定人物，將他人取而代之。而根據阿姆斯特丹網絡安全初創公司Deeptrace的最新統計，基于該技術的影像制品數目，正在網絡上迅速增加。該公司在6月和7月的統計中發現了14698個deepfake視頻，而這一數字在去年12月時只有7964。僅僅7個月過去，deepfake視頻就爆炸般增長了84%。這一增長趨勢引起了大眾的不安，不僅僅是因為deepfake視頻可以用來操縱、搖擺民意，甚至影響選舉，又或是將莫須有的罪行栽贓給某個人。他們更擔心的是由此產生的大量色情視頻和敲詐案件。
為了應對deepfake的迅猛增長，Facebook牽手亞馬遜云服務(AWS)、微軟以及AI合作伙伴關系（the Partnership on AI），舉辦了deepfake 檢測挑戰賽。來自康奈爾理工學院、麻省理工學院、牛津大學、加州伯克利分校等院校的眾多專家學者們加入比賽，在deepfake檢測技術的研究道路上帶頭沖鋒。該賽事將在溫哥華NeurIPS 2019會議上向全球發布，力圖促進開源檢測工具的開發。
截止至今，Facebook已經貢獻了超過一千萬美元，用以鼓勵人們參與獎金的角逐；亞馬遜云服務則貢獻了價值一百多萬美元的積分，并為參賽者提供了備選模型；谷歌旗下Kaggle數據科學和機器學習平臺將負責該挑戰賽的主辦。
Facebook首席技術官Mike Schroepfer指出，deepfake技術產生的“真人”影音材料嚴重影響了人們對于網絡信息的信任，而行業中卻沒有工具來檢測它們。我們希望開發出一些技術，讓這些被偽造的視頻無處遁形。”
檢測挑戰賽所提供的數據集展示了原始視頻（左）和被篡改視頻（右）。
deepfake檢測挑戰包括了巨額獎金和一個訓練數據集。針對視頻造假，多種檢測工具幾經面試，其中，由加州大學伯克利分校和南加州大學研究人員開發的工具最為優秀，它的識別準確率能超過90%。但與此同時，deepfake又是一項在不斷變化和發展中的技術。可以說這項檢測挑戰任重而道遠。在最近的采訪中，Pinscreen公司首席執行官Hao Li指出，人工智能合成技術演化不斷，在某種程度上，合成贗品幾乎不可能從現實中辨別出來。
deepfake檢測挑戰中，群眾演員們受雇拍攝了許多的視頻訓練材料。這些視頻中的背景、動作、場景設計各不相同，可以說是五花八門。在這之后，基于這些真實的視頻，偽造的視頻被加工出來，它們或人臉被調換，或聲音被修改。
“deepfake探測技術的前沿研究需要結合大規模、貼近現實、有用且免費的數據集。既然這種資源不存在，我們便不得不從頭開始創造它。” Facebook人工智能研究經理Christian Ferrer表示，為了避免法律和政策掣肘，這份數據集，只涉及那些簽訂使用協議的參與者，不涉及其他用戶的任何信息。此外，Ferrer還說，對數據集的訪問是封閉的，因此只有簽訂了許可協議的團隊才能訪問和使用它。
即日起，參賽者可以下載語料來訓練自己的deepfake識別模型。在完成了設計后，他們需要將代碼提交到一個黑盒環境中接受驗證，獲得評分。參賽者不需要分享他們的模型，但必須同意將模型開源以獲得贏取巨額獎金的資格。
deepfake檢測挑戰由一個專業的委員會推動和監督，該委員會包括Facebook、微軟以及媒體、學術團體等。該競賽計劃運行到2020年3月底。
“跨行業領域的各界團體一起努力，在幾個月的時間里共同創造了該挑戰，這樣的團結一致無疑的是鼓舞人心的。”Facebook人工智能總監、負責管理這項挑戰的業務主管Irina Kofman說道，“每個人都帶來了各自領域的見解，這讓我們得以接觸到了廣泛的觀點。”
谷歌副總裁AI Jerome Pesenti認為，“我們知道解決這些難題不會容易。但是，我相信，開源開放的研究方法終將孵化有效的工具，幫助人們識別deepfake詐騙。”
