有兩件事編輯也不知道怎么評論，你們先看看吧。

第一件事是，自從 AI 換臉神器 ?Deepfake 走紅后， 有一種聲音是，如果你討厭一個人，就收集他的照片，用 Deepfake 技術與色情片演員換臉，偽造色情視頻傳播，印度記者 Rana Ayyub 就因為揭露了印度古吉拉特暴亂中官員的黑幕而被“色情復仇”。

第二件事是，微博用戶@將記憶深埋表示，自己通過半年時間，比對了國內(nèi)外色情網(wǎng)站和社交媒體的數(shù)據(jù)，在全球范圍內(nèi)成功識別了 10 多萬從事不可描述行業(yè)的小姐姐。查詢系統(tǒng)可以對美顏、 Deepfake 換臉等有效對抗，并加上步態(tài)分析、聲紋識別和其他身體特征，識別率達到 99%。

該微博用戶后來在網(wǎng)友的聲討下表示不會開放 API 或查詢頁面，也不公布論文或開源算法，并刪除了整個項目和數(shù)據(jù)庫。

這兩起事件放在一起看，有點細思恐極。

雖然這個被網(wǎng)友戲稱為“原諒寶”的“準商業(yè)產(chǎn)品”已經(jīng)涼涼，也有人辟謠稱這種產(chǎn)品其實無法達到比對的準確率—;—;99%（視頻）和100%（聲紋），但是雷鋒網(wǎng)宅客頻道還是關心兩個問題。

第一，這種“產(chǎn)品”打造的門檻高嗎？

第二，“原諒寶”真的可以對抗 Deepfake 嗎？

說起來這個原諒寶的運行路徑很簡單，一般先用爬蟲不停發(fā)現(xiàn)色情網(wǎng)站上的新鏈接，對公開圖片和視頻進行爬取。然后進行人臉檢測，抽取其中帶有人臉的圖片，抽取人臉相關的特征，并建立索引。如果是視頻的話，則需要抽取關鍵幀再進行特征抽取和索引。在用戶提交圖片進行搜索時，對所提交的圖片同樣進行人臉檢測、特征抽取，將特征在預先建立的索引中進行搜索排序。

于是，雷鋒網(wǎng)(公眾號：雷鋒網(wǎng))編輯找到了兩位關鍵專家：某大廠 AI 安全專家 Dou 以及提供反爬蟲業(yè)務的邦盛科技公司網(wǎng)絡自動化攻防專家許俊杰。

首先，上述新浪微博用戶爬到的“100 多 TB 的數(shù)據(jù)”獲取似乎真的很容易。簡單來說，“只要你公開持有，我就能爬到”。

許俊杰說，這些數(shù)據(jù)應該就是爬網(wǎng)頁得到，只要人可以看到，爬蟲就能爬到，特別是那些頁面是簡單的分頁，直接一頁頁爬取，非常方便。但是，對于數(shù)據(jù)庫，一般人是爬不到的，除非攻擊者利用黑客手段攻破了網(wǎng)站服務器。

Dou 表示，獲取數(shù)據(jù)后，比對圖片、視頻很簡單，目前開源的 OpenCV 都可以勝任這個工作。

有人提出，有很多偷拍的色情視頻比較模糊，識別起來有點困難。

確實，不僅是視頻，對于模糊的照片，人臉識別軟件也會遭遇困難。但是在 Dou 看來，該微博用戶提到的目標網(wǎng)站中的色情視頻質量其實尚可，而且人臉識別并比對時，主流算法是被人臉提取特征后形成一百到幾百維的向量，“圖像質量不用太好”。

相對而言，識別換臉則復雜一些，需要積累數(shù)據(jù)，訓練模型。

這就來到了第二個問題，原諒寶真的可以對抗 Deepfake 嗎？

畢竟 Deepfake 換臉后，相似度 86% 的假尼古拉斯凱奇和 70.5% 的假美國總統(tǒng)居然都騙過了亞馬遜和微軟的人臉識別服務。

簡單粗暴地先下一個結論：“原諒寶”有多少功力不好說，但 Deepfake 的假視頻確實可以被揪出來。

5 月底，在那場盛大的世界著名極客大會DEF CON CHINA 1.0 上，一名來自百度的安全研究員Wangyang介紹了 AI 換臉檢測的方法。

先來看看 Deepfake 的 AI 換臉視頻是怎樣制作的？

出人意料的是，它并不是利用 A 圖像整體替換 B 圖像，而是將視頻抽取每一幀，找到目標人臉換臉，再放回到人臉原來的位置，它所偽造的人臉是人臉的中心區(qū)域。

Deepfake 有兩組自動編碼器，每組含有一個編碼器和一個解碼器，自動編碼器會將圖片降維表示，解碼器會對圖片進行解碼，恢復到原圖。在訓練過程中，需要保持輸入的圖片和輸出的圖片差異盡量小。這兩組編碼器分別對兩個人進行編碼和解碼，這兩組自動編碼器的編碼器共享權重。

“在訓練過程中，我們需要這兩個人的多張圖片分別訓練兩組編碼器。這樣在轉換時，A 人臉可以通過B 的編碼器還原成 B 人臉，同樣，B 人臉也可以被解碼成 A 人臉。在轉換的過程中，先使用人臉檢測系統(tǒng)找到對應的人臉，輸入到編碼器，然后通過另一組解碼器得到偽造的人臉，再放回原圖，然后進行融合?！盬angyang 說。

研究人員提出了兩種檢測方法。

第一種檢測基于卷積神經(jīng)網(wǎng)絡（CNN）達成。通過 CNN 分類是目前進行圖片分類的一種主流方式，研究人員使用了一種淺層的 CNN，試圖讓它抓住比較低層次的圖像特征。目前來看，Deepfake 產(chǎn)生的假臉會有一些容易被發(fā)現(xiàn)的痕跡，比如邊緣生硬，視頻中人臉會有抖動、人臉扭曲、顏色不均等。

利用人臉檢測器找到人臉的核心區(qū)域，然后進行外延，這樣輸入的模型就包含了融合邊緣的信息，一辯知真假。

Wangyang 稱：“我們的數(shù)據(jù)集是開源的，從視頻中提取了六萬多張假臉圖片和六萬多張真臉圖片，圖片質量參差不齊。用人臉檢測找到人臉的核心區(qū)域之后，可以得到 1.5 倍的人臉框圖。訓練時，我們還進行了數(shù)據(jù)增強，將它進行縮放等，識別準確率能達到 99%，真臉很少會被識別成假臉?！?/p>

第二種方法則基于人臉識別模型識別。

FaceNet 是目前是最流行的開源人臉識別框架之一。它是一個典型的深度 CNN，F(xiàn)aceNet 會對輸入的人臉進行映射，把輸入圖片映射為 512 維的向量。FaceNet 在進行兩張人臉比對時，實際上是計算這兩個人臉對應向量的距離，比如數(shù)值越少，這兩張臉越相似。

這個方法使用的數(shù)據(jù)集和剛才介紹的方法類似，區(qū)別在于，研究人員使用的圖片僅是人臉的核心區(qū)域。通過 FaceNet 提取的向量作為訓練模型的特征，用 SVM 作為二分類器，F(xiàn)aceNet 作為特征提取器，“這種利用更高層次的抽象人臉比對的方法準確率能達到 94%”。