Deepfake假頭像又又又來了。

這一次扎堆“轟炸”的平臺(tái)，換成了領(lǐng)英。

下面這個(gè)小姐姐，是不是乍看之下感覺普普通通，還很有親和力。

但仔細(xì)端詳一番，就會(huì)不斷發(fā)現(xiàn)破綻。

比如，怎么只帶了一個(gè)耳釘？背景畫面為什么高糊？有的頭發(fā)還融入了背景？

而這樣的頭像不只是個(gè)例，是一堆！上千個(gè)的那種，全都是由AI合成。

從男到女、從老到少、不同膚色、發(fā)色……基本上能涵蓋的都涵蓋了。

他們成群出沒的目的只有一個(gè)，為其背后的公司撒網(wǎng)式拉銷售業(yè)務(wù)，一旦找到有意向客戶，就轉(zhuǎn)接到真人銷售。

沒想到，繼充當(dāng)水軍、冒充員工發(fā)送惡意軟件后……AI換臉再次被拐上了違法犯罪的道路。

目前，領(lǐng)英已經(jīng)將這些賬戶關(guān)閉。

斯坦福研究人員偶然發(fā)現(xiàn)

起底這次造假事件的，是兩位斯坦福大學(xué)的互聯(lián)網(wǎng)研究人員。

在偶然間收到一條推銷信息后，Renée DiResta發(fā)現(xiàn)這個(gè)“銷售”有點(diǎn)不一般。

除了耳環(huán)只戴了一邊、頭發(fā)邊界模糊等問題，它還有著GAN生成人臉的最大特征：

眼球剛好位于圖片的中央。

這個(gè)特征幾乎可以驗(yàn)證出所有用GAN生成的人臉。

比如有人做過實(shí)驗(yàn)，將20張假臉調(diào)成50%的透明度后疊加在一起，他們的眼球可以完全重合。

然后，DiResta就和同事Josh Goldstein一起，對(duì)整個(gè)領(lǐng)英平臺(tái)進(jìn)行了一番調(diào)查。

結(jié)果發(fā)現(xiàn)，超過1000個(gè)領(lǐng)英賬戶都在用AI生成的人臉做頭像。

這些假賬戶來自70多個(gè)公司，干的事情都差不多——

假裝公司的銷售給潛在客戶發(fā)送消息，然后再讓有購(gòu)買意向的客戶與真人銷售建立聯(lián)系。

由此一來，公司就不用花費(fèi)大量資金在人力上，同時(shí)還能擴(kuò)大自己的業(yè)務(wù)范圍。

而且，這套機(jī)制甚至已經(jīng)形成了一套產(chǎn)業(yè)鏈。

也就是說，專門有公司來提供假人臉頭像、假資料信息、并發(fā)送推銷消息。

比如這家總部位于印度的公司LIA。

在他們的訂閱服務(wù)中明確寫道：

只要用戶每月支付300美元，就能擁有一個(gè)AI生成的人臉形象。

它會(huì)有著與真人高相似度的長(zhǎng)相，每天可以向20個(gè)人發(fā)送銷售信息等功能。

不過，目前這個(gè)網(wǎng)站已經(jīng)“查無此站”，除了logo以外搜索不到任何信息。

Deepfake人臉，真的很難區(qū)分

其實(shí)這也不是AI換臉第一次被拐上違法犯罪的道路了……

就在不久前，谷歌報(bào)告了一起黑客發(fā)送惡意攻擊軟件的事件。通過盜取員工真實(shí)信息數(shù)據(jù)、再用AI生成假臉，黑客們用偽造的領(lǐng)英賬戶發(fā)出了大量釣魚郵件。

此前，亞馬遜被曝光出騷操作，用Deepfake在推特上給自己造了一批水軍，試圖扭轉(zhuǎn)輿論風(fēng)向。

國(guó)內(nèi)我們最熟知的“換臉靳東詐騙”事件，用到的也是類似技術(shù)。

顯然，真假難辨的Deepfake還充斥在我們的生活中。

而另一邊，今年發(fā)表在PNAS上的一項(xiàng)研究表示：AI生成的人臉和真實(shí)人臉沒有區(qū)別，甚至更值得信賴。

人們只有50%的概率分辨出一個(gè)人像是否由AI生成。

這個(gè)概率，和二選一亂蒙幾乎沒有區(qū)別……

在此，研究人員也匯總了一些Deepfake人臉的特征來供大家區(qū)分。

背景通常非常模糊；

領(lǐng)口銜接不自然，衣服線條看起來不規(guī)整；

牙齒和嘴唇的邊界模糊；

頭發(fā)絲會(huì)融入背景；

圖像光線不自然；

雙眼在圖像中完全居中。

參考鏈接：

[1]https://www.theregister.com/2022/03/28/ai_fake_linkedin_faces/

[2]https://www.npr.org/2022/03/27/1088140809/fake-linkedin-profiles

[3]https://twitter.com/shannonpareil/status/1508110373261434882

關(guān)鍵詞：