AI為各行各業(yè)裝上效率加速器的同時，也可能被不法之人用作詐騙工具。

據(jù)英國媒體《每日郵報》報道，一家西班牙小型電影制作公司（Peabody Films）稱收到英國著名男演員“卷?！北灸岬峡颂亍た挡推妫˙enedict Cumberbatch）發(fā)電話，對方表示對該公司即將拍攝的電影感興趣，想尋求合作。

這部電影的導演稱，他們最初收到了自稱是好萊塢明星經紀人發(fā)來的電子郵件，謹慎起見，他建議打個電話，而來電聲音與康伯巴奇的相似度有100%，“是那個聲音，毫無疑問?！痹摴竞笥峙c“康伯巴奇”進行了幾次通話。

(資料圖片僅供參考)

這導致這位導演一開始完全相信對方正是康伯巴奇本人，“當我們接到電話時，簡直不敢相信自己的運氣，康伯巴奇是當下最有才華的演員之一，他居然會主動聯(lián)系我們并對我們的項目表現(xiàn)出興趣?！?/p>

隨后，該電影公司幾次邀約見面，“康伯巴奇”都拒絕了，甚至還提出要該公司先打款20萬英鎊（約合人民幣170萬元）。這時公司意識到了可能遇到了騙子，向“康伯巴奇”的經紀公司確認后才發(fā)現(xiàn)，這是一場AI騙局。

“當發(fā)現(xiàn)自己是AI詐騙受害者時，我們感到非常震驚和失望?！痹搶а荼硎?。目前，該電影公司正考慮是否報警。

被中國觀眾稱為“卷?！钡谋灸岬峡颂亍た挡推婵梢哉f是英國國寶級演員，他被英國女王授予大英帝國司令勛章，也被《時代周刊》評為全球最具影響力人物之一。不論在熱門英劇《神探夏洛克》里，還是在好萊塢大片《奇幻博士》中，康伯巴奇都是自己配音。由于聲音很有辨識度，“卷?！边€被力邀為《霍比特人》里的惡龍等虛擬形象配音。

這僅僅是AI合成聲音用于詐騙的一例。

據(jù)報道，近日，國外一名網(wǎng)友用美國知名歌手弗蘭克·奧申（Frank Ocean）的歌曲片段用以訓練AI，之后用AI生成了大約9首仿冒其風格的歌曲，隨后該網(wǎng)友于4月初在論壇上發(fā)布了這些曲目，并將其偽造成唱片錄制時的泄露片段，通過出售這些音樂騙取了約970美元（約合人民幣6700元）。

當下的AI技術不僅可以克隆真實的人聲，還可以通過聲音進行“二次創(chuàng)作”。近段時間，通過模型訓練和后期處理，模擬真人歌手孫燕姿聲音進行翻唱的“AI孫燕姿”走紅網(wǎng)絡。

另一方面，越來越多的開源模型讓相關工具的使用門檻進一步降低，非編程人員便可利用AI工具快速“調教”出想要的聲音。

AI歌手的翻唱歌曲，正是由多位創(chuàng)作者通過開源項目“so-vits-svc”自制后并上傳。今年早些時候，微軟研究人員展示了一種文本轉語音AI模型“VALL-E”，該模型只需3秒鐘音頻，就可以合成任何人的聲音，保留說話者的情緒基調，并可以說出任何內容。

這些都便利了騙子制造假信息。網(wǎng)絡安全公司邁克菲發(fā)現(xiàn)，在美國、英國、法國、德國、日本、澳大利亞和印度，有10%的人曾被人工智能語音詐騙。

除了聲音詐騙，AI在圖像、視頻上的創(chuàng)造能力同樣不得不讓人提高警惕。AI專家阿列克謝·希特羅夫曾向媒體表示，AI生成的虛假圖像和聲音已經被廣泛用于商業(yè)欺詐。

（文章來源：科創(chuàng)板日報）

關鍵詞：