在近半年的時(shí)間里,最新的生成式人工智能技術(shù)為我們展示了如何低成本、零門檻地利用AI創(chuàng)作文本內(nèi)容、圖片甚至整個(gè)形象。
雖說(shuō)正經(jīng)的商用道路還在苦苦摸索,但是詐騙界已經(jīng)宣布這是“重大利好”。因?yàn)槔眠@些,“欺騙”這件事變得更簡(jiǎn)單了。
(資料圖)
界面新聞綜合了目前網(wǎng)絡(luò)上關(guān)于AI在詐騙界的應(yīng)用,發(fā)現(xiàn)了以下幾條重要線索:
用ChatGPT生產(chǎn)釣魚郵件
ChatGPT已經(jīng)有足夠的能力在短時(shí)間內(nèi)生產(chǎn)出符合人類常識(shí)和邏輯的文本內(nèi)容。這一點(diǎn)已經(jīng)在被詐騙分子用在生產(chǎn)釣魚郵件上。
通過(guò)測(cè)試可以發(fā)現(xiàn),由于OpenAI設(shè)置了道德性的防火墻,因此直接要求ChatGPT生產(chǎn)釣魚郵件會(huì)被拒絕,但是如果設(shè)置在一種虛構(gòu)情境下,ChatGPT會(huì)給出相應(yīng)的回答。
當(dāng)前,多地公安局已發(fā)布相關(guān)信息提醒稱,境外有人使用ChatGPT創(chuàng)建了完整的“釣魚郵件”感染鏈,而且不同以往的廣撒網(wǎng)式的網(wǎng)絡(luò)釣魚,它在提問(wèn)者的誘導(dǎo)下,可以生成針對(duì)特定人或者組織的“魚叉式”網(wǎng)絡(luò)釣魚郵件。
這種釣魚郵件更具有欺騙性和迷惑性,郵件接收方將更容易上當(dāng)受騙,接收者一旦點(diǎn)擊該郵件,系統(tǒng)就會(huì)被惡意代碼感染中毒。
ChatGPT對(duì)寫作釣魚郵件的回答
網(wǎng)絡(luò)安全公司奇安信告訴界面新聞?dòng)浾?,寫出色的網(wǎng)絡(luò)釣魚電子郵件是一門藝術(shù)和科學(xué),借助ChatGPT,編寫釣魚郵件會(huì)變得更容易,總體來(lái)看,借助ChatGPT創(chuàng)造的釣魚郵件,具有高欺騙性、高回報(bào)比、低技術(shù)門檻等三大特征。
首先,ChatGPT類釣魚郵件更具有欺騙性和迷惑性。例如“使郵件看起來(lái)很緊急”、“收件人點(diǎn)擊鏈接的可能性很高的郵件”、“請(qǐng)求匯款的社工郵件”等等。
其次,ChatGPT生成網(wǎng)絡(luò)誘餌顯著提升了攻擊者的回報(bào)比。不同于普通網(wǎng)絡(luò)釣魚需要發(fā)送數(shù)百萬(wàn)個(gè)誘餌,利用ChatGPT可以創(chuàng)建更具針對(duì)性和定制化的誘餌,從而實(shí)現(xiàn)事半功倍的效果。
并且,ChatGPT使用的低門檻讓普通黑客也能制造出武器化的釣魚郵件。網(wǎng)絡(luò)安全公司Darktrace曾指出,人們只要提示到位,ChatGPT就能輕松創(chuàng)建出數(shù)十份具有針對(duì)性的詐騙電子郵件。
用AI偽造“網(wǎng)戀對(duì)象”
或許這聽(tīng)起來(lái)很荒謬,但不得不相信并警惕的是,如今網(wǎng)戀對(duì)象的照片也可能是由AI虛構(gòu)的。
早于ChatGPT火起來(lái)的AI繪圖應(yīng)用能讓人們只需要輸入幾個(gè)關(guān)鍵詞就得到一副不錯(cuò)的畫作。如今,這類模型已經(jīng)進(jìn)化到可以生成類似真人照片的程度。
據(jù)揚(yáng)子晚報(bào)報(bào)道,近日,網(wǎng)絡(luò)上傳播起一則“蘇州金雞湖有游艇女仆party”的消息,網(wǎng)傳宣傳海報(bào)顯示,參加活動(dòng)的收費(fèi)是3000元一位,將有一對(duì)一女仆陪身等服務(wù),并配有一張性感女仆照片。
由AI生成的“女仆”照片 圖源:揚(yáng)子晚報(bào)
報(bào)道中稱,這場(chǎng)所謂的“女仆party”可能是全國(guó)第一起AI繪圖詐騙。活動(dòng)給出的女仆照片全是AI模仿真人照片的繪圖,部分女仆照片手指部分存在異常,由于手指部分的繪畫算法比較復(fù)雜,部分AI模型在繪畫時(shí)經(jīng)常出現(xiàn)問(wèn)題,符合AI繪畫的特征。
1月20日,蘇州警方表示稱,已關(guān)注到網(wǎng)傳的“金雞湖女仆游艇party”事件,并且約談了消息發(fā)布者。
類似的AI作圖詐騙在國(guó)外也已有發(fā)生。據(jù)英國(guó)廣播公司報(bào)道,土耳其地震期間,有Tiktok用戶使用AI合成了兒童受災(zāi)的假照片發(fā)布到網(wǎng)絡(luò),以此誘騙善良的人打賞“捐助”從而實(shí)施詐騙。
用深度合成偽造親人的臉
除了造一張全新的臉,為了獲取你的信任,AI還能夠偽造一張你的親朋好友的臉。
2022年2月,據(jù)新華視點(diǎn)報(bào)道,一位陳先生到浙江省溫州市公安局甌海分局仙巖派出所報(bào)案稱,自己被“好友”詐騙了近5萬(wàn)元。經(jīng)警方核實(shí),詐騙分子利用陳先生好友“阿誠(chéng)”在社交平臺(tái)已發(fā)布的視頻,截取其面部視頻畫面后再利用“AI換臉”技術(shù)合成,制造陳先生與“好友”視頻聊天的假象騙取其信任,從而實(shí)施詐騙。
溫州公安也曾發(fā)布消息,2021年拱宸橋派出所接到報(bào)警,受害人小陳稱他在與女網(wǎng)友視頻聊天后被對(duì)方敲詐勒索。經(jīng)警方調(diào)查,對(duì)方利用AI換臉技術(shù),將小陳視頻中的面部合成到不雅視頻中,借此對(duì)其實(shí)施勒索。
“深度偽造”基于深度學(xué)習(xí)技術(shù)快速制造“以假亂真”級(jí)別的數(shù)字內(nèi)容,因而得名。深度學(xué)習(xí),尤其是神經(jīng)網(wǎng)絡(luò)算法模型,在數(shù)據(jù)處理方面天賦稟異,可以學(xué)習(xí)在不同角度、不同光源下的人類面部特征,自動(dòng)定位人臉?lè)秶c五官,以便對(duì)面部進(jìn)行修改和轉(zhuǎn)移。
這項(xiàng)技術(shù)自誕生以來(lái),已被許多犯罪分子用于詐騙。馬斯克、扎克伯格以及特朗普等名人的臉都曾被不法分子用AI換臉技術(shù)惡搞或?qū)嵤┰p騙。《華爾街日?qǐng)?bào)》報(bào)道稱,2019年3月,犯罪分子使用深度偽造技術(shù)模擬了德國(guó)某能源公司CEO的聲音,成功從該公司發(fā)英國(guó)分公司詐騙了22萬(wàn)歐元。無(wú)獨(dú)有偶,騙子運(yùn)營(yíng)的“假靳東”抖音賬號(hào)以明星人設(shè)騙取中老年婦女的信任及金錢。
并且,隨著技術(shù)進(jìn)步,這項(xiàng)看起來(lái)工程量巨大的技術(shù)如今正變得越來(lái)越容易。
國(guó)內(nèi)AI公司瑞萊智慧副總裁唐家渝曾對(duì)界面新聞?dòng)浾弑硎荆缃駱I(yè)內(nèi)已經(jīng)有很多成熟的生成類軟件工具。并且現(xiàn)在很多代表性的生成方法已經(jīng)被開(kāi)源,技術(shù)走向公開(kāi)和輕量化,也有黑產(chǎn)分子售賣AI換臉軟件及教程。普通人很快就能上手,通常生成一段用于身份核驗(yàn)的動(dòng)態(tài)換臉視頻,十幾分鐘就可以實(shí)現(xiàn)。
隨著人工智能技術(shù)在多個(gè)維度上的進(jìn)步,詐騙分子在文本、圖片和視頻的偽裝都有了強(qiáng)大的工具。
McAfee報(bào)告中提到,通常人們?cè)谝韵聨追N情形時(shí)可能會(huì)意識(shí)到自己正在被騙:在意識(shí)到對(duì)方不能線下見(jiàn)面,也不能視頻聊天時(shí);在網(wǎng)上找到騙子的照片后;對(duì)方不能在談話中提供詳細(xì)的個(gè)人信息時(shí);對(duì)方不想打電話時(shí);對(duì)方的談話前后矛盾時(shí)。而最新的AI技術(shù)顯然已經(jīng)能輕易讓詐騙分子踏過(guò)這些“紅線”。
在預(yù)防AI帶來(lái)的風(fēng)險(xiǎn)方面,中國(guó)傳媒大學(xué)政法學(xué)院法律系副主任鄭寧建議,首先是相互提示,共同預(yù)防。親戚朋友間要互相提示,相互宣傳,因中老年人被騙較多,青年人要及時(shí)做好家中老人的宣傳防范工作,提醒、告誡老年人接到電話、收到短信,只要是不認(rèn)識(shí)、不熟悉的人和事,均不要理睬,以免被誘被騙。
“其次是拒絕誘惑,民眾應(yīng)當(dāng)避免占便宜心理,警惕陌生人提供的好處;再次是謹(jǐn)慎處理金錢交易,無(wú)法確認(rèn)對(duì)方身份時(shí),拒絕交易;最后是保護(hù)網(wǎng)絡(luò)賬號(hào)及密碼、手機(jī)號(hào)、身份證、家庭住址、親屬關(guān)系等個(gè)人敏感信息,不隨意提供上述敏感信息。”鄭寧說(shuō)。
關(guān)鍵詞:
- 十幾分鐘可換臉,你的網(wǎng)戀對(duì)象和朋友視頻可能都是假的
- 美國(guó)得州一放射性裝置丟失 當(dāng)?shù)毓賳T發(fā)出警告
- 兩會(huì)·她力量丨羅布央宗代表:發(fā)展邊境特色產(chǎn)業(yè) 助推鄉(xiāng)村振興
- 世界微速訊:德國(guó)服務(wù)行業(yè)工會(huì)組織罷工,三大機(jī)場(chǎng)13日當(dāng)天無(wú)商業(yè)航班起飛
- 環(huán)球即時(shí):韓國(guó)被強(qiáng)征勞工受害者拒絕接受政府提出的第三方代賠方案
- 快資訊丨時(shí)政微周刊丨總書記的一周(3月6日—3月12日)
- 世界要聞:“中字頭”再爆發(fā)!萬(wàn)億巨無(wú)霸漲停 人民幣大漲600點(diǎn) 比特幣也大回血
- 世界簡(jiǎn)訊:主力復(fù)盤:27億搶籌軟件 近7億拉升浪潮信息
- 又崩一家?歐洲裕信銀行跌到停牌 多家上市公司披露存款情況
- 全球動(dòng)態(tài):晶方科技:“集成電路12英寸TSV及異質(zhì)集成智能傳感器模塊項(xiàng)目”進(jìn)展順利 汽車電子領(lǐng)域完成新產(chǎn)線建設(shè)
- 每日信息:護(hù)熊貓、栽竹忙、享春光 濟(jì)南動(dòng)物園舉辦“我為大熊貓種竹子”活動(dòng)
- 當(dāng)前視點(diǎn)!2022年報(bào)營(yíng)收增長(zhǎng)260% 諾輝健康獲批“摘B”
- 每日速看!優(yōu)機(jī)股份:將加大對(duì)高端油氣化工閥門等產(chǎn)品的研發(fā)投入 實(shí)現(xiàn)裝備制造升級(jí)
- 今日精選:科士達(dá):公司計(jì)劃在穩(wěn)步發(fā)展數(shù)據(jù)中心IDC業(yè)務(wù)的基礎(chǔ)上 積極拓展新能源業(yè)務(wù)
- 當(dāng)前快看:關(guān)睿怡(關(guān)睿怡是哪里人啊?)
- 科技賦能 創(chuàng)新發(fā)展丨豹紋媽媽受邀出席中國(guó)化妝品科技成果交流會(huì)
- 天天快看點(diǎn)丨緊急!孕婦獨(dú)自產(chǎn)檢意外發(fā)現(xiàn)宮頸機(jī)能不全,護(hù)士墊資 1 元迅速辦理住院手續(xù)
- 全球今頭條!磴口縣公安局開(kāi)展“三八”國(guó)際勞動(dòng)?jì)D女節(jié)反拐宣傳活動(dòng)
- 天天新資訊:冬筍是什么食物?有什么作用?
- 天天消息!冷面湯如何調(diào)配?需要準(zhǔn)備什么食材?
- 低碳菜單引領(lǐng)寧波餐飲消費(fèi)新風(fēng)尚 試點(diǎn)將持續(xù)至今
- 深圳坪山打造餐飲服務(wù)食品安全示范高地 嚴(yán)守食品
- 黑龍江哈爾濱推出“沙盒”監(jiān)管新模式 激發(fā)市場(chǎng)活
- 第三季度全國(guó)消協(xié)受理投訴數(shù)量同比增10.02% 食品
- 北京懷柔對(duì)機(jī)動(dòng)車檢測(cè)機(jī)構(gòu)開(kāi)展監(jiān)督抽查 規(guī)范機(jī)動(dòng)
- 天津北辰扎實(shí)做好價(jià)格監(jiān)管工作 維護(hù)安全有序市場(chǎng)
- 北京石景山開(kāi)展冬季供暖前特種設(shè)備安全專項(xiàng)檢查
- 陜西延安:開(kāi)展兒童化妝品專項(xiàng)檢查 規(guī)范化妝品市
- 北京海淀開(kāi)展商品條碼專項(xiàng)監(jiān)督檢查 努力打造穩(wěn)定
- 金華推進(jìn)網(wǎng)絡(luò)直播營(yíng)銷治理顯成效 培育放心消費(fèi)直
- 1 十幾分鐘可換臉,你的網(wǎng)戀對(duì)象和朋友視頻可能都是假
- 2 美國(guó)得州一放射性裝置丟失 當(dāng)?shù)毓賳T發(fā)出警告
- 3 兩會(huì)·她力量丨羅布央宗代表:發(fā)展邊境特色產(chǎn)業(yè) 助
- 4 世界微速訊:德國(guó)服務(wù)行業(yè)工會(huì)組織罷工,三大機(jī)場(chǎng)13
- 5 環(huán)球即時(shí):韓國(guó)被強(qiáng)征勞工受害者拒絕接受政府提出的
- 6 快資訊丨時(shí)政微周刊丨總書記的一周(3月6日—3月12
- 7 世界要聞:“中字頭”再爆發(fā)!萬(wàn)億巨無(wú)霸漲停 人民
- 8 世界簡(jiǎn)訊:主力復(fù)盤:27億搶籌軟件 近7億拉升浪潮信息
- 9 又崩一家?歐洲裕信銀行跌到停牌 多家上市公司披露
- 10 全球動(dòng)態(tài):晶方科技:“集成電路12英寸TSV及異質(zhì)集成