北京商報訊(記者劉四紅)前一陣火爆全網(wǎng)的AI換臉還記得嗎?但有人卻未經(jīng)同意定制“AI換臉”視頻,還賣教程進行非法牟利,如今這一行為也迎來法院宣判。
8月23日,杭州互聯(lián)網(wǎng)法院發(fā)布消息稱,近日,杭州互聯(lián)網(wǎng)法院組成七人合議庭,對公益訴訟起訴人杭州市蕭山區(qū)人民檢察院訴虞某個人信息保護民事公益訴訟案公開開庭審理,判令被告虞某刪除非法獲取的個人信息,公開賠禮道歉、消除影響并賠償損失共60000元。
被告虞某服從法院判決,現(xiàn)已履行道歉、賠償義務(wù)等民事責(zé)任。賠償金額將專門用于個人信息保護、人臉深度合成技術(shù)不當(dāng)應(yīng)用的治理等公益事項。
據(jù)了解,2021年左右開始,虞某使用換臉軟件(技術(shù))深度合成偽造視頻和圖片,未經(jīng)相關(guān)信息主體同意,大量搜集、提取、替換、合成、存儲他人人臉敏感信息等個人信息,并將深度合成偽造視頻、圖片發(fā)布于2000多人的多個社交軟件群組中,同時,其為他人提供不特定主體的人臉替換定制服務(wù),并為牟利對外銷售換臉軟件、傳授換臉技術(shù)教程,獲得非法利益數(shù)萬余元。
而上述行為已構(gòu)成對個人信息權(quán)益的侵害。杭州互聯(lián)網(wǎng)法院經(jīng)審理認為,人臉信息屬于敏感個人信息中至為重要的生物識別信息,關(guān)系到每個個體的人格尊嚴(yán)、人身安全和財產(chǎn)安全。人臉信息的濫用牽涉到不特定社會群體的公共利益。
虞某將合成偽造的視頻、圖片在人數(shù)眾多的網(wǎng)絡(luò)群組中發(fā)布,傳播可能性高、影響范圍大,使得潛在的社會不特定群體可能成為受侵害的對象,更可能導(dǎo)致公眾形成“眼見不為實”的心理預(yù)期,破壞互聯(lián)網(wǎng)數(shù)字世界中社會共同體的信任。法院認定虞某對于人臉深度合成技術(shù)的濫用行為,損害了社會公共利益,判決其承擔(dān)停止侵害、賠償損失、賠禮道歉的民事責(zé)任。
北京商報記者了解到,“AI換臉”背后采用的是深度合成技術(shù),利用深度學(xué)習(xí)、虛擬現(xiàn)實等生成合成類算法,制作圖像、音頻、視頻等信息,目前在社交、影視、廣告、醫(yī)療等諸多領(lǐng)域不斷深化應(yīng)用,有較大的技術(shù)價值和商用潛力,不過也存在著一定的安全隱患,“雙刃劍”效應(yīng)明顯。
除了侵犯個人信息權(quán)益外,今年來利用AI技術(shù)實施的新型電信詐騙模式,也已呈現(xiàn)高發(fā)態(tài)勢,就在前一陣,“AI詐騙成功率接近100%”“科技公司老板10分鐘被騙430萬元”等話題接連登上熱搜,也引發(fā)了用戶對于新型技術(shù)應(yīng)用的討論。
易觀分析金融行業(yè)高級咨詢顧問蘇筱芮表示,目前市場上個人未經(jīng)同意定制“AI換臉”視頻,涉嫌對他人肖像權(quán)的侵犯。法院判定對目前AI技術(shù)在換臉行為中的濫用構(gòu)成了警示作用,除此之外,目前市場上在個人信息領(lǐng)域中還有“一鍵脫衣”等技術(shù)對女性肖像構(gòu)成侵害。在她看來,后續(xù)對于此類行為,一方面需要從源頭規(guī)范此類提供AI技術(shù)的軟件、小程序,對于非法使用AI技術(shù)的App應(yīng)用、小程序等及時下架,另一方面也要加大對此類法律案件的宣傳力度,通過樹立一批大案、要案等震懾市場。
另外,中國互聯(lián)網(wǎng)協(xié)會5月也發(fā)文稱,伴隨著深度合成技術(shù)的開放開源,深度合成產(chǎn)品和服務(wù)逐漸增多,利用虛假音視頻,進行詐騙、誹謗的違法行為屢見不鮮。面對利用AI技術(shù)的新型騙局,廣大公眾需提高警惕,加強防范。
杭州互聯(lián)網(wǎng)法院也稱,技術(shù)的運用是把雙刃劍,用之為善可以造福社會,不當(dāng)濫用則會造成社會風(fēng)險和損害。對于換臉軟件等深度合成技術(shù)應(yīng)用的規(guī)制應(yīng)當(dāng)從其參與者入手,包括發(fā)明者、應(yīng)用者、傳播者等方面,以規(guī)制深度合成技術(shù)使用目的為路徑,實現(xiàn)深度合成技術(shù)的合理使用,避免該技術(shù)對個人、社會、國家造成諸多方面的風(fēng)險。同時,也需要引導(dǎo)技術(shù)開發(fā)、應(yīng)用者自覺遵守法律規(guī)定和科技倫理道德,培育積極健康、向上向善的研發(fā)、應(yīng)用環(huán)境,保護和鼓勵新興智能技術(shù)的有益探索。
關(guān)鍵詞: 北京商報 個人信息 AI換臉 杭州互聯(lián)
- 用“AI換臉”非法牟利數(shù)萬元,法院判了!
- 螞蟻集團將在海淀區(qū)設(shè)立創(chuàng)新科技總部|今日聚焦
- 品味草“香”
- 內(nèi)蒙古彩陶坡遺址出土紅山文化早期龍形蚌飾
- 星空有約丨27日土星沖日,“指環(huán)”光彩奪目
- 開學(xué)禮物
- 重大氣象災(zāi)害(暴雨)Ⅳ響應(yīng)!雙休湖北將遭遇強降水,風(fēng)力高達10級
- 全球快看點丨淅川法院:業(yè)務(wù)學(xué)習(xí)常態(tài)化 提升能力促質(zhì)效
- ?商城縣伏山鄉(xiāng)多舉措做好鄉(xiāng)鎮(zhèn)檔案管理工作-環(huán)球頭條
- ?光山公安:服務(wù)群眾有真情 炎炎夏日亦“清涼”
- 南陽宛城法院:公眾號轉(zhuǎn)載圖文侵犯明星肖像權(quán) 網(wǎng)文自由但非法外之地 環(huán)球最資訊
- 真相 | 夏威夷大火悲劇重演,美政府卻依然“手足無措”
- 通訊:美國商家抱怨對華“脫鉤”損害各方利益
- 【中國網(wǎng)評】禍水東引?亞太國家不歡迎“小北約”
- 排污入海危害世界 日本必將付出代價
- 【成語漫話世界】本末倒置
- 谷神星一號遙八運載火箭發(fā)射成功
- 財政部、稅務(wù)總局:繼續(xù)實施公共租賃住房稅收優(yōu)惠政策
- 陜西延川新泰煤礦閃爆事故相關(guān)責(zé)任人已被控制
- 11歲的網(wǎng)紅爵士樂鋼琴手 發(fā)明小機器人來伴奏

- 北京“一日游”新服務(wù)質(zhì)量要求將于10月1日起正式實
- 青海:囊謙縣委書記石大存赴東壩鄉(xiāng)調(diào)研
- 熱門:國內(nèi)油價調(diào)價窗口26日開啟 或迎來“三連漲”
- ?息縣2023年省級文明單位授牌儀式暨全縣精神文明建
- ?羅山法院開展“我們的節(jié)日·七夕”主題系列活動
- 當(dāng)前速看:河南柘城:提升服務(wù)水平 方便群眾辦事
- 供求兩端加快復(fù)蘇 出境游激發(fā)消費潛力 全球熱訊
- 天天百事通!鎮(zhèn)平縣法院:執(zhí)行干警拉下財產(chǎn)轉(zhuǎn)移的“
- 遂平縣文城鄉(xiāng)開展宗教活動場所安全隱患排查整治工作
- ?西平縣專探鄉(xiāng)雙河村委召開“兩委”干部集中培訓(xùn)會
- 1 用“AI換臉”非法牟利數(shù)萬元,法院判了!
- 2 螞蟻集團將在海淀區(qū)設(shè)立創(chuàng)新科技總部|今日聚焦
- 3 品味草“香”
- 4 內(nèi)蒙古彩陶坡遺址出土紅山文化早期龍形蚌飾
- 5 星空有約丨27日土星沖日,“指環(huán)”光彩奪目
- 6 開學(xué)禮物
- 7 重大氣象災(zāi)害(暴雨)Ⅳ響應(yīng)!雙休湖北將遭遇強降水
- 8 全球快看點丨淅川法院:業(yè)務(wù)學(xué)習(xí)常態(tài)化 提升能力促
- 9 ?商城縣伏山鄉(xiāng)多舉措做好鄉(xiāng)鎮(zhèn)檔案管理工作-環(huán)球頭
- 10 ?光山公安:服務(wù)群眾有真情 炎炎夏日亦“清涼”