您的位置:首頁 >國際 >

天天快看點丨AI換臉除了詐騙還有哪些風險?專家:各傳播平臺也應擔責

2023-05-26 13:17:45    來源:杭州網(wǎng)

潮新聞報道10分鐘,被詐騙分子通過AI換臉化身“好友”,騙走430萬元——這是近日“平安包頭”微信公眾號公布的一位受害者的經(jīng)歷。相關話題登上熱搜,引發(fā)網(wǎng)友關注。

AI換臉,即通過人工智能技術,將視頻中某個人物的臉輕易替換成另一個人的臉。利用AI換臉,普通人可以感受娛樂氛圍、影視作品能獲得創(chuàng)意效果。但是,當AI換臉技術被不法分子利用,也帶了詐騙等危害……

AI換臉的應用邊界在哪里?普通人應該如何防范AI換臉帶來的風險?


【資料圖】

AI換臉詐騙不時發(fā)生

有人10分鐘被騙430萬元

你也許已經(jīng)看過了包頭市公安局通過“平安包頭”微信公眾號公布的這起電信詐騙案例:

來自福建的郭先生是一家科技公司法人代表。今年4月,他的好友突然通過微信視頻聯(lián)系他,稱自己在外地投標,需要430萬元保證金,想借用郭先生公司的賬戶走一下賬。

基于對好友的信任,加上視頻聊天中“核實”了身份,10分鐘后,郭先生分兩筆把430萬元給對方打了過去。而后,郭先生撥打好友電話,對方說沒有這回事,他這才意識到竟然遇上了“高端”騙局,對方通過智能AI換臉技術,佯裝成好友對他實施了詐騙。

“從頭到尾都沒有和我提借錢的事情,就說會先把錢給我打過來,再讓我給他朋友賬戶轉(zhuǎn)過去,而且當時是給我打了視頻的,我在視頻中也確認了面孔和聲音,所以才放松了戒備。”郭先生說。

事實上,郭先生的遭遇并非單一案例,近年來, 利用AI換臉、AI擬聲等技術進行的詐騙不時發(fā)生。

據(jù)公安部網(wǎng)安局公布的消息,2020年12月,某公司財務小王接到領導電話,要求立刻給供應商轉(zhuǎn)款2萬元。由于老板的口音十分逼真,小王信以為真,在1小時內(nèi)轉(zhuǎn)款完成,后發(fā)現(xiàn)被騙。

浙江溫州市公安局曾發(fā)布案例,2021年拱宸橋派出所接到報警,受害人小陳與女網(wǎng)友視頻聊天后,被對利用AI換臉技術,將小陳視頻中的面部合成到不雅視頻中,借此對其實施勒索。

不法分子如何利用AI換臉詐騙?北京師范大學法學院博士生導師、中國互聯(lián)網(wǎng)協(xié)會研究中心副主任吳沈括表示,在技術上,這類詐騙往往通過非法獲取他人個人數(shù)據(jù),以及運用各種黑灰軟件來替換數(shù)據(jù)信息來實現(xiàn)。

浙江金道律師事務所律師夏文忠在接受潮新聞記者采訪時,分享了曾代理過的一個案例細節(jié):當詐騙分子加上受害人微信后,只需一個電腦插件就可以在社交軟件聊天時篡改講話聲音,甚至形象,“受害人聽到的柔美女聲,實際上來自一個五大三粗的男子?!?/p>

“這類案件中,不法分子利用AI換臉,偽造事實、隱瞞真相,使被害人陷入錯誤的認識,從而交付財物,涉嫌詐騙罪,需要加倍警惕?!?夏文忠表示。

AI換臉并不新鮮

普通人娛樂、主播帶貨已經(jīng)有之

AI換臉早已不是新鮮事,除了變“熟人臉”實施詐騙,已應用至多個領域。

比如,在日常生活中,不少網(wǎng)友體驗過娛樂性的AI換臉。早在2019年,一款名為“ZAO”的AI換臉軟件就曾風靡網(wǎng)絡,只需上傳一張照片就能讓普通人成為影視劇的男女主角,出演經(jīng)典電影片段、甚至跟偶像飆戲,受到眾多網(wǎng)友的體驗追捧。不過,短時間內(nèi),這款軟件就因侵犯版權、侵害隱私、危害數(shù)據(jù)安全等問題,被下架處理。

而當前,在手機應用商店搜索關鍵詞,依然有許多和AI換臉有關的app。記者隨意下載了兩款app,都只需上傳一張正臉照片,便可將妝發(fā)造型姣好的視頻或圖片模板替換為自己的臉龐。

AI換臉也被應用于影視行業(yè)。在《三千鴉殺》《了不起的兒科醫(yī)生》《長安十二時辰》等影視作品中,都因為原演員問題,部分角色用到了AI換臉技術。

吳沈括表示,在內(nèi)容產(chǎn)業(yè)上,AI換臉有它的優(yōu)勢和價值,比如,豐富了人們的文化娛樂生活等,但同時它的風險不容忽視,這些風險既包括對于他人個人數(shù)據(jù)的非法使用、非法處理,也包括傳播虛假信息、詐騙或者其他違法犯罪活動。

在風險層面,今年4月,擁有148萬多粉絲的網(wǎng)絡博主@Caro賴賴 通過微博公開發(fā)文,曝光了自己的臉被盜用的經(jīng)歷。不法分子用她的臉,通過AI換臉制作不雅視頻并從中牟利。當她追根究底,卻發(fā)現(xiàn)分發(fā)視頻的賬號都是海外IP,溯源困難。

今年5月,有媒體報道,當不少網(wǎng)友點開直播間,發(fā)現(xiàn)正在賣貨的竟是“楊冪”“迪麗熱巴”等一些當紅女星。但仔細觀察后發(fā)現(xiàn),這些帶貨的“明星”,實際上只是使用了AI實時換臉的普通主播。

“無論是普通人用APP一鍵換臉,還是普通主播用明星臉帶貨,甚至不法分子盜用網(wǎng)紅臉制作不雅視頻,AI換臉技術的部分濫用很有可能會侵犯到他人的肖像權、名譽權,甚至可能構成刑事犯罪?!?因此,夏文忠表示,對于AI換臉風險的管控不可忽視。

普通人如何應對AI換臉風險?

律師、專家提醒:提高警惕,必要時可訴諸法律

面對AI換臉帶來的詐騙等風險,應該怎么防? 夏文忠認為,加強監(jiān)管、健全立法是重要手段。

目前,我國已出臺的《民法典》第1019條明確規(guī)定,任何組織或者個人不得以丑化、污損,或者利用信息技術手段偽造等方式侵害他人的肖像權。

去年12月,國家網(wǎng)信辦、工信部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》,對人臉生成、人臉替換等都有明確約束。其中明確,深度合成服務提供者和技術支持者提供人臉、人聲等生物識別信息編輯功能的,應當提示深度合成服務使用者依法告知被編輯的個人,并取得其單獨同意。

今年4月11日,國家網(wǎng)信辦也出手,為生成式人工智能“立規(guī)矩”,公布了《生成式人工智能服務管理辦法(征求意見稿)》,其中提到,AI內(nèi)容必須真實準確,還明確提到,禁止非法獲取、披露、利用個人信息和隱私、商業(yè)秘密。

夏文忠還認為,除此之外,各網(wǎng)絡平臺對于AI換臉的應用也應當擔負起責任?!澳壳?,推出AI換臉功能的平臺以及允許AI換臉相關內(nèi)容傳播的平臺,都應該加強審核,以避免AI技術被不法分子利用,以及避免損害公民肖像、名譽權等。”

此外,對普通個人而言,夏文忠也建議,無論是否遭遇AI換臉詐騙,現(xiàn)實生活中,只要涉及匯款轉(zhuǎn)賬,就都應該提高警惕,通過多個渠道核實對方身份與信息。此外,如果遇到被AI換臉損害了肖像、名譽權等,也要勇于站出來,讓對方以及平臺刪除相關內(nèi)容并賠禮道歉,必要時也可以尋求警方幫助,甚至進行訴訟。

針對個人而言,吳沈括也建議,要加強數(shù)字素養(yǎng),提高自身使用數(shù)字工具的安全意識和安全能力;同時,增強自我保護意識,防止個人信息的泄露;此外,也要提升法治意識,對詐騙等違法違規(guī)行為保持警惕,加強維權能力和意識。

關鍵詞:

相關閱讀

主站蜘蛛池模板: 好大灬好硬灬好爽灬| 欧美怡红院高清在线| 国产乱淫a∨片免费视频| 18禁黄网站禁片无遮挡观看| 妇女性内射冈站HDWWWCOM| 久久亚洲sm情趣捆绑调教| 中文字幕不卡在线高清| 香蕉视频免费在线播放| 国产精品视频一区二区三区不卡| 一个人看www免费高清字幕| 无限资源视频手机在线观看| 久热这里只精品99国产6_99| 欧美性受xxxx狂喷水| 亚洲精品成人网站在线观看 | 性高湖久久久久久久久aaaaa| 久久国产高潮流白浆免费观看| 欧美乱色理伦片| 亚洲欧美日韩综合久久久久| 男高中生大粗吊gvlive| 又粗又硬又大又爽免费观看 | 和几个女同事的激情性事| 野花香社区在线视频观看播放| 国产真实乱16部种子| 69av视频在线观看| 国语精品视频在线观看不卡| h小视频在线观看| 少妇无码太爽了在线播放| 中文字幕免费在线播放| 日本在线高清版卡免v| 九九热精品免费| 欧美三级免费观看| 亚洲国产精品久久久久秋霞小| 欧美黑人换爱交换乱理伦片| 人人爽天天爽夜夜爽曰| 第九色区AV天堂| 制服丝袜怡红院| 美国玩尿眼道videos| 国产V亚洲V天堂无码久久久| 草莓视频app在线播放| 国产人妖tscd合集| 韩国伦理s级在线|