3月18日，網(wǎng)信辦、公安部宣布，針對近期未履行安全評估程序的語音社交軟件和涉“深度偽造”技術(shù)的應(yīng)用，國家互聯(lián)網(wǎng)信息辦公室、公安部指導(dǎo)地方網(wǎng)信部門、公安機(jī)關(guān)依法約談映客、阿里等11家企業(yè)。

當(dāng)下不少語音社交和AI換臉的產(chǎn)品一上線就成為爆款，但涉及用戶隱私泄露、內(nèi)容是否合規(guī)等問題也被曝光，隨即被下架。針對此類產(chǎn)品，相關(guān)部門強(qiáng)化安全評估，這給平臺提出了更高的安全挑戰(zhàn)，但對保護(hù)用戶個人信息、打擊違法違規(guī)內(nèi)容傳播則是直接利好。

開展安全評估

據(jù)國家互聯(lián)網(wǎng)信息辦公室官方微信公眾號“網(wǎng)信中國”披露：針對近期未履行安全評估程序的語音社交軟件和涉“深度偽造”技術(shù)的應(yīng)用，國家互聯(lián)網(wǎng)信息辦公室、公安部指導(dǎo)北京、天津、上海、浙江、廣東等地方網(wǎng)信部門、公安機(jī)關(guān)依法約談映客、小米、快手、字節(jié)跳動、鯨準(zhǔn)數(shù)服、云賬戶、喜馬拉雅、阿里巴巴、網(wǎng)易云音樂、騰訊、去演等11家企業(yè)，督促其按照《網(wǎng)絡(luò)安全法》《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》等法律法規(guī)及政策要求，認(rèn)真開展安全評估，完善風(fēng)險(xiǎn)防控機(jī)制和措施，并對安全評估中發(fā)現(xiàn)的安全隱患及時(shí)采取有效整改措施，切實(shí)履行企業(yè)信息內(nèi)容安全主體責(zé)任。

根據(jù)《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》要求，出現(xiàn)具有輿論屬性或社會動員能力的信息服務(wù)上線，或者信息服務(wù)增設(shè)相關(guān)功能;使用新技術(shù)新應(yīng)用，使信息服務(wù)的功能屬性、技術(shù)實(shí)現(xiàn)方式、基礎(chǔ)資源配置等發(fā)生重大變更;用戶規(guī)模顯著增加等情形，互聯(lián)網(wǎng)信息服務(wù)提供者應(yīng)當(dāng)自行開展安全評估，對評估結(jié)果負(fù)責(zé)，并向網(wǎng)信部門和公安機(jī)關(guān)提交報(bào)告。網(wǎng)信部門和公安機(jī)關(guān)根據(jù)對安全評估報(bào)告的書面審查情況，認(rèn)為有必要的，應(yīng)當(dāng)依據(jù)各自職責(zé)對互聯(lián)網(wǎng)信息服務(wù)提供者開展現(xiàn)場檢查。

截至北京商報(bào)記者發(fā)稿，上述企業(yè)并未就此次約談對外回應(yīng)。

亂象愈演愈烈

說到語音社交和AI換臉，2021年國內(nèi)最火的應(yīng)用非“對話吧”和“螞蟻呀嘿”莫屬，前者是“Clubhouse中國版”，后者類似之前爆紅的“ZAO”。

按照對話吧項(xiàng)目負(fù)責(zé)人江宇航透露的信息，對話吧是2月3日晚上立項(xiàng)的，2月10日對話吧在蘋果和安卓應(yīng)用商店全部上線進(jìn)行內(nèi)測。2月20日，對話吧母公司映客CEO奉佑生邀請金沙江創(chuàng)投董事總經(jīng)理朱嘯虎、昆侖萬維CEO周亞輝等大佬在對話吧討論。當(dāng)天，對話吧在互聯(lián)網(wǎng)圈走紅。

沒過幾天，對話吧在蘋果和安卓應(yīng)用商店下架，對話吧相關(guān)人士對北京商報(bào)記者的解釋是：“目前是在進(jìn)行整體技術(shù)和形態(tài)的升級調(diào)整，技術(shù)產(chǎn)品人員在加班加點(diǎn)進(jìn)行更新。”截至北京商報(bào)記者發(fā)稿，對話吧沒有恢復(fù)上架。

2月底3月初，互聯(lián)網(wǎng)圈再因一系列“螞蟻呀嘿”搞笑短視頻沸騰。用戶在AI換臉軟件Avatarify上傳一張照片，就可以讓任何人實(shí)現(xiàn)變臉特效。操作簡單、畫面魔性諸多因素讓“螞蟻呀嘿”視頻在各大社交平臺瘋狂傳播，但不到一個星期，Avatarify遭遇下架。

Avatarify的經(jīng)歷和2019年上線的ZAO如出一轍。當(dāng)年ZAO上線僅一天，就在各大社交平臺刷屏，隨后在蘋果應(yīng)用商店的免費(fèi)App下載登頂。但3天后，ZAO被下架。

“Avatarify和ZAO涉及的問題一樣，主要是可能存在個人隱私數(shù)據(jù)泄露、侵權(quán)等隱患，也不排除數(shù)據(jù)被不法分子用于偽造照片或視頻實(shí)施詐騙等。”比達(dá)咨詢分析師李錦清向北京商報(bào)記者表示。

他進(jìn)一步說，“相比圖文社交，語音社交，尤其是像對話吧這樣的多人參與的語音群聊，在內(nèi)容安全性上更難把控，涉黃涉非等違法違規(guī)內(nèi)容更容易出現(xiàn)，且在現(xiàn)有技術(shù)條件下，隱蔽性更強(qiáng)，給平臺提出了安全合規(guī)挑戰(zhàn)”。

監(jiān)管未雨綢繆

事實(shí)上，上述問題一直是相關(guān)部門的關(guān)注重點(diǎn)。2019年9月，針對媒體公開報(bào)道和用戶曝光的ZAO App用戶隱私協(xié)議不規(guī)范，存在數(shù)據(jù)泄露風(fēng)險(xiǎn)等網(wǎng)絡(luò)數(shù)據(jù)安全問題，工業(yè)和信息化部網(wǎng)絡(luò)安全管理局9月3日對北京陌陌科技有限公司相關(guān)負(fù)責(zé)人進(jìn)行了問詢約談，要求其嚴(yán)格按照國家法律法規(guī)以及相關(guān)主管部門要求，組織開展自查整改，采取有效措施防范自有業(yè)務(wù)平臺被利用實(shí)施電信網(wǎng)絡(luò)詐騙等風(fēng)險(xiǎn)隱患。

“相比之下，傳統(tǒng)的圖文是審核最嚴(yán)格、流程最成熟的，巨頭互聯(lián)網(wǎng)公司都有上萬人巨大的審核團(tuán)隊(duì)，基本上杜絕了大的欺騙事件發(fā)生。短視頻時(shí)代出現(xiàn)了新的問題，比如騙子冒充明星行騙，監(jiān)管部門、視頻平臺還沒有做好確認(rèn)身份，剔除假信息的流程。不過2018-2019年視頻平臺加大投入，用AI和人工審核，基本上擦邊的色情暴力以及詐騙等審核也成熟很多。現(xiàn)在語音和人臉AI合成又出現(xiàn)了新問題，如果流行開來，肯定會造成假消息泛濫，沖擊正常的輿論空間，甚至被不法分子利用詐騙。”文淵智庫創(chuàng)始人王超總結(jié)。

王超還告訴北京商報(bào)記者，“目前來看，這類惡意語音和人臉AI合成制造假消息和詐騙還沒苗頭，但隨著這些技術(shù)進(jìn)一步發(fā)展，肯定會出現(xiàn)這一問題。監(jiān)管層未雨綢繆，很有遠(yuǎn)見，而且這個詐騙的逼真程度更高，就連高學(xué)歷高知識人群也辨別不了。不過，一定有技術(shù)可以識別這些虛假合成的語音和視頻，平臺總會想到簡單易行、成本較低的鑒別辦法的”。

國家互聯(lián)網(wǎng)信息辦公室、公安部表示，下一步將繼續(xù)指導(dǎo)各地網(wǎng)信部門和公安機(jī)關(guān)加大巡查檢查力度，督促屬地互聯(lián)網(wǎng)企業(yè)嚴(yán)格遵守相關(guān)法律法規(guī)，積極主動履行安全管理義務(wù)，切實(shí)履行企業(yè)主體責(zé)任，共同維護(hù)網(wǎng)絡(luò)傳播秩序，營造良好網(wǎng)絡(luò)生態(tài)。

關(guān)鍵詞： 隱私泄露 AI換臉 約談