以 ChatGPT 為代表的生成式 AI 橫空出世，層出不窮的新鮮應(yīng)用充斥在大眾視野里。AI 孫燕姿的歌聲剛落下，AI 已經(jīng)把高考作文從 0 分寫(xiě)到高分，緊接著妙鴨相機(jī)的 AI 拍照小程序就火爆全網(wǎng)。這些 AI 應(yīng)用激起了一系列擔(dān)憂：AI 在未來(lái)是否會(huì)讓自己下崗，AI 的創(chuàng)作是不是在抄襲……而更危險(xiǎn)的犯罪事件已經(jīng)出現(xiàn)，有人利用智能換臉和擬聲技術(shù)，假扮他人好友騙錢(qián)。

(資料圖)

面對(duì)生成式 AI 帶來(lái)的機(jī)遇和挑戰(zhàn)，各國(guó)對(duì)如何監(jiān)管 AI 有不同的意見(jiàn)。中國(guó)、美國(guó)、歐盟等國(guó)家或地區(qū)迅速做出反應(yīng)，而新加坡、印度則宣稱(chēng)，暫時(shí)不打算監(jiān)管 AI。

8 月 15 日，中國(guó)的《生成式人工智能服務(wù)管理暫行辦法》（下稱(chēng)“辦法”）正式施行，這被認(rèn)為是全球首部生成式 AI 立法。澎湃新聞對(duì)比了五個(gè)主要國(guó)家或地區(qū)最新推出的 AI 管理規(guī)范，發(fā)現(xiàn)多數(shù)文件不只是針對(duì)生成式 AI，而是涵蓋更大范圍的 AI；這些 AI 文件的力度和側(cè)重點(diǎn)有明顯不同，如歐盟對(duì)倫理和能源較為重視，中國(guó)更強(qiáng)調(diào)提供者的責(zé)任等。

AI 詐騙事件漸起

為何要監(jiān)管生成式 AI，或者說(shuō)更大范疇里的 AI？

如果對(duì)比 AI 與人類(lèi)的能力，我們會(huì)發(fā)現(xiàn) AI 已經(jīng)在逐漸超越人類(lèi)。一篇研究自然語(yǔ)言基準(zhǔn)評(píng)估的論文預(yù)印本顯示，十年前，還沒(méi)有 AI 能擁有等同于人類(lèi)水平的語(yǔ)言或圖像識(shí)別能力，但到了 2020 年，AI 的能力已經(jīng)能在所有領(lǐng)域的測(cè)試中擊敗人類(lèi)。

而生成式 AI 的能力，在不法分子的使用下，將更具有強(qiáng)大的破壞力。據(jù)中國(guó)公安部，2020 年以來(lái)就破獲 79 起“AI 換臉”的犯罪案件。

今年 5 月，受害者郭先生接到了“好友”的微信視頻電話，對(duì)方稱(chēng)外地投標(biāo)需要 430 萬(wàn)元。郭先生在視頻中確認(rèn)好友面孔和聲音后，放松了戒備，最終上當(dāng)受騙。

在美國(guó)，還發(fā)生了一場(chǎng)虛擬綁架騙局。受害者接到一通匿名電話，電話中傳來(lái)其女兒的哭泣尖叫聲。一名男子威脅受害者寄給自己 100 萬(wàn)美金。

“這顯然是她的聲音。”受害者在接受外媒采訪時(shí)表示，哭聲與抽泣讓她被這場(chǎng)騙局動(dòng)搖了，因?yàn)樽约号畠浩綍r(shí)內(nèi)向、克制，不是一個(gè)愛(ài)哭、愛(ài)尖叫的人。她不知道對(duì)方是怎樣得到了這段聲音。

“生成式 AI 具有價(jià)值觀屬性，一旦生成式 AI 模型在訓(xùn)練過(guò)程中引入偏見(jiàn)歧視等有害信息，在模型實(shí)際應(yīng)用中很可能呈現(xiàn)放大化輸出。另外，生成式 AI 具備可引導(dǎo)性，在與人類(lèi)‘對(duì)齊’的訓(xùn)練環(huán)節(jié)中不斷趨近人類(lèi)偏好，但同時(shí)也存在被不法分子惡意利用的風(fēng)險(xiǎn)。”西南政法大學(xué)人工智能法學(xué)院副院長(zhǎng)、教授馮子軒告訴澎湃新聞。

歐盟的 AI 法案涉及面最廣，提出環(huán)保要求

AI 的挑戰(zhàn)已然來(lái)臨，部分國(guó)家或地區(qū)開(kāi)始作出反應(yīng)。

目前只有中國(guó)正式通過(guò)了專(zhuān)門(mén)針對(duì)生成式 AI 的立法，其他國(guó)家或地區(qū)多是針對(duì)廣義 AI 的相關(guān)規(guī)范——其中多數(shù)是指導(dǎo)性文件。歐盟已經(jīng)通過(guò)《AI 法案》的草案，但距離正式生效還有數(shù)年；美國(guó)發(fā)布了 AI 風(fēng)險(xiǎn)管理框架，后續(xù)成立了生成式 AI 治理小組；英國(guó)發(fā)布《AI 監(jiān)管：一個(gè)支持創(chuàng)新的方式》，并征求公眾意見(jiàn)。

澎湃新聞梳理和對(duì)比了五個(gè)國(guó)家或地區(qū)最新推出的 AI 管理規(guī)范，以此觀察各國(guó)的監(jiān)管方向和策略。我們發(fā)現(xiàn)，中國(guó)和歐盟的管理規(guī)范較嚴(yán)格，涉及維度更廣，比如中國(guó)對(duì)數(shù)據(jù)標(biāo)注有明確要求：“在生成式人工智能技術(shù)研發(fā)過(guò)程中進(jìn)行數(shù)據(jù)標(biāo)注的，提供者應(yīng)當(dāng)制定符合本辦法要求的清晰、具體、可操作的標(biāo)注規(guī)則”。

歐盟還有針對(duì) AI 能耗環(huán)保問(wèn)題的條例，如“利用適用的標(biāo)準(zhǔn)來(lái)降低能源使用、資源使用和浪費(fèi)，以增加能源效率和系統(tǒng)整體效率”。

今年六月，歐盟正式批準(zhǔn)通過(guò)《AI 法案》草案，盡管該法案尚未正式生效，但其提出的治理方式也為其他國(guó)家或地區(qū)提供了參考，比如歐盟提出了分類(lèi)分級(jí)管理，將 AI 系統(tǒng)分為不可接受的風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、有限風(fēng)險(xiǎn)和極低風(fēng)險(xiǎn)等四種風(fēng)險(xiǎn)類(lèi)型，針對(duì)不同的風(fēng)險(xiǎn)系統(tǒng)會(huì)有不同的監(jiān)管措施。

不過(guò)，這些細(xì)則的落地仍有待進(jìn)一步的探討。“雖然歐盟《AI 法案》提出的分類(lèi)分級(jí)管理在一定程度上可供參考，但是生成式 AI 服務(wù)的分類(lèi)按什么維度去分類(lèi)？分級(jí)要分成幾級(jí)？相關(guān)的細(xì)則、標(biāo)準(zhǔn)仍然需要進(jìn)一步通過(guò)實(shí)踐來(lái)制定。”上海數(shù)據(jù)交易所研究員林梓瀚告訴澎湃新聞。

目前，歐盟嚴(yán)格的 AI 管理規(guī)范還遭到企業(yè)的抗議。據(jù)法新社報(bào)道，超 150 個(gè)企業(yè)發(fā)出警告，認(rèn)為歐盟的《AI 法案》可能會(huì)損害歐洲的競(jìng)爭(zhēng)力。

相比之下，美國(guó)、英國(guó)、韓國(guó)的管理較為寬松，韓國(guó)在 12 個(gè)細(xì)分維度里只涉及了 4 個(gè)，更多是抱持著讓 AI 行業(yè)自由發(fā)展的態(tài)度。西雅圖華盛頓大學(xué)技術(shù)政策實(shí)驗(yàn)室的創(chuàng)始聯(lián)合主任瑞安·卡洛（Ryan Calo）認(rèn)為美國(guó)的全國(guó)性 AI 管理文件只是“表面上的行動(dòng)，但沒(méi)有任何實(shí)質(zhì)性和約束力”。

此外，由于這些規(guī)范多是針對(duì)廣義的 AI，因此暫時(shí)較少涉及生成式 AI 爭(zhēng)議較多的兩個(gè)方面——AI 版權(quán)和 AI 生成標(biāo)識(shí)。起初，歐盟的《AI 法案》幾乎沒(méi)有提到聊天機(jī)器人，僅要求對(duì)其進(jìn)行標(biāo)記，以便用戶知道他們正在與機(jī)器進(jìn)行交互，后續(xù)在修訂中又補(bǔ)充了要求徹底記錄任何用于訓(xùn)練 AI 的版權(quán)材料，以方便內(nèi)容創(chuàng)作者決定是否追求賠償。

“傳統(tǒng)算法應(yīng)用的處理模式與應(yīng)用場(chǎng)景相對(duì)固定，有較為明確的服務(wù)邊界，但生成式 AI 應(yīng)用場(chǎng)景更為豐富，如 ChatGPT 產(chǎn)品幾乎可以處理自然語(yǔ)言領(lǐng)域的所有任務(wù)，如果延續(xù)針對(duì)固定用途信息服務(wù)的管理思路，將難以充分切合實(shí)際監(jiān)管需求。”馮子軒說(shuō)，她認(rèn)為《辦法》契合新技術(shù)新特性，有針對(duì)性地進(jìn)行制度設(shè)計(jì)。

規(guī)制還是發(fā)展 AI？不同國(guó)家的選擇不同

具體到《辦法》的細(xì)則，中國(guó)在生成式 AI 監(jiān)管方面有自己的特色設(shè)定，比如強(qiáng)調(diào)內(nèi)容治理方面的制度建設(shè)和積極引導(dǎo)、強(qiáng)調(diào)生成式 AI 提供者的責(zé)任。

“對(duì)生成式 AI 服務(wù)提供者要求依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，這是一個(gè)比較創(chuàng)新的界定，也會(huì)對(duì)實(shí)踐造成一些挑戰(zhàn)和爭(zhēng)議，核心命題在于 AI 生成的內(nèi)容，和以往人工控制的過(guò)程，會(huì)呈現(xiàn)一些新的不一定完全可以控制的特點(diǎn)，對(duì)于這點(diǎn)的內(nèi)容治理要求，是否應(yīng)該提供更多的容錯(cuò)、糾錯(cuò)空間，是值得后續(xù)進(jìn)一步探索和研究的問(wèn)題。”中國(guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心執(zhí)行主任劉曉春告訴澎湃新聞。

除了對(duì)內(nèi)容治理的要求，保障訓(xùn)練數(shù)據(jù)的合法性和質(zhì)量問(wèn)題也是一個(gè)難點(diǎn)。林梓瀚認(rèn)為，場(chǎng)外數(shù)據(jù)交易的來(lái)源合法性難以保障，公共數(shù)據(jù)以及企業(yè)系統(tǒng)生成的數(shù)據(jù)質(zhì)量也存在瑕疵，相關(guān)的司法案件頻發(fā)，一定程度上加劇了企業(yè)的合規(guī)風(fēng)險(xiǎn)。

企業(yè)如何按照《辦法》要求來(lái)保障訓(xùn)練數(shù)據(jù)質(zhì)量和用戶隱私？擁有自研語(yǔ)言大模型“大象 GPT”的印象筆記告訴澎湃新聞，“大象 GPT”訓(xùn)練的數(shù)據(jù)除了來(lái)自公共數(shù)據(jù)集之外，還包含來(lái)自印象筆記的自有公開(kāi)數(shù)據(jù)集，即用戶主動(dòng)授權(quán)的公開(kāi)收藏內(nèi)容及主動(dòng)發(fā)布的內(nèi)容。這些數(shù)據(jù)還會(huì)經(jīng)過(guò)進(jìn)一步的“清洗” 和“增強(qiáng)”，與公共數(shù)據(jù)集相比，保證了數(shù)據(jù)的多樣化和高質(zhì)量, 與知識(shí)管理領(lǐng)域更深度相關(guān)，因此也更有助于專(zhuān)有模型的訓(xùn)練和優(yōu)化。

“為了保護(hù)用戶的隱私，除了用戶必要的授權(quán)之外，我們還會(huì)對(duì)數(shù)據(jù)進(jìn)行脫敏處理，利用模型識(shí)別可能存在的任何個(gè)人可識(shí)別信息（PII， Personally Identifiable Information） 并加以去除或替換，確保數(shù)據(jù)中不包含任何可以識(shí)別個(gè)人身份的信息。”印象筆記說(shuō)。

盡管包括中國(guó)在內(nèi)的部分國(guó)家或地區(qū)在規(guī)制生成式 AI 的路上前進(jìn)，但還有另一部分國(guó)家表示暫時(shí)不想監(jiān)管 AI。

“我們目前沒(méi)有考慮監(jiān)管人工智能。在這個(gè)階段，很明顯我們希望能夠向行業(yè)學(xué)習(xí)。在我們決定是否需要從監(jiān)管方面做更多工作之前，要先了解人工智能的使用方式。”新加坡信息通信媒體發(fā)展局（IMDA）可信人工智能和數(shù)據(jù)主管李婉詩(shī)（Lee Wan Sie）接受 CNBC 采訪時(shí)說(shuō)。

印度持有類(lèi)似觀點(diǎn)。印度信息技術(shù)部部長(zhǎng)阿什溫尼·瓦什納（Ashwini Vaishnaw）在今年 4 月時(shí)稱(chēng)，政府目前并未考慮出臺(tái)任何法律來(lái)規(guī)范 AI 在印度的發(fā)展。

如此不同的 AI 治理理念，與當(dāng)?shù)氐娜丝诮Y(jié)構(gòu)、產(chǎn)業(yè)結(jié)構(gòu)和社會(huì)規(guī)范等都有關(guān)系。清華大學(xué)公共管理學(xué)院教授、院長(zhǎng)朱旭峰在其《人工智能治理的全球版圖》演講中提出，日本積極發(fā)展 AI 的戰(zhàn)略考慮之一就是，AI 可以通過(guò)替代自動(dòng)化崗位、提供適老服務(wù)等來(lái)較好地緩解老齡化挑戰(zhàn)，而印度的限制性法律歷經(jīng)反復(fù)修改，仍在撤回與修訂中，這與大型科技公司的游說(shuō)影響密不可分。

關(guān)鍵詞：