以 ChatGPT 為代表的生成式 AI 橫空出世，層出不窮的新鮮應用充斥在大眾視野里。AI 孫燕姿的歌聲剛落下，AI 已經(jīng)把高考作文從 0 分寫到高分，緊接著妙鴨相機的 AI 拍照小程序就火爆全網(wǎng)。這些 AI 應用激起了一系列擔憂：AI 在未來是否會讓自己下崗，AI 的創(chuàng)作是不是在抄襲……而更危險的犯罪事件已經(jīng)出現(xiàn)，有人利用智能換臉和擬聲技術，假扮他人好友騙錢。

(資料圖)

面對生成式 AI 帶來的機遇和挑戰(zhàn)，各國對如何監(jiān)管 AI 有不同的意見。中國、美國、歐盟等國家或地區(qū)迅速做出反應，而新加坡、印度則宣稱，暫時不打算監(jiān)管 AI。

8 月 15 日，中國的《生成式人工智能服務管理暫行辦法》（下稱“辦法”）正式施行，這被認為是全球首部生成式 AI 立法。澎湃新聞對比了五個主要國家或地區(qū)最新推出的 AI 管理規(guī)范，發(fā)現(xiàn)多數(shù)文件不只是針對生成式 AI，而是涵蓋更大范圍的 AI；這些 AI 文件的力度和側重點有明顯不同，如歐盟對倫理和能源較為重視，中國更強調提供者的責任等。

AI 詐騙事件漸起

為何要監(jiān)管生成式 AI，或者說更大范疇里的 AI？

如果對比 AI 與人類的能力，我們會發(fā)現(xiàn) AI 已經(jīng)在逐漸超越人類。一篇研究自然語言基準評估的論文預印本顯示，十年前，還沒有 AI 能擁有等同于人類水平的語言或圖像識別能力，但到了 2020 年，AI 的能力已經(jīng)能在所有領域的測試中擊敗人類。

而生成式 AI 的能力，在不法分子的使用下，將更具有強大的破壞力。據(jù)中國公安部，2020 年以來就破獲 79 起“AI 換臉”的犯罪案件。

今年 5 月，受害者郭先生接到了“好友”的微信視頻電話，對方稱外地投標需要 430 萬元。郭先生在視頻中確認好友面孔和聲音后，放松了戒備，最終上當受騙。

在美國，還發(fā)生了一場虛擬綁架騙局。受害者接到一通匿名電話，電話中傳來其女兒的哭泣尖叫聲。一名男子威脅受害者寄給自己 100 萬美金。

“這顯然是她的聲音。”受害者在接受外媒采訪時表示，哭聲與抽泣讓她被這場騙局動搖了，因為自己女兒平時內(nèi)向、克制，不是一個愛哭、愛尖叫的人。她不知道對方是怎樣得到了這段聲音。

“生成式 AI 具有價值觀屬性，一旦生成式 AI 模型在訓練過程中引入偏見歧視等有害信息，在模型實際應用中很可能呈現(xiàn)放大化輸出。另外，生成式 AI 具備可引導性，在與人類‘對齊’的訓練環(huán)節(jié)中不斷趨近人類偏好，但同時也存在被不法分子惡意利用的風險。”西南政法大學人工智能法學院副院長、教授馮子軒告訴澎湃新聞。

歐盟的 AI 法案涉及面最廣，提出環(huán)保要求

AI 的挑戰(zhàn)已然來臨，部分國家或地區(qū)開始作出反應。

目前只有中國正式通過了專門針對生成式 AI 的立法，其他國家或地區(qū)多是針對廣義 AI 的相關規(guī)范——其中多數(shù)是指導性文件。歐盟已經(jīng)通過《AI 法案》的草案，但距離正式生效還有數(shù)年；美國發(fā)布了 AI 風險管理框架，后續(xù)成立了生成式 AI 治理小組；英國發(fā)布《AI 監(jiān)管：一個支持創(chuàng)新的方式》，并征求公眾意見。

澎湃新聞梳理和對比了五個國家或地區(qū)最新推出的 AI 管理規(guī)范，以此觀察各國的監(jiān)管方向和策略。我們發(fā)現(xiàn)，中國和歐盟的管理規(guī)范較嚴格，涉及維度更廣，比如中國對數(shù)據(jù)標注有明確要求：“在生成式人工智能技術研發(fā)過程中進行數(shù)據(jù)標注的，提供者應當制定符合本辦法要求的清晰、具體、可操作的標注規(guī)則”。

歐盟還有針對 AI 能耗環(huán)保問題的條例，如“利用適用的標準來降低能源使用、資源使用和浪費，以增加能源效率和系統(tǒng)整體效率”。

今年六月，歐盟正式批準通過《AI 法案》草案，盡管該法案尚未正式生效，但其提出的治理方式也為其他國家或地區(qū)提供了參考，比如歐盟提出了分類分級管理，將 AI 系統(tǒng)分為不可接受的風險、高風險、有限風險和極低風險等四種風險類型，針對不同的風險系統(tǒng)會有不同的監(jiān)管措施。

不過，這些細則的落地仍有待進一步的探討。“雖然歐盟《AI 法案》提出的分類分級管理在一定程度上可供參考，但是生成式 AI 服務的分類按什么維度去分類？分級要分成幾級？相關的細則、標準仍然需要進一步通過實踐來制定。”上海數(shù)據(jù)交易所研究員林梓瀚告訴澎湃新聞。

目前，歐盟嚴格的 AI 管理規(guī)范還遭到企業(yè)的抗議。據(jù)法新社報道，超 150 個企業(yè)發(fā)出警告，認為歐盟的《AI 法案》可能會損害歐洲的競爭力。

相比之下，美國、英國、韓國的管理較為寬松，韓國在 12 個細分維度里只涉及了 4 個，更多是抱持著讓 AI 行業(yè)自由發(fā)展的態(tài)度。西雅圖華盛頓大學技術政策實驗室的創(chuàng)始聯(lián)合主任瑞安·卡洛（Ryan Calo）認為美國的全國性 AI 管理文件只是“表面上的行動，但沒有任何實質性和約束力”。

此外，由于這些規(guī)范多是針對廣義的 AI，因此暫時較少涉及生成式 AI 爭議較多的兩個方面——AI 版權和 AI 生成標識。起初，歐盟的《AI 法案》幾乎沒有提到聊天機器人，僅要求對其進行標記，以便用戶知道他們正在與機器進行交互，后續(xù)在修訂中又補充了要求徹底記錄任何用于訓練 AI 的版權材料，以方便內(nèi)容創(chuàng)作者決定是否追求賠償。

“傳統(tǒng)算法應用的處理模式與應用場景相對固定，有較為明確的服務邊界，但生成式 AI 應用場景更為豐富，如 ChatGPT 產(chǎn)品幾乎可以處理自然語言領域的所有任務，如果延續(xù)針對固定用途信息服務的管理思路，將難以充分切合實際監(jiān)管需求。”馮子軒說，她認為《辦法》契合新技術新特性，有針對性地進行制度設計。

規(guī)制還是發(fā)展 AI？不同國家的選擇不同

具體到《辦法》的細則，中國在生成式 AI 監(jiān)管方面有自己的特色設定，比如強調內(nèi)容治理方面的制度建設和積極引導、強調生成式 AI 提供者的責任。

“對生成式 AI 服務提供者要求依法承擔網(wǎng)絡信息內(nèi)容生產(chǎn)者責任，這是一個比較創(chuàng)新的界定，也會對實踐造成一些挑戰(zhàn)和爭議，核心命題在于 AI 生成的內(nèi)容，和以往人工控制的過程，會呈現(xiàn)一些新的不一定完全可以控制的特點，對于這點的內(nèi)容治理要求，是否應該提供更多的容錯、糾錯空間，是值得后續(xù)進一步探索和研究的問題。”中國社會科學院大學互聯(lián)網(wǎng)法治研究中心執(zhí)行主任劉曉春告訴澎湃新聞。

除了對內(nèi)容治理的要求，保障訓練數(shù)據(jù)的合法性和質量問題也是一個難點。林梓瀚認為，場外數(shù)據(jù)交易的來源合法性難以保障，公共數(shù)據(jù)以及企業(yè)系統(tǒng)生成的數(shù)據(jù)質量也存在瑕疵，相關的司法案件頻發(fā)，一定程度上加劇了企業(yè)的合規(guī)風險。

企業(yè)如何按照《辦法》要求來保障訓練數(shù)據(jù)質量和用戶隱私？擁有自研語言大模型“大象 GPT”的印象筆記告訴澎湃新聞，“大象 GPT”訓練的數(shù)據(jù)除了來自公共數(shù)據(jù)集之外，還包含來自印象筆記的自有公開數(shù)據(jù)集，即用戶主動授權的公開收藏內(nèi)容及主動發(fā)布的內(nèi)容。這些數(shù)據(jù)還會經(jīng)過進一步的“清洗” 和“增強”，與公共數(shù)據(jù)集相比，保證了數(shù)據(jù)的多樣化和高質量, 與知識管理領域更深度相關，因此也更有助于專有模型的訓練和優(yōu)化。

“為了保護用戶的隱私，除了用戶必要的授權之外，我們還會對數(shù)據(jù)進行脫敏處理，利用模型識別可能存在的任何個人可識別信息（PII， Personally Identifiable Information） 并加以去除或替換，確保數(shù)據(jù)中不包含任何可以識別個人身份的信息。”印象筆記說。

盡管包括中國在內(nèi)的部分國家或地區(qū)在規(guī)制生成式 AI 的路上前進，但還有另一部分國家表示暫時不想監(jiān)管 AI。

“我們目前沒有考慮監(jiān)管人工智能。在這個階段，很明顯我們希望能夠向行業(yè)學習。在我們決定是否需要從監(jiān)管方面做更多工作之前，要先了解人工智能的使用方式。”新加坡信息通信媒體發(fā)展局（IMDA）可信人工智能和數(shù)據(jù)主管李婉詩（Lee Wan Sie）接受 CNBC 采訪時說。

印度持有類似觀點。印度信息技術部部長阿什溫尼·瓦什納（Ashwini Vaishnaw）在今年 4 月時稱，政府目前并未考慮出臺任何法律來規(guī)范 AI 在印度的發(fā)展。

如此不同的 AI 治理理念，與當?shù)氐娜丝诮Y構、產(chǎn)業(yè)結構和社會規(guī)范等都有關系。清華大學公共管理學院教授、院長朱旭峰在其《人工智能治理的全球版圖》演講中提出，日本積極發(fā)展 AI 的戰(zhàn)略考慮之一就是，AI 可以通過替代自動化崗位、提供適老服務等來較好地緩解老齡化挑戰(zhàn)，而印度的限制性法律歷經(jīng)反復修改，仍在撤回與修訂中，這與大型科技公司的游說影響密不可分。

關鍵詞：