您的位置:首頁 >要聞 >

中國科學院院士何積豐:應對大模型的安全問題,需設好“緊箍咒”

2023-09-07 17:29:51    來源:極目新聞


(相關資料圖)

極目新聞記者 周丹

模型的通用能力讓其能夠應用到人類生產生活的各個場景中,可謂“無孔不入”。AI的發展因此帶來了新的安全隱私問題,如何解決這一隱患,9月7日開幕的2023外灘大會上,中國科學院院士何積豐開出了他的“藥方”:利用對齊技術為大模型戴上緊箍咒。

何積豐院士認為,大模型的安全問題主要是在未經同意的情況下,收集、使用和泄露個人信息。隱私問題既可能發生在訓練過程中,也可能發生在使用過程中,而大模型的生成能力則讓“隱私泄露”的方式變得多樣化,造成隱私保護更加困難。

大會現場

“為了應對這些問題,我們需要大模型對齊技術。”何積豐說,“對齊(alignment)”是指系統的目標和人類價值觀一致,使其符合設計者的利益和預期,不會產生意外的有害后果。“如果把人工智能看作西游記里的孫悟空,‘對齊’就是唐僧的緊箍咒。有了緊箍咒,就可以保證技術不會任意使用能力胡作非為。”

不過,對齊技術同樣面臨挑戰。首先,對齊的基礎,人類的價值觀是多元且動態變化的,需要保證大模型為人服務、與人為善;其次,大模型的有用性與無害性之間目標也不完全一致。如何對錯誤進行有效糾正,設好大模型的“緊箍咒”也是挑戰。

因此,對齊技術已成為了一項令人眼花繚亂的跨學科研究,不僅考驗技術,也審視文化。

何積豐院士介紹,反饋強化學習是實現對齊的技術途徑,目前有兩種方式,一種方式是通過人工反饋給模型不同的獎勵信號,引導模型的高質量輸出;另一種方式,事先給大模型提供明確的原則,系統自動訓練模型對所有生成的輸出結果提供初始排序。“這意味著,不僅智能系統需要向人類價值觀對齊,人類的訓練方法也要向價值觀對齊。”

關鍵詞:

相關閱讀

主站蜘蛛池模板: 国产成人污污网站在线观看| 成人性爱视频在线观看| 在线免费中文字幕| 久久99精品九九九久久婷婷| 欧美一级va在线视频免费播放| 免费大学生国产在线观看p| 被弄出白浆喷水了视频| 国产真实乱在线更新| 99久久精品午夜一区二区| 成人免费视频一区二区三区| 久久国产精品久久精| 欧美一级高清黄图片| 亚洲精品91在线| 精品久久久一二三区| 国产gay小鲜肉| 黄网站色年片在线观看| 国产精品天干天干综合网| 99热这里只有精品99| 嫩草影院在线入口| 中文字幕无线码一区二区| 日本黄色激情片| 亚洲乱码一区二区三区在线观看 | 国产精品成人va在线观看 | 任你躁在线播放视频| 美女的让男人桶爽网站| 国产免费啪嗒啪嗒视频看看| 久久五月天综合| 国产精品亚洲综合网站| 91在线一区二区三区| 大学生被内谢粉嫩无套| www亚洲精品| 小说区综合区首页| 中国特黄一级片| 扒开双腿猛进入免费观看美女| 久久国产成人精品国产成人亚洲| 最新69成人精品毛片| 亚洲www视频| 欧美三级在线播放| 亚洲成a人片7777| 欧美激情a∨在线视频播放| 亚洲网站在线看|