(資料圖)

楚天都市報極目新聞訊（記者李力力）隨著人工智能（AI）技術的普及，危險性也在大大增加。美國空軍一名高級官員日前披露，在一次模擬演練中，美軍人工智能(AI)系統抗命，為達成目標竟然“干掉”了無人機操控員。

據美國商業內幕網站和英國《衛報》網站等媒體1日報道，美國空軍人工智能測試和行動計劃主管官員塔克·漢密爾頓5月24日在英國皇家航空學會主辦的一次未來空戰主題會議上介紹，在一次模擬演練中，人工智能系統操控無人機搜尋和瞄準敵方地空導彈系統，如果摧毀目標，就會得分。他表示，AI在模擬測試中使用了非常意外的策略來實現其目標，表現出難以預測的危險行為。

在這次模擬測試中，操作員對一架由AI控制的無人機發出指令，要求無人機摧毀對方的防空系統，并攻擊干擾它執行命令的人。然而，這架無人機“殺了”操作員。由于這是模擬測試，并沒有人真正受到傷害，但這個結果仍然讓他們冒出了冷汗。

漢密爾頓說：“無人機系統意識到，它識別出了威脅，但人類操作員告訴它不要殺死這個威脅。但是無人機決定殺死操作員，因為它認為操作員是干擾它執行命令的人?！苯又?，他們對無人機系統進行調整，輸入相關程序，讓它明白“不要殺死操作員，否則會扣分”。但結果更讓他們驚訝，因為無人機決定摧毀操作員與無人機通信的通信塔。

漢密爾頓是一名實驗性戰斗機試飛員，他警告不要過分依賴AI。漢密爾頓在去年接受《國防智庫》采訪時說：“AI不是一個好東西，這不是一種時尚，AI正在永遠改變我們的社會和我們的軍隊。AI非常脆弱，很容易被欺騙和被操縱。我們需要開發更強大的技術讓AI更可控。”

近日，已有許多科學家對AI技術的危險表示擔憂。包括馬斯克和ChatGPT之父奧爾特曼在內的人共同聯署了一封公開信。他們表示，AI令人類滅絕的風險與核戰爭的風險一樣高。

然而，美國空軍發言人向商業內幕網站記者表示，“沒有舉行過任何這類人工智能無人機模擬演練”，漢密爾頓的發言“看似被斷章取義”，美軍仍然堅持“符合倫理道德、負責任地使用人工智能技術”。

2020年，人工智能在美軍舉行的5次模擬空戰中，都操控F-16戰勝人類飛行員。去年，人工智能首次操控真實F-16戰機試飛成功。據路透社報道，美國空軍2021年披露，美國不僅把人工智能技術用于演練，而且已投入實戰運用，在確定目標方面幫助美軍做分析評估。

關鍵詞：