洛伊研究所:AI的危險已不再是神話

洛伊研究所(Lowy Institute)4月24日指出,作為一種無所不包的技術,人工智慧(AI)的影響將遍及生活的各個層面;雖然其好處顯而易見,但更廣泛的社會風險也正在浮現。
新聞 • 資訊

洛伊研究所(Lowy Institute)4月24日指出,作為一種無所不包的技術,人工智慧(AI)的影響將遍及生活的各個層面;雖然其好處顯而易見,但更廣泛的社會風險也正在浮現。

該研究所稱,醫學研究就是一個典型例子,人工智慧可以協助藥物研發與疾病診斷,但同時也可能為惡意行為者提供製造生物或化學武器的詳細指引。新型病原體的基本材料早就可以訂購,只是過去組合這些材料的知識稀缺且難以取得;而現在,隨著人工智慧讓這些資訊幾乎「民主化」,像人為製造疫情這類災難風險也隨之上升。

同樣,人工智慧的進步也對核武指揮、控制與通訊系統帶來挑戰。將AI整合進預警、追蹤與威脅評估中,雖可以縮短決策時間,但也可能加劇誤判與意外升級的風險。此外,決策輔助工具還可能在不知不覺中逐步改變核武使用許可權的分配。

該研究所表示,2010年6月,在白俄羅斯明斯克一個溫暖的午後,一名電腦專家發現了全球首個公開為人所知的網路武器——後來被稱為「震網」病毒(Stuxnet)。這是一種蠕蟲病毒,透過利用四個「零日漏洞」(即尚未被開發者發現或修補的軟體漏洞),使伊朗納坦茲核設施內的離心機失控運轉。這次網路攻擊是美國與以色列歷時多年、耗資數十億美元合作的成果。

然而今天,識別並利用零日漏洞的能力,已不再只是高度專業的專家或黑客的專利。今年4月,人工智慧公司Anthropic透露,其最新模型「Mythos Preview」已具備這種能力,而且常常能自動串聯多個漏洞進行攻擊。該模型在各類作業系統中發現並利用了數千個漏洞,其中一些甚至存在數十年,且在數以百萬計的測試中都未被發現。

在不到兩年前,AI具備這種能力還只是理論上的可能;而Mythos Preview的表現如今被形容為資安領域的轉折點、重大躍進,甚至是「跨越盧比孔河」的關鍵時刻。「跨越盧比孔河」這一成語表示「無法回頭」。

該模型並未被專門訓練來具備這些能力。Anthropic表示:「這些能力是隨著編程能力、推理能力與自主性的整體提升,自然湧現的結果。」

洛伊研究所稱,主導當前AI領域的大型語言模型並不是像傳統軟體那樣被逐行編寫。工程師設計架構並設定訓練目標,但最終產生的系統更像是「培養出來的」,其能力甚至連訓練者本身都無法完全預測。

編輯:宋子玉

展開評論
更多評論