洛伊研究所：AI的危险已不再是神话

洛伊研究所（Lowy Institute）4月24日指出，作为一种无所不包的技术，人工智慧（AI）的影响将遍及生活的各个层面；虽然其好处显而易见，但更广泛的社会风险也正在浮现。

该研究所称，医学研究就是一个典型例子，人工智慧可以协助药物研发与疾病诊断，但同时也可能为恶意行为者提供制造生物或化学武器的详细指引。新型病原体的基本材料早就可以订购，只是过去组合这些材料的知识稀缺且难以取得；而现在，随着人工智慧让这些资讯几乎「民主化」，像人为制造疫情这类灾难风险也随之上升。

同样，人工智慧的进步也对核武指挥、控制与通讯系统带来挑战。将AI整合进预警、追踪与威胁评估中，虽可以缩短决策时间，但也可能加剧误判与意外升级的风险。此外，决策辅助工具还可能在不知不觉中逐步改变核武使用权限的分配。

该研究所表示，2010年6月，在白俄罗斯明斯克一个温暖的午后，一名电脑专家发现了全球首个公开为人所知的网路武器——后来被称为「震网」病毒（Stuxnet）。这是一种蠕虫病毒，透过利用四个「零日漏洞」（即尚未被开发者发现或修补的软件漏洞），使伊朗纳坦兹核设施内的离心机失控运转。这次网路攻击是美国与以色列历时多年、耗资数十亿美元合作的成果。

然而今天，识别并利用零日漏洞的能力，已不再只是高度专业的专家或黑客的专利。今年4月，人工智慧公司Anthropic透露，其最新模型「Mythos Preview」已具备这种能力，而且常常能自动串联多个漏洞进行攻击。该模型在各类作业系统中发现并利用了数千个漏洞，其中一些甚至存在数十年，且在数以百万计的测试中都未被发现。

在不到两年前，AI具备这种能力还只是理论上的可能；而Mythos Preview的表现如今被形容为资安领域的转折点、重大跃进，甚至是「跨越卢比孔河」的关键时刻。「跨越卢比孔河」这一成语表示「无法回头」。

该模型并未被专门训练来具备这些能力。Anthropic表示：「这些能力是随着编程能力、推理能力与自主性的整体提升，自然涌现的结果。」

洛伊研究所称，主导当前AI领域的大型语言模型并不是像传统软件那样被逐行编写。工程师设计架构并设定训练目标，但最终产生的系统更像是「培养出来的」，其能力甚至连训练者本身都无法完全预测。

编辑：宋子玉