德勤使用人工智能为澳洲政府出具报告 被抓包

澳大利亚德勤公司承认，在为澳洲政府出具的一份报告中使用了人工智能，这份价格44万澳元的报告存在多处错误，德勤因此将向联邦政府部分退款。

2024年12月，澳就业和工作场所关系部（DEWR）委托德勤审查其目标合规框架和IT系统。在德勤之后出具的报告中，参考文献和脚注中充斥着错误。

7月份，当德勤的报告发布在DEWR网站上时，悉尼大学福利学者拉奇（Chris Rudge）率先发现了十多个错误。

这份报告涵盖了他的专业领域，“当我看到这些作品的名称时，我毫不怀疑它们是伪造的，因为我在这个领域工作，而且我了解同事们的工作，”他说。“发现一个后，我又发现了越来越多。”

其中一份被错误引用的作品名为《澳大利亚社会保障体系中的法治与行政司法》。原著名为《法治与澳大利亚宪法》。

拉奇表示，这些错误包含了人工智能的“所有特征”。

“我无法理解人类怎么能创造出根本不存在、在谷歌上找不到的作品的标题。他们怎么会这样做？”他说。“我认为如果是人工智能就对了，因为想想人类做这种事简直糟透了。”“对那些做过研究的人来说，真是太不尊重了。”

该报告在9月份已被更正，删除了错误，并发布了新的参考文献列表。

DEWR发言人证实，该公司同意退还合同最后一期的款项，该款项将在交易完成后公布。

更新后的报告于上周五（10月3日）重新上传到网站上，指出“对参考文献和脚注进行了少量更正”，并表示“这些更正不会对报告中的实质性内容、调查结果和建议产生任何影响”。

德勤在报告中还承认，其方法论中使用了“基于生成式人工智能 (AI) 大型语言模型 (Azure OpenAI GPT-4o) 的工具链”。

但该公司拒绝证实这些错误是否是人工智能造成的。德勤的一位发言人只是简单地表示： “此事已直接与客户解决。”

德勤运营着自己的人工智能研究所，为客户和行业提供有关人工智能采用和流畅度的建议。

编辑：黎辰