參議員呼籲緊急立法 禁止選舉中人工智慧造假

在禁止在競選期間使用人工智慧造假圖像和視頻的呼聲下，聯邦政府正在尋求選舉委員會(AEC)的建議。

獨立參議員David Pocock在Instagram上分享了兩段人工智慧生成的視頻，內容分別是總理阿爾巴尼斯和反對黨領袖達頓宣布支持全面禁止賭博廣告。造假視頻以假亂真的程度讓他感到吃驚。

「我簡直不敢相信我剛剛看到的東西。」Pocock在9月8日說，「這些視頻是假的，但目前沒有關於製作此類視頻的監管法律。」

「深度造假和生成式人工智慧對民主構成了真正的威脅，我們需要政府在選舉中禁止使用這種技術，確保我們不會看到誤導性的人工智慧視頻。但各大黨派對此缺乏興趣或迅速反應，令我感到非常沮喪。」他說。

韓國在全國大選前對虛假人工智慧圖像實施了為期 90 天的禁令，違反禁令者將被處以高額罰款和最高 7 年監禁。韓國大選順利通過，沒有出現與深度偽造相關的重大問題。美國的幾個州通過了法律，要求在政治廣告中使用深度偽造內容時必須披露信息。

特別國務部長Don Farrell已向澳大利亞選舉委員會尋求建議。「這不是我們可以阻止的技術——它不會消失。」他的發言人說，「我們必須找到一種方法，讓澳大利亞人能夠免受故意虛​​假信息和內容的侵害。」

工業部長 Ed Husic 上周發布了一項擬議的強制性安全護欄，試圖通過特定人工智慧法案對高風險活動進行監管。

Husic 的諮詢文件指出，歐洲新的人工智慧法案已加強打擊虛假人工智慧圖像，用於影響民主進程結果的人工智慧系統現已被定義為高風險，並受到強制性安全控制。

但參議員 Pocock 表示，需要採取更緊急的行動來防止下次聯邦選舉中出現人工智慧假象。

「我要告訴議會，讓我們緊急處理這個問題。在普遍使用人工智慧方面建立更廣泛的護欄，這需要時間。」Pocock說，「我認為這是澳大利亞人希望議會處理的事情。當涉及到我們的民主和選舉時，只要有政治意願，我們就可以解決這個問題。」