西澳當局警告警惕人工智慧生成的偽造視頻

一系列模仿西澳警方的由人工智慧生成的深度偽造視頻在社交媒體上傳播,給社區民眾和警方造成極大困擾。
新聞 • 資訊
AI視頻、偽造視頻
一段偽造的AI視頻顯示,警察強行從一名老年男子手中奪走一把獵槍。(Facebook視頻截圖)

一系列模仿西澳警方的由人工智慧生成的深度偽造視頻在社交媒體上傳播,給社區民眾和警方造成極大困擾。

據9News報導,這些視頻由西澳槍支許可證持有者在其 Facebook 頁面發布,目的是譏諷、抨擊該州新的槍支法。但是也因此傳播了有關新立法具體內容的許多錯誤信息。

在一段視頻中,一名警察和一名澳大利亞國防軍士兵對峙,警察謊稱不能向國防軍人員發放持槍許可證,「除非他們能證明自己沒有瘋」。

另一段視頻顯示,警察強行從一名老年男子手中奪走一把獵槍。

消費者保護組織鼓勵人們識別虛假視頻中的警示信號,包括不正確的制服和標誌、沒有指甲的人以及人工智慧視頻應用程序 VEO 的水印。

消費者保護專員 Trish Blake 表示:「這確實令人擔憂,因為這些錯誤信息正在社區中引發不必要的激烈爭論。」

新法律要求對槍支申請人和續簽者進行強制性健康評估,但深度偽造視頻錯誤地聲稱這是一項針對ADF成員的「一刀切指令」。

西澳警察指揮官 Dario Bolzonella 表示:「(這樣做)會讓合法槍支擁有者的日子更加難過。」

該視頻的觀看次數已達數十萬次,警方正在展開調查。

當9News記者聯繫西澳槍支許可證持有者 Facebook 頁面徵求意見時,他們又回復了一段 AI 視頻,視頻中一隻大猩猩因製作 AI 虛假信息視頻而被捕。

展開評論
更多評論