悉尼邦迪槍擊案假信息泛濫AI推波助瀾

在邦迪海灘(Bondi beach)恐襲發生後數小時乃至數天,藉助人工智慧(AI)被加速放大的假信息幾乎無處不在。一些平台向試圖獲取真實信息的用戶推送大量可疑甚至虛假的內容。
新聞 • 資訊

在邦迪海灘(Bondi beach)恐襲發生後數小時乃至數天,藉助人工智慧(AI)被加速放大的假信息幾乎無處不在。一些平台向試圖獲取真實信息的用戶推送大量可疑甚至虛假的內容。

X 平台的「為你推薦」頁面(for you)由演算法決定展示內容,其中充斥各種不實細節,如:造成 15 人死亡的襲擊是一場心理戰或「假旗行動」;襲擊幕後是以色列國防軍士兵;傷者是「危機演員」;一名無辜者被指為襲擊者;以及那位與襲擊者搏鬥的敘利亞穆斯林英雄是一個有英文名字的基督徒。

生成式人工智慧進一步加劇混亂。一段經過篡改的視頻在多個賬號間傳播,視頻中的新州州長柯民思(Chris Minns)的講話是深度偽造的。

在另一個尤其惡劣的案例中,一張基於受害者真實照片生成的 AI 圖像被篡改成有人正在給他臉上塗抹紅色化妝品,從而暗示他是演員。

被這張偽造圖片描繪的人——人權律師奧斯特羅夫斯基(Arsen Ostrovsky)隨後在 X 上發文表示:「我今天在準備接受手術時看到了這些圖片,我不會回應這場令人作嘔的謊言與仇恨運動。」

巴基斯坦信息部長塔拉爾(Attaullah Tarar)表示,在邦迪海灘恐襲發生後,巴基斯坦成為一場有組織的網路虛假信息行動的受害者,網路上流傳的錯誤說法稱其中一名嫌疑犯是巴基斯坦公民。

被錯誤指認的男子告訴《衛報》,騙子將其照片與「疑似襲擊者」的指控一同在社交媒體上傳播,令他極度不安,並造成心理創傷。

塔拉爾稱,這名巴基斯坦男子是「一場惡意且有組織行動的受害者」,並指該虛假信息行動源自印度。

與此同時,X 平台的 AI 聊天機器人 Grok 告訴用戶,制服並繳械槍手的英雄是一名有英文名的IT 從業者,而非敘利亞裔的艾哈邁德(Ahmed al-Ahmed)。這一說法似乎源自一個在恐襲當天建立的新網站,該網站試圖模仿正規新聞媒體。

關於艾哈邁德的 AI 生成圖片也在社交媒體上大量傳播,被用於推廣加密貨幣騙局和虛假的募捐活動。

編輯:宋子玉

展開評論
更多評論