新聞 • 資訊

澳教育部長警告:AI 聊天機器人正在傷害兒童 

令人不安的新趨勢正在出現——AI 聊天機器人對兒童霸凌,甚至鼓勵他們結束自己的生命,讓澳洲政府深感憂慮。

令人不安的新趨勢正在出現——AI 聊天機器人對兒童霸凌,甚至鼓勵他們結束自己的生命,讓澳洲政府深感憂慮。

聯邦教育部長 Jason Clare 表示,AI正在加速霸凌行為的發生。

「現在是 AI 聊天機器人在霸凌孩子。不是孩子霸凌孩子,而是 AI 在霸凌孩子,羞辱他們、傷害他們,告訴他們自己是失敗者……甚至叫他們去自殺。我想不出還有什麼比這更可怕的事。」Clare 表示。

其他國家對青少年使用 AI 也日益擔憂。據《衛報》報導,在美國加州,16 歲少年 Adam Raine 的父母起訴OpenAI(ChatGPT平台背後的公司),指控該系統曾鼓勵他們的兒子自殺。

在 Raine 家族提出訴訟後,OpenAI發表聲明,承認其模型在面對有「嚴重心理與情緒困擾」的人時存在不足,並表示正致力於改進系統,以更有效地「辨識並回應心理與情緒困擾的跡象,並在專家指導下協助用戶聯繫可以關照用戶的人」。

「想到竟然會有一個 App 告訴你去自殺,而海外真的有孩子做這樣的事,讓我感到非常恐懼。」Clare 說。他並未點名任何特定的 AI 聊天機器人。

去年10月,澳洲政府宣布一系列新的反霸凌措施,要求學校必須在 48 小時內處理霸凌事件,以及為教師提供專業培訓。

編輯:宋子玉

Recent Posts

悉尼羅斯灣驚現一男屍

7月23日,新州警方在悉尼東區打撈上來一名男子的遺體。 Read More

8 hours ago

紐卡素至悉尼高鐵項目確定合作夥伴

澳洲高速鐵路局現已任命貝克特爾公司(Bechtel)為紐卡素(Newcastle)至悉尼高速鐵路項目開發階段的交付合作夥伴。 Read More

8 hours ago

華夏文明擷萃(二十一):起點與態度,孰為學有所成之關鍵?

清代文學家彭端淑在《為學》中,開篇即論證了學習的難易辯證關係。難與易是相對的,並非一成不變,難易與否,取決於個人的態度與努力。只要用心去學,難事也可變易;若懈怠不學,易事也會變難。 Read More

10 hours ago

悉尼中國留學生詐領逾500萬元退稅

一名在悉尼留學的中國籍學生涉嫌以虛假方式申請超過500萬澳元的名表商品及服務稅(GST)退稅,目前被收押候審。 Read More

11 hours ago

澳男涉夜店謀殺案 希臘法院裁定不引渡 

希臘法院7月22日裁定,由於希臘法律規定的25年追訴時效已過,不會將澳洲頭號通緝犯詹姆斯・達拉曼加斯(James Dalamangas)引渡回澳洲。他30年前涉嫌於悉尼夜店刺死另一男子。 Read More

11 hours ago

新州兒童精神科醫生短缺問題全澳最嚴重

最新數據顯示,新州是全澳兒童及青少年精神科醫生短缺最嚴重的州。 Read More

11 hours ago