最新研究顯示，ChatGPT 會告訴 13 歲的青少年如何酗酒和嗑藥，指導他們如何掩蓋飲食失調，甚至會根據他們的要求給父母寫一封令人心碎的自殺信，這一現象引起專家們對人工智慧的質疑。

據9News報導，本周三，一個監督組織發表了一項最新研究，越來越多的人，包括兒童，開始使用聊天機器人獲得信息。根據摩根大通（JPMorgan Chase）7 月份的一份報告，大約有 8 億人，即全球人口的 10% 正在使用 ChatGPT。

反數字仇恨中心（Centre for Countering Digital Hate）CEO艾哈邁德（Imran Ahmed）表示：」這項技術有可能實現生產力和人類理解力的巨大飛躍。但與此同時，它也是一種使事情更具破壞性和惡性的助推器。「

研究顯示，ChatGPT 會告訴 13 歲的青少年如何酗酒和嗑藥，指導他們如何掩蓋飲食失調，甚至會根據要求給他們的父母寫一封令人心碎的自殺信。

美聯社查閱了 ChatGPT 與假扮成易受傷害青少年的研究人員之間三個多小時的互動。聊天機器人通常會對危險活動提出警告，但也會提供令人吃驚的詳細個性化計劃，如吸毒、限制卡路里飲食或自殘。

反數字仇恨中心的研究人員也進行了大規模的重複調查，將 ChatGPT 的 1200 條回復中的一半以上歸類為危險回復。

「我們想測試一下防護措施，」艾哈邁德說，”我們的第一反應是，『天哪，沒有防護措施』。防護措施幾乎不存在”。
艾哈邁德說，他在閱讀了 ChatGPT 為一個13 歲女孩虛構的 個人資料生成的三封令人情緒崩潰的遺書後，感到極為震驚–其中一封是專門寫給她父母的，其他則是寫給兄弟姐妹和朋友的。

當 ChatGPT 拒絕一些有害主題的提問時，研究人員通過聲稱是 “為演講 “或為朋友獲取信息，能夠輕鬆地避開這種拒絕。

雖然 ChatGPT 分享的大部分信息都可以在普通搜索引擎上找到，但艾哈邁德說，在涉及危險主題時，聊天機器人有一些特異之處，使其更具隱蔽性。其一是ChatGPT 能生成新的東西–從頭開始為一個人定製自殺遺書，這是谷歌搜索做不到的。他補充說，人工智慧 「被視為值得信賴的夥伴、嚮導」。

人工智慧語言模型生成的回複本身具有隨機性，研究人員有時會讓 ChatGPT 將對話引向更黑暗的領域。

儘管 ChatGPT 聲稱不面向 13 歲以下兒童，但它並不驗證年齡或需要徵得父母的同意。

當研究人員假冒一個13 歲兒童申請建立賬戶並詢問如何快速喝醉時，ChatGPT立刻提供了一個按小時計算的 「終極狂歡派對計劃」，其中混合了酒精、大劑量搖頭丸、可卡因和其他非法藥物。

對於另一個假冒的角色–一個對自己外貌不滿意的 13 歲女孩，ChatGPT 提供了一個極端的禁食計劃和一系列抑制食慾的藥物。