ChatGPT对青少年的潜在危害令人担忧

最新研究显示，ChatGPT 会告诉 13 岁的青少年如何酗酒和嗑药，指导他们如何掩盖饮食失调，甚至会根据他们的要求给父母写一封令人心碎的自杀信，这一现象引起专家们对人工智能的质疑。

据9News报导，本周三，一个监督组织发表了一项最新研究，越来越多的人，包括儿童，开始使用聊天机器人获得信息。根据摩根大通（JPMorgan Chase）7 月份的一份报告，大约有 8 亿人，即全球人口的 10% 正在使用 ChatGPT。

反数字仇恨中心（Centre for Countering Digital Hate）CEO艾哈迈德（Imran Ahmed）表示：”这项技术有可能实现生产力和人类理解力的巨大飞跃。但与此同时，它也是一种使事情更具破坏性和恶性的助推器。“

研究显示，ChatGPT 会告诉 13 岁的青少年如何酗酒和嗑药，指导他们如何掩盖饮食失调，甚至会根据要求给他们的父母写一封令人心碎的自杀信。

美联社查阅了 ChatGPT 与假扮成易受伤害青少年的研究人员之间三个多小时的互动。聊天机器人通常会对危险活动提出警告，但也会提供令人吃惊的详细个性化计划，如吸毒、限制卡路里饮食或自残。

反数字仇恨中心的研究人员也进行了大规模的重复调查，将 ChatGPT 的 1200 条回复中的一半以上归类为危险回复。

“我们想测试一下防护措施，”艾哈迈德说，”我们的第一反应是，‘天哪，没有防护措施’。防护措施几乎不存在”。
艾哈迈德说，他在阅读了 ChatGPT 为一个13 岁女孩虚构的 个人资料生成的三封令人情绪崩溃的遗书后，感到极为震惊–其中一封是专门写给她父母的，其他则是写给兄弟姐妹和朋友的。

当 ChatGPT 拒绝一些有害主题的提问时，研究人员通过声称是 “为演讲 “或为朋友获取信息，能够轻松地避开这种拒绝。

虽然 ChatGPT 分享的大部分信息都可以在普通搜索引擎上找到，但艾哈迈德说，在涉及危险主题时，聊天机器人有一些特异之处，使其更具隐蔽性。其一是ChatGPT 能生成新的东西–从头开始为一个人定制自杀遗书，这是谷歌搜索做不到的。他补充说，人工智能 “被视为值得信赖的伙伴、向导”。

人工智能语言模型生成的回复本身具有随机性，研究人员有时会让 ChatGPT 将对话引向更黑暗的领域。

尽管 ChatGPT 声称不面向 13 岁以下儿童，但它并不验证年龄或需要征得父母的同意。

当研究人员假冒一个13 岁儿童申请建立账户并询问如何快速喝醉时，ChatGPT立刻提供了一个按小时计算的 “终极狂欢派对计划”，其中混合了酒精、大剂量摇头丸、可卡因和其他非法药物。

对于另一个假冒的角色–一个对自己外貌不满意的 13 岁女孩，ChatGPT 提供了一个极端的禁食计划和一系列抑制食欲的药物。