一名男子手持智能手机，屏幕上显示着ChatGPT Atlas的官方网站。 (Photo illustration by Cheng Xin/Getty Images)
在封禁16岁以下用户使用社交媒体数周后，澳大利亚又发起了一场新的网络安全打击行动，目标是人工智能聊天机器人。
随着人工智能行业的快速发展，许多青少年在日常生活中越来越依赖这项技术。人们越来越担心，随着手机上社交媒体的消失，孩子们可能会开始过度依赖人工智能，尤其是聊天机器人。
“我们知道孩子们已经在使用人工智能工具，无论是与 ChatGPT 对话，还是使用一些旨在与人交朋友的程序，”人机信息环境中心主任吉文（ Lisa Given ）教授说道。“我们知道，有些人很容易被这些系统与我们互动的方式所吸引。”
“这些系统经过训练，能够以非常人性化的方式做出回应，这意味着人们可能会被迷惑，误以为机器里住着一个人，或者机器在倾听并理解你所说的话。”
澳大利亚最近出台了针对人工智能机器人的新限制措施，限制它们可以向青少年提供的内容类型。
“我们是世界上唯一一个将要规范人工智能聊天机器人和人工智能伙伴的国家，”澳大利亚网络安全专员朱莉·英曼·格兰特 (Julie Inman Grant) 在 12 月份接受 9News 采访时表示。“它们将被禁止向 18 岁以下的未成年人提供任何色情、露骨的性内容、自残、自杀倾向或饮食失调的内容。”
吉文表示，聊天机器人对弱势群体来说很危险。“我们在世界各地都看到，有些人会听从这些系统的建议，”她说。“所以，如果一个系统告诉你，‘这真是个好主意，你应该全力以赴’，这会让我们自我感觉良好，觉得有人在倾听我们的想法。”
“但我们也看到，有时这种情况会走向非常糟糕的境地，尤其当人们开始对系统说，‘我真的很沮丧’、‘我感觉很糟糕’或者‘我在考虑自杀’的时候。”
“我们发现，有些应用程序的回应方式实际上是在鼓励这种想法，而不是试图引导他们寻求帮助。”
“这意味着那些非常脆弱、本身就处于危险之中的人，可能会被这些电脑程序拖入深渊。”
吉文认为，为了保护所有人，而不仅仅是青少年，应该进一步加强限制。但她也承认，任何此类监管措施都难以实施。
“这些系统不仅仅对儿童有害，”她说。“有证据表明，成年人也会沉迷于这些系统，对于任何特别脆弱或已有心理健康问题的人来说，这都是一个巨大的隐患。”
This post was last modified on 2026年1月2日 16:52
在草坪上，从书包里拿出图画本，彩笔，剪子和彩色光面纸。我去排队给成成买棉花糖回来，张镭坐在酸酸后面教他剪楼房，酸酸全神贯注，剪子用得熟练，拐弯处顺溜。 Read More
自由党议员汤姆·文宁指责澳大利亚选举委员会（AEC）无视其社区意愿，擅自更改了南澳Grey选区的名称，以原住民领袖的名字代替了殖民时期的行政长官。 Read More
澳洲稅務局（ATO）最新數據顯示，長期主導澳洲住宅市場的中國投資者正持續減持房產，而日本投資者則快速進場，成為增長最快的海外買家，顯示澳洲房地產海外投資版圖正出現明顯變化。 Read More
加入伊斯兰国的恐怖分子塔里克·卡姆勒多年前就被认为已经死亡，然而，他的家人近期发现他仍然在世，正寻求回国途径。有消息称，工党政府早已得知他在世，但决定不闻不问。卡姆勒的父亲深明大义，表示理解政府的做法。 Read More
中国电动车品牌比亚迪在澳洲被曝约1265名车主购买的2026年款新车实为2025年生产，比亚迪澳洲承认系内部系统人工录入失误，并提出保留车辆补偿3500澳元、全额退车或更换2026年新车等方案。 Read More