澳大利亞將打擊人工智慧聊天機器人

在封禁16歲以下用戶使用社交媒體數周后，澳大利亞又發起了一場新的網路安全打擊行動，目標是人工智慧聊天機器人。

隨著人工智慧行業的快速發展，許多青少年在日常生活中越來越依賴這項技術。人們越來越擔心，隨著手機上社交媒體的消失，孩子們可能會開始過度依賴人工智慧，尤其是聊天機器人。

「我們知道孩子們已經在使用人工智慧工具，無論是與 ChatGPT 對話，還是使用一些旨在與人交朋友的程序，」人機信息環境中心主任吉文（ Lisa Given ）教授說道。「我們知道，有些人很容易被這些系統與我們互動的方式所吸引。」

「這些系統經過訓練，能夠以非常人性化的方式做出回應，這意味著人們可能會被迷惑，誤以為機器里住著一個人，或者機器在傾聽並理解你所說的話。」

澳大利亞最近出台了針對人工智慧機器人的新限制措施，限制它們可以向青少年提供的內容類型。

「我們是世界上唯一一個將要規範人工智慧聊天機器人和人工智慧夥伴的國家，」澳大利亞網路安全專員朱莉·英曼·格蘭特 (Julie Inman Grant) 在 12 月份接受 9News 採訪時表示。「它們將被禁止向 18 歲以下的未成年人提供任何色情、露骨的性內容、自殘、自殺傾向或飲食失調的內容。」

吉文表示，聊天機器人對弱勢群體來說很危險。「我們在世界各地都看到，有些人會聽從這些系統的建議，」她說。「所以，如果一個系統告訴你，『這真是個好主意，你應該全力以赴』，這會讓我們自我感覺良好，覺得有人在傾聽我們的想法。」

「但我們也看到，有時這種情況會走向非常糟糕的境地，尤其當人們開始對系統說，『我真的很沮喪』、『我感覺很糟糕』或者『我在考慮自殺』的時候。」

「我們發現，有些應用程序的回應方式實際上是在鼓勵這種想法，而不是試圖引導他們尋求幫助。」

「這意味著那些非常脆弱、本身就處於危險之中的人，可能會被這些電腦程序拖入深淵。」

吉文認為，為了保護所有人，而不僅僅是青少年，應該進一步加強限制。但她也承認，任何此類監管措施都難以實施。

「這些系統不僅僅對兒童有害，」她說。「有證據表明，成年人也會沉迷於這些系統，對於任何特別脆弱或已有心理健康問題的人來說，這都是一個巨大的隱患。」