孩子们开始使用聊天机器人来识别在线性受害者

据阿德莱德大学称，超过三分之一的澳大利亚儿童在网上遭受性侵害时要么不告诉任何人，要么向人工智能聊天机器人寻求帮助。

这些数据促使澳大利亚联邦警察局长克丽丝·巴雷特警告说，执法不能成为弱势年轻人的唯一安全网。

在纪念其上任第一年的一次采访中，巴雷特委员没有直接支持联邦政府延长针对 16 岁以下儿童的人工智能聊天机器人的社交媒体禁令，但强调“任何有助于保护我们孩子安全的事情绝对是我们支持的。”

这项研究是阿德莱德大学和澳大利亚打击儿童剥削中心联合发起的一项倡议，由法新社牵头，提供了有关生殖工具如何改变年轻人安全的详细信息。

随着 12 岁以下儿童在网上接触人为修改的裸体图片和虐待性剥削的人数急剧增加，研究发现，35% 的网上性受害儿童要么通过人工智能聊天机器人保持隐私，要么没有告诉任何人。

超过 15% 的年轻人表示每周至少向人工智能寻求一次个人建议或咨询。

在男性受害者中，五分之二的人只向人工智能机器人透露自己的经历，或者完全保持沉默。

巴雷特专员称这一趋势“令人心碎”，并警告说自动化软件无法为弱势年轻人提供人类支持或保护。

关于当儿童转向人工智能而不是成人时警察干预的局限性，巴雷特专员对执法的作用持现实态度。

“我们处于工具包的最后，我们是一个非常生硬的对象。说实话，一旦我们参与其中，选择就会减少，”他说。

由于联邦政府必须考虑是否应该将针对 16 岁以下青少年的具有里程碑意义的社交媒体禁令扩展到人工智能对话工具以保护年轻人，巴雷特专员警告说，立法禁令并不是万能药。

“我并不是在具体谈论政府应该做什么或不做什么，”他说。

“我只能说，任何有助于保护我们孩子安全的事情绝对是我们支持的。”

他补充说，禁令“不是一刀切的解决方案”，并补充说，虽然监管限制在“引发家庭餐桌旁的对话”方面有效，但它们无法取代社区的警惕性。

家长和社区如何挺身而出

巴雷特专员表示，当孩子开始退缩或改变行为时，父母、看护者、家庭、教师和社区领袖最好能够意识到这一点。

“一切从家里开始，首先是父母了解孩子在网上做什么，并创造这些安全的交谈机会，”她说。

“你还记得，当你在那个年纪时，与父母谈论任何事情都会很尴尬，但我们必须在这些安全的空间中建立这种信任，因为正如我们所知，人工智能技术不是人类。”

虽然利用人工智能剥削年轻人是法新社的一个主要担忧，但巴雷特专员强调人工智能在警务领域占有一席之地。

为了帮助识别过去潜在的剥削行为，法新社正在与莫纳什大学的 AiLECS 实验室合作开发一种健康工具，该工具可以检查澳大利亚儿童剥削中心受到伤害的报告，并将其转发给人工进行评估。

“这是一个趋势。这就是我们需要做的越来越多的事情：与学术界和技术公司合作，围绕如何汇集我们所有的知识、经验和机会来开发这些解决方案。”

法新社上个月发布了第一个人工智能战略，这是一种“人性化”的方法，可以匹配犯罪的“规模和速度”，特别是剥削儿童和青少年激进化。

极端主义和反恐材料

关于打击恐怖主义和暴力极端主义的兴起，巴雷特专员告诉法新社，大多数恐怖主义案件仍然主要出于宗教动机，但警方越来越多地看到“混合和模糊的意识形态”。

“有时，尤其是在我们的年轻人中，我们看到的也许他们并不是真正受到某种特定意识形态的驱动，而是受到不满的驱使，”他说。

“他们感到疏远，感到孤独，他们正在寻找一些东西来联系他们，赋予他们意义和目标。”

巴雷特委员表示，快速变化的威胁环境证明他决定成立国家安全调查小组，以打击激进化的“灰色地带”，包括仇恨犯罪、仇恨言论和网络敌意，这些都低于联合反恐指控的法律门槛。

自去年底成立以来，这些团队已对 65 人提出指控，他预计这一数字还会上升。

巴雷特专员说：“我们在收到报告后立即破门逮捕并指控人员。”

当被问及是否认为应该改变恐怖主义的定义以反映不断变化的安全环境时，巴雷特委员表示，暴力极端主义法律已经起到了重要的威慑作用。

他说：“这项立法使我们能够去搜查、扣押设备并尽早进行干预。”他将拥有极端主义材料描述为可能导致暴力的连续体的开始。

巴雷特专员表示，这还将为警方“在如何处理引起我们注意的年轻人方面”提供更多选择。

他说，大多数遭遇极端主义案件的年轻人在联系警方之前都会表现出自己行为的警告信号，并敦促父母和监护人保持警惕。

“我不想逮捕和指控年轻人。我们希望尽早干预，希望为他们提供所需的帮助和支持，”巴雷特专员说。

2026 年，23 名未成年人和 24 名成年人被指控持有暴力极端主义材料。

专员正在努力加强与其他国家的关系，并计划于本月底访问东京。