一位主要部长警告称，在阿尔巴尼亚政府试图监管边境模型之际，人工智能公司将“能力置于安全之上”。
助理科学部长安德鲁·查尔顿 (Andrew Charlton) 在周四的悉尼信任与安全节之前发表讲话，谈到政府对人工智能前沿模型而非市场替代品的监管。
就在几天前，OpenAI 的首席战略官 Jason Kwon 因该公司的一个美国医疗保险数据门户模型遭到破坏而面临议会联合调查。
世界各地的领导人在如何监管现代模式的问题上存在分歧，美国总统唐纳德·特朗普与硅谷在需要放慢新增长速度的问题上存在分歧。
查尔顿周四表示，新技术需要建立在信任的基础上，但“一切迹象表明边境实验室正在将能力置于安全之上”。
“听听最了解这些公司的人的意见吧……上个月，曾在 OpenAI 和 Anthropic 工作过的 Jacob Coxon 完全离开了这个行业。
“他的判决很明确：‘没有公司需要承担责任。’
查尔顿先生表示，设置和可选代码“快速且灵活，但当涉及边缘人工智能时，它们未能通过激励测试”。
“你不能要求公司在涉及数万亿美元的疯狂竞赛中自愿违背自己的竞争利益，然后当他们不这样做时感到惊讶，”他说。
“手册的详细规则可能会很清晰，但以几个月而不是几年的技术发展速度，这些规则可能在油漆干燥之前就变得过时了。
“系统监管让公司有责任开发和实施强大的流程来发现、测试、报告和管理系统风险，然后让他们让该流程发挥作用。”
查尔顿表示，这样的系统不仅能让公司在出错时承担责任，还能“发现风险并预防事故”。
不过，他承认这些规则将威慑“敌对国家或犯罪分子”，并增加“澳大利亚技术在国内开发的作用”。
这包括关注人工智能人才开发和在岸培训。
预计政府将很快公布人工智能国家标准。
“双轨”赛跑。
查尔顿先生表示，领先的公司正在进行两条赛道的竞争：一条是彼此之间的竞争，一条是与中国的竞争。
“现在，每个人都认为最大的回报来自于成为第一，即使不清楚成为第一的最终目标是什么。”
查尔顿先生依靠的是“囚徒困境”的经济理论。
“如果他们一起放慢速度，每个实验室都会变得更好，”他说。
“但只要收益内部化，成本外部化，任何放慢速度的实验室都会领先于没有放慢速度的实验室。
“事实上，每家公司都给自己讲了一个故事，即边境在自己手中更安全。
“……所以政府必须介入。”
查尔顿表示，医疗保险事件的教训将影响人工智能标准立法。
“逐底竞争并不是竞争有效时的样子。而是竞争失败时的样子，”他说。
“而市场失灵并不是放弃市场的理由，而是政治存在的理由。”
查尔顿表示，在澳大利亚，各个部长“对人工智能的危害负有责任”，包括通过数字谨慎责任。
查尔顿表示，由于变化速度快、信息不对称和记忆困难，人工智能带来了监管挑战。
查尔顿表示，人工智能带来的风险也可能稍后以“意想不到的方式”出现。
“传统软件是根据人们编写并可以检查的规则构建的。前沿不是人工智能。
“……它的能力将以连它的创造者都无法预测的方式出现。”
‘达成协议’
与此同时，反对者呼吁与美国达成协议，让澳大利亚“优先获得”尖端人工智能模型。
周三晚间，反对派外交事务发言人泰德·奥布莱恩 (Ted O’Brien) 在谈到美国和中国之间激烈的人工智能竞赛时表示，澳大利亚可以使用美国边境模型来保护自己。
他对澳中关系研究所表示：“最近发生的人工智能代理自主侵入医疗保险数据的事件有力地提醒了人们此类风险。”
“人工智能不是一种选择，而是一种现实。它已经存在，并且正在迅速扩张。”
他表示，“世界需要保护”，不仅要保护“国家和非国家行为者对人工智能的滥用，还要保护人工智能自身武器化的可怕前景”。
“答案是我们必须与美国达成协议，”奥布莱恩先生说。
“这样的协议可以从政府对政府的框架开始，该框架将使澳大利亚能够尽早、优先地获得前沿人工智能模型，并保证持续获得机会。
“澳大利亚的首要任务是加强我们的数字防御并保护关键基础设施，以保护现代社会免受人工智能驱动的网络威胁。
“我们可以用人工智能作为盾牌，这样人工智能就可以作为剑。”
他还表示，总理安东尼·阿尔巴内斯 (Anthony Albanese) 9 月份在美国出席联合国大会时应该提出要求。
