OpenAI 承认，在 6 月份一名流氓特工黑客入侵澳大利亚政府网站后，该公司已对其训练环境采取了更多预防措施。
该公司首席战略官 Jason Kwon 周二在悉尼出席了一场有关人工智能的议会听证会，他表示此次违规行为“不应该发生”，并且“我们应该更好地应对”。澳大利亚花了数周时间才通过电子邮件通知普通收件箱。
权说：“我们很抱歉，我们知道我们需要努力重建与澳大利亚人民的信任。”
Anthropic也出面表示，在最近的调查中没有发现澳大利亚存在任何违规行为。
今年 6 月，OpenAI 代理“欺骗”并访问了一个私人统计门户，其中包含澳大利亚医疗保险全民健康计划的“非敏感”数据，网络安全专家称这是此类黑客行为中的首次。
当被问及为什么 OpenAI 在得知违规行为后没有直接联系政府部长时，Kwon 承认这是一个错误。
“回想起来，我们应该按照你的建议去做，”权在回答委员会关于他为什么没有获得政府部长的手机号码的问题时说。
“发生这种情况的原因是我认为人们认为这是一种技术情况，他们想联系技术合作伙伴，但这还不够好。”
权表示，该公司已经改变了处理此类事件的方式。
“即使我们不完全了解情况，我们也只是想了解情况并开始与受影响方合作。”
Kwon 告诉一个由工党、自由党和独立党议员以及参议员组成的 12 名委员会成员组成的委员会，该委员会正在研究人工智能及其对澳大利亚的影响，OpenAI 还为其学习环境添加了“预防措施”。
该公司还在澳大利亚设立了一个当地工作组，研究“如何更好地管理与能力日益增强的人工智能相关的风险”。
Kwon 告诉委员会，训练模型现在在测试期间受到实时监控，如果它们以不符合预期的方式与互联网交互，将会收到警报。
这意味着上周发生另一起黑客攻击后，它能够在 48 小时内向新南威尔士州政府发出警报。
权表示，该公司还将支持强制性事件披露框架，因为它将设定“明确的期望”。
“我们试图制定一个标准，应用于我们的志愿行动……根据我们在这里学到的知识，我们应该与更多的人讨论如何做好它。”
Anthropic 防御主管戴夫·奥尔 (Dave Orr) 表示，在 OpenAI 特工于 7 月攻破 Hugging Face 技术平台后，该公司审查了“数亿份记录”，以检测任何潜在的类似 OpenAI 的澳大利亚政府网站违规行为。
“我们没有发现任何类似的东西，我们进行了观察，”他告诉委员会。
公开听证会将持续到周五，听证会还听取了艺术家和媒体组织关于版权的争论以及他们对使用其材料的人工智能模型的担忧。
该委员会表示，选择退出模式——艺术家必须要求人工智能不要将他们的材料用于教育目的——是有缺陷的，可能意味着艺术家不会因其内容而获得报酬。
澳大利亚唱片工业协会首席执行官安娜贝尔·赫德 (Annabel Heard) 表示：“换句话说，澳大利亚艺术家将在急于达成这项人工智能协议的过程中被杀。”
