OpenAI 使用 AI 帮助编写一封电子邮件，提醒澳大利亚政府 AI 入侵了其网站

据《澳大利亚卫报》透露，OpenAI 使用人工智能帮助向澳大利亚政府撰写一封电子邮件，称其人工智能代理入侵了关键部门网站。

周二，该公司的一名高管在议会调查中表示，他不相信该公司自己的技术被用来创建电子邮件，但表示该公司必须确认这一点。

据澳大利亚卫报了解，OpenAI 的法律和安全团队使用人工智能来生成部分电子邮件文本，包括单词选择和消息格式。但一位知情人士称，人们查看了最终的消息，并负责将通信发送到澳大利亚服务邮箱。

已联系 OpenAI 征求意见。

OpenAI 开发的人工智能代理在 6 月份访问了澳大利亚服务部和其他三个系统的数据。该公司于 9 月 10 日通知了澳大利亚，尽管该公司在 8 月份就已获悉该事件。

该公司向澳大利亚发出的第一份通知是通过一封五段电子邮件发送到澳大利亚服务局的收件箱（publicdisclosures@servicesaustralia.gov.au），该邮件每天仅检查一次。

OpenAI 因未正式或直接提出该问题而受到批评，包括在 9 月 1 日公司首席执行官 Sam Altman 与澳大利亚副总理理查德·马尔斯 (Richard Marles) 举行的面对面会议上，即该公司向澳大利亚服务部发送电子邮件的九天前，但距离得知 6 月 18 日的攻击事件已过去近一个月。

OpenAI 首席战略官 Jason Kwon 在周二的议会听证会上承认，“公司的应对措施不够好，我们应该尽早通知受影响的各方”。

在听证会上，影子技术部长、自由党议员亚伦·维奥利(Aaron Violi)具体向权询问了这封电子邮件的情况，以及人工智能是否参与了该电子邮件的创建。

“我很高兴你必须使用人工智能代理来获取信息和审查，而且很明显你的企业使用人工智能。当你通过电子邮件通知澳大利亚服务局时，你的员工是否使用人工智能来创建该电子邮件？”维奥利问道。

权回答说：“我不确定，但我们很乐意去确认。”

Kwon 在讨论中指出，OpenAI 针对意识问题提供了更多技术问题的具体答案。 OpenAI 预计将在完成调查后提供有关该电子邮件的更多信息。

在澳大利亚卫报 9 月份获得的一封电子邮件中，澳大利亚服务部建议：“我们在与澳大利亚服务部的医疗保险统计服务公司 medicarestatistics. humanservices.gov.au 审查 OpenAI 模型活动时通知您存在安全漏洞。

“OpenAI 模型确定了服务器执行通过公共报告界面发送的命令而无需个人帐户或密码的方法。它能够访问该界面以读取应用程序的部分内部设置和文件，获取文件列表，并在服务器上创建和调用一个小型测试文件。”

该电子邮件表示，OpenAI 的审查“没有发现任何证据表明该模型可以访问患者级别的记录、个人信息或凭证；数据已被删除；或建立了永久访问权限”，并发送了有关“受影响的 URL”和“受影响的报告”的信息。

“我们建议负责该服务的团队调查该漏洞并评估必要的更改以防止其发生。我们将很乐意通知您的安全团队并提供支持证据（如果有）。

“最好的 OpenAI 安全团队。”

周四，科技部助理部长安德鲁·查尔顿 (Andrew Charlton) 在悉尼的一次演讲中谈到了 OpenAI 事件，称该公司的代理人“侵入了澳大利亚政府的系统”。

他说：“首先，任何公司都不应发布不安全的边缘人工智能模型。”

“然而，它发生的事实，以及实验室没有检测或预防它的事实，引发了关于新法规在国家人工智能标准中的作用的重要问题。”

查尔顿表示，前沿人工智能将“突破现有政府公约和安全风险评估协议的界限”，超越“传统”方法。

这位助手表示，“市场并不能解决人工智能发展的问题”，这与美国允许企业进行一定程度自我监管的做法形成鲜明对比。查尔顿担心“前沿实验室将能力置于安全之上”，他认为澳大利亚可以通过托管和影响前沿实验室对人工智能发展产生更大的影响。

“人工智能需要监管，因为损害很严重，很难逆转，它是由从未选择它们的人造成的，有时直到他们到达那里之前它是看不见的，”他说。

“市场不会解决这个问题，因为激励措施奖励的是速度和能力，即使是行业顶尖的人也不能放慢脚步。”

你知道更多吗？电子邮件 josh.butler@theguardian.com