费城 (WPVI) — 费城警方周五表示，人工智能模型通过可公开访问的网络表格提供了有关未侦破凶杀案的错误提示。
该举报于 7 月 18 日通过 PhillyUnsolvedMurders.com 发送，但被标记为垃圾邮件并且从未采取任何行动。
该部门表示，没有迹象表明存在未经授权访问警察系统或泄露部门数据的情况。
警方称，Anthropic 于 9 月 28 日发现了这一事件，并于 10 月 7 日向该部门报告。第二天，Anthropic 官员与警方举行了会议。
声明称：“公司必须加强防御，防止此类事件在市政府不知情的情况下影响城市系统。延迟两个月才发现并向市政府报告这一事件是不可接受的。”
维拉诺瓦大学计算机科学助理教授 Venkat Margapuri 表示：“它应该更早被发现。”
Anthropic 表示，它正在测试其模型如何与随机选择的网站交互。
“我们不知道确切的目标是什么，因为仅仅与不同的网站互动并没有什么害处，”玛加普里说。
然而，Margapuri 表示这会产生问题。
“这个机器人代表用户主动向另一个网站发送数据，所以我将其归类为危险活动，”玛加普里说。
事件发生后，Anthropic 告诉费城警方，它已经结束了审查过程，并将在未来实施额外的授权，希望防止人工智能错误。
“它当然有它的优点，但我不想说缺点，但它带来了一些我们需要积极理解和管理的风险，”玛加普里说。
Anthropic 周五晚间发布了一份关于这一事件和其他意外模式行为实例的报告，其特工访问了几个联邦、州和地方政府网站。
Anthropic 表示已通知白宫和各相关机构。该公司认为，今天详细介绍的事件对现实世界的影响很小，并且不像以前的违规行为那么严重。
以下是费城警察局的完整声明：
费城警察局警告公众，人类人工智能模型通过 PhillyUnsolvedMurders.com 提交的虚假凶杀案举报。
Anthropic 于 10 月 7 日向 PPD 通报了这一事件，部门官员立即要求与公司代表会面，会议于 10 月 8 日举行。
Anthropic 表示计划在今天晚些时候发布有关此事件和其他意外行为实例的报告。
费城警察局在发布之前发布此信息，以确保政府完全透明并对公众负责。
AI的提交是通过该部门的公众咨询文件进行的。
根据现有信息和 PPD 的审查，没有迹象表明该事件涉及未经授权访问警察系统或破坏部门数据。
该提交内容被标记为垃圾邮件，并且从未转发到真实犯罪中心进行调查或传播。
PPD 与市法律部、创新技术办公室以及市长 Cherelle L. Parker 的合作是一致的。
根据迄今为止审查的信息，该部门的调查结果与 Anthropic 对该提案如何链接到该网站的描述一致。
据 Anthropic 称，其模型通过登录 PhillyUnsolvedMurders.com 并提供有关未侦破谋杀案的虚假信息，针对随机选择的网站进行了测试。
由可能了解此案的人士于 2026 年 7 月 18 日晚上 11:27 提交。
Anthropic告诉PPD，它于9月28日发现了这一事件，停止了负责提交的自动验证流程，并设立了额外的验证机制以供未来验证。
10 月 8 日的简报会结束后，PPD 将提交的内容放入网站的咨询记录中，并确认相关电子邮件仍属于垃圾邮件。
该部门对犯罪线索的常规调查流程需要在发布任何线索进行后续调查之前进行人工审查和验证。
无论谁提供信息以及信息如何到达部门，该建议都有助于评估 – 但不是既定事实。
调查人员将评估其可信度并寻找确凿的证据。自动提交不会绕过此过程。
这些 PPD 保障措施限制了该事件的影响。他们并没有淡化人工智能系统提供虚假信息的严重性，就好像这些信息来自具有谋杀资格的人。
这起悬而未决的案件有真正的受害者、悲伤的家人和调查人员正在努力寻找答案。
科技公司应采取一切必要的预防措施，防止其系统向执法机构提供虚假信息。
PPD 将审查 Anthropic 发布的报告以及与其系统或调查相关的任何其他信息。费城市非常重视这一事件。
公司应加强保障措施，防止此类事件在城市不知情的情况下影响城市系统。延迟两个月向市长办公室披露和报告这一事件是不可接受的。
公众应继续通过 PhillyUnsolvedMurders.com 提交有关未破谋杀案的法律信息。
PPD 仍然致力于仔细评估这些信息，并代表受害者及其家人跟进可信的提议。
帕克的部门和管理部门正在密切关注这一事件，并将在获得更多信息后向公众提供。
除了我们对这一事件的调查外，帕克政府还与我们在地方一级的州和联邦合作伙伴一起探索所有必要的监管保障措施。
在帕克市长的领导下，费城市负责任地拥抱人工智能，并致力于透明度、认真实施和保障措施，以减少错误并保护城市系统和城市居民。
版权所有 © 2026 WPVI-TV。版权所有。
