前谷歌 DeepMind 研究员亚历克斯·特纳 (Alex Turner) 在周一于纽约举行的董事会会议上警告称，“流氓”人工智能可能会变得比中国的激进增长更危险。
“中国不是我们唯一的潜在竞争对手，”他说。 “我们很有可能在国内急于建立自己的竞争对手，即一种错位的人工智能。错位的人工智能是每个人的竞争对手，包括我们的敌人，有一天可能会比中国更强大。”
纽约市议会主席朱莉·梅宁 (Julie Menin) 就如何在与中国的技术竞赛背景下平衡前沿模式的发展提出了这一问题。
AI 研究员 Jacob Coxon 准备于 2026 年 10 月 5 日在纽约市议会听证会上作证。Coxon 此前曾在 Open AI 工作，Anthropic 警告称 AI 实验室正在“玩弄我们的生活”。
查理·特里巴洛 |法新社 |盖蒂图片社
人类学家雅各布·考克森（Jacob Coxon）早期就对人工智能的可怕风险提出了担忧，他在会议期间称该行业的发展方式“非常粗心”。
“在目前的轨道上，我认为人类不太可能失去对这些人工智能的控制，并可能导致人类灭绝，”他在挤满了人的房间里说道。
经过一个月关于先进人工智能模型带来的风险的激烈辩论后，Anthropic 的高级管理人员， 开放人工智能， 谷歌 和 元 证明了该技术的潜在风险并展示了当前的安全措施。
Anthropic派出Frontier Red团队负责人Logan Graham出庭作证，而OpenAI则由该公司开发和运营主管Morgan Dwyer代表。谷歌人工智能和技术政策总监 Alice Friend 以及 Meta Legislation 人工智能政策总监 Shane Cahill 也出席了会议。
梅宁有时会因缺乏直接答案而感到沮丧，这些问题包括人工智能模型造成严重经济损失甚至死亡时的法律责任。
OpenAI 政策制定和运营主管 Morgan Dwyer、Meta 立法和政策制定（欧洲、中东和非洲和全球人工智能）总监 Shane Cahill、谷歌全球人工智能公共政策总监 Alice Friend 以及前沿红队负责人 Logan Graham 通过视频链接在纽约市议会艺术监管委员会会议上作证。 2026 年 10 月 5 日在纽约。
亚当·格雷 |盖蒂图片社
“那么我承认，你们四个人、这里的任何一家公司都无法计算灾难性事件的风险，”他说，并称这些反应“不仅仅是令人不安”。
谷歌的朋友以国家安全为由，谈到了一个“全面的”联邦框架来应对人工智能日益增长的风险。
“正如我在开场白中所说，我们很久以前就说过，如果没有人工智能就是非法的，那么有了人工智能也是非法的，”他说。
Coxon 和前 OpenAI 研究员 Daniel Cocotailo 都警告称，拥有此类变革性技术的人工智能公司中“快速行动、打破常规”文化存在危险。
2026 年 10 月 5 日，纽约市议会委员会在纽约市政厅公园举行关于人工智能风险和监管的听证会，人们抗议人工智能和数据中心。
迈克尔·圣地亚哥·盖蒂图片社
考克森表示，该方法适用于“照片共享应用程序”，但不适用于“构建有史以来最强大的技术”。
Kokotailo 在作证时呼吁人工智能行业提高透明度并减缓领先模型的开发，这呼应了行业专家最近几周发出的可怕警告。
梅宁表示，虽然 Meta 确认将参加上个月末的听证会，但 Anthropic、OpenAI 和谷歌同意仅在董事会威胁他们后才传唤他们出庭。
埃隆·马斯克 (Elon Musk) 的 SpaceXAI 是唯一一家没有参加的公司，即使在该市发出邀请后也是如此。 太空探索技术公司 首席执行官埃隆·马斯克上周要求他或该公司人工智能部门 SpaceXAI 的另一位代表作证。
梅宁表示，这“直接违反”了他上周发出的传票，该委员会计划“在法庭上追究此事”。
2026 年 10 月 5 日，纽约市议会委员会在纽约市政厅公园举行关于人工智能风险和监管的听证会，人们抗议人工智能和数据中心。
迈克尔·圣地亚哥·盖蒂图片社
顶级人工智能实验室，尤其是 OpenAI 和 Anthropic，在 Coxon 辞去 Anthropic 的工作后，因声称该公司和 OpenAI “拿我们的生命赌博”而引发社交媒体风暴，因其安全实践而受到批评。
行业研究人员在 9 月份警告称，两家公司都在急于构建可能造成灾难性损害（包括人员伤亡）的模型，这促使人们呼吁政府进行有效监管。
梅宁在会议开始时指出，唐纳德·特朗普总统上周在华盛顿与科技领袖签署自愿协议后，联邦政府对人工智能采取了温和的态度。
“人工智能将自我调节的想法违背了所有证据，”他说。
2026 年 10 月 5 日，纽约市议会委员会在纽约市政厅公园举行关于人工智能风险和监管的听证会，人们抗议人工智能和数据中心。
迈克尔·圣地亚哥·盖蒂图片社
在 OpenAI 透露其两个模型已逃脱封锁、访问开放互联网并突破 Hugging Face 开放开发者平台后，今年夏天的 Rogue AI 担忧随之而来。 Anthropic、Google 和 Meta 随后揭露了他们自己的模型存在欺诈行为的其他案例。
上个月，梅宁罕见地呼吁成立一个“理事会委员会”，要求企业解释人工智能威胁并考虑可能的立法解决方案。
梅宁在一份声明中表示：“鉴于事关重大，这些公司有义务向公众露面，回答我们的问题，并就我们提议的立法提供意见。”
手表： OpenAI 调查机构 Anthropic 的前 FTC 首席技术专家 Neil Chilson
