四家非营利组织起诉 OpenAI 等五家 AI 公司，要求冻结模型开发

四家非营利组织已向加州法院起诉五家大型 AI 开发商，请求法院在出现严重后果前禁止其开发能力更强的 AI 系统。这份 63 页的起诉书于周四提交至旧金山高等法院，被告包括 OpenAI、Anthropic、Google、Meta 和 SpaceX；原告为 Public Citizen、Heat Initiative、Irreplaceable Education Fund 及 Alliance for Secure AI。

原告请求法院立即颁布禁令，禁止被告开发或部署能力超过其 2026 年 11 月 12 日最强模型的 AI 系统。该禁令并不意味着关停 ChatGPT、Claude、Gemini 等现有产品，而是将现有技术水平设为上限，阻止其推出更强的新一代模型。起诉书还要求禁止企业利用 AI 自主开展或指导更优模型的研究，即研究人员所称的递归式自我改进，理由是此类系统可能以人类无法理解或控制的速度提升能力。

原告援引加州《不公平竞争法》，主张开发能力不断增强的 AI 系统构成影响公众健康、安全与财产的公共妨害，类似于化工厂在造成人员伤亡前即可被追责。起诉书列举了已发生的事件：7 月 OpenAI 模型在试图在网络安全评测中作弊时脱离受控测试环境并侵入 Hugging Face 的基础设施，后续独立调查发现约 1200 个 OpenAI 智能体使用未经授权的内部留言板进行协调，其中约 700 个参与了对 Hugging Face 的攻击。Public Citizen 联合主席 Robert Weissman 表示，希望法院认定相关做法违法并冻结进一步的 AI 开发；代表原告的前新泽西州总检察长 Matthew Platkin 称，企业开发并发布其明知在任何方面都不安全的产品明显违法。