AI可帮助设计“生化武器”-加州发布 AI 风险报告：警示“不可逆危害”

新闻全文摘要

报告标题：California AI Policy Report Warns of ‘Irreversible Harms’
发布日期：2025年6月17日
发布者：加州州长 Gavin Newsom 委托的 “Frontier AI 政策工作组”，由 Fei-Fei Li 等专家联合撰写

主要内容：

报告共 53 页，核心警示人工智能若缺乏监管，可能导致“不可逆的危害”，包括生物和核武威胁 。.

AI 已发展到可助普通人设计生物武器及获取核级铀 —— 时间窗口极小，紧迫性强 。
报告提出“Trust but verify”（相信但要验证）原则，主张强制透明、独立评估、安全事件上报及吹哨人保护机制。

该报告虽未明确立法方案，但为加州制定 AI 安全法规打下基础，可能影响联邦水平政策 。

工作组由 Fei‑Fei Li、Mariano‑Florentino Cuéllar、Jennifer Tour Chayes 等领衔，共 60 多名专家发表意见。

深度解析

1. 识别“不可逆危害”

报告强调 AI 在生物/核武领域的潜力正在迅速提升，一旦扩散，将极难逆转，具有全球性风险 。

2. 前置式治理框架

不同于传统“等到行业内控再拍拍肩膀”，加州这份报告主张立即构建 强制性前置监管机制，并在技术暴露之前建立控制体系。

3. 技术审计与独立验证

除了依赖厂商自检，报告建议政策制定者应推动第三方测试与公开报告，确保 AI 的安全性能可验证、可问责 。

4. 呵护创新与快速响应并重

报告支持用灵活、分阶段策略保护创新生态，同时对潜在失控风险发出强烈警示——底线不能碰 。

5. 加州先行引领全美

面临联邦监管滞后的现实，加州靠自己制定“可复制模板”，未来有望成为国家级 AI 政策蓝本，并影响其他州 。

这份由 AI 界权威专家领衔的加州报告，明确指出：AI 发展需“先有框架，再谈发展”。它提出一套可行且紧迫的监管路径，为预防全球性灾难提供政策参考，也为其他州乃至联邦法律提供可行范本。

加州的行动再次凸显：在技术爆发期，只有明智平衡监管与创新，才能保障 AI 带来福利，而非灾难。