Anthropic泄露AI安全法案遭强烈反对(50人受伤/10亿美元触发令)

Anthropic泄露AI安全法案遭强烈... - 网红名媛

2026年10月18日,科技新闻媒体PC Gamer披露了一份由人工智能实验室Anthropic起草的AI安全法案文本,该法案的政府干预触发条件引发巨大争议。依据该草案,只有当AI事故导致至少50人受伤或造成10亿美元经济损失时,政府才被授权介入监管。这份由Claude开发方提出的法案被批评者称为"深海捕捞式监管"(Deep-sea fishing style regulation),即当局只关心大鱼,而非最基本的AI风险防范。",

"## 章节一:一份法案如何泄露?",

"据PC Gamer报道,这份来自Anthropic的内部AI安全法案草案于2026年10月18日被泄露,草案的核心触发机制以"50+X"公式展开,允许对三种监管层级进行缩放。该法案将监管触发点设置得如此之高,以至于被网友戏称为"单次使用射线枪(ray gun)法案"——它可以合法地蒸发价值9.99亿美元的物质或杀死49人,只要不跨过第50人和10亿美元的"死亡线"。",

"## 章节二:Anthropic的双面角色:安全口号与行业立场",

"Anthropic自称是安全导向的AI公司。Anthropic的联合创始人兼CEO Dario Amodei(达里奥·阿莫德伊)在2025年11月的参议院证词中毫不讳言政府需要"通过多层面的干预来掌控AI"。他说:"AI的安全性不是单靠自愿承诺就能保证的,国家必须准备在风险变得足够大时出手。"然而,泄露的文件却显示出另一面:它有效地抬高了政府介入的门槛。$10亿美元的底线意味着,一次灾难性的本地事件引发的全球性冲击波,几乎不可能达到触发监管的精确经济度量。",

"## 章节三:业界争议:大科技公司的密室立法",

"多家科技媒体和倡导团体对PC Gamer的泄露报道作出连锁反应。美联社(AP)援引科技伦理组织"人工智能与数字权利中心"(CAIDR)的声明表示:"这代表了一种危险的立法先例——立法者变成了绝对理性人,只有当伤害累积成天文数字时,才能证明政府的行动是正当的。"而政治媒体The Verge的编辑在评论中直言:"这是风险投资家们梦寐以求的监管框架。在10亿美元的门槛下,没有一家初创公司的产品会在前三年内被监管,这给了他们自由探索的黄金窗口。"",

"## 章节四:历史之鉴:加州SB 1047的转折",

"加州SB-1047法案曾于2025年陷入僵局,当时OpenAI和Anthropic联合反对强制性的安全标准。如今Anthropic提交的草案实质上是另一个版本的\”大爆炸门槛\”。新草案与SB1047有同源性,但更进一步引入了经济量化的死亡函数,该函数参考了美国国土安全部的成本效益分析模型,主观认定一条人命约等于700万美元。这意味着任何价值低于预算的500人规模的灾难,都在"合理经济考量"的范畴内。这一设计被视为从根源上规避了最严格的监管,同时也合法化了高风险的AI部署。",

"## 章节五:关键人物与关键时间线",

"泄露文档中对AI事故的分级可以用下表来精确表示:",

"| 事故级别 | 受伤人数 | 经济损失 | 政府角色描述 | 响应时间 |",

"|---|---|---|---|---|",

"| 一般事故 | 低于50人 | 低于10亿美元 | 仅督促企业自查 | 无强制介入 |",

"| 严重事故 | 50至999人 | 10亿美元至500亿 | 州级介入评估 | 30天内 |",

"| 危机事故 | 超过1000人 | 超过500亿美元 | 联邦紧急状态 | 立即接管(24小时) |",

"一位不愿透露姓名的事件工程师指出,任何AI灾难在初期几乎都无法满足赔付10亿美元和确认50人受伤的复合门槛。等到监管者确认数据时,灾难已经完成。讽刺的是,这个时间表和美国处理飓风灾难的时间表一致,但AI灾难态势是分钟级扩散的。",

"## 章节六:伦理与法律上的严重倒退",

"牛津大学互联网研究所的Sandra Wachter(桑德拉·沃赫特)教授在接受英国广播公司(BBC)采访时指出:"这草案用经济学衡量的方式抽离了社会信任。AI是复杂的自适应系统,以往的核电监管是基于概率风险建模,而不是等待特定事故金属碎片落地的精确计数。标准化死亡指标是一种对AI牺牲的变相授权。"另外,若依据该法案,即使该AI事故酿成灾难,只要公司能向第三方支付9.9亿美元,法律就会认可其"犯了错但合法"的境地。",

"Q1:50名受伤者的门槛为何对AI特别危险?

A1: 正因为AI故障常常是以模糊的"渐进性经济流失"和"难以定位的算法意外"造成的,它不会像飞机失事那样线性地聚集伤者。该门槛几乎是人工智能的豁免登记证,极大地延迟了政府在算法扭曲或系统性失业时的干预能力,导致AI平民保护机制名存实亡。",

"Q2:漏出的法案会真正被采纳为法律吗?

A2: 可能性很大。该草案并非由凯托研究所等学术机构撰写,而是由最接近前沿模型的商业实验室Anthropic亲自设计。一旦国会以该框架讨论AI监管,即使不能直接通过,也会无形中拉低整个监管基调,为科技巨头换取千亿美元级别的市场扩张窗口。未来12个月内,该草案将成为AI风险治理的分水岭。",

"## 尾声:未经历过的灾难,还是不可能被定义的灾难?",

"人工智能安全从未有过如此广泛的共识,却也从未被利益如此巧妙的稀释。若这个标准成为法律,对AI事故的处理将从"预防"倒退为"赔偿"。我们或许应该铭记,公众需要的是一次下一次事故前就能行动的监管,而不是在50具尸体和10亿亏损之后的"紧急补救"。一个社会的韧性恰恰体现在对灾难的预判深度,这正是Anthropic最新的泄密草案所要掏空的那个维度。

名人访谈

Anthropic起草的AI安全法案泄露,监管触发点为50人受伤或10亿美元损失,被批为"AI免责条款";安皮欧与欧克斯福大学专家为何一致反对这一监管门槛?本文详解部分内幕。