Scott Wiener 赢得加州国会席位后谈联邦 AI 监管议程

作为加利福尼亚州参议员，Scott Wiener 曾起草旨在遏制先进 AI 风险的立法。如今，在赢得前众议院议长 Nancy Pelosi 空出的旧金山国会议席的激烈选战之后，他可能在制定联邦 AI 政策方面发挥关键作用。 

我在周五与 Wiener 交谈，此时距他被宣布获胜仅过去几个小时。但他已经在思考 AI 风险了。前一天，AI 非营利组织 METR 发布了一份报告，被广泛解读为 Anthropic 已实现递归自我改进的证据——这一现象指 AI 对自身的进步作出实质性贡献，AI 进展可能因此失控。

“这非常令人担忧，”Wiener 说，并援引该报告作为证据，表明我们规范 AI 的时间正在迅速耗尽。“我曾希望国会在今年（年底）之前采取果断行动，”他说。“但看来这并没有发生。”

近年来，Wiener 对 AI 的关注与日俱增，他已将 AI 安全运动的许多关切视为己任：在我们 20 分钟的交谈中，例如他用了六次“递归自我改进”这个短语。“我们需要让它慢下来，”他说。“因为它进展非常快，我们可能在不知不觉中走向灾难。”

Wiener 已经对 AI 政策产生了实际影响。他在 2024 年起草的 SB 1047 法案本将成为美国首部真正的前沿 AI 立法，却被加州州长 Gavin Newsom 否决；随后他又发起了 SB 53，这是一项监管力度较轻的法案，Newsom 签署了它。这两部法案都催生了联邦立法提案。 

Wiener 的国会竞选从 Public First Action 获得了超过 300 万美元资助，这是一家支持 AI 监管的非营利组织，其大量资金来自 Anthropic。这笔捐款导致反对者批评他与 AI 行业关系过近，但 Wiener 表示这完全不是事实。 

“Public First 支持我，是因为我是全美第一个提出 AI 监管的立法者，也是第一个通过并落实该监管的立法者，”他在采访后的一条消息中写道。“针对我（因 Public First 的）支持而发起的攻击极其愤世嫉俗——他们竟然攻击一个真正顶住大型科技公司反对而实施 AI 监管的候选人，还虚假声称这位候选人与大型科技公司关系过近。”

Wiener 表示，如果国会成立人工智能特别委员会——民主党人自 9 月以来一直在讨论此事——他将乐于参与其中。他对国会中流传的许多政策想法也充满热情。“我认为拥有一个强大、有实权且灵活的联邦监管机构非常重要，”他说，并指出同为加州民主党人的众议员 Ro Khanna 已提出立法来设立这样一个监管机构。 

他还强调了举报人保护、测试与审计要求以及“终止开关”要求的重要性，并希望国会运用其监督权力来追究 AI 实验室的责任。“这关乎人类的未来，我们要确保公众有发言权，并确保公众了解正在发生什么，”他说。

作为一名资深的州立法者，他反对联邦法律对州 AI 法律进行大范围的优先适用，而一些拟议中的联邦立法将要求这样做。他指出：“各州正如布兰代斯所说，是实验室。”“你希望各州能够继续保持灵活机动，而国会有时做不到这一点。”

维纳说，最重要的是，他希望国会通过有真正约束力的政策。“至关重要的是，当国会采取行动时，我们要以真正有意义、符合当下形势的方式来行动，”他说。这意味着要认真对待 AI 灾难的可能性，他用 AI 安全专家常用的语言来讨论这个话题。“我们正处于一个非常危险的时刻，面临着失去对 AI 控制的风险，”他告诉我。“我们需要应对递归自我改进。一旦进入那个领域，那确实可能彻底导致完全失控。”

在对抗 AI 灾难性风险的斗争中，他将有一些盟友。例如，参议员伯尼·桑德斯（Bernie Sanders）曾会见过 AI 安全运动中最具影响力的许多人物，并多次谈论 AI 与生存风险。但维纳那种湾区式、被 AGI 观念浸染的视角与全国对 AI 的情绪之间仍存在很大差距，而后者的核心是对数据中心的反对。周二选民在 41 项反数据中心提案中通过了 40 项，这对维纳和其他支持 AI 监管的人来说似乎是个好兆头，但维纳表示，他认为这场运动更多是源于本地关切，而不是关于 AI 风险的更大问题。

“真正反对 AI 发展方向的人——这是他们能够真正采取行动的一个领域，”他说。“但对数据中心的抵制——在我看来，更多是因为人们对自己社区里可能出现这样的设施感到不满，它会对居民家附近带来种种影响，推高电费并消耗水资源。据我了解，对大多数人来说，这才是更大的问题。”

鉴于国会在监管科技行业方面的糟糕记录，维纳称自己对国会约束 AI 的能力仅持“谨慎乐观”态度。他还担心立法能否闯过唐纳德·特朗普总统这一关。特朗普在 9 月份曾称对 AI 灾难性风险的担忧是一场“骗局”，并表现出极不愿意与中国合作的姿态，而维纳认为这种合作对防止 AI 造成最坏后果至关重要。

但他说，特朗普的不可预测性多少提供了一些希望，尽管这是一种令人不安的希望。“到目前为止，我们看到的是一些有问题的举动，但还不是彻底的灾难，”维纳说。“我希望不需要一场灾难才能促使总统采取行动。而且我希望，如果真的需要那样做——正如我所说，我希望不需要——但如果真的需要，我希望灾难尽可能小。”