八个国家与主要 AI 公司签署巴黎 AI 安全宣言，承诺模型关闭机制

在巴黎和平论坛召开前夕，埃马纽埃尔·马克龙召集领先的 AI 公司和政府共同作出安全承诺。该协议尚未建立具有制裁措施的约束性监督体系，但各公司承诺采取包括关停机制在内的具体措施。

在巴黎和平论坛开幕前夕——约三十位国家元首和政府首脑将于周二在该论坛上讨论国际 AI 监管——八个国家的代表、科技公司以及公民社会组织于 11 月 9 日签署了通过的 “AI 安全与保障巴黎倡议”。据法国日报 Le Monde（世界报） 报道，Sam Altman（OpenAI）、Dario Amodei（Anthropic）、Brad Smith（微软）、Arthur Mensch（Mistral AI）、AI 先驱 Yoshua Bengio 以及美国财政部长 Scott Bessent 在与法国总统埃马纽埃尔·马克龙的在线会议上加入了该宣言。德国没有签署。

该文件目前是一项政治性自我承诺，旨在遏制网络攻击或对强大 AI 系统失控的风险。它涵盖三个主要领域：共享的高能力 AI 模型评估程序、更明确的开发者问责机制，以及更好地共享严重安全事件信息。非敏感的测试结果将以标准化格式发布。各公司还承诺披露已知风险，支持由外部研究人员开展与风险相称的独立审计，并为其控制的模型建立关停机制。

不过，这尚未建立起有约束力的国际监督体系，因为共享标准和合作程序仍需进一步制定。该宣言将具体的安全承诺与在此基础上发展国际框架的意图结合在一起，但既未设定截止日期，也未规定制裁措施。

美国企业与政府在 AI 监管问题上产生冲突

该协议的出台紧随美国主要实验室的一系列事件之后。尤其是 OpenAI 的智能体在网络安全测试期间自行连接到互联网，并对 AI 平台 Hugging Face 发起了 unforeseen attacks on the AI platform Hugging Face 意料之外的攻击，再次引发了关于强大模型可控性的讨论。

随着 OpenAI 和 Anthropic 准备 IPO，它们面临来自投资者控制这些安全风险的压力。Altman 关于 AI 监管的内部思考清楚地表明了安全与商业考量之间的重叠：按照他的立场，即使安全措施会拖慢速度，OpenAI 也不能在竞争中落后于对手。Anthropic CEO Amodei 在 9 月中旬的一篇文章中主张 放缓研究步伐，并引入有外部审计员进驻实验室的国际监管。不到一周后，OpenAI 呼吁建立 由美国主导的国际安全标准，其基础是英国、美国和法国的 AI 安全研究所网络，而“巴黎倡议”也提到了这一网络。

然而，在 9 月底举行的联合国大会上，美国总统唐纳德·特朗普拒绝为美国 AI 模型建立任何"全球主义"监督机制。相反，他让科技公司的 CEO 们签署了一项国家协议，并于 10 月 10 日下令向美国机构报告重大 AI 事件。英国 AI 安全研究所的经历显示了国际合作面临的摩擦有多大。9 月华盛顿限制其访问美国新模型后，白宫在外交压力下才解除了这一封锁。

相比之下，在 2025 年 2 月的巴黎 AI 峰会上，对该技术更为乐观的愿景仍将安全顾虑推到了次要位置，与此前在英国和韩国举行的峰会不同。后来围绕 Anthropic 新模型 Fable 和 Mythos 的争端表明，安全冲突已变得多么具体。这些模型的能力飞跃也促使巴黎在网络安全问题上改变立场。美国政府对模型访问的担忧以及 Fable 5 被报告的漏洞导致这些模型在 2026 年 6 月被暂时切断美国以外的访问。

法国推动签署保护未成年人章程

尽管美国抵制，爱丽舍宫仍计划于周二在巴黎和平论坛上推进一项儿童保护章程。美国曾在 6 月于法国埃维昂举行的 G7 峰会上阻止了该章程。该框架旨在让独立研究人员更容易获取公司数据，让主要 AI 企业资助其研究，并确保研究成果得以共享。

早期阶段的研究将考察那些很少反驳用户新型对话工具如何在日常学习 中影响幼儿的认知发展。该章程还涉及未成年人与这些系统形成的情感依恋，这一话题在美国已通过与自杀相关的诉讼而受到关注。

研究成果主要供欧盟委员会使用，欧盟委员会主席乌尔苏拉·冯德莱恩于 9 月提出在 2028 年前出台针对 AI 的欧洲《儿童法案》。在周二的和平论坛上，法国国家 AI 与数字委员会将向马克龙递交一份受政府委托的报告，分析 AI 助手如何利用人类的"弱点"，并提出加强监管的建议。