跳到正文
热点事件 持续更新

Anthropic 在修订版 S-1 中警告或临近 RSI 能力

1 篇报道 1 个报道来源 2 小时前更新

先了解这件事

AI 综述

Anthropic 在其修订版 S-1A 文件中披露了一项风险提示:公司内部估计显示,其未来模型可能很快达到 Responsible Scaling Policy 中"由 AI 导致的急剧加速进展"的定义,即接近递归自我改进(RSI)阈值。文件还披露,Anthropic 过去曾在未察觉的情况下,利用 AI 开发出能力出现跃升的新模型。不过该公司同时说明,目前没有任何现有模型越过该 RSI 阈值。为应对这一风险,Anthropic 表示计划更新其政策,并在未来可预见的阶段让人类监督保持在前沿模型研发流程之中。目前事件仍停留在监管文件的披露层面,暂无后续政策细节或监管机构回应的报道。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月3日
  1. TechCrunch · AI精选
    Anthropic 在 S-1 文件中警告可能很快达到递归自我改进(RSI)阈值

    Anthropic 在修订版 S-1A 文件中警告,其内部估计显示未来模型可能很快达到其 Responsible Scaling Policy 中“由 AI 导致的急剧加速进展”的定义,且过去曾在未察觉的情况下用 AI 开发出能力跃升的新模型。文件同时说明目前没有任何现有模型越过该 RSI 阈值,公司计划更新政策、在未来可预见阶段让人类监督保持在前沿模型研发流程中。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。