评论：过度依赖AI拒答机制的安全风险

MIT Technology Review 记者Arthur Holland Michel撰文指出，拒绝（refusal）机制已成为AI安全的承重墙，用于阻止模型输出有害内容。然而作者认为，业界对这一机制过度信任。文章指出，拒答机制本质上是概率性的、不可被完全理解的，无法提供绝对的安全保证。与此同时，越狱手段层出不穷，攻击者不断找到绕过拒答的方法。文章举出实例：Anthropic的Fable 5模型发布后不到三天，就被Amazon的研究人员解锁了部分黑客能力，显示出拒答防线在现实攻击面前的脆弱性。作者呼吁正视拒答机制的局限，不应将其视为AI安全的唯一保障。

AI 根据报道生成 · 54 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。