跳到正文

#Anthropic

今日 4 条
今天10月7日周三
10月2日周五
10月1日周四
  1. The Decoder70

    OpenAI 称已阻止蒸馏窃取行动,但同样手法在 Azure 上仍能窃取推理内容

    OpenAI 披露一次针对其模型推理内容的蒸馏窃取行动,7 月 24 至 25 日出现超过 4000 名用户发起的 16000 次请求,涉及超过 15000 个关联账户,OpenAI 称已于 7 月 28 日全部关闭,并将核心团伙与 Moonshot AI(Kimi 模型的开发公司)相关人员联系起来,同时说明这些是未遂提取。

  2. Ars Technica · AI81

    Anthropic IPO 招股书包含人类灭绝风险警告

    Anthropic 的 IPO 招股书包含对 AI 可能威胁人类的警告,Amodei 在联合国安理会称 AI 是当今世界最重要的全球安全议题,Altman 与 Musk 也表态支持其放慢前沿开发、加强安全的呼吁。

    推荐理由:报道披露了 Anthropic 招股书中的风险警告与财务数据,可借此了解其上市叙事与安全争议如何交织。

  3. Ars Technica · AI72

    特朗普促成两十余家科技公司签署白宫超级智能安全协议,依靠行业自律应对 AI 风险

    两十余家科技公司签署自愿协议,承诺接受独立安全审计并定期讨论 AI 安全标准,但协议无法律约束力。报道称部分签署方如 Anthropic、Google、OpenAI 此前已承诺外部审计;批评者质疑自律能否解决安全问题,加州和特拉华州正调查 OpenAI 近期失控事件是否涉及治理失误,FTC 也就 rogue AI agents 的潜在消费者危害发起调查。

  4. The Verge · AI71

    特朗普召集六位 AI 公司负责人签署联合安全承诺,以行业自律取代联邦监管

    特朗普在与科技领袖晚宴后表示不再推行联邦 AI 监管,而由行业自我监督,Pichai、Amodei、Zuckerberg、Brockman、Musk 和黄仁勋签署了道德约束性质的《前沿责任联合承诺》。该承诺要求公司按常识准则自我监管 AI,违约似乎无实际后果;六位签署人随后各自发表评论予以支持,Amodei 称 AI 风险的应对机制仍在讨论中。

9月30日周三
9月26日周六
  1. Ars Technica · AI82

    法院裁定五角大楼可将 Anthropic 列入黑名单

    美国哥伦比亚特区巡回上诉法院以 2-1 裁定,批准国防部将 Anthropic 技术列入黑名单,认定即使 Anthropic 无恶意,政府也有权因该公司拒绝向军方开放部分 Claude 功能而实施管制。判决书称需权衡受限模型可能导致军事行动中断与不受限模型可能幻觉生成错误打击目标两类风险,并认定防长未越权,驳回 Anthropic 的复审请求。该法院此前已在 4 月驳回其紧急暂缓申请。

    推荐理由:报道给出法院裁定的核心理由和 2-1 票数,读者可以了解军方供应链管制对 AI 公司的约束边界。

9月17日周四
  1. Latent Space48

    AI 新闻的现实检验:Steve Yegge 关停 Gas Town,Databricks 使用 Astra 成本增加 60%

    Steve Yegge 在每月花费数千美元订阅编码智能体后,宣布关停 Gas Town,承认其是唯一的产出成果。Databricks 向约 3500 名工程师推出 GPT-6 Astra,其在复杂长程任务上明确优于 Opus 5 / Sol 5.6,但使编码总支出增加约 60%,为此设立了专项子预算。OpenAI 发布了模型 misalignment 事件披露框架及六份近半年案例报告。

9月9日周三