跳到正文

#Anthropic

今日 4 条
10月7日周三
  1. The Verge · AI39

    AI 接管数学引发的种种争议

    过去一年,OpenAI、Anthropic 等 AI 实验室在多个长期悬而未决的数学问题上宣布突破,甚至包括一个著名的千禧年大奖难题。这些本该受到庆祝的成果却在数学界引发强烈反弹,OpenAI 表示将咨询顶尖数学家以避免重蹈覆辙,但能否兑现仍有待观察。

10月3日周六
10月2日周五
10月1日周四
  1. The Decoder70

    OpenAI 称已阻止蒸馏窃取行动,但同样手法在 Azure 上仍能窃取推理内容

    OpenAI 披露一次针对其模型推理内容的蒸馏窃取行动,7 月 24 至 25 日出现超过 4000 名用户发起的 16000 次请求,涉及超过 15000 个关联账户,OpenAI 称已于 7 月 28 日全部关闭,并将核心团伙与 Moonshot AI(Kimi 模型的开发公司)相关人员联系起来,同时说明这些是未遂提取。

  2. Ars Technica · AI81

    Anthropic IPO 招股书包含人类灭绝风险警告

    Anthropic 的 IPO 招股书包含对 AI 可能威胁人类的警告,Amodei 在联合国安理会称 AI 是当今世界最重要的全球安全议题,Altman 与 Musk 也表态支持其放慢前沿开发、加强安全的呼吁。

    推荐理由:报道披露了 Anthropic 招股书中的风险警告与财务数据,可借此了解其上市叙事与安全争议如何交织。

  3. Ars Technica · AI72

    特朗普促成两十余家科技公司签署白宫超级智能安全协议,依靠行业自律应对 AI 风险

    两十余家科技公司签署自愿协议,承诺接受独立安全审计并定期讨论 AI 安全标准,但协议无法律约束力。报道称部分签署方如 Anthropic、Google、OpenAI 此前已承诺外部审计;批评者质疑自律能否解决安全问题,加州和特拉华州正调查 OpenAI 近期失控事件是否涉及治理失误,FTC 也就 rogue AI agents 的潜在消费者危害发起调查。

  4. The Verge · AI71

    特朗普召集六位 AI 公司负责人签署联合安全承诺,以行业自律取代联邦监管

    特朗普在与科技领袖晚宴后表示不再推行联邦 AI 监管,而由行业自我监督,Pichai、Amodei、Zuckerberg、Brockman、Musk 和黄仁勋签署了道德约束性质的《前沿责任联合承诺》。该承诺要求公司按常识准则自我监管 AI,违约似乎无实际后果;六位签署人随后各自发表评论予以支持,Amodei 称 AI 风险的应对机制仍在讨论中。

9月30日周三
9月29日周二
  1. Simon Willison73

    Anthropic 发布 Claude Sonnet 5.5,免费层模型升级

    Anthropic 发布 Claude Sonnet 5.5,官方称速度快 30% 以上,多数工作成本最高降 30%,价格与 Sonnet 5 持平但基准全面占优。作者实测其编码表现接近 Opus 5.5,并指出它成为 claude.ai 免费层所用模型,使 Anthropic 免费方案强于使用 Luna 5.6 的 ChatGPT 免费层;官方重申 Haiku 5.5 将在未来几周内推出。

  2. MIT Technology Review · AI64

    MIT Technology Review 分析何时才能说 AI 做出了科学发现

    Anthropic 宣布其由 950 个 Claude 智能体组成、运行 21 小时的分子生物学实验室取得首个发现,即围绕一种已知酶标记出此前未被记录的重复模式;这一说法遭到部分生物学家质疑,哥本哈根大学的 Mario Rodríguez Mestre 称其团队早已发现该模式,Anthropic 否认从其与 Claude 的对话中学习。

9月28日周一
9月27日周日