Anthropic 推出 Message Threads 公测，长对话首 token 延迟降低 35%

Anthropic 在其 Claude 平台上发布了 Message Threads 公测版。 此前，每次 API 请求都必须重新发送完整的对话历史。据 Anthropic 介绍，Message Threads 只传输自上一条消息以来发生变化的内容，对于 50 万到 100 万 token 的请求，可将首 token 响应时间缩短约 35%，据 Anthropic 所述。

该公司表示，编程智能体、计算机操作智能体以及处理大量文档或图片的工作流受益最大。线程在请求之间以加密形式保存在内存中，闲置五分钟后过期。token 用量不变，因为 Claude 仍会读取完整的对话历史。该功能可在 Claude 平台上使用，也可通过 AWS、Microsoft Foundry 和 Google Cloud 使用。详情见文档。

无炒作的 AI 新闻 – 由人工精心甄选

订阅 THE DECODER，享受无广告阅读、每周 AI 新闻通讯、每年六期的独家 "AI Radar" 前沿报告、完整档案访问权限，以及评论区的访问权限。