跳到正文
TechCrunch · AI· Russell Brandom·· 4 小时前AI 评分38

Box 采用 Nvidia Nemotron 打造面向智能体的内容检索系统

Box taps Nvidia’s Nemotron for new agent-first content retrieval system

AI 导读

Box 在开发者大会上发布 Box Content Retrieval,将 Nvidia 的 Nemotron 嵌入系统集成到产品核心,帮助 AI 智能体更高效地回答查询。Nvidia 表示查询速度可提升 4 倍、错误减少 20%、token 用量减少 90%。该功能将向所有 Box Enterprise Advance 客户开放,明年初开始推出。

正文 · AI 翻译

在周四的开发者大会上,Box 展示了一项新功能,将把 Nvidia 的 Nemotron 嵌入系统集成到其产品核心之中。

这项名为 Box Content Retrieval 的新功能,让智能体能够借助 Nemotron 创建的嵌入元数据,更高效地回答查询。 

Box 表示,用户将获得更快、更准确且成本更低的查询体验。Nvidia 生成式 AI 软件副总裁 Kari Briski 告诉 TechCrunch,她预计查询速度将提升四倍,错误减少 20%,token 使用量减少 90%。

该系统将面向 Box 的所有 Enterprise Advance 客户推出,于明年初开始上线。

“这极大提升了我们面向智能体的搜索技术的相关性,”Box CEO Aaron Levie 说,“智能体不再需要逐篇阅读文档,我们可以直接返回与用户查询或智能体当前任务最相关的文档片段。”

该功能是 Nvidia 的 Nemotron Embed 项目的一次落地,该项目提供开放权重的嵌入模型,以改进自动化检索系统。大型实验室常常忽视这类模型,它们利用 LLM 对数据进行预处理,从而让智能体更好地使用这些数据。这一领域一直是 Nvidia 开源模型项目的重点,其 7 月发布的最新 Nemotron 模型在衡量检索质量的 RTEB 基准上排名第一。

该系统与更主动的智能体搭配使用时效果最佳,因为这些智能体可以更流畅地处理经 Nemotron 处理的数据。Box 举了律师的例子:在新系统下,律师可以更轻松地找到相关条款和判例。由于 Nemotron 的嵌入超越了简单的关键词,能够映射底层概念,即使使用不同的措辞,搜索工具也能找出相关的法律概念。

虽然 Nemotron 模型可免费获取,但该系统在很大程度上还依赖于 Box 既有的元数据和权限控制,因此很难从零开始复刻。“我们可能是把五种不同的技术打包进了一个简单的 API,”Levie 告诉 TechCrunch。

当您通过我们文章中的链接购买商品时,我们可能会获得少量佣金。这不会影响我们的编辑独立性。

Russell Brandom 自 2012 年以来一直报道科技行业,重点关注平台政策和新兴技术。他曾在 The Verge 和 Rest of World 工作,并为 Wired、The Awl 和 MIT 的《技术评论》撰稿。 您可以通过 [email protected] 或 Signal(412-401-5489)与他联系。

查看简介

来源: TechCrunch · AI · techcrunch.com