跳到正文
NVIDIA Blog· Erik Pounds·· 3 小时前AI 评分54

NVIDIA Agent Toolkit 扩展:新增 Agent Knowledge Foundation、Kumo 开源模型与安全运行时

NVIDIA Agent Toolkit Expands, Grounding Enterprise Agents in Company Data

AI 导读

NVIDIA 宣布扩展开源 NVIDIA Agent Toolkit,新增 NVIDIA Agent Knowledge Foundation,帮助企业把公司数据转化为智能体可用的商业智能,且无需迁移数据或更改治理控制。

正文 · AI 翻译

智能体的有用程度取决于它们所掌握的知识,而它们的可信程度则取决于其运行所在的边界。 

领先企业正在使用开源的 NVIDIA Agent Toolkit——现已扩展了新工具——来定制和控制智能体,利用公司数据为智能体的回答和行动提供依据,监控其行为并治理其运行方式。 

NVIDIA Agent Toolkit 包括:

要开发能完成实际工作、且从开发到部署全程可信的智能体,开发者需要一个开放的智能体技术栈,将模型、框架、运行时、数据和工具整合在一起。

NVIDIA Agent Knowledge Foundation 帮助企业将数据转化为智能体可以使用的公司情报。智能体能够查找相关信息,理解其对业务的意义,并利用这些信息进行预测,帮助人们决定下一步该做什么。企业使用 Agent Knowledge Foundation 无需迁移数据、重建现有工作流或更改治理控制。 

该基础包含 NVIDIA CUDA-X 库,包括 cuDF、cuGraph、cuML、cuOpt 和 cuVS,以及全新的 Auto-Ontology 库,它能将原始的公司数据转化为熟悉的业务概念——如客户、产品和订单——并映射它们之间的关联。 

它还包括 NVIDIA Nemotron Retriever 和 Kumo Structured 开放模型——Kumo Tabular、Kumo Relational、Kumo Time Series 和 Kumo Forecast——帮助智能体查找相关的公司信息以回答问题并进行预测。 

OpenShell 提供安全运行时边界,让企业能够控制智能体可以访问什么、执行什么。NVIDIA NemoClaw 蓝图为构建安全、专用的智能体提供了参考设计。最新的 NemoClaw 智能体优化蓝图提供了循序渐进的起点,用于提升智能体的智能——让它们随着时间的推移更胜任自己的工作。

企业采用 NVIDIA Agent Knowledge Foundation

全新的 NVIDIA Agent Knowledge Foundation 已在各家企业中投入使用。

与 Palantir 合作,NVIDIA 的供应链组织正在通过 Palantir Foundry、Ontology 和 AIP 使用 Agent Knowledge Foundation 来部署专用智能体,从专有数据中创建可执行的情报,预测结果并优化决策。

Databricks 将 NVIDIA Kumo Anomaly 与 Databricks Genie Ontology 相结合,为具备情境感知能力的智能体提供支持。

Snowflake正在让客户在 Snowflake Notebook 环境中使用 NVIDIA Kumo Engine 和 Kumo Relational 开放模型,以解锁更多预测能力。

NVIDIA Nemotron Retriever 模型让搜索更快、更准确。借助其嵌入模型,Amazon OpenSearch Service以更少的搜索步骤提升了相关性,且几乎没有额外延迟。SAP微调后的重排序模型运行速度提升近 3 倍。ServiceNow 提升了重排序质量,同时将延迟降低近四分之一。Zoom正在使用 Nemotron Retriever 模型来改善 Zoom AI Services 的文档理解、搜索相关性和上下文检索。 

Amazon Web Services (AWS)、ClickHouse、Cloudera、Cohesity、Dassault Systèmes、Dell、Elastic、Exa、IBM、NetApp、Oracle、Perplexity、Starburst和VAST Data也加入了基于 Agent Knowledge Foundation 构建的行列。 

欢迎参加这场 GTC Berlin 关于在生产环境中构建、部署和优化专用智能体的会议了解更多。

来源: NVIDIA Blog · blogs.nvidia.com