NVIDIA 开源模型赋能欧洲多国公共部门项目
NVIDIA Open Models Power a New Wave of European Public Sector Projects
NVIDIA 与欧洲多国政府及合作伙伴合作,用开源模型提升公共管理效率,同时保持数据与基础设施主权。
各国政府需要现代化的解决方案来服务公众,同时将敏感信息牢牢掌控在自己手中。
开放模型提供了一条前进道路,让各国政府能够对其进行评估、将其适配本地语言和公共服务、在自主掌控的基础设施上运行、应用自己的安全防护措施,并将敏感数据保留在受控环境内。一些开放模型更进一步,公开了其训练所用数据集,使政府能够核实训练数据是否已获授权、是否存在偏见或符合合规要求。
NVIDIA 合作伙伴与欧洲各国政府正在联手引入先进模型,以提升公共行政的效率,同时保持对数据和基础设施的掌控。
多家机构还在构建 NVIDIA Nemotron-Personas 集合的本地化版本,这是 NeMo User Sim 背后基于合作伙伴的数据集。NeMo User Sim 是 NVIDIA 的开源库,用于人口规模的用户模拟,能够以本地语言动态评估和训练模型与智能体。
欧盟委员会:扩展受治理的 AI 应用
总部位于柏林的软件公司 deepset 正在扩展其 Haystack Enterprise Platform,这是 AI@EC 的基础。AI@EC 是欧盟委员会的共享平台,用于在委员会管理的基础设施上构建和运行 AI 应用。
此次更新为所有客户打通了智能体的开发、执行、优化与治理环节,新增了对比运营成本、评估回答质量和追踪问题的功能。
NVIDIA Triton Inference Server 为用于查找和排序相关信息的共享服务提供支持。此次扩展建立在 AI@EC 等部署所验证的运营需求之上,这些部署采用可复用组件、基于角色的访问控制、审计日志和防护栏,支持文档摘要、知识管理和多语言政策分析等应用。
波兰:面向医疗健康和就业的先进计算
德勤正在帮助波兰使用开放模型构建面向医疗健康和就业服务的智能体系统。
波兰的电子健康中心正在使用 NVIDIA DGX BasePOD 和 MONAI 框架构建其医学影像智能服务平台。该工具将帮助医生分析 X 光、CT 和 MRI 图像,检测异常并对紧急病例进行优先级排序,缩短患者等待结果的时间。
在德勤的支持下,波兰家庭、劳动与社会政策部正在 NVIDIA 加速计算基础设施上开发一个智能体工厂。该工厂旨在服务 400 多个劳动就业机构,将运行 PLLuM、GPT OSS 和 Inkling 等模型,用于文档搜索、摘要和数字助手,帮助工作人员更高效地为求职者提供服务。
NVIDIA 还在与波兰的 SpeakLeash 和斯洛文尼亚的卢布尔雅那大学合作,为其合成人设计划开发针对特定国家的数据集,本地化数据集也将随后推出。
英国:用于本地化相关先进建模的数据
总部位于伦敦的 Locai Labs 发布了 Nemotron-Personas-UK,这是一个包含 100 万个合成人物画像的数据集,反映了英国的人口和地理多样性,同时降低了隐私风险。潜在用途包括医疗评估以及跨年龄组、教育水平和城乡人口的偏见测试。对于构建公共服务模型的开发者来说,它提供了一种测试模型是否能在不同群体中一致运行的方法。
德国:涉密工作中的数字助理与 AI
在德国,Materna 推出了 Sinfonie,这是一个结合了生成式 AI、语音交互和 3D 虚拟形象的本地部署平台,并可采用 NVIDIA Audio2Face 进行动画制作。该平台基于为德国一个州行政机构构建的项目,帮助员工通过语音提问访问机构知识,同时将数据保留在所在组织的基础设施上。
对于处理涉密信息的组织,secunet、NVIDIA、Red Hat 和 deepset 则更进一步。这四家公司正在开发一个基于 secunet 久经考验的 SINA Cloud 基础构建的主权云服务,其中包含已获准用于涉密信息的安全组件。计划推出的服务结合了四个组件:NVIDIA 加速计算和 NVIDIA Nemotron 开放模型;用于部署和管理 AI 工作负载的 Red Hat OpenShift AI;deepset 的 Haystack AI 智能体编排;以及由 secunet 在德国数据中心运营的基础设施。
为支持本地开发,主权开源基础模型研究计划(Soofi)正在为德国工业界和公共部门开发一系列 AI 模型。其中包括 Nemotron-Personas-Germany, 一个包含 100 万条记录的开放数据集,每条记录包含六个合成人物画像,其数据基于覆盖全部 16 个联邦州和 400 个县的 2022 年人口普查。该数据集使用 NVIDIA NeMo Data Designer 创建,不含真实人物的私人数据,可帮助开发者测试公共服务模型是否能在不同地区、年龄组和群体中一致运行。与英国版一样,它可以与 NeMo User Sim 配合使用,让开发者能够基于合成的德国人物画像模拟用户来评估和训练模型。
法国:公共部门工作空间中的先进开放模型
法国数字服务公共采购机构 CANUT 选择了 LINAGORA 和 Docaposte,基于 Twake.ai 提供一个主权协作工作空间。
超过 2500 个符合条件的组织,包括市镇、学校和医疗机构,无需自行招标即可使用该框架。该工作空间为公共部门员工提供电子邮件、文档共享和协作工具,由 NVIDIA 技术支持语音转录,基础设施托管在法国。奥克西塔尼大区(Région Occitanie)是扩大部署规模的首选合作伙伴。
希腊:本地智能体生态系统
希腊 AI 与能源公司 KIEFER 正在基于 NVIDIA DGX SuperPOD 与 DGX GB200 构建一个智能体工厂,同时结合 Sophea 开放权重模型以及面向希腊语的知识检索、语音和数字助手工具。这些能力有望让希腊语公共部门的团队更容易查找和使用机构信息,同时让组织能够掌控智能体的运行位置以及数据的处理方式。
Codefest:构建下一代应用
为支持欧洲及其他地区的公共部门组织集成智能体 AI,NVIDIA Open Models Codefest 汇集了该地区的初创公司、软件提供商和实验室,将开放模型转化为本地可控的解决方案,以应对公共部门面临的挑战,包括医疗推理、AI 辅导和模型治理。排名前五的团队是 Pleias、Zehnlab.ai、Disseqt、Algoritmica GmbH 和 ABA Technology。Deutsche Telekom 和 T-Systems 为各团队提供了用于训练和部署大语言模型的计算基础设施。
了解 NVIDIA 如何帮助政府和社区加速安全的高级建模与智能体创建。
请参阅 声明中的软件产品信息。
来源: NVIDIA Blog · blogs.nvidia.com