Elith 与 NVIDIA 发布 Nemotron-Personas-Finance-Japan:面向日本金融场景的百万级合成人设数据集
Nemotron-Personas-Finance-Japan: A Synthetic Dataset Capturing Japan's Demographics and Financial Context
Elith 与 NVIDIA 发布开源数据集 Nemotron-Personas-Finance-Japan,共 9M 人设(100 万条记录、每人 9 个 persona、50 个字段),基于日本官方统计与家庭金融、金融素养数据合成,全部 persona 均为合成、不含真实个人。
基于真实世界分布的日本人设复合 AI 方法
开放数据打破隐私壁垒,为金融领域 AI 铺平道路
在金融领域,由于严格的隐私法规、合规要求以及对高级领域专业知识的需求,真实世界数据的利用面临重大限制。在此背景下,金融领域智能体(agentic)AI 的开发需要合成数据,既要避免使用真实数据的风险,又要反映人口结构、家庭结构和资产状况,以重现多样、真实的金融场景。
为应对这些挑战,Elith 与 NVIDIA 发布了 Nemotron-Personas-Finance-Japan,这是开源人设数据集“Nemotron-Personas-Japan”的金融领域扩展。据我们所知,这是首个将日本官方统计数据与家庭财务和金融素养数据配对、达到百万条记录规模的开源人设数据集。该数据集基于官方政府统计构建,使用了合成数据生成(SDG)的概率图模型框架 NeMo SDG-PGMs 和企业级合成数据生成系统 NeMo Data Designer 进行开发。此外,为增强该数据集在金融用例中的实用价值,其设计过程融入了包括日本财产保险(Sompo Japan)、东京海上控股、福冈银行、瑞穗金融集团、明治安田生命保险以及金融数据利用协会(FDUA)在内的国内领先金融机构和行业协会提供的洞见与反馈。
该数据集拓展了日本开发者和企业无需使用真实客户数据即可开发和评估符合本地及行业需求的 AI 的环境。它以 CC BY 4.0 许可证发布,可用于商业用途。从构建对话智能体到客户模拟和模型评估,它为实际的金融 AI 开发提供支持。包括 Nemotron-Personas-Finance-Japan 在内的 Nemotron-Personas 系列数据集旨在与用户模拟框架 NeMo User Sim 无缝集成,可立即执行从与现实世界一致的多样分布中抽取的模拟。
数据集里有什么?
- 总计 900 万个人设(100 万条记录 × 每条 9 个人设),以自然日语撰写
- 每条记录 50 个字段:9 个人设字段、11 个人设属性,以及基于官方人口和劳动统计的 30 个上下文字段
- 总计约 15 亿 token,其中约 7.5 亿为人设 token
- 约 95 万个不重复姓名
- 1600 多个职业类别,反映日本的劳动力构成
- 全面覆盖人口、地区、资产分布和性格特质等维度
- 多样的人设类型:职业、体育、艺术、旅行、烹饪、金融、金融行为和金融困扰
- 自然语言人设属性:文化背景、技能与专长、职业目标与抱负、爱好与兴趣、家庭/育儿/财务背景、金钱观和财务规划
- 可用于商业和非商业用途,采用 CC BY 4.0 许可证
构建方式
数据生成管线
该数据集基于 NVIDIA 的合成数据生成框架 NeMo Data Designer 构建。这一复合 AI 系统支持复杂的 Jinja 模板、Pydantic 验证、结构化输出、自动重试,以及多种生成后端。这是生成此类大规模合成数据集所需的核心工具集。此外,还使用了以下模型:
- NeMo SDG-PGMs (Apache-2.0):一个以统计学为基础进行数据生成的概率图模型框架
- gemma-4-31B-it (Apache-2.0):用于生成日语文本
增强的文化背景
Nemotron-Personas-Finance-Japan 的设计与日本官方人口和劳动统计保持一致,同时兼顾了 AI 训练中不可或缺的关键考量:
- 教育:在国家统计对学位层次进行粗略汇总的地方,我们引入了更细的粒度,使模型能够反映多样化的教育路径。
- 职业:我们纳入了额外的类别(例如企业主和专业职业),以拓宽用于训练的职业范围。
- 人生阶段:我们建模了在统计数据中很少显著出现的场景,例如学生、退休人员和失业期,以呈现更真实的人物画像。
- 家庭财务:除个人收入和消费倾向外,我们还纳入了家庭层面的金融资产和不动产,以再现多样化的经济背景。
- 数字与金融素养:通过纳入互联网和智能手机使用情况以及金融素养,我们使模型能够在金融应用场景中精确刻画消费者画像。
设计即隐私
每个人物画像都是完全合成的。不涉及任何真实个体,数据集的设计旨在降低隐私风险。人口统计和家庭财务遵循官方统计和公开调查数据,姓名遵循真实的日文命名模式。人物画像由这些分布构建,而非来自真实个人的记录。
面向的用户
Nemotron-Personas-Finance-Japan 首先是为在日本打造金融 AI 的团队而构建的,包括银行和保险公司,以及为它们服务的初创公司和集成商。每个人物画像在人口统计信息之外还包含家庭财务和金融素养。团队可以利用它们构建客服智能体、评估销售对话/营销活动、在 NeMo User Sim 中运行用户模拟,以及对面向客户的 AI 进行红队测试。
此次发布也面向所有为日本用户构建产品的开发者。它包含 900 万个人物画像,比 Nemotron-Personas-Japan 多 50%,字段从 22 个扩展到 50 个。这为任何日语项目提供了更精细的人群切片,用于训练和测试。
实际的 AI 应用
该数据集中的合成人物画像可用于:
- 多轮对话:以人物画像作为"种子"来生成类人对话数据集。
- 领域专属 AI 开发:生成数据集,构建贴合金融应用场景中真实场景的 AI 助手。
- 偏见测试与公平性:评估模型和 AI 智能体系统在日本城乡之间、不同年龄段、教育背景和经济状况人群中的表现,检验 AI 在日本社会中是否表现一致。
为什么重要
获取反映现实人群的多样化高质量训练数据,一直是 AI 开发中的难题。企业级 AI 开发主要依赖私有数据,这为研究人员、初创公司,尤其是数据有限的地区的 AI 开发者设置了障碍。
- 数据多样性:反映了日本人口的完整构成,有助于减少训练偏差和模型崩溃的风险。
- 文化真实性:减少对以西方为中心的数据集的依赖,支持主权 AI 系统的开发。
- 隐私与治理:符合日本以创新为先的 AI 治理方式。每个人设都是合成的,因此构建或测试时无需任何客户数据。
通过以 CC BY 4.0 许可发布 Nemotron-Personas-Finance-Japan,我们提供了企业级高质量合成数据的访问途径,让任何人都能以更低的成本和更少的隐私风险构建具有文化根基的 AI 系统。
与 Nemotron-PII-Japan 搭配使用
Nemotron-PII-Japan 同日发布。它包含 100,000 份带有个人信息标注的合成日本商业文档,用于训练和测试检测与脱敏模型。其文档基于 Nemotron-Personas-Japan 构建。使用 Nemotron-Personas-Finance-Japan 模拟客户,再用 Nemotron-PII-Japan 测试您的流水线如何保护他们的数据。
开始使用 Nemotron-Personas-Finance-Japan 构建
您可以使用以下命令下载该数据集,帮助开发真正理解日本文化和语言的 AI。
from datasets import load_dataset
ds = load_dataset("nvidia/Nemotron-Personas-Finance-Japan")
构建生产级应用的使用场景:
- 使用人设作为对话生成的种子
- 使用具有文化根基的数据微调模型
- 构建反映日本整体人口构成的个性化引擎
- 开发配备日本语境的领域专用 AI 智能体
从在日本构建 AI 的团队,到希望在更广泛区域部署的全球开发者,Nemotron-Personas-Finance-Japan 数据集为您的应用提供了真实且注重隐私的基础。
来源: Hugging Face Blog · huggingface.co
