Google DeepMind 与新加坡政府合作微调 AI 模型用于诈骗检测

2026年10月14日责任与安全

JJ Geewax 和 Miguel de Andrés

此次合作交付了一款设备端诈骗检测模型，在保护公民的同时不损害隐私。

诈骗占新加坡已报告罪案的一半以上，自2019年以来造成超过40亿新元的损失。与此同时，诈骗手段已从简单的网络钓鱼演变为复杂的社会工程学攻击，攻击者通过极具说服力的对话操纵受害者，然后再提出金钱要求。此类诈骗如今占所有损失的高达80%。

为应对这一问题，Google DeepMind 与新加坡政府科技局（GovTech）作为我们与新加坡政府国家 AI 合作计划的一部分一直在携手合作。这使我们得以交付一款设备端诈骗检测模型——针对新加坡典型智能手机进行了优化——在保护公民隐私的同时应对紧迫的安全挑战。

不损害隐私的设备端 AI 防护

通用模型往往难以应对本地化的欺骗手段，使诈骗检测更加困难。为此，Google DeepMind 的轻量级 Gemma 模型在本地诈骗对话上进行了微调。这些对话涵盖冒充公共机构、银行和本地人物，以及流行的区域性骗术，确保模型能够区分正常社交聊天与真正的操纵行为。

这一新模型还在设备上处理对话数据。传统上，威胁检测依赖于云端对消息的服务器端扫描，但许多即时通讯平台采用端到端加密——这意味着它们无法查看私人对话。人们需要在保持对话隐私的同时防范欺诈，而我们的解决方案是将威胁分析移至设备端。这样可以更快地分析对话模式以检测操纵意图，让公民在发生财务或凭证泄露之前采取行动。

幕后：本地上下文与边缘效率

当模型检测到操纵性的对话模式时，会在用户设备上直接触发实时警告，建议其在分享敏感信息或资金之前暂停并保持警惕。

在现代智能手机上运行复杂的诈骗分类器模型并非易事，电池效率是关键的关注点。为此，我们采用两阶段流水线：

阶段1：一个轻量高效的分类器以极低功耗筛查传入消息，专注于捕捉潜在威胁。
阶段2：使用我们微调过的 Gemma 模型进行上下文评估，分析更大范围的对话快照，以确认威胁或排除误报。

建立在严格的治理之上

这项合作在新加坡国际网络周（SICW 2026）上发布，为即时通讯平台在保护用户与端到端加密之间取得平衡提供了范例。在整个开发过程中始终保持了严格的治理：

主权沙盒：微调在 GovTech 管理和维护的 GCP 环境中进行，确保训练数据隔离。

不使用公民数据：训练严格排除私人或个人可识别信息，使用源自诈骗报告和情报源的匿名化数据集。

压力测试：模型针对合成对话和本地语料库进行了测试，以覆盖多样的诈骗类别和不断演变的冒充手段。

设备端安全的未来

该项目展示了 AI 如何帮助即时通讯服务打击犯罪，并表明通过直接在设备上运行保护性 AI，安全与隐私无需被牺牲。它还展示了政府与模型提供商如何携手合作，构建服务于公共利益的技术。即时通讯平台和操作系统厂商可以直接集成这些轻量级模型，在本地保护用户，确保聊天互动保持安全，同时不暴露隐私数据。