诈骗对话在手机里就被拦下：谷歌和新加坡做了个「数据不出端」的反诈模型

核心看点：在新加坡，诈骗已经占到全部报案量的一半以上，2019 年以来造成的损失超过 40 亿新元。面对这个局面，谷歌 DeepMind 和新加坡政府科技局（GovTech Singapore）给出的答案不是「把聊天记录传上云做扫描」，而是把一个微调过的轻量级 Gemma 模型直接放进手机里，让它在本地判断一段对话是不是在骗人。

这项合作在 2026 年 10 月 14 日对外公布，并在新加坡国际网络安全周（SICW 2026）上做了展示。它属于谷歌与新加坡政府「国家人工智能伙伴关系」框架下的一部分。

核心看点：为什么云端扫描这条路走不通

过去的反诈手段主要靠关键词库和链接黑名单，本质上是在消息到达之后做匹配。但现在的骗局早就不是群发钓鱼链接了：骗子会先花几周时间跟你建立关系，伪装成公检法、银行客服、本地熟人，或者包装成区域性的投资、兼职机会，等信任建立起来再开口要钱。按谷歌给出的数据，这类「社会工程学」式诈骗已经占到全部损失的 80%。

问题是，要识别这种操控意图，模型必须读懂一整段对话的上下文，而不是单条消息。可一旦把完整对话传到云端分析，隐私问题立刻摆在桌面上——尤其是当 WhatsApp、Telegram 这类应用本身强调端到端加密的时候。

谷歌和 GovTech 选择的解法是：不上传，直接在手机上算。

核心看点：两级流水线，先省电筛一遍

让一个能读懂对话的模型在手机上常驻运行，最大的现实约束不是算力而是电池。为此团队设计了两级流水线：

• 第一级：一个极轻量的分类器负责初筛所有进来的消息，功耗极低，只做一件事——判断这条消息有没有可疑苗头。
• 第二级：只有初筛命中，才会调用微调过的 Gemma 模型，读取更大范围的对话快照，确认这到底是真的威胁，还是虚惊一场。

这种设计的好处很直接：绝大多数正常聊天在第一级就被放行，模型不会被频繁唤醒；只有真正可疑的对话才进入深度分析。一旦判定存在操控模式，手机会立刻弹出实时警告，提醒用户在转账或交出验证码之前先停一下。

核心看点：模型是「本地化」的，不是通用款

谷歌特别强调了一点：通用模型在识别本地骗术时往往力不从心。所以这个模型是用新加坡本地的诈骗对话微调出来的，训练素材覆盖了冒充公共机构、冒充银行、冒充本地知名人物，以及当地正在流行的各类骗局。目的很明确——让它能分清什么是正常聊天，什么是有意在操控。

这一点其实比模型本身更值得注意。反诈模型的效果高度依赖「本地知识」，一个在美国表现良好的模型，搬到新加坡可能完全认不出当地话术。这也解释了为什么这件事必须由政府牵头、在本地数据上做。

核心看点：隐私是怎么保住的

按官方说法，这套方案的隐私边界划得很硬：

• 全程端侧运行：对话数据不离开设备，谷歌和新加坡政府都无法通过这个模型获取用户的聊天内容。
• 需要用户同意：集成到应用后，模型只能访问用户授权范围内的本地对话。
• 主权沙箱：模型的微调在 GovTech 自己管理维护的 Google Cloud 环境中完成，训练数据隔离存放。
• 不含公民数据：训练严格排除私人信息和可识别个人身份的数据，只用从诈骗报案和情报源中脱敏整理出的数据集。
• 压力测试：用合成对话和本地语料做对抗测试，覆盖不同诈骗类型和不断变化的冒充手法。

这套安排实际上是在回答一个行业难题：既要保护用户，又不能破坏端到端加密。如果反诈必须以「平台能读你的消息」为前提，那加密本身就名存实亡了。端侧模型提供了一条折中路径——平台不需要看到内容，也能在设备上识别风险。

核心看点：接下来会怎么落地

谷歌表示，模型在应用内的铺开会分阶段进行，并与新加坡政府共同推进。官方也提到，未来会探索把这套技术推广到其他国家。

值得留意的是，「分阶段」这三个字背后有不少现实问题要解决：误报率怎么控制、不同应用的接入成本、模型更新如何跟上骗术变化、以及用户会不会因为频繁警告而产生「警报疲劳」。这些都不完全是技术问题。

但方向上的信号很清晰：AI 安全正在从「云端集中治理」往「端侧就地处理」迁移。对普通用户来说，最直接的变化可能是——以后拦下诈骗的不是客服事后打电话，而是你手机上那个在你按下转账键之前响了一下的提示。

本文根据 Google DeepMind 官方博客 2026 年 10 月 14 日发布的公告整理。