快手发布反诈治理报告：AI 大模型开始成为平台安全的“守门员”

快手发布反诈治理新报告，重点展示了平台在打击网络诈骗方面的技术能力和治理成果。

这件事值得关注，不只是因为反诈很重要，更因为它说明 AI 大模型已经不只是用来写文案、画图、聊天，也开始进入平台安全治理这种更严肃的场景。

过去我们说网络诈骗，很多人想到的是电话诈骗、短信诈骗、假客服、刷单返利、冒充熟人等。

但现在诈骗越来越复杂。

骗子不再只是群发一条粗糙短信，而是会利用短视频、直播、私信、评论区、账号矩阵等方式包装自己。

有些诈骗内容甚至会伪装得非常真实。

比如假冒官方账号，诱导用户加微信；用情感话术骗取信任；通过直播间引流到外部平台；用所谓投资、兼职、返利、课程、福利等名义骗钱。

这类问题靠人工审核很难完全解决。

因为平台每天有海量内容、海量账号、海量互动行为。单靠人盯着看，不现实。

所以 AI 大模型和风控系统就变得越来越重要。

根据快手披露的信息，平台通过 AI 大模型提升诈骗风险识别与处置效率，相关拦截率达到 98.1%。同时新增了 200 多个风控模型，日均识别近 10 万个风险账号，治理能力提升 5 倍以上。

这些数据说明，反诈已经进入智能化阶段。

AI 在这里的作用，不只是识别某一句话有没有问题，而是要综合判断账号行为、内容特征、互动路径、引流方式、用户举报、交易风险等多个信号。

比如一个账号单看视频内容可能没问题，但如果它频繁私信陌生用户、评论区诱导加群、头像和昵称仿冒官方、发布内容高度重复，系统就可以判断它存在风险。

这就是风控模型的价值。

它看的是整体行为，而不是单个片段。

AI 大模型加入之后，还可以进一步理解语义和上下文。

过去一些诈骗话术可能会通过变体绕过关键词审核，比如不用“返利”，而用一些暗示性表达；不用“加微信”，而用谐音、图片、表情、缩写。

传统规则很容易漏掉。

但大模型可以更好理解这些变形表达背后的真实意图。

这就是平台治理为什么需要 AI。

不过反诈不是平台单方面的事。

快手这次也提到与警方合作，协助侦破 2000 余起诈骗案件。这一点很关键。

因为平台可以发现风险、拦截内容、封禁账号，但真正追查诈骗团伙、打击犯罪链条，还需要执法部门介入。

平台、技术、警方、用户教育，必须形成合力。

对普通用户来说，这类报告也有提醒意义。

不要以为诈骗离自己很远。

现在的诈骗往往不是一上来就骗钱，而是先建立信任。

它可能从一条私信开始，从一个评论开始，从一个看似正常的视频开始，从一个“免费福利”开始。

AI 可以帮平台挡住很多风险，但不能替用户做所有判断。

用户自己仍然要警惕：凡是要求转账、垫付、投资、扫码、下载陌生 App、加外部联系方式的，都要多想一步。

从行业角度看，快手的反诈治理报告说明，大平台之间的竞争已经不只是内容和流量竞争，也包括安全能力竞争。

一个平台能不能让用户放心使用，能不能及时发现风险，能不能保护普通人不被诈骗，都会影响它的长期价值。

AI 大模型在这里扮演的角色，也越来越像“守门员”。

它不只是帮平台增长，也要帮平台防守。

这可能才是 AI 真正进入社会基础设施的一面。