2024 年，生成式 AI 的发展速度，正在远超很多人的预期。
从 OpenAI 发布 Sora，到各类 AI 视频生成与实时换脸技术快速普及，生成式 AI 已经不再只是内容创作工具，而开始逐渐影响数字金融、身份验证与网络安全领域。尤其在人脸生成、语音模拟和视频合成能力不断提升之后，一个越来越现实的问题开始浮现：
当 AI 已经能够生成“足够真实”的身份信息时，企业还能如何确认用户身份的真实性？
今年年初，香港警方披露的一起 AI 欺诈案件引发广泛关注。一家跨国公司的财务员工在视频会议中，被冒充公司高管的诈骗者诱导转账。最初，这名员工曾对会议真实性产生怀疑，但由于视频中同时出现了多位“同事”，最终仍然相信了对方，并导致约 2 亿港元被转入未知账户。
而后续调查显示，这场视频会议中的人物，均由 AI 换脸技术伪造。
这起事件意味着：生成式 AI 已经开始系统性地攻击企业长期依赖的“视觉信任”——过去，很多身份验证体系默认认为，“看到一个人”本身就具备较高可信度。但今天，这种信任正在被 AI 技术快速削弱。
从“伪造信息”演变为“伪造真人”
在 AI 的加持下，身份伪造已从“伪造信息”演进为“伪造真人”。从黑产角度看，身份欺诈过程可以分为以下几个步骤：通过社会工程手段获得受害者的信任、控制他们的移动设备、窃取账户、转移资金或消费信用额度。在获得用户身份后，欺诈者将发起攻击，例如人工智能换脸、绕过活体检测的演示或注入攻击，以及转移资金/申请贷款/消费信用额度。
💡 在信息安全的背景下，社会工程是一种操纵、影响或欺骗受害者的策略，目的是控制计算机系统，或窃取个人和财务信息。它使用心理操纵来欺骗用户犯安全错误或泄露敏感信息。
准备阶段
大多数 AI 驱动身份欺诈，并不是从 deepfake 开始，而是从社会工程和设备渗透开始。
攻击者通常会先建立冒充政府机构、税务部门、养老金平台或金融机构的钓鱼网站，并设计与 Google Play、TestFlight 等官方平台高度相似的界面，引诱用户下载恶意软件。
这些页面往往看起来非常正规，甚至会模仿真实应用商店的下载流程，从而降低用户警惕。
获取信任
在这一阶段，攻击者的核心目标，是诱导受害者主动安装恶意应用程序，从而获得设备访问权限。
攻击通常会通过电话、短信或即时通讯工具发起。诈骗者会以申请数字养老金、退税、低息贷款或政府补贴等理由，引导用户下载所谓的“官方应用”。
对于 iOS 用户，攻击者甚至会利用 MDM（移动设备管理）机制操纵设备权限，让恶意应用获得更高控制能力。
这一阶段的关键，并不只是“下载恶意软件”，而是建立一种“用户主动授权”的假象。
控制设备
当恶意软件安装完成后，攻击者会逐步获得对设备的控制能力。
一旦设备本身被控制，很多传统安全机制就会迅速失效。例如，更换设备检测、IP 风险识别以及部分双因素认证机制，都可能因为攻击行为来自“真实用户设备”而失去效果。
在实际攻击中，攻击者可能会：
- 远程控制用户设备
- 将受感染设备作为代理流量节点
- 安装短信过滤插件，将验证码转发至外部服务器
- 访问用户相册并获取人脸素材
- 收集设备环境和行为数据
对于很多平台而言，这类攻击最危险的地方在于：所有行为都发生在真实设备环境中。
窃取账号
这一关键步骤从受害者的设备中检索了几乎所有的个人信息。
- 滥用无障碍服务来读取用户界面（UI）和按键，从而检索密码。
- 引导用户访问钓鱼网站以获取个人信息：姓名、电子邮件、银行账户、电话号码、地址、身份证照片、面部识别数据等。
获利
在获得设备控制能力后，攻击者会进一步收集完整身份信息。
很多恶意程序会滥用无障碍服务（Accessibility Service），读取用户界面内容和键盘输入，从而窃取密码、验证码以及账户数据。同时，攻击者也会引导用户访问钓鱼页面，进一步收集姓名、邮箱、银行卡、手机号、身份证照片和面部识别数据等关键信息。
这一阶段之后，攻击者通常已经拥有完整的数字身份素材。
而这些数据，也会成为后续 AI 身份伪造的重要基础。
获利阶段
当攻击者完成设备控制与身份收集后，后续攻击便开始规模化。
由于短信和通知可能已经被拦截，很多受害者甚至无法及时发现异常行为。攻击者会持续利用已窃取身份进行账户接管、贷款申请、支付欺诈和资金转移，并反复复用相关身份数据进行更多攻击。
近年来，这类攻击在泰国、菲律宾、越南、印度尼西亚和秘鲁等市场持续增加。TrustDecision 情报团队也已经观察到，越来越多黑产开始结合 AI 技术与移动恶意软件，形成跨平台、自动化的攻击模式。
派生攻击流程：生成式 AI 如何放大身份欺诈？
在传统攻击基础上，生成式 AI 的加入，正在进一步放大身份欺诈能力。
很多攻击者会先研究目标平台使用的 SDK、活体检测机制和身份验证流程，再针对特定验证逻辑批量生成攻击素材。例如，他们可能会：
- 安装目标应用并测试验证机制
- 在平台上建立测试账户
- 使用盗取身份持续收集更多数据
- 通过 AI 生成人脸视频、换脸影像或动态验证内容
- 利用注入攻击绕过真实摄像头采集
相比传统照片翻拍或视频重放，这种方式更加隐蔽，也更容易通过基础验证。更复杂的是，在很多案例中，攻击者提交的其实是真实用户信息。姓名、证件号码、人脸素材和联系方式本身都可能是真实的，只是当前验证行为并非来自真正的用户本人。
这对于传统 KYC 系统而言，是一个根本性挑战。
很多传统验证逻辑，本质上仍然是在确认“信息是否一致”；但在生成式 AI 时代，平台真正需要确认的是：
当前身份交互是否真实可信。
PAD 与注入攻击：为什么传统活体检测正在面临挑战？
目前，大多数人脸识别系统都会使用 PAD（Presentation Attack Detection，演示攻击检测）来区分真人与伪造内容。
传统 PAD 主要用于识别照片翻拍、视频重放、打印头像和面具攻击。例如，通过检测屏幕反光、纹理异常、边缘特征和动态行为，系统能够识别部分伪造内容。
但生成式 AI 的发展，正在改变攻击方式。
越来越多攻击者开始使用 deepfake 和注入攻击，直接绕过物理摄像头采集过程。例如，攻击者可以通过虚拟摄像头或系统级注入工具，将 AI 生成内容直接输入身份验证系统，而不再依赖真实摄像头拍摄。
这种攻击方式意味着，平台看到的“视频流”本身就已经是伪造内容。
因此，传统依赖图像检测的活体验证，正在面临越来越大的压力。
AI 身份欺诈的典型攻击案例
在实际攻击中，欺诈者往往会根据平台风控能力与攻击成本，选择不同复杂度的攻击方式。例如，在较低复杂度场景中，攻击者可能通过 Photoshop 修改身份证头像，再结合屏幕翻拍或 3D 模型尝试绕过活体检测。这类攻击通常会出现相似人口统计数据、重复面部特征以及图像边缘异常等风险信号。更复杂的攻击则会进一步修改身份证姓名、使用印刷材料或屏幕贴膜，并尝试同时绕过活体检测与肖像比对。这类行为通常伴随反光异常、云纹效果以及高度相似的身份聚合。而在更高级攻击中，欺诈者甚至会研究目标平台的活体检测逻辑，再批量生成 AI 视频内容用于身份验证。这类攻击往往具有极高的活体通过率，同时在背景、动作和服装等方面呈现高度一致性。
这些案例反映出一个现实：
身份欺诈已经不再是单点伪造，而是一种持续演化的系统性攻击。
企业应该如何应对 AI 驱动的身份欺诈？
面对生成式 AI 带来的新风险，企业已经很难仅依赖传统 KYC 或单一活体检测完成防御。真正有效的身份安全体系，需要同时结合设备智能、环境检测、活体检测、行为分析、风险画像以及实时决策能力。
例如，平台需要建立更完整的风险画像数据库，对设备、IP、账户关系和行为路径进行持续分析；同时，还需要识别设备环境是否异常、是否存在虚拟摄像头、模拟器或远程控制行为。对于身份验证材料本身，也需要进一步检测图像异常、deepfake 特征和数据聚合问题。例如，不同账户之间是否存在异常相似的人脸特征、背景环境或行为模式。
与此同时，用户教育也变得越来越重要。很多攻击仍然依赖社会工程和恶意软件下载，因此平台需要持续提醒用户不要点击陌生链接，仅从官方应用商店下载应用，并对高权限请求保持警惕。
生成式 AI 并不会削弱身份验证的重要性，反而会让它成为未来数字业务最核心的基础能力之一。因为当“真实内容”越来越容易被生成时，企业竞争的关键，就会变成：谁能够更准确地识别真实用户。
TrustDecision：帮助企业应对生成式 AI 身份欺诈
TrustDecision 提供覆盖身份验证、设备智能、活体检测与实时风险分析的反欺诈解决方案，帮助企业识别 deepfake、注入攻击、账户接管与复杂身份欺诈行为。
通过设备风险识别、图像异常检测、行为分析与 AI 风险决策能力，TrustDecision 可帮助金融机构、数字平台和互联网企业建立更完整的数字身份安全体系，在生成式 AI 驱动的风险环境下强化身份验证能力。
