声明：本文来源于微信公众号 量子位（ID:QbitAI），作者：白交，授权站长之家转载发布。

生成人工智能人脸造假套路很多，怎么办？?

现在，专门用于DeepFake新的综合产品——

ZOLOZ Deeper，蚂蚁数科ZOLOZ生产。依靠他们的技术支持，我们的日常支付宝刷脸支付。

值得注意的是，这不仅仅是一个简单的人工智能检测算法，而是一套覆盖整个链路的技术产品体系——

能有效应对系统，服务器、多环节Deepfakeeakee应用等安全威胁。

为了不断提高其能力，内部实验室每月对他进行2万多次“攻击”测试。

甚至ZOLOZ还拿出百万奖金池，邀请“白帽黑客”参与寻找bug。

蚂蚁数科Deepfake产品

在AIGC时代，DeepFake不再简单地替换技术生成，而是像激活一样（Animation）、编辑(Editing)以及合成(Synthesis)等待攻击手段。

在攻击形式上，DeepFake也从简单开始呈现式攻击朝着更复杂的方向发展注入式攻击转变。

呈现式攻击，顾名思义，就是在摄像头前放一张假脸，突破检测技术。注入式攻击是从系统层面劫持摄像头，注入准备好的图片/视频，替换摄像头图片。

这给检测技术带来了很多挑战。

ZOLOZ Deeper这是一种专门针对注入式、活化等复杂攻击手段的产品。

现在，ZOLOZ Deeper主要用于用户刷脸场景的拦截 “AI换脸”的风险。

从身份安全入手后，将进一步扩展到内容合规AIGC防控、金融诈骗场景、社会诈骗场景、舆论AIGC风险等实践。

如何实现?

最直接的想法是，用魔法打败魔法。

据透露，ZOLOZ主要采用技术实现攻和防两条路线。

防这方面，ZOLOZ Deeper 构建了端云一体化的全链路技术体系，能够应对系统，服务器、多环节的安全威胁，如应用程序。

前端通过精密传感器验证和多维特征动态风险控制，严格审查摄像头状态、设备、网络环境和输入图像，确保软硬件环境安全无风险，收集的生物特征数据真实无篡改；

在用户操作过程中，利用深度学习模型对用户的面部动态进行详细分析，捕捉微表情、肌肉纹理、眼睛循环等细微特征，准确判断是否是真实的实时互动。

攻借助天竺实验室进行自动攻防测评。

此前曾探访过量子位，这是一个高度自动化的生物识别安全实验室。

天鸡实验室投入了大量的科研资源，独立研究生成为攻击人脸安全的“道具”，定义了数百种不同层次的攻击方法和假体生产过程。

这一次，天竺实验室通过GAN模型生成了30多万个测试样本，并将其交给ZOLOZ Deeper 判别训练。

此外，每月还将对其进行2万多次攻防评估，模拟数百次伪造攻击。

谁是ZOLOZ？

ZOLOZ是蚂蚁数学孵化的科技品牌，专注于生物识别技术。支付宝最早于2015年推出的刷脸和支付，其背后的技术得到了他们的支持。

2019年，他们开始开发与DeepFake相关的算法。当时主要针对一些简单的人脸攻击，比如在摄像头前呈现图片、视频、面具等Fake内容，突破人脸识别系统。

ZOLOZ技术和产品也在不断升级迭代，随着攻击手段的逐渐复杂，ZOLOZ Deeper是应对AIGC时代的产品。

这种R&D实力获得了市场和权威组织认证。

例如，在为印尼的一家头部银行服务时，其产品在一个月内上线 Deepfake “0漏过”风险。

此外，ZOLOZ作为亚太地区，在2020年第一家，iBeta国际生物安全认证组织最高等级Level2认证。

此外，2023年，ZOLOZ通过了中国信通研究院对视频检测服务能力的深度伪造检测，满足了安全可靠性、透明度、数据保护、责任明确、公平性等可信度要求。

上个月，有20年风险管理经验的赵闻飙担任蚂蚁数科 CEO。他领导了支付宝和蚂蚁集团的核心风险控制体系。

ZOLOZ Deeper，这也是他上任CEO以来首次推出的安全产品。

还奖励百万给新产品找bug

最后，ZOLOZ还在蚂蚁安全响应中设立了100多万奖金池，邀请白帽黑客通过“蚂蚁集团安全响应中心”官方网站为产品找到漏洞。