ZOLOZ 发布 Deepfake 防御产品,设“漏洞悬赏”百万奖金池
2024-4-17 13:58:17 Author: www.4hou.com(查看原文) 阅读量:11 收藏

企业资讯 活动专区 刚刚发布

3108

收藏

导语:ZOLOZ 联合蚂蚁安全响应中心(AntSRC)设立超百万的奖金池。

4月16日,深度伪造(Deepfake)综合防控产品ZOLOZ Deeper 在北京正式发布,以拦截用户刷脸过程中的“AI换脸”风险,目前已率先应用在身份安全领域。公开资料显示,ZOLOZ是蚂蚁数科的科技品牌,以生物识别技术见长,历经支付宝App等大规模场景验证。

图片1.png

ZOLOZ产品总监 陶冶

ZOLOZ Deeper 搭建了端云一体的全链路技术体系,以应对系统、服务器、应用等多环节的 Deepfake 安全威胁。前端通过精密的传感器校验与多维特征动态风控,对摄像头状态、设备及网络环境、输入图像等进行严格审查,确保软硬件环境安全无风险,采集到的生物特征数据真实无篡改;在用户操作过程中,运用深度学习模型对用户面部动态进行细致入微的分析,捕捉微表情、肌肉纹理、眼神流转等细微特征,精准判断其是否为真人实时互动。

此外,蚂蚁集团天玑实验室会通过GAN模型生成超 30 万测试样本,交给 ZOLOZ Deeper 进行判别训练,每个月还会对其进行超过20000次的攻防测评,模拟上百种伪造攻击情况。“Deepfake攻和防是一个相对且不断精进的过程,你在进步,Deepfake也在进步,我们要做的就是跑在它的前面。”ZOLOZ 产品总监陶冶这样说道。

记者在发布会现场了解到,ZOLOZ 联合蚂蚁安全响应中心(AntSRC)设立了超百万的奖金池,支持安全极客来挖掘 ZOLOZ Deeper 的漏洞,通过“蚂蚁集团安全响应中心”官网提交漏洞情报。陶冶表示:“互联网世界没有绝对的安全,希望联合外部的安全技术人才持续提升 ZOLOZ 的安全水位,守护用户的安全感。”

图片2.png

据介绍,ZOLOZ早在 2019 年就启动了 Deepfake 算法研发,彼时主要应对一些简单的人脸攻击,比如把图片、视频、面具等虚假内容呈现在摄像头前面,攻破人脸识别系统。ZOLOZ Deeper 是针对注入式、活化等复杂攻击手段迭代而来的产品,在服务印尼某头部银行后,产品上线一个月时间内实现了 Deepfake 风险“0 漏过”。

Deepfake是“deep learning”(深度学习)和“fake”(伪造)两个单词的结合,指的是基于深度学习算法,从大量的视频和图像数据中学习,伪造出逼真的面部动画和语音。Deepfake 不仅增加了公众识别视频真伪的难度,也进一步滋生了诈骗、色情等违法犯罪活动的风险和隐患。

近年来,全球Deepfake事件呈 10 倍速度激增,北美、亚太地区等地成为 Deepfake 攻击的重灾区,2023年315晚会同样曝光了多起“AI换脸”诈骗案件。中国信通院人工智能研究中心安全与元宇宙部主任石霖指出,随着深度学习算法不断优化和创新,Deepfake带来的安全风险和隐私侵犯问题愈加严峻,且生成的内容越来越难以区分真伪,业界和学术界需要多管齐下,不断提高“以AI对抗AI”的能力。

公开资料显示,ZOLOZ 在2020年亚太第一家获得iBeta国际生物安全认证组织最高等级Level2认证,于 2023 年通过中国信通院深度伪造视频检测服务能力检验,满足安全可靠、透明性、数据保护、明确责任、公平性等方面的可信能力要求。

如若转载,请注明原文地址

  • 分享至

取消 嘶吼

感谢您的支持,我会继续努力的!

扫码支持

打开微信扫一扫后点击右上角即可分享哟


文章来源: https://www.4hou.com/posts/m0KG
如有侵权请联系:admin#unsafe.sh