邮发代号 2-786
征订热线：010-82341063
文 | 浙江省数字化发展与治理研究中心研究员 高艳东；浙江省平阳县人民检察院检察官 李易近日，韩国爆出“约22万名加害者利用深度伪造技术换脸制作不特定女性的淫秽内容并广泛传播”的新闻，引发韩国社会恐慌，也让深度伪造（深伪）的社会与犯罪风险再度回归大众视野。随着人工智能（AI）研发不断深入，深伪技术也愈发成熟，其高度逼真性、技术普惠性、成本低廉性、人身关联性等特点带来了巨大的使用价值，从AI“数字人”到影视形象替换、补拍，深伪技术在一些行业的应用前景正越来越广泛。但是，作为一把锋利的“双刃剑”，在享受深伪技术红利的同时，也不能忽视其可能令不法分子犯罪效率更高、隐蔽性更强、社会危害性更大的巨大潜在风险。在个人层面，深伪技术能实现未经受害人同意就窃用其形象牟利，是对个人肖像权的侵犯。更有甚者，深伪技术还会被诈骗分子用于伪装，如今年年初，香港某公司财务人员就被冒充的管理人员诈骗走公司2亿港元。而对于明星、政要，深伪技术可能造成的破坏性与社会危害性会更大。美国女星泰勒·斯威夫特就曾被合成不雅照片，在社交平台疯传，这不仅是对其个人与商业形象的严重伤害，更扰乱了社会秩序与公序良俗。此外，深伪技术还可能被用于伪造证据，影响照片、录像等证据的可信度，从而干扰法官判断、妨害司法公正。要防范深伪技术风险，首要任务是强化个人生物识别信息保护。从数据治理的角度看，深伪制作的流程主要分为获取数据（主要为生物识别信息数据）—处理数据—输出数据（输出伪造内容）三个环节。滥用深伪技术本质上是获取未经授权或同意的他人生物识别信息，进而利用这些信息进行身份冒充。因此，完善个人生物识别信息保护机制，应严抓深伪信息的输入和输出两端，从而实现源头治理与终点把控。第一，要强化收集生物识别信息时的“知情—许可”机制。由于个人生物识别信息具有“唯一性”“不可更改性”等特点，一旦遭泄露、滥用对信息主体伤害大、影响久，因此在个人信息保护等级中应适用最高级别。根据《中华人民共和国个人信息保护法》及相关法律规定，只有在基于国家安全与公共安全需要、刑事侦查与司法程序等特定情况下才可以豁免告知。除上述情形外，任何主体在收集、使用个人生物识别信息时，应当严格落实“知情—许可”机制，非明确同意不得收集，收集即违规。另一边，需要明确个人在网络上公开的信息并不代表其同意个人生物识别信息的再处理。目前深伪以商业应用场景较多，必须打消经营者“网上信息随意取用”的误区，履行其告知义务。此外，信息使用者必须确保告知的有效性。既要包含使用主体、收集目的、处理行为和信息流向等具体信息，又要采取足够显著的告知方式，如强制时限的弹窗等。第二，完善平台监管与追溯机制。平台应针对真人形象二次创作等深伪重度应用领域，通过技术审查和人工审查相结合的方式强化监管与追溯，如严格审查二创作品是否具有被使用信息主体授权记录等。如果发现未经授权或伪造授权证明的他人信息，平台应禁止传播并采取封禁账号等相应限制措施。第三，通过针对性立法建立更严肃追责惩戒机制。关于伪造身份信息，目前我国刑法规定了招摇撞骗罪和冒名顶替罪。前者的构罪要件包括冒充对象为国家机关工作人员，骗取内容有财物、荣誉、待遇、感情等；后者则是针对考试等特定程序中的身份权益。而侵犯公民个人信息罪又不包括“非法使用生物识别信息”的情形。这就意味着，在现行法下仅凭招摇撞骗罪和冒名顶替罪，难以从入刑角度有效打击深伪代言人等乱象。因此，未来有必要增设新罪名专门规制盗用他人身份的行为。在这一领域，美国法案中规定的“转移、使用或侵占他人身份识别数据的行为均按照身份盗窃罪处理”，可为我国提供一定参考。我国刑法未来也可增设“身份盗用罪”，任何人在未经信息主体同意的情况下利用他人生物识别信息，情节严重的（如点击率或转发数达到500次），则按身份盗用罪处理。若同时涉及其他罪名（如诈骗罪）的，从一重罪处理。 利刃需配刀鞘，猛兽当入囚笼。深伪技术的确有很好的应用前景，但构建起完善的应用、监管、惩戒体系是其真正成为人类趁手工具的前提。对此，各相关方必须制度先行，以完善的法律体系为其划定边界，以高效监管约束其应用，以正确的价值与伦理观引导其发展，实现技术为人服务的目标，确保深度伪造这项技术在正确的轨道上造福人类。（来源：环球网）
分享网络安全知识 强化网络安全意识
欢迎关注《中国信息安全》杂志官方抖音号
文章来源: https://mp.weixin.qq.com/s?__biz=MzA5MzE5MDAzOA==&mid=2664225807&idx=4&sn=415663d65765ff14ac4669a4853632a1&chksm=8b59def6bc2e57e01b10a1c686be7d2792771c8e800bfa2fec2236a5499bffec4d59e349dfb1&scene=58&subscene=0#rd
如有侵权请联系:admin#unsafe.sh