关注 | 涉黄AI换脸案冲上热搜！有人用暗恋女生换脸……
2024-3-25 18:28:10 Author: mp.weixin.qq.com(查看原文) 阅读量:19 收藏

扫码订阅《中国信息安全》

邮发代号 2-786

征订热线：010-82341063

近日，

@央视新闻 发布了一则

“涉黄AI换脸案”的新闻，

瞬间冲上热搜。

有人将涉黄视频

AI换脸成暗恋女生
2020年
浙江杭州的虞某接触了“AI换脸”软件
为吸引流量
他利用该软件
制作大量淫秽视频并传播

据虞某供述
为了吸引更多的关注和流量
他在社交软件上创建了
“浏览群”和“私人定制群”
“浏览群”主要用来传播“AI换脸”的淫秽视频
吸引、招揽观看者
其中包括一些经过虞某换脸的视频
当有人提出“定制换脸”的需求
虞某会将这些人引入所谓“私人定制群
虞某声称
“只要能看到脸的都能换”
有人甚至要定制暗恋女生的换脸视频

据检察机关调查
虞某根据“AI换脸”视频的
长度、清晰度等难易条件
按照5分钟300元、10分钟500元等
标准来收取定制的费用
除追究刑责，检察机关

还提起民事公益诉讼

检察机关认为
作为“AI换脸”技术的使用者
虞某通过传播
侵犯公民个人信息的方法和手段
使得更多“不特定主体”个人信息
被侵害的社会危险性进一步扩大
因此
杭州市萧山区人民检察院
在依法追究虞某刑事责任外
同时还提起民事公益诉讼
杭州互联网法院经审理认为
虞某利用“AI换脸”技术
侵犯公民个人信息的违法事实确凿
因此支持检察机关
作为公益诉讼起诉人的全部诉讼请求：
判令被告虞某删除非法获取的个人信息
公开赔礼道歉、消除影响并赔偿损失
这些款项将专门用于个人信息保护、
人脸深度合成技术不当应用的治理等公益事项
最终
虞某犯制作、传播淫秽物品牟利罪
被判有期徒刑七年三个月
并处罚金6万元
注意！“AI换脸”
用来搞笑也存法律风险
法官认为， “AI换脸”技术
即便只是用来搞笑或者制作恶搞照片
也有可能涉及侵犯肖像权、名誉权
造成严重后果的
还可能构成侮辱罪或者诽谤罪
而“AI换脸”技术的滥用
看似是对被侵害的个人的
人格权、肖像权、名誉权、隐私权的侵害
实际上更是对社会公序良俗的践踏
是对稳定的社会环境
和清朗的网络空间的挑战

网友呼吁：尽快规范

看到审判结果
多数网友表示
支持严惩！坚决抵制！

有网友呼唤规范AI使用
有网友提醒
在网上发布照片要小心
注意保护好自己的隐私
发现不法行为第一时间报警
 对此，央广网在评论中指出
别让不法行为毁了新技术  
也毁了自己
AI换脸
这是新技术产生的新玩法
但不管怎么玩
都必须在法律法规允许的范围内
绝不能踩线越界
运用AI技术将他人的
脸部信息合成到色情视频中
再将视频售卖牟利
显然已经侵犯了他人的肖像权
还涉嫌传播淫秽物品罪
严重挑战了社会公序良俗
侵权人的伏法有力说明了一个道理：
尽管现在还没有专门针对AI技术的法律法规
但我国现有的法律体系已经比较完善
足以惩治运用新技术违法犯罪的行为
谁都必须对此心怀敬畏
管住滥用新技术的心和手
一项先进技术的产生并不容易
我们要依法用好
别让不法行为毁了新技术

也毁了自己

（来源：法治网）

《中国信息安全》杂志倾力推荐

“企业成长计划”

点击下图 了解详情


文章来源: https://mp.weixin.qq.com/s?__biz=MzA5MzE5MDAzOA==&mid=2664209038&idx=6&sn=687817c8e1d91cf78a4e53062ff5034f&chksm=8b599877bc2e1161f22d70adb70d9724f6e716617683bff343cffa2b38b03b6360d886dd85d2&scene=58&subscene=0#rd
如有侵权请联系:admin#unsafe.sh