扫码订阅《中国信息安全》
邮发代号 2-786
征订热线:010-82341063
01
《办法》要求, 在文本、图片、音频、视频等应用场景,要对人工智能生成合成内容添加显著的提示标识。通俗地讲,就是要给人工智能生成合成内容打上“专属水印”。当前人工智能生成合成内容为什么迫切需要添加显著的提示标识?
陈亮:当前,鱼龙混杂、真假难辨的AI生成内容的激增,引发人们对其透明度、真实性和误导性的关注和忧虑。充斥于各大网络平台的虚假AI生成内容,正成为滋生民事侵权乃至刑事犯罪的温床,也影响了消费者与平台之间的信任关系,进而阻碍了人工智能产业的良性健康发展。
为AI生成内容添加显著提示标识,提醒消费者相关内容的生成方式,提高消费者的警惕性,可以大大降低AI生成内容的欺骗、误导乃至操纵等风险,搭建起平台与受众之间的信任纽带,从而很好地平衡创新激励与权利保护之间的紧张关系。
陈兵:自生成式人工智能技术广泛应用以来,大量AI生成内容涌入赛博空间,在丰富网络内容、降低生产成本、增进制作效率的同时,也引发了大量的数据污染、内容造假、知识产权侵权、利用生成内容进行诈骗、无底线博流量等一系列乱象。
对人工智能生成合成内容添加显著的提示标识,首先,能够给予内容受众区分AI生成合成内容与人类创作内容的能力,保障公众知情权;其次,有助于压实相关主体责任,防范虚假信息的传播,营造清朗的网络空间;最终,能够促进人工智能技术的透明度与可信度的提升,确保人工智能实现坚持高质量发展与高水平安全良性互动。
阙天舒:人工智能生成内容亦真亦假、难以辨别,一些深度伪造的信息容易以假乱真,干扰人们的正常判断。
从消费者权益保护的角度,对人工智能生成内容进行标识是履行产品信息披露义务、保障消费者知情权的具体体现。从知识产权保护的角度,对人工智能生成内容进行标识是缓和生成作品产权归属争论、促进人工智能创作物市场构建的关键路径。从人工智能治理的角度,对人工智能生成内容进行标识是提升人工智能透明度、增强算法可解释性的重要方式。
张凌寒:随着生成内容越来越逼真,人们在一般社会生活中已经难以辨别其真伪。生成式人工智能可能被用于传播虚假信息、侮辱诽谤、诈骗甚至更严重的违法犯罪活动中。
02
张凌寒:对于内容服务平台,内容标识义务至少包括两个重要方面:一是明确标识所采用的技术方案,确保标识包含《办法》所要求的各类信息。
首先,完善技术手段,确保所有AI生成的文本、图片、音频、视频内容均添加显著的提示标识或“水印”。其次,建立和健全内容审核机制,实时监控和过滤可能存在的违法违规内容。最后,加强用户教育,提醒用户辨别AI生成内容,防范潜在风险。同时,积极与监管部门沟通,及时了解和适应政策变化,确保平台运营合法合规。
03
陈兵:《办法》既是对服务提供者自我合规的指引,也是对监管部门提供的监管要求及监管规则。因此,《办法》对于标注方式的规定应当做到清晰、明确,具有可及性与可操作性。
阙天舒:在标识方式上,《办法》区分了隐式标识和显式标识。关于隐式标识,依照《办法》规定,似乎所有情形下均应添加。我认为这方面有待商榷,应当明确特殊情况下无需进行隐式标识的情形。比如,生成来源绝对可靠时,就没必要进行标识。关于显式标识,我认为,针对一些特殊领域的人工智能生成场景,不仅要标识“人工智能生成内容”,还要作一些指引性的提示。比如,当生成内容涉及政治、军事、法律、医学、伦理等专业领域时,应当特别提示服务使用者咨询专业人士意见。
分享网络安全知识 强化网络安全意识
欢迎关注《中国信息安全》杂志官方抖音号
《中国信息安全》杂志倾力推荐
“企业成长计划”
点击下图 了解详情