两会看安全 | 代表委员积极建言献策——人工智能篇
2024-3-15 18:35:56 Author: mp.weixin.qq.com(查看原文) 阅读量:10 收藏

扫码订阅《中国信息安全》

邮发代号 2-786

征订热线:010-82341063

在今年全国两会上,李强总理在介绍2024年政府工作任务时提出,深化大数据、人工智能等研发应用,开展“人工智能+”行动。“人工智能+”首次写入政府工作报告中,受到各方关注。“人工智能+”在政府工作报告中的首次提及,意味着数字应用的发展正从“互联网+”时代升级为“人工智能+”时代,人工智能正成为数字技术赋能实体经济、催生新质生产力的重要新动能。
同时,技术的进步是一把“双刃剑”人工智能展现出的巨大发展潜力,也为科学治理提出新的命题。人工智能技术转化与应用的不确定性,对网络安全、社会就业、法律伦理等带来了冲击,并对国家政治、经济和社会安全带来诸多风险和挑战。

两会期间,“人工智能”成为代表委员热议的关键词。多位代表委员提交建议提案,从多个角度为人工智能安全健康发展出谋划策。

全国政协委员、中国工程院院士 吴世忠

他建议,从技术、法规和伦理约束以及安全意识培养等方面,采取综合防范措施。为防范AI深度造假,可采取的技术手段包括使用图像和音频分析工具,检测深度造假,识别图像或者音频的伪造痕迹,也可在数字内容中嵌入水印或隐写记号,以便追溯图像或音频来源并作真实性比对,还可运用区块链技术等确保信息的不可篡改和透明性,从而提高图像或音频的可信度等。法规、伦理方面,则可制定相关法律法规和监管措施,对违规或恶意使用AI造假的行为进行处罚和打击。要求AI开发者提高模型的透明度和可解释性,确保用户能够理解模型的决策过程,减少潜在的滥用风险。同时,制定和倡导AI伦理规范,引导AI技术的开发应用,明确禁止滥用和伪造信息等。具体到安全意识的培养,建议加强民众对AI造假可能性的认知,提高对虚假信息的辨别能力,促进官产学研多方合作,加强持续监测研究,适应不断进步的技术和不断演进的威胁,共同应对AI深度造假的挑战。

全国政协委员、360集团创始人 周鸿祎

他建议,深化人工智能多场景应用,支持大模型垂直化产业化落地。他认为,通用大模型在企业级场景中无法直接应用,发展垂直化和企业化的大模型可以更好地满足企业的个性化需求,提高生产效率和服务质量,促进产业升级。建议政府、央企国企率先提供更多应用场景,聚焦“小切口、大纵深”,推动大模型垂直化、产业化落地。建议鼓励和引导企业将大模型与数字化业务系统深度结合、同业务流程相结合,充分发挥大模型价值。

全国政协委员、奇安信集团董事长 齐向东

他建议,大力探索“AI+安全”创新应用,抢占国家安全的人工智能战略制高点,提高我国应对网络空间安全风险与不确定性的能力,护航中国式现代化行稳致远。他建议,从需求侧看,强化政策牵引,推动“AI+安全”技术创新产品在各行业落地应用。支持“AI+安全”发展,设置专项基金,对研发创新“AI+安全”产品的企业,给予政府基金、贴息贷款或科研项目等支持。推动“AI+安全”相关产业取得更多科技创新成果。

全国人大代表、小米集团董事长兼CEO 雷军

当前,以我国生成式人工智能的实际技术水平来看,特别是在顶尖人工智能人才储备方面还存在明显不足,人工智能复合型人才更加短缺。雷军提出,从义务教育阶段普及人工智能素养教育。建议将人工智能素养教育纳入九年义务教育内容,设置人工智能通识课程,同时将相关内容纳入中小学社会实践活动。同时,建议大力推进高校人工智能相关专业的建设。将人工智能通识课程拓展到更多专业,如传统理工科专业、医学等专业,培养更多跨领域人才;引导人工智能赛道的大型企业向高校学生开放实习实践机会,提升理论与实践相融合的综合素质。

全国政协委员、金杜律师事务所高级合伙人 张毅

他在关于进一步完善人工智能算法治理体系的提案中,呼吁尽快推进人工智能法出台,通过统一原则性立法,提炼规范人工智能算法的共性规则,构建人工智能算法治理体系。另一方面,基于不同技术类型、应用领域人工智能的风险差异,还可考虑通过针对性法规予以规制。

全国人大代表,河南移动党委书记、董事长、总经理 楼向平

当前人工智能算法训练和使用过程中面临的各类数据安全、网络安全、隐私泄露等问题,已经成为制约人工智能健康发展的关键痛点,亟须形成一套可信人工智能技术标准和评估体系来加以规范。他建议,积极推动人工智能领域立法进程。同时,明确生成式人工智能“事前—事中—事后”全链条监管机制。“出台人工智能的风险等级规范,还要建立人工智能责任认定和追责机制、各利益相关方共同参与的系统化治理体系。

全国人大代表、科大讯飞董事长 刘庆峰

他建议,加速通用人工智能技术相关的法律法规制定与审议。围绕大模型的数据安全、隐私泄露、可靠性、知识产权等几大关键方面制定法律法规,提升通用人工智能技术可靠性与规范性。同时,完善向社会开放的大模型的准入和运行规则,明确责任分配与问责机制,并明确大模型知识产权与保护方式。此外,他建议设立软课题进行通用人工智能相关的伦理人文研究。坚持科学、独立原则,针对通用人工智能技术可能带来的社会风险、伦理挑战和人类文明变化进行开放式课题研究。

全国人大代表、南昌大学元宇宙研究院院长 闵卫东

当前,大模型和人工智能生成内容技术的商业应用正在加速落地,已成为数字经济领域的新兴产业之一,但与之相配套的政策仍不完备。他建议,政府、产业界、学术界和社会公众共同参与,构建安全完备的AI治理政策体系。在国家政策层面,要完善法律和伦理规范,明确AI及其算法在使用时的限制和义务,保障公众的安全和利益;学术界与产业界要加强对AI技术的研究和监测,开发可解释性技术,帮助理解AI及其算法的内部结构和决策规则,通过技术手段训练AI系统提供有用的、可解释的信息。

全国政协委员、中国科学院计算技术研究所研究员 张云泉
他建议,普及生成式AI教育,培育新质生产力人才。他提出,通过在现有的教育部政策框架内进行探索和实施,如设立“生成式人工智能教学资源共享平台”,以鼓励学校间根据生成式人工智能的技术特点,共享教学内容资源和教学计算资源。他还提出,针对实践机会缺乏的问题,学校应与企业和研究机构合作,增加学生的实践机会。

(来源:人民邮电报、检察日报、光明日报等)

《中国信息安全》杂志倾力推荐

“企业成长计划”

点击下图 了解详情


文章来源: https://mp.weixin.qq.com/s?__biz=MzA5MzE5MDAzOA==&mid=2664207862&idx=2&sn=99cdd05fe02253819b6d94024cf7c2c4&chksm=8b59970fbc2e1e19bb14ab6af9b8716b276bee54d311657f5313a10ba1752f3b313eab31ff05&scene=58&subscene=0#rd
如有侵权请联系:admin#unsafe.sh