“360的AIOT主动学习平台支持数千万台IOT设备(端+云)识别能力,每天10亿次AI服务响应。”近日,在第三届中国人工智能大赛启动仪式上,作为往届参赛冠军,三六零(股票代码:601360.SH,以下简称“360”)公司副总裁、人工智能研究院院长邓亚峰代表参赛团队,发表主题演讲,分享了360人工智能的发展现状,并提出AI安全事关数字化安全,亟待不足短板。
360往届中国人工智能大赛夺冠证书
中国人工智能大赛由国家互联网信息办公室、工业和信息化部、公安部等部门联合主办,今年已经是第三届。邓亚峰介绍,前两届比赛中,360取得了辉煌的战绩,分别凭借旗帜识别检测、地标识别检测、特定行为检测三个参赛项目夺得了三次A类冠军。相较前两届大赛,本届大赛更侧重于推动中国人工智能领域的基础性和应用性技术突破,推动技术的应用落地,新加入了算法治理、人工智能与网络安全新赛题。
对于本届比赛的方向,中国工程院院士倪光南在大赛致辞中表示,我国人工智能基础研究还相对薄弱,在数据和计算能力等基础类人工智能技术、通用技术以及算法框架等方面,亟需突破创新,亟需将创新模式从应用驱动型创新转向技术驱动型创新。同时,要立足大局,坚持新发展理念,积极关注人工智能安全治理问题,奋力开创人工智能安全可信、创新发展和融合应用的新局面。
随着数字技术的发展,发展数字经济、建设数字中国已经上升为国家战略。数字化场景也从传统的电脑、互联网,发展到人类生活的方方面面,安全也随之从传统的计算机安全、网络安全,上升为数字化安全。人工智能作为核心的数字化技术之一,其自身的安全问题也成为数字化的重要组成部分。
对此,邓亚峰曾经表示,我国的人工智能安全领域的发展严重不足,主要表现在三个方面:一是安全评价体系不完善;二是人工智能安全应用存在较大差距;三是人工智能安全创新意识和环境相对滞后,在CB Insights评选的全球100家最具前景的人工智能创业公司中,人工智能安全公司24家,占比靠前,却无一家中国公司上榜。
当前,AI算法框架和算法模型本身,却暗藏诸多安全隐患。360AI安全实验室所开发的AI框架安全监测平台,已累计发现Tensorflow、Caffe、Pytorch等主流机器学习框架及供应链漏洞200多个,并在多款移动APP人脸识别设备中发现存在模型数据和人脸数据泄露的风险。对此,邓亚峰曾经表示,这些模型本应是企业非常重要的资产,却被轻易的破解,可见人工智能系统本身存在很严重的安全问题。
邓亚峰并未在比赛启动仪式上公布具体的参赛项目,作为一家深耕网络安全十余年的公司,360在人工智能与网络安全赛题上在往届比赛中已展现出巨大的优势。对于此次比赛,邓亚峰表示,参与比赛不仅可以锻炼队伍,加强跨部门协作和沟通过,积累经验并运用到实际业务中,还可以加强行业之间的交流,钻研最前沿的技术和算法。本届大赛,360将聚合全公司资源,抽调相关业务的精兵强将,成立专门的人工智能大赛项目组参赛。
如若转载,请注明原文地址