只要我们负责任地对待AI，就能构建‘爱人类’的AI
12月27日，“这个AI不太冷”—AI发展与治理创新研讨会在北京召开，复旦大学系统软件与安全实验室的张谧教授受邀发表演讲，分享复旦白泽智能在AI大模型安全与治理方面的深度思考与前沿观点。
张谧教授的精彩报告赢得了与会嘉宾和新闻媒体的一致认可。截至目前，新华社、光明网、环球网、凤凰网等十余家全国主流媒体进行了报道，全网阅读量破百万，激发了社会各界对AI大模型安全问题的广泛关注和热烈讨论。
在《通用人工智能风险与治理——从OpenAI Q*谈起》报告中，张谧教授提出，科技行业应该负责任地发展AI，兼顾AI发展和风险管控。张谧教授说：“现在全球范围内有AI竞赛的氛围，注重安全反而可能造成技术落后，为了占领先机便不得不搁置安全。各方应该立足长远，携手营造有序竞争，把风险控制在防护能力的上界之内，保障AI发展处于安全区域。”
张谧教授对AI大模型未来的安全前景持乐观态度，她援引前沿观点指出，随着大模型安全评测、治理技术的成熟，以及治理体系的完善，人类提供一整套安全规则，AI就能根据规则实现“用模型监督模型”；而更长远地看，AI大模型有可能自主对齐人类价值观、主动向善发展。“只要我们负责任地对待AI，就能构建‘爱人类’的AI。”张谧教授说。
该会议由阿里巴巴集团与中国电子技术标准化研究院主办，云集了来自复旦大学、浙江大学、中国科学院、中国社科院大学、国家部委研究机构和国内AI企业的专家，与会专家从技术趋势、科技伦理和协同治理等角度深度探讨了中国AI的发展前景和路径。
未来，复旦大学系统软件与安全实验室将继续深耕AI大模型安全与治理研究，为人工智能的健康发展贡献复旦智慧。
团队简介
复旦白泽智能团队负责人为张谧教授，隶属于杨珉教授领衔的复旦大学系统软件与安全实验室。该团队主要研究方向为AI系统安全，包括模型安全、数据安全、AI赋能安全和AIGC安全等研究方向，在安全领域顶会/顶刊包括S&P、USENIX Security、CCS、TDSC等，与AI领域顶会/顶刊包括TPAMI、ICML、NeurIPS、ICDE、KDD等发表论文数十篇。
张谧教授个人主页：https://mi-zhang-fdu.github.io/index.chn.html
复旦白泽智能团队（Whizard AI）：https://whitzard-ai.github.io/
供稿、排版：复旦白泽智能
审核：洪赓、张琬琪
戳“阅读原文”即可查看官方网站哦~
复旦白泽战队
一个有情怀的安全团队
还没有关注复旦白泽战队？
公众号、知乎、微博搜索：复旦白泽战队也能找到我们哦~
如有侵权请联系:admin#unsafe.sh