4月2日,北京市经开区协同海通证券举办了“新潮澎湃、质兆未来——2024北京经开区促进高质量发展产业金融论坛”,并由工银瑞信基金协办。论坛围绕如何践行中央金融工作会议精神、推动产业高质量发展,从而支持经开区四大主导产业发展壮大等方面进行深入探讨。
360数字安全集团产品及战略规划部总经理何帆受邀出席,并发表了“大语言模型安全防护”的主题演讲,展示了360在该领域的最佳实践、理论创新、系统化框架方案和核心能力成果。
何帆指出,在数字中国建设和全球数字化转型的浪潮下,大模型技术由于其令人耳目一新的强大智能化能力,正在被快速应用于千行百业,成为新质生产力的代表。然而,大模型的全新特性也带来的前所未有的安全挑战,既存在传统上的网络与数据安全,又新出现了内容可信、模型失控和和合规向善等多方面的安全挑战。
解决大模型问题首先需要顶层逻辑与方法论。360率先提出了大模型的安全四原则:可靠、可信、向善、可控,旨在从顶层设计上全面保障大模型的安全。为了实现这些原则,360又进一步提出了一套核心战法,包括建立“网络与数据安全与大模型自身安全”的双轮驱动体系,坚持以内容安全为核心,在大模型内部内置原生安全机制,采用“小模型”的技术思路保障大模型安全的技术路线,同时构建大模型安全实战对抗评估体系对打模型安全实战能力进行评估,并进一步构建以服务运营为核心的大模型安全持续治理体系等。
为了将360大模型安全的核心能力输出给千行百业,360提出了“双轮驱动”的大模型安全解决方案框架。在框架中,一方面,利用360安全云围绕“数据、探针、平台、专家、AI”这五个核心要素,在网络与数据安全层面对打模型进行全面防护;另一方面,通过“360大模型原生安全能力增强包”解决大模型在内容可信、合规向善、模型可控上存在的安全问题,并利用360独有的大模型安全评估系统,对大模型的安全能力进行实战评估。
“双轮驱动”的360大模型安全解决方案
只有躬身入局才能攻克大模型安全难题。凭借安全和大模型双重能力,360的大模型创新能力不仅得到了政府机构的认可与赞誉,更在多个行业中实现了落地应用。360大模型安全解决方案已在金融、政务、税务、医疗等多个重点行业完成了落地,为这些行业的数字化转型提供了坚实的安全保障。未来,360将继续引领大模型安全领域的发展,为构建更加安全、可靠的数字化世界贡献力量。
【免费领】网络安全专业入门与进阶学习资料,轻松掌握网络安全技能!