360周鸿祎:人工智能安全是下一个皇冠上的明珠
2024-6-27 20:5:48 Author: mp.weixin.qq.com(查看原文) 阅读量:4 收藏

6月26日,“矩阵杯”网络安全大赛线下决赛在青岛国际会议中心正式拉开帷幕。作为东半球规格最高、奖金最丰厚的网络安全顶级赛事,“矩阵杯”凭借2000万奖金激励、多维赛事、创新赛制、海量靶标吸引了中国、越南、马来西亚等国家1000余支战队参赛。现场,“矩阵杯”通用产品漏挖赛、国产软硬件安全检测赛、原创漏洞挖掘赛、人工智能(大模型)挑战赛、战队攻防对抗赛五大赛事正式开启。

在“矩阵杯”网络安全大赛开幕式暨全球数智安全大会上,360集团创始人周鸿祎发表致辞,他谈到人工智能安全是“下一个皇冠上的明珠”,黑客或是人类控制超级人工智能最后的希望。

01

人工智能安全是下一个皇冠上的明珠

黑客或是人类最后的希望

观点摘录

1. 人工智能大模型的出现,一定会在未来十年内席卷所有的行业,会重塑所有的产品。

2. 人工智能产品再牛,它本身也是由软件、网络数据构成的,也会有漏洞,特别是人工智能现在比常规的系统更容易遭到攻击。

3. 有的人工智能系统做得很傻很天真,用语言对话,就能让它变得很黄很暴力,就能实现注入攻击,让它干违背法律和道德的事情。

4. 人工智能的安全,应该说是我们安全上下一个皇冠上的明珠。

5. 人工智能带来的安全问题,不仅仅是网络安全、数据安全,还有终极安全问题,如果真的发展成超级人工智能之后,或将脱离人类的控制。

6. 如果将来真有一套人工智能系统,脱离了人类的控制,最后制服它的可能还是在座的黑客,你们有可能成为人类最后的希望。

7. 人工智能安全问题,我觉得对所有安全从业人员来说是一个巨大的挑战,也是一个巨大的诱惑,谁能解决这个问题,就不仅对国家,对整个人类的发展都有更多的贡献。

02

希望年轻人做为国为民的红帽子黑客

观点摘录

1. 《黑客帝国》这个电影我看了很多遍,当人类幻想世界被人工智能控制,人类成为机器的奴隶时,程序员出身的男主角Neo站出来勇敢反抗,这代表着一个黑客的力量,是一个很好的隐喻。

2. 我有个建议,将在座的各位安全专家称为红帽子黑客,拥有黑客的技能,但有一颗红心,为国家的安全、为人类安全努力。

3. 希望在座的年轻黑客,有机会把电影《黑客帝国》再看一遍,学习男主角Neo的精神,使得人工智能能够为人类所用,但是又不会脱离人类的控制。

03

国内高水平安全大赛背后的故事

观点摘录

1.未来是数字化的世界,是软件定义一切的时代,只要是软件,就会有漏洞,有漏洞,一旦被人利用,不需要知道你的密码,隔离也不起作用,系统就可以被人很快渗透。

2.以国家为背景的APT组织,包括以勒索为重要手段的专业网络犯罪组织开始出现,我们的对手变得更加的隐秘,变得更加的强大。

3.今天一个攻击软件背后是一整套的团队,这个团队也像我们的防守人员一样聪明,一样的灵活,在不断调整。

4.今天这样人和人对抗的时代,再盲目迷信只是买一些产品,部署一些软硬件,就期望网络安全可以高枕无忧,这种想法早就不成立了。

5.通过模拟攻防、模拟渗透、模拟对抗,使得我们的网络安全专家真正在实战中来锤炼能力,而不是都变成产品的销售和支持人员。

6.360给国家提了一个建议,国内应该举办自己的黑客大赛,给有能力的安全专家提供高额奖金,帮助国家更好地解决网络安全问题。

7.今年有1000+战队参加,既有来自国内安全领域的专家,也有来自代表用户方面的团队,还有来自国际的团队。从规模上来说,我觉得也实现了当初去看美国比赛时的梦想,我们从规模、影响力方面,现在也在世界上可以排名到第一名。

8.奖金是大家挖完漏洞之后该得的,但这不是唯一目的,我们做这件事情其实对国家网络安全,对将来中国在网络上提升自己的防御能力,包括解决国家安全的高度,都具有非常重要的意义。

往期推荐

01

ISC2023周鸿祎发布战略级产品360安全云,首提安全即服务

点击阅读

02

● 东半球网络安全顶赛开幕在即,“矩阵杯”这些内容值得关注

点击阅读

04

● 攻防演练正当时,360 AI军团已就位!

点击阅读


文章来源: https://mp.weixin.qq.com/s?__biz=MzA4MTg0MDQ4Nw==&mid=2247572576&idx=1&sn=99c8885a9493b362223d19deee7b29e5&chksm=9f8d4c68a8fac57e53955967843bd9b696e7752665d1dc28536f9728971104f1177cd9f912b8&scene=58&subscene=0#rd
如有侵权请联系:admin#unsafe.sh