火爆出圈的“ChatGPT”,是否将构成新的网络安全威胁?
2023-2-20 17:52:51 Author: www.secpulse.com(查看原文) 阅读量:39 收藏

它可以写任何东西
也拥有无尽想象
好的,或坏的

近日,各大社交网站频频刷屏,登上多条热搜的“ChatGPT”究竟是什么?

1.png

据悉,ChatGPT是美国人工智能研究实验室OpenAI开发的一种全新聊天机器人模型,利用自然语言处理(NLP)来分析人工输入并产生输出,模仿人类的自然对话,还能根据聊天的上下文进行互动,并协助人类完成一系列任务。它可以写任何东西--信件、插图、歌词、研究论文、食谱、诗歌、论文、甚至软件代码。

不少和ChatGPT“聊过天”的网友纷纷感叹,“只有你想不到,没有ChatGPT办不成的”。

2.png

自从2022年11月30日OpenAI首次公测ChatGPT至今,短短三个月内活跃用户就突破了1亿。2月7日,ChatGPT"因访问量激增而宕机"的消息一出,更是引发了全球的高度关注。

ChatGPT的走红,一方面是人工智能的高速发展的佐证,但是另一方面许多的质疑和争议也随之而来。

ChatGPT已经影响到众多领域,如:搜索引擎、内容创作、教育体系、平面设计、数据分析、科学研究领域等。

有调查显示,美国89%的大学生都在用ChatGPT做作业。目前,纽约、洛杉矶等城市,已开始禁止在教室和任何学校设备上使用ChatGPT。

而在学术界也有诸多担忧,ChatGPT强大的语言理解和学习能力,使其产出的学术摘要可以骗过期刊审稿人。目前,已有多家知名学术期刊正在更新编辑规则,禁止将ChatGPT列为论文合著者,且不允许在论文中使用其所生产的文本。就连《Science》、《Nature》两大期刊亦针对ChatGPT更新了投稿规则。迫于舆论压力,OpenAI也在2月推出了AI创作检测工具AI Text Classifier。

3.png

对于网络安全行业而言,ChatGPT似乎也将带来举足轻重的影响。

在首个公开的概念验证中,纽约大学教授Brendan Dolan-Gavitt使用ChatGPT来利用缓冲区溢出漏洞。其他安全专家的ChatGPT应用案例包括以闪电般的速度编写恶意软件以及制作令人信服、语法正确的网络钓鱼电子邮件。

另外,黑莓(Black Berry)的一份报告调查了英国500名IT行业决策者对ChatGPT这项革命性技术的看法,发现超过四分之三(76%)的人认为,外国已经在针对其他国家的网络战争中使用ChatGPT。近一半(48%)的人认为,2023年,将会出现有人恶意使用ChatGPT而造成“成功”的网络攻击

威胁情报公司Recorded Future则在暗网和内部论坛中,发现了1500多条关于使用ChatGPT开发恶意软件、创建概念验证代码的参考资料,并且其中大部分代码都公开可用。

 4.png

已经有无数例子说明ChatGPT有能力改变各种黑帽子游戏规则。利用恶意软件生成自动化、诈骗文本生成智能化、虚假情报海量化、新型攻击隐蔽化等会对网络安全造成极大的威胁。

有专家认为,ChatGPT等工具有望降低准入门槛、扩大恶意黑客的群体规模,将恶意软件攻防提高到一个新的水平。随着ChatGPT和其他语言生成模型的不断发展,将会给网络安全行业带来巨大影响。

如何应对ChatGPT可能带来的数据泄露问题、恶意软件与黑客攻击等问题,也将成为我们不得不面临的挑战。未来,需要加强对以ChatGPT为代表的语言生成模型的监控和防范。

以ChatGPT为代表的语言生成模型的好坏取决于对其使用的目的。换个角度看,以智反智,又或许将给网络安全行业带来大量新机遇。

 5.png

国内各类“山寨”ChatGPT应运而生,在淘金的同时,安全问题亦不容忽视。

随着ChatGPT的爆火,市场上出现多款摹仿ChatGPT功能的产品,其中多个公众号注册成立不足一周。

类似的盗版ChatGPT不仅会利用淘宝、闲鱼等获客,还会在各平台的ChatGPT相关内容下留言引流——将用户导至公众号完成关注量转化。甚至在闲鱼上,“开发搭建ChatGPT国内版本”也都成为了受人追捧的生意。

640.png

在追逐热点的同时,也务必要注意数据安全问题。在使用ChatGPT时,不要暴露个人敏感信息及企业或国家秘密。而面对诸多山寨版本ChatGPT更要提高安全意识,不要被不法分子获利。

本文作者:中孚信息

本文为安全脉搏专栏作者发布,转载请注明:https://www.secpulse.com/archives/196133.html


文章来源: https://www.secpulse.com/archives/196133.html
如有侵权请联系:admin#unsafe.sh