系 AI 造假!五角大楼爆炸图疯传,美国国防部出面辟谣
2023-5-23 14:15:21 Author: hackernews.cc(查看原文) 阅读量:9 收藏

近日,一张由AI生成的假照片在推特上疯传,照片上显示的是华盛顿五角大楼发生剧烈爆炸的画面。这个事件暴露出了马斯克的Twitter Blue付费认证的真正问题。

周一上午晚些时候,这张假照片在社交信息平台上一经发布后不久就在网上疯传,直到美国政府官员出面,证实并谴责该照片只是个骗局才得以平息。

俄罗斯国家媒体和一个虚假的彭博新闻账户的个人资料名称旁边出现了蓝色对勾认证标记,此事备受争议。

美国东部时间上午10点左右,一张五角大楼草坪上熊熊燃烧的照片开始被大量转发,并快速传播,该照片的标题为“华盛顿特区五角大楼附近发生大爆炸的初步报告”。

据《福布斯》报道,美国国防部发言人已经声明这张照片是个“错误信息”。

到美国东部时间上午10点27分,阿灵顿消防和急救中心也在推特上谴责这是张假照片。该部门的推特账号发布内容称:@PFPAOfficial和ACFD注意到网上流传的有关五角大楼附近发生爆炸的社交媒体报道,但在五角大楼保留区或附近并未发生任何爆炸事件,对公众不会造成直接的危险或危害。

OSINT专家在几分钟内就对图像进行了全面检查,并指出了差异,证明图像确实是由AI生成的假图像。

Bellingcat的数字调查员Nick Walters表示,想伪造这样一个事件非常困难,甚至可以说根本不可能。这通过观察图像中的建筑物的正面,以及围栏融入人群屏障的方式就能轻松判断真伪。

Nick Walters称,对于这样一个重大的新闻报道,没有其他第一手目击者的照片或视频发布在网上就没那么可信。

此外,Nick Walters还在推特上写道:人口稠密地区发生的大多数极端物理事件(爆炸、恐怖袭击、大规模打斗)都会产生可识别的数字涟漪。

虚假的人工智能图像虽然对创作者和观众来说很有趣,但自去年11月ChatGPT发布以来,这一直是治理实体和人工智能专家关注的最大问题之一。

本月早些时候,一名男子因利用深度技术在网上传播虚假新闻而在中国被捕,面临最高10年的监禁。这名男子被指控使用ChatGPT制作了一个虚假的人工智能新闻视频,该视频描述了一场致命的火车相撞事故,然后将其发布在多个社交媒体网站上。

专家表示,随着人工智能模型近年来不断发展,社交媒体上的虚假信息非常令人担忧,尤其是在2024年美国总统大选周期刚刚开始的情况下。

《赫芬顿邮报》的高级编辑Andy Campbell提到了去年秋天,推特首席执行官马斯克接管该公司时,他与推特用户就其Twitter Blue认证展开的斗争。

以前是某家社交媒体公司能够证明某个组织或个人的合法性后,其账户才会被授予推特的蓝勾认证,但现在是只要有人愿意每月支付8美元,都可免费授予该标记。

3月份,这个问题的争议情况达到了顶峰,很多曾经认证过的名人和记者拒绝为曾经免费的服务付费,并表示可以将这个认证过的蓝色标记从他们的账户中移除掉。

Andy Campbell称,这个蓝色标记付费验证系统危险就在于,如果某个账户在推特上发布了一张AI生成的关于五角大楼爆炸的假新闻照片,但有了认证,乍一看该账户像是一个合法的彭博新闻推送。

那个虚假的彭博新闻账户已经被推特停用,但目前仍不知道这张伪造的五角大楼图片是从哪里来的。虽然,这次的虚假五角大楼爆炸新闻的病毒式传播很短暂,但这个谣言仍然导致周一纽约证券交易所出现了大跌的情况。


文章来源: https://hackernews.cc/archives/43994
如有侵权请联系:admin#unsafe.sh