近年来,以大数据、人工智能(AI)等为代表的信息技术日新月异。与此同时,利用AI工具合成技术编造谣言,甚至生成逼近真实的图片、音视频,颠覆了“有图就有真相”的常规认知,让人难辨真假。今天,带你了解AI工具造谣背后的真相!

【AI造谣的定义】

AI造谣指的是利用人工智能技术生成虚假信息,‌包括文字、‌图片、‌音视频等,‌以此来制造网络谣言。

【AI造谣典型案例】

案例一:利用AI软件编造“山体滑坡致8人遇难”网络谣言

2024年1月23日,有网民在某平台发布文章称:“云南山体滑坡灾害 已致8人遇难”。经查,违法行为人杨某某为获取流量牟利,搜集网络上的相关信息后,利用AI软件生成了“云南山体滑坡灾害 已致8人遇难”的虚假新闻信息,并发布在网络平台上,造成不良社会影响。目前,公安机关已依法对杨某某进行行政处罚。

案例二:利用AI软件编造“喜德县地震”网络谣言

2024年6月9日,有网民在某视频平台发布视频称:“5月27日,四川省凉山彝族自治州发生5.0级地震,震中位于喜德县,地震波以每小时80公里的速度传播。地震造成了大量房屋损坏和人员伤亡,灾情严重”。经查,5月27日凉山发生5.0级地震,震中位于木里县,无人员伤亡,部分房屋受损,违法行为人罗某某为吸引眼球、获取流量,利用AI软件生成虚假地震灾情图片,并在某短视频平台散布不实信息。目前,公安机关已依法对罗某某进行行政处罚。

案例三:利用AI软件编造“女子电动车被扣后猝死”网络谣言

2024年6月,某网络平台出现一条关于“执法与人性的碰撞:五旬妇女电动车被查扣猝死”的消息。该文章称:“澄城县一妇女为了照顾病重的父亲匆忙赶路,却遇到交警执法,在哀求无果、电动车被扣后,情绪瞬间崩溃,心脏病发作最终未能挺过这一关”。这篇“情节曲折”的文章引发网民广泛关注,给当地造成极大的负面影响。经调查,田某利用AI工具,加工生成了“澄城县城的一妇女电动车被查扣猝死”的虚假信息并发布至其某平台账号。目前,田某对自己通过AI软件编造谣言的情况供认不讳,公安机关依法对田某处以行政处罚。

以上案例均是通过AI软件合成的不实信息,不法分子‌为了赚取平台奖励或吸引流量,‌使用AI软件自动生成文章,‌并与实际图片进行嫁接,‌发布在网络平台上,‌造成不良社会影响,严重扰乱社会公共秩序。