(相关资料图)
公安部开展的网络谣言打击整治专项行动正在进行,近日,第2批10起典型案例公布,其中一个典型案例是绍兴警方破获的利用AI技术制作虚假视频编造网络谣言非法牟利案,该案也是浙江省首例团伙制作虚假视频案件。
虚假网络视频:据报道,浙江省绍兴市上虞区一工业园区内发生了火灾。
近日,浙江绍兴上虞网安民警在网上巡查时发现,有网民发布了关于绍兴上虞工业园区发生火灾的视频,并且在短时间内浏览量迅速上升,民警还发现该账号下同类型的视频涉及杭州、宁波等地,经核实均为谣言视频。经过进一步分析研判,民警锁定山东枣庄的一家科技公司有重大作案嫌疑,掌握证据后,警方立即展开收网行动,6月5日在山东枣庄将三名嫌疑人当场抓获。据嫌疑人交代,上虞火灾是他们利用AI技术合成的视频。
浙江省绍兴市公安局上虞区分局网安大队民警 沈林丰:他们首先在网上搜集一些热门话题,通过AI一键生成视频,通过相应的视频号发布到网上,这样违反了视频真实性原则,很多东西都会出现张冠李戴、无中生有的现象。
据初步统计,自今年5月以来,该团伙利用AI技术在网上发布未经核实的虚假视频3000个以上,为了获得流量,博人眼球,不断利用AI技术散布谣言,以此牟利。
民警:这个怎么赚钱?
犯罪嫌疑人 张某芹:就是往里面发这些内容,发视频、文章之类的。
民警:发文章就有钱了?
犯罪嫌疑人 张某芹:有阅读量就会给收益。
目前,三名犯罪嫌疑人已经被绍兴上虞警方依法刑事拘留,案件还在进一步侦办中。