网络谣言打击整治专项行动开展以来，全国公安机关网安部门取得了阶段性的成效，近日公安部公布专项行动第2批10起典型案例，其中一个典型案例是绍兴上虞警方破获的一起利用人工智能技术制作虚假视频编造网络谣言非法牟利案，该案也是浙江省首例团伙制作虚假视频案件。
(资料图片仅供参考)
近日，浙江绍兴上虞网安民警在网上巡查时发现，有网民发布了关于绍兴上虞工业园区发生火灾的视频，并且在短时间内浏览量迅速上升，民警还发现该账号下同类型的视频，涉及杭州、宁波等地，经核实均为谣言视频。
经过进一步分析研判，民警锁定山东枣庄的一家科技公司有重大作案嫌疑，掌握证据后警方立即展开收网行动，6月5日在山东枣庄将三名嫌疑人当场抓获。据嫌疑人交代，上虞火灾是他们利用AI技术合成的视频。
浙江省绍兴市公安局上虞区分局网安大队民警 沈林丰：他们首先在网上搜集一些热门话题，通过AI一键生成视频，通过相应的视频号发布到网上。违反了视频真实性原则，很多东西都会出现张冠李戴、无中生有的现象。
据初步统计，自今年5月以来，该团伙利用AI技术在网上发布未经核实的虚假视频3000个以上。为了获得流量，博人眼球，不断利用AI技术散布谣言，以此牟利。
民警：这个怎么赚钱？
犯罪嫌疑人 张某芹：就是发这些内容，视频、文章等，有阅读量就会给收益。
目前，三名犯罪嫌疑人已经被绍兴上虞警方依法刑事拘留，案件还在进一步侦办中。
