網絡謠言打擊整治專項行動開展以來，全國公安機關網安部門取得了階段性的成效，近日公安部公布專項行動第2批10起典型案例，其中一個典型案例是紹興上虞警方破獲的一起利用人工智能技術制作虛假視頻編造網絡謠言非法牟利案，該案也是浙江省首例團伙制作虛假視頻案件。

(資料圖片僅供參考)

近日，浙江紹興上虞網安民警在網上巡查時發(fā)現，有網民發(fā)布了關于紹興上虞工業(yè)園區(qū)發(fā)生火災的視頻，并且在短時間內瀏覽量迅速上升，民警還發(fā)現該賬號下同類型的視頻，涉及杭州、寧波等地，經核實均為謠言視頻。

經過進一步分析研判，民警鎖定山東棗莊的一家科技公司有重大作案嫌疑，掌握證據后警方立即展開收網行動，6月5日在山東棗莊將三名嫌疑人當場抓獲。據嫌疑人交代，上虞火災是他們利用AI技術合成的視頻。

浙江省紹興市公安局上虞區(qū)分局網安大隊民警 沈林豐：他們首先在網上搜集一些熱門話題，通過AI一鍵生成視頻，通過相應的視頻號發(fā)布到網上。違反了視頻真實性原則，很多東西都會出現張冠李戴、無中生有的現象。

據初步統(tǒng)計，自今年5月以來，該團伙利用AI技術在網上發(fā)布未經核實的虛假視頻3000個以上。為了獲得流量，博人眼球，不斷利用AI技術散布謠言，以此牟利。

民警：這個怎么賺錢？

犯罪嫌疑人 張某芹：就是發(fā)這些內容，視頻、文章等，有閱讀量就會給收益。

目前，三名犯罪嫌疑人已經被紹興上虞警方依法刑事拘留，案件還在進一步偵辦中。