四川依法查處10起利用AI軟件造謠典型案例
近年來 隨著人工智能技術（AI）的高速發(fā)展 一些不法分子 利用AI的文本和圖像生成功能 編造虛假信息 使“AI類網絡謠言”滋生擴散 破壞網絡生態(tài)，擾亂社會秩序 今日 四川網警公布10起AI造謠典型案例 一起來看看 ↓↓↓ 案例一 利用AI軟件編造“山體滑坡致8人遇難”網絡謠言
2024年1月23日，有網民在某平臺發(fā)布文章稱：“云南山體滑坡災害 已致8人遇難”。經查，違法行為人楊某某為獲取流量牟利，搜集網絡上的相關信息后，利用AI軟件生成了“云南山體滑坡災害 已致8人遇難”的虛假新聞信息，并發(fā)布在網絡平臺上，造成不良社會影響。目前，四川廣元公安機關已依法對楊某某進行行政處罰。 案例二 利用AI軟件編造“喜德縣地震”網絡謠言
2024年6月9日，有網民在某視頻平臺發(fā)布視頻稱，“5月27日，四川省涼山彝族自治州發(fā)生5.0級地震，震中位于喜德縣，地震波以每小時80公里的速度傳播。地震造成了大量房屋損壞和人員傷亡，災情嚴重”。經查，5月27日涼山發(fā)生5.0級地震，震中位于木里縣，無人員傷亡，部分房屋受損，違法行為人羅某某為吸引眼球、獲取流量，利用AI軟件生成虛假地震災情圖片，并在某短視頻平臺散布不實信息。目前，四川涼山公安機關已依法對羅某某進行行政處罰。 案例三 利用AI軟件編造“巴中警民對峙”網絡謠言
2024年5月18日，有網民在某平臺發(fā)布文章稱：”巴中市最近上演了一場令人驚心動魄的事件，一輛運鈔車遭到踢爆，警民雙方展開了一場激烈的對峙”。經查，4月30日上午9時許，在四川巴中的一輛運鈔車因在公交車站牌處占道停留，交警發(fā)現(xiàn)后請運鈔車駛離。違法人員尚某某在網上獲悉相關圖片后，為吸引眼球，獲取流量和利益，帶著僥幸心理，在未經核實的情況下使用“AI千文”生成標題為《一場驚心動魄的"鈔票大戰(zhàn)"巴中市警民對峙引發(fā)轟動誰將成為勝利者》的虛假信息并發(fā)布，誤導網民，引發(fā)社會恐慌，擾亂公共秩序。目前，四川巴中公安機關已依法對尚某某進行行政處罰。 案例四 利用AI軟件編造“九旬老人遭兒女遺棄”網絡謠言
2024年6月24日，有網民在某平臺發(fā)布一則題為成都市新都區(qū)大豐街道“九旬老人遭兒女遺棄，流浪乞討多年成‘皮包骨’”的文章。經查，文章中的圖片來源于某外國博主救助外國流浪老人的視頻，而文章中的這位“李老頭”也遠在大洋彼岸，違法行為人張某為了吸引流量、博取關注，在家中借助AI程序，結合自己的“所思所想”編造并發(fā)布了這篇虛假文章。目前，四川成都公安機關已依法對張某進行行政處罰。 案例五 利用AI軟件編造“4月大女嬰被遺棄”網絡謠言
2024年1月12日，有網民在某平臺發(fā)布文章稱：“一則令人心痛的新聞在貴州省貴陽市花溪區(qū)傳開，一個僅僅4個月大的女嬰被遺棄在超市角落”。經查，違法行為人周某開發(fā)了可自動編撰文章的“翠綠筆墨”AI工具和配套管理系統(tǒng)，并招募志愿者創(chuàng)建工作群，要求志愿者提供平臺賬號，由其開發(fā)的管理系統(tǒng)代為登錄賬號，周某再利用AI工具自動生成相關文章，通過管理系統(tǒng)自動保存到志愿者平臺賬號的“草稿箱”中，通過工作群發(fā)布任務，由志愿者通過手機從“草稿箱”中手動發(fā)布，2023年11月以來，周某通過招募獲取相關賬號300余個（均已關停），利用AI工具編造信息約42萬余條（均已清除）。目前，四川達州公安機關已依法對周某進行行政處罰。 案例六 利用AI編造“成都公交車失控”網絡謠言
2023年11月20日，有網民在某平臺發(fā)布文章稱：“四川成都公交車失控沖入河中”。經查，違法行為人陳某看到“重慶公交車失控墜河10死2傷”的新聞后，為吸引眼球、博取流量，通過AI軟件合成，將內容篡改為“成都龍泉驛公交車失控墜河10死2傷”后發(fā)布到互聯(lián)網，產生不良社會影響。目前，四川成都公安機關已依法對陳某進行行政處罰。 案例七 利用AI軟件編造“地下熱管道破裂”網絡謠言
2023年12月27日，有網民在某平臺發(fā)布文章稱："西安市鄠邑區(qū)地下涌出熱水、疑是地下熱管道破裂引發(fā)”。經查，違法行為人王某、柳某為賺取平臺獎勵，利用AI軟件自動生成“西安鄠邑區(qū)地下熱管道破裂”的文章，并與河南省商丘網發(fā)布的“商丘一熱管道破裂”圖片進行嫁接，發(fā)布在網絡平臺上，引發(fā)大量網民關注，造成不良社會影響。目前，四川綿陽公安機關已依法對王某、柳某進行行政處罰。 案例八 利用AI編造“建筑工地事故”網絡謠言
2023年11月28日，有網民在某平臺發(fā)布文章稱：“成都龍泉驛區(qū)一工地上，四名工人使用腳手架高空作業(yè)觸碰高壓線不幸身亡”。經查，違法行為人朱某在互聯(lián)網看到“四川達州渠縣使用腳手架高空作業(yè)觸碰高壓線造成四人死亡”的新聞后，為吸引眼球、博取流量，通過AI軟件合成，將事故地點篡改為成都龍泉驛區(qū)后發(fā)布到互聯(lián)網，產生不良社會影響。目前，四川成都公安機關已依法對朱某進行行政處罰。 案例九 利用AI軟件編造“嫖娼突發(fā)心臟病死亡”網絡謠言
2024年5月11日，有網民在某平臺發(fā)布文章稱：“涼山西昌有一男子因嫖娼突發(fā)心臟病死亡，其家屬向兩名賣淫女和賓館老板尋求賠償”。經查，違法行為人吉某某為吸引流量通過AI工具“智普清言”炮制該虛假文章并發(fā)布，造成不良影響。目前，四川涼山公安機關已依法對吉某某進行行政處罰。 案例十 利用AI軟件編造“虛假橫幅”網絡謠言
2024年4月，有網民在某平臺發(fā)布“成都市郫都區(qū)德源鎮(zhèn)某某開發(fā)區(qū)奠基儀式”的視頻。5月，該網民又發(fā)布一掛有“讓全村都懷上二胎，是村支書不可推卸的責任”橫幅的圖片視頻。經查，以上視頻為AI編輯生成，均為不實信息。目前，四川成都公安機關已依法對王某進行行政處罰。 |
