近年來

以大數據、人工智能（AI）等

為代表的信息技術日新月異

與此同時

利用AI工具合成技術編造謠言

甚至生成逼近真實的圖片、音視頻

顛覆了“有圖就有真相”的常規認知

讓人難辨真假

今天

椰小探帶你了解

AI工具造謠背后的真相！

AI網絡謠言案例

2024年6月，網絡平臺上的一條“廣東省五華縣華陽鎮一70多歲老人被毆打致昏迷，其孫子為此跳河自殺，打人者一審被判九年十個月”的短視頻在互聯網平臺傳播，引發大量網民關注、討論。公安網安部門迅速開展調查，發現該視頻的圖文內容系移花接木、肆意編造的網絡謠言。據造謠人員任某供述，這段長達幾分鐘、聲色并茂的視頻全是由AI合成的。目前，公安機關已依法對任某追究法律責任。

2024年5月，河南一網民在某平臺發布《一場驚心動魄的“鈔票大戰”巴中市警民對峙引發轟動誰將成為勝利者》的謠言文章，引發大量網民關注、討論。經查，該涉謠文章由AI系統生成并發布，相關言論及照片均為不實信息。目前，公安機關已依法對造謠人員追究法律責任。

2024年1月，廣西東興市駱某某為博取流量，使用AI軟件自動編輯抗洪、救災視頻，捏造了新疆烏什縣發生地震的虛假視頻信息，造成該謠言信息在互聯網平臺大量傳播。目前，公安機關已依法對駱某某追究法律責任。

如何治理和防范

AI網絡謠言的產生？

為治理AI亂象

深化網絡生態治理

近年來相關部門出臺了

多項政策和措施

2023年1月10日起施行的《互聯網信息服務深度合成管理規定》指出，任何組織和個人不得利用深度合成服務制作、復制、發布、傳播法律、行政法規禁止的信息，不得利用深度合成服務從事危害國家安全和利益、損害國家形象、侵害社會公共利益、擾亂經濟和社會秩序、侵犯他人合法權益等法律、行政法規禁止的活動。

2023年8月15日起施行的《生成式人工智能服務管理暫行辦法》規定，提供和使用生成式人工智能服務，應當遵守法律、行政法規，尊重社會公德和倫理道德。不得生成煽動顛覆國家政權、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統一和社會穩定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規禁止的內容。