您當前的位置 : 南海網 > 辟謠 > 頭條

            “AI信息污染”成疾?多家平臺開始應對,未標出AI內容最嚴可被封號

            來源:合規科技作者:肖瀟 時間:2025-03-13 19:11:40

            21世紀經濟報道記者肖瀟 北京報道

            《哪吒2》員工愿意996是因為公司在成都分房、梁文峰在知乎上首次回應DeepSeek走紅、80后死亡率突破5.2%……類似的信息正在占領互聯網。它們看起來有精確的細節,但沒有信息來源,仔細搜索后還有明顯事實錯誤。不少此類內容,被指出由AI生成。

            針對未標識的“AI謠言”,3月11日微博宣布啟動治理。微博社區治理官方賬號發文稱,治理的重點領域是社會民生、突發事件、科普醫療和個人權益,會對不同情況予以處置。

            具體而言,如果賬號的單條內容由 AI 生成且未主動標識,微博稱會主動打標,提示“疑似由 AI 生成”;如果賬號有多條AI內容都未標識,會限制流量分發;如果這些內容造成了惡劣影響,則可以禁言乃至封號。

            21記者在3月12日核查,目前要加上AI標識,微博用戶需點擊內容發布頁右下角的“公開”權限,增加“內容聲明”,選擇“內容由AI生成”。發布后,該微博的時間欄會新增“AI生成”狀態框。

            AI謠言泛濫的問題不止微博一家碰到。今日頭條在近期的治理開放日透露了一組數據:去年打壓了超過93萬條低質AI內容,處罰了近3萬個利用AI批量發布虛假、低質內容或惡意洗稿、抄襲的賬號。

            “我們能夠非常直觀地看到,AI技術對內容平臺是一把雙刃劍。對于創作者來說,AI可以豐富內容多樣性,我們也在工作、生活等各種場合開始嘗試用AI工具減負增效;但很多用戶對新技術掌握不夠充分,產出的內容也給站內生態帶來了問題,包括濫用AI生產的劣質空洞內容、利用AI洗稿侵犯他人著作權等等。這些問題既損害了用戶體驗,又擠壓了優秀原創作者的流量,嚴重損害了創作的公平性。” 該平臺一位負責人稱,過去一年里,AI內容給平臺帶來了很大挑戰。

            該負責人指出,低質AI內容的典型特征是內容空洞、前后矛盾。與微博的舉措類似,今日頭條在收嚴對低質AI內容的審核力度,另外監測AI內容的整體流量占比,“評估處一個相對健康的水位,確保原創作者的空間,同時接納合理的AI內容的存在。”

            但前述負責人也在會上坦言,過去的治理重點是“用戶能明顯感知到的低質AI內容”,現在批量生產、難辨真假的AI內容成為新的挑戰。

            近一年里,已經有不少“AI內容農場”產業鏈曝光。2024年4月,陜西西安警方公布了一起AI造謠案件:涉案人員通過“翠綠筆墨”AI寫作軟件,將熱門社會新聞重新拼湊、替換同義詞,并批量生成內容,日均產量高達19萬篇,流向6000多個自媒體賬號,以獲取平臺流量分成。

            2024年1月,南昌一家MCN機構因編造“西安爆炸”事件遭到警方調查。警方評估顯示,負責人一共經營了5家MCN機構,運營賬號842個,一天能AI生成4000-7000篇文章,全程基本不需要人工參與。經初步的估算,每天的收入在1萬元以上。

            科技自媒體博主阮一峰曾核算使用某國產大模型API批量生成文章的成本,一篇AI文章的成本是人民幣0.00138元,也就是一分錢可以生成七篇文章。AI的成本之低、生產能力之強,再綁定流量變現的吸引力,可以通過“量大管飽”的方式迅速沖擊互聯網內容生態。

            為AI內容加標識,是目前解決“深度偽造”“信息污染”等問題的主要措施之一,也是國內監管機構著力推進的方向。2023年8月開始實施的《生成式人工智能服務管理暫行辦法》要求,AI服務提供者對圖片、視頻等內容進行標識。2024年9月,《人工智能生成合成內容標識辦法(征求意見稿)》進一步要求,不僅是AI提供者,社交傳播平臺也需要添加明顯的AI標識,區別AI內容和真實內容。

            除了微博,抖音、快手、微信、小紅書、嗶哩嗶哩六家國內日活量最大的社交平臺,都已要求用戶在上傳內容時聲明是否由AI生成。但21記者在年初時測試發現,平臺里許多明顯的AI內容并沒有相應標識,實際執行效果不盡人意。微博此次指出,現在的治理難點是技術手段有限、法律滯后、公眾認知分歧。接下來,計劃結合AI檢測、人工審核與用戶舉報機制,加強對未標識AI內容的主動識別。

            今年2月,網信辦發布2025年“清朗”系列專項行動通知,指出今年的重點會是整治AI技術濫用亂象,強化生成合成內容標識,打擊借AI技術生成發布虛假信息、實施網絡水軍行為等問題。

            責任編輯:陳浩

            舉報謠言

            如果您聽到或看到社會上流傳的謠言,請發布上來,南海網記者將第一時間為您向權威部門求證并及時發布真實準確的消息!
            海南南海網傳媒股份有限公司 版權所有 1999-2020 地址:海南省??谑薪鸨P路30號新聞大廈9樓 電話:(86)0898-66810806  傳真:0898-66810545
            互聯網新聞信息服務許可證:4612006002 信息網絡傳播視聽節目許可證:2108281 互聯網出版許可證:瓊字001號
            增值電信業務經營許可證:瓊B2-2008008 廣告經營許可證:460000100120 瓊公網監備號:46010602000273號
            任我爽精品视频在线播放| 亚洲精品国产专区91在线| 久久久无码精品亚洲日韩软件 | 亚洲Av永久无码精品三区在线| www国产亚洲精品久久久| 国产亚洲美女精品久久| 精品国产一区二区三区香蕉| 99久久国产综合精品2020| 99精品国产99久久久久久97| 青春草无码精品视频在线观| 四虎成人精品无码永久在线| 国产在线拍揄自揄视精品| 2021国内精品久久久久精免费 | 久久精品人人做人人爽| 任你躁在线精品免费| 亚洲精品成人久久久| 日韩超碰人人爽人人做人人添| 国产精品高清m3u8在线播放| 精品乱码一卡2卡三卡4卡网| 亚洲精品国产免费| 91精品一区二区| 久久亚洲精品国产精品| 亚洲国产精品国自产拍AV| 国产在线精品观看免费观看| 国产vA免费精品高清在线观看| 亚洲日韩欧洲乱码AV夜夜摸| 人妻熟妇乱又伦精品HD| 999国内精品永久免费视频| 69国产成人精品午夜福中文| 日韩精品久久无码中文字幕| 亚洲αv在线精品糸列| 精品久久久久久久| 奇米精品一区二区三区在| 久久久精品无码专区不卡| 国产免费久久精品99久久| 国产成人综合久久精品尤物| sihu国产精品永久免费| 亚洲av无码成人精品区| laowang在线精品视频| 中日韩精品视频在线观看| 中日韩精品视频在线观看|