近日，上海網信辦通報了“清朗·整治AI技術濫用”專項行動第一階段的顯著成果。此次行動主要針對AI技術的違規(guī)使用，全面清理并整治了相關違規(guī)AI產品及信息。
在專項行動中，上海市委網信辦積極指導包括小紅書、嗶哩嗶哩、拼多多在內的15家重點網站平臺，集中對“一鍵脫衣”、未經授權的人臉或人聲克隆編輯等違規(guī)AI產品、商品及其營銷、炒作、推廣、教程信息進行清理。這些平臺積極響應，不僅主動發(fā)布專項行動治理公告，還開通了有害AI內容的舉報受理處置渠道，加強了對智能體的全面排查清理。
據(jù)統(tǒng)計，各重點網站和AI平臺在此次行動中共攔截清理了82萬余條違法違規(guī)信息，處置了1400余個違規(guī)賬號，并下線了2700余個違規(guī)智能體。這一系列舉措使得網絡上的違規(guī)AI信息得到了顯著減少。
此外，上海網信辦還圍繞AI內容的“制作-傳播”環(huán)節(jié)，通過政策指導、生態(tài)協(xié)同與技術落地，推動相關企業(yè)加快開發(fā)上線隱式標識和傳播鏈互認驗證。稀宇科技、階躍星辰、通義等多家企業(yè)已基本完成了顯式標識規(guī)范的上線工作。同時，小紅書還牽頭編制了圖片模態(tài)元數(shù)據(jù)標識實踐指南，為上海的標識工作取得了階段性成效。
此次專項行動的初步成果展示了上海網信辦在整治AI技術濫用方面的決心和成效，為營造清朗的網絡空間邁出了堅實的一步。
浙公網安備 33010502007447號