記者 郭冀川
近日,國家互聯網信息辦公室、工業和信息化部、公安部、國家廣播電視總局聯合發布《人工智能生成合成內容標識辦法》(以下簡稱《標識辦法》),自2025年9月1日起施行。
近年來,生成式人工智能、深度合成等前沿技術如雨后春筍般蓬勃興起,為創作合成文本、圖像、音頻、視頻等各類信息提供了便捷工具。然而,隨之而來的是虛假信息泛濫、網絡生態遭受破壞等一系列棘手問題。為了應對這些嚴峻挑戰,《標識辦法》應運而生。
國家互聯網信息辦公室有關負責人表示,《標識辦法》聚焦人工智能“生成合成內容標識”關鍵點,通過標識提醒用戶辨別虛假信息,明確相關服務主體的標識責任義務,規范內容制作、傳播各環節標識行為,以合理成本提高安全性,促進人工智能在文本對話、內容制作、輔助設計等各應用場景加快落地,同時減輕人工智能生成合成技術濫用危害,防范利用人工智能技術制作傳播虛假信息等風險行為,推動人工智能健康有序發展。
《標識辦法》提出,服務提供者應當按照《互聯網信息服務深度合成管理規定》第十六條的規定,在生成合成內容的文件元數據中添加隱式標識,隱式標識包含生成合成內容屬性信息、服務提供者名稱或者編碼、內容編號等制作要素信息。鼓勵服務提供者在生成合成內容中添加數字水印等形式的隱式標識。
《標識辦法》要求,互聯網應用程序分發平臺在應用程序上架或者上線審核時,應當要求互聯網應用程序服務提供者說明是否提供人工智能生成合成服務。互聯網應用程序服務提供者提供人工智能生成合成服務的,互聯網應用程序分發平臺應當核驗其生成合成內容標識相關材料。
中關村物聯網產業聯盟副秘書長袁帥對《證券日報》記者表示,《標識辦法》的出臺,旨在解決人工智能生成合成內容被濫用、虛假信息肆意傳播以及由此引發的社會信任危機等具體問題。其核心目標在于通過規范標識管理,提醒用戶在瀏覽網絡信息時保持警覺,明辨真偽。
中國移動通信聯合會教育與科學技術研究院執行院長陳曉華對記者表示,相關企業需按照《標識辦法》的要求,對生成合成內容添加明確標識和隱性標識,這對企業的合規提出了新的要求。從長遠來看,這一舉措有助于企業塑造良好的品牌形象和信譽度。
陳曉華說:“隨著《標識辦法》的實施,那些能夠迅速適應并落實相關要求的企業將在市場競爭中搶占先機。這將促使企業加強內部管理、提升技術水平和服務質量。為了滿足市場需求和監管要求,企業需要加大技術研發投入,研發更加高效、精準的標識技術和工具,提高內容標識的準確性和可靠性。”
盤古智庫高級研究員吳琦在接受《證券日報》記者采訪時表示,通過明確的標識規定,可以引導企業更加合規地使用人工智能技術,這將避免技術濫用帶來的風險隱患,防止企業因追求短期利益而損害市場的長遠發展。