|
近日，國家互聯網信息辦公室、工業和信息化部、公安部、國家廣播電視總局聯合發布了《人工智能生成合成內容標識辦法》（以下簡稱《標識辦法》），該辦法將于2025年9月1日起施行。這一舉措旨在促進人工智能的健康發展，規范人工智能生成合成內容的標識，保護公民、法人和其他組織的合法權益，維護社會公共利益。 隨著生成式人工智能、深度合成等新技術的快速發展，利用這些技術生成合成的文本、圖片、音頻、視頻等信息在網絡上廣泛傳播，為經濟發展、網上內容豐富和公眾生活便利帶來了諸多益處。然而，同時也出現了虛假信息傳播、網絡生態破壞等問題，引發了社會各界的廣泛關注。 為了積極響應社會關切和群眾關心，四部門聯合制定了《標識辦法》。《標識辦法》明確規定了人工智能生成合成內容的定義，即利用人工智能技術生成、合成的各類信息，并指出這些內容的標識包括顯式標識和隱式標識兩種。顯式標識以文字、聲音、圖形等方式呈現，可以被用戶明顯感知；而隱式標識則通過技術措施在文件數據中添加，不易被用戶直接感知。 《標識辦法》對服務提供者提出了具體要求。對于提供的生成合成服務，服務提供者需要在適當位置添加顯著的顯式標識，如文本中的文字提示、音頻中的語音提示、圖片和視頻中的顯著標識等。同時，服務提供者還需在生成合成內容的文件元數據中添加隱式標識，包含生成合成內容屬性信息、服務提供者名稱或編碼、內容編號等制作要素信息。此外，鼓勵服務提供者在生成合成內容中添加數字水印等形式的隱式標識，以增強標識的安全性和可追溯性。 對于提供網絡信息內容傳播服務的服務提供者，《標識辦法》也提出了明確要求。這些服務提供者需要核驗文件元數據中是否含有隱式標識，并根據不同情況在發布內容周邊添加顯著的提示標識，以提醒公眾該內容屬于或可能屬于生成合成內容。同時，服務提供者還需提供必要的標識功能，并提醒用戶主動聲明發布內容中是否包含生成合成內容。 為了確保《標識辦法》的有效實施，互聯網應用程序分發平臺在應用程序上架或上線審核時，將要求互聯網應用程序服務提供者說明是否提供人工智能生成合成服務，并核驗其生成合成內容標識相關材料。此外，服務提供者還需在用戶服務協議中明確說明生成合成內容標識的方法、樣式等規范內容，并提示用戶仔細閱讀并理解相關的標識管理要求。 對于違反《標識辦法》規定的行為，網信、電信、公安和廣播電視等有關主管部門將依據職責，按照有關法律、行政法規、部門規章的規定予以處理。任何組織和個人不得惡意刪除、篡改、偽造、隱匿本辦法規定的生成合成內容標識，也不得為他人實施上述惡意行為提供工具或者服務，更不得通過不正當標識手段損害他人合法權益。 值得一提的是，為了更好地指導相關主體規范開展標識活動，強制性國家標準《網絡安全技術 人工智能生成合成內容標識方法》也已由國家市場監督管理總局、國家標準化管理委員會正式批準發布，并將于2025年9月1日與《標識辦法》同步實施。此外，全國網絡安全標準化技術委員會還組織起草了配套實踐指南，為相關主體開展文件元數據隱式標識提供了編碼指引。 《標識辦法》的發布和實施，將有力推動人工智能產業的健康有序發展，構建開放、公正、有效的治理機制，營造公平有序的發展環境。同時，也將有效防范利用人工智能技術制作傳播虛假信息等風險行為，保護公民、法人和其他組織的合法權益。 |
