|
來源： 中國信通院 伴隨人工智能的迅速發(fā)展和廣泛應用，人類正在進入一個“人機物”相融合的萬物智能互聯(lián)時代。人工智能技術(shù)應用在帶來機遇的同時，也引發(fā)了系列倫理挑戰(zhàn)。為應對人工智能技術(shù)應用帶來的風險，世界各國積極推動人工智能倫理治理與合作。我國不斷健全人工智能倫理治理體系和機制，加快推動人工智能倫理治理技術(shù)化、工程化、標準化落地，促進人工智能向善發(fā)展。 2023年12月26日，中國信息通信研究院（簡稱“中國信通院”）在“2024中國信通院ICT深度觀察報告會”科技倫理治理分論壇上發(fā)布了《人工智能倫理治理研究報告（2023年）》。 報告在總結(jié)人工智能倫理治理有關(guān)概念和特點的基礎(chǔ)上，對人工智能生成內(nèi)容、自動駕駛、智慧醫(yī)療三個典型應用場景的倫理風險進行分析，并結(jié)合國內(nèi)外人工智能倫理治理實踐，提出人工智能倫理治理的四點展望，以期為更加廣泛深入的討論提供參考。 報告核心觀點 1. 人工智能倫理風險挑戰(zhàn)亟需關(guān)注 目前，人工智能引發(fā)的倫理挑戰(zhàn)已從理論研討變?yōu)楝F(xiàn)實風險。在技術(shù)研發(fā)階段，由于人工智能技術(shù)開發(fā)主體在數(shù)據(jù)獲取和使用、算法設(shè)計、模型調(diào)優(yōu)等方面還存在技術(shù)能力和管理方式的不足，可能產(chǎn)生偏見歧視、隱私泄露、錯誤信息、不可解釋等倫理風險。在產(chǎn)品研發(fā)與應用階段，人工智能產(chǎn)品所面向的具體領(lǐng)域、人工智能系統(tǒng)的部署應用范圍等將影響人工智能倫理風險程度，并可能產(chǎn)生誤用濫用、過度依賴、沖擊教育與就業(yè)等倫理風險。對于人工智能生成內(nèi)容、自動駕駛、智慧醫(yī)療等典型應用場景，需要根據(jù)風險發(fā)生頻率、影響范圍、影響程度等評估主要風險。 2. 人工智能倫理治理是應對人工智能風險的有效機制 人工智能倫理治理是人工智能治理的重要組成部分，是應對人工智能風險挑戰(zhàn)的主要機制。人工智能倫理治理把以人為本、公平非歧視、透明可解釋、人類可控制、責任可追溯、可持續(xù)發(fā)展等作為核心內(nèi)容，并根據(jù)人工智能技術(shù)發(fā)展和應用情況，及時提出調(diào)整人與人工智能關(guān)系和應對人工智能風險的方法。 3. 各國積極推進人工智能倫理治理 為應對人工智能技術(shù)應用帶來的風險，世界各國積極推動人工智能倫理國際治理合作。各國政府通過出臺人工智能倫理原則、發(fā)布人工智能倫理治理指引、提供技術(shù)治理工具等加強本國本地區(qū)的人工智能倫理治理監(jiān)管。我國通過積極完善人工智能倫理制度規(guī)范，探索人工智能倫理治理技術(shù)化、工程化、標準化落地措施，引導行業(yè)自律，加強人工智能治理國際合作等舉措推動人工智能向善發(fā)展。 4. 人工智能倫理治理四點展望 在治理理念方面，堅持促進創(chuàng)新與防范風險相統(tǒng)一，統(tǒng)籌發(fā)展與安全。在治理舉措方面，健全多學科多主體合作、探索分類分級治理、推動治理技術(shù)工具開發(fā)。在能力建設(shè)方面，重視科研人員、開發(fā)人員、社會公眾等各主體科技倫理素養(yǎng)提升。在開放合作方面，積極參與全球人工智能倫理治理合作，推動人工智能技術(shù)造福人類。 |
