致力發展負責任的人工智能 中國發布八大治理原則

 

國家新一代人工智能治理專業委員會主任、清華大學蘇世民書院院長薛瀾教授介紹《新一代人工智能治理原則——發展負責任的人工智能》起草編制相關情況。　孫自法　攝

中新網北京6月17日電 (記者 孫自法)中國國家新一代人工智能治理專業委員會17日在北京發布《新一代人工智能治理原則——發展負責任的人工智能》，明確提出和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開放協作、敏捷治理等八項原則。

該委員會表示，全球人工智能發展進入新階段，呈現出跨界融合、人機協同、群智開放等新特征，正在深刻改變人類社會生活、改變世界。為促進新一代人工智能健康發展，更好協調發展與治理的關系，確保人工智能安全可靠可控，推動經濟、社會及生態可持續發展，共建人類命運共同體，人工智能發展相關各方應遵循以下八項原則：

——和諧友好。人工智能發展應以增進人類共同福祉為目標；應符合人類的價值觀和倫理道德，促進人機和諧，服務人類文明進步；應以保障社會安全、尊重人類權益為前提，避免誤用，禁止濫用、惡用。

——公平公正。人工智能發展應促進公平公正，保障利益相關者的權益，促進機會均等。通過持續提高技術水平、改善管理方式，在數據獲取、算法設計、技術開發、產品研發和應用過程中消除偏見和歧視。

——包容共享。人工智能應促進綠色發展，符合環境友好、資源節約的要求；應促進協調發展，推動各行各業轉型升級，縮小區域差距；應促進包容發展，加強人工智能教育及科普，提升弱勢群體適應性，努力消除數字鴻溝；應促進共享發展，避免數據與平臺壟斷，鼓勵開放有序競爭。

——尊重隱私。人工智能發展應尊重和保護個人隱私，充分保障個人的知情權和選擇權。在個人信息的收集、存儲、處理、使用等各環節應設置邊界，建立規范。完善個人數據授權撤銷機制，反對任何竊取、篡改、泄露和其他非法收集利用個人信息的行為。

——安全可控。人工智能系統應不斷提升透明性、可解釋性、可靠性、可控性，逐步實現可審核、可監督、可追溯、可信賴。高度關注人工智能系統的安全，提高人工智能魯棒性及抗干擾性，形成人工智能安全評估和管控能力。

——共擔責任。人工智能研發者、使用者及其他相關方應具有高度的社會責任感和自律意識，嚴格遵守法律法規、倫理道德和標準規范。建立人工智能問責機制，明確研發者、使用者和受用者等的責任。人工智能應用過程中應確保人類知情權，告知可能產生的風險和影響。防范利用人工智能進行非法活動。

——開放協作。鼓勵跨學科、跨領域、跨地區、跨國界的交流合作，推動國際組織、政府部門、科研機構、教育機構、企業、社會組織、公眾在人工智能發展與治理中的協調互動。開展國際對話與合作，在充分尊重各國人工智能治理原則和實踐的前提下，推動形成具有廣泛共識的國際人工智能治理框架和標準規范。

——敏捷治理。尊重人工智能發展規律，在推動人工智能創新發展、有序發展的同時，及時發現和解決可能引發的風險。不斷提升智能化技術手段，優化管理機制，完善治理體系，推動治理原則貫穿人工智能產品和服務的全生命周期。對未來更高級人工智能的潛在風險持續開展研究和預判，確保人工智能始終朝著有利于人類的方向發展。

據了解，為加強人工智能法律、倫理、社會問題研究，積極推動人工智能全球治理，中國新一代人工智能發展規劃推進辦公室今年3月成立國家新一代人工智能治理專業委員會，將起草新一代人工智能治理原則列入該委員會重點工作，經過網上建議征集、專家反復研討、多方征求意見等環節，最終在凝聚廣泛共識的基礎上形成并發布《新一代人工智能治理原則——發展負責任的人工智能》。(完)