摘要：聯(lián)合國教科文組織的《人工智能倫理問題建議書》是第一部規(guī)范人工智能科學(xué)倫理的全球性國際文書，提出了人工智能倫理要始終以保護(hù)人權(quán)、人的自由及尊嚴(yán)為核心價值。本文通過對其制定的背景、過程、內(nèi)容、意義和作用以及亮點的介紹，探究其確立的倫理規(guī)范對我國科技倫理治理的啟示。研究發(fā)現(xiàn)，《人工智能倫理問題建議書》以軟法的形式，結(jié)合人工智能動態(tài)發(fā)展的特點，有效地在國際層面整合有關(guān)觀點，提出人工智能在教育、科學(xué)、文化等領(lǐng)域發(fā)展的價值觀、原則及政策行動，形成了動態(tài)且具包容性的人工智能倫理問題框架。我國科技倫理治理的政策實施和立法可借鑒《人工智能倫理問題建議書》進(jìn)一步細(xì)化，實現(xiàn)科技倫理的硬法軟法協(xié)同治理，促進(jìn)我國的科技倫理治理體系不斷發(fā)展與完善。
關(guān)鍵字：聯(lián)合國教科文組織；《人工智能倫理問題建議書》；人權(quán)；人工智能；科技倫理
目錄
引言
一、《建議書》的制定背景、過程和適用范圍
二、《建議書》的主要內(nèi)容
三、《建議書》的主要亮點
四、《建議書》對我國科技倫理治理的啟示
結(jié)語
引言
2023年10月,習(xí)近平主席在第三屆“一帶一路”國際合作高峰論壇開幕式主旨演講中提出《全球人工智能治理倡議》，體現(xiàn)出國內(nèi)和國際對人工智能倫理治理，以及構(gòu)建科技倫理審查及監(jiān)督制度的關(guān)切。2024年7月，中共第二十屆中央委員會第三次會議全體通過《中共中央關(guān)于進(jìn)一步全面深化改革推進(jìn)中國式現(xiàn)代化的決定》，該決定明確要構(gòu)建支持全面創(chuàng)新體制機(jī)制，深化科技評價體系改革，加強(qiáng)科技倫理治理。
發(fā)展科技要揚(yáng)長避短，發(fā)展其長處，正視其短處。為此，需要制定相應(yīng)的政策并進(jìn)行立法。但是，人工智能、云計算等科技快速發(fā)展，各國在相關(guān)領(lǐng)域的具體實施政策和立法卻差距甚大。這些年，已有一些國家和區(qū)域性國際組織出臺了有關(guān)人工智能的規(guī)范準(zhǔn)則，但是還缺乏一部在全球范圍內(nèi)規(guī)定人工智能發(fā)展倫理框架的規(guī)范性文書。
2021年，《人工智能倫理問題建議書》(Recommendation on the Ethics of Artificial Intelligence，下文簡稱《建議書》)的頒布填補(bǔ)了上述國際空白?！督ㄗh書》由聯(lián)合國教科文組織(UNESCO)批準(zhǔn)通過。聯(lián)合國教科文組織是制定科學(xué)倫理框架以及協(xié)調(diào)國際社會各方進(jìn)行磋商的權(quán)威機(jī)構(gòu)，它運(yùn)用自己的長期經(jīng)驗，充分發(fā)揮其全球性、多元化的優(yōu)勢，會集眾多國家、國際組織和公共及私營領(lǐng)域眾多利益攸關(guān)方起草并通過了《建議書》?！督ㄗh書》體現(xiàn)了人工智能倫理與人權(quán)的緊密關(guān)聯(lián)，能夠有效指導(dǎo)各國圍繞聯(lián)合國教科文組織中心領(lǐng)域制定與人工智能相關(guān)的政策和法律，鼓勵個人、團(tuán)體、社群、機(jī)構(gòu)和私營部門公司將倫理規(guī)范嵌入人工智能系統(tǒng)生命周期的各個階段，更有效地保護(hù)人權(quán)。
本文將簡要介紹和梳理《建議書》的制定背景、過程，適用范圍和主要內(nèi)容，總結(jié)聯(lián)合國教科文組織《人工智能倫理問題初步研究》（以下簡稱《初步研究》）和《建議書》確立的人工智能倫理價值觀和原則的重要意義、作用及若干亮點，繼而根據(jù)《建議書》得出若干啟示，圍繞貫徹落實我國科技倫理的治理進(jìn)行探討。
一、《建議書》的制定背景、過程和適用范圍
（一）《建議書》制定的背景
1.聯(lián)合國教科文組織關(guān)于生物和科技倫理的研究
聯(lián)合國教科文組織對生物倫理和科技倫理進(jìn)行了多方面的思考，在國際標(biāo)準(zhǔn)制定與合作中發(fā)揮了重要作用，20多年來，其就科技倫理問題提出了許多規(guī)范性建議，例如《世界人類基因組與人權(quán)宣言》(1997年)、《世界生物倫理與人權(quán)宣言》(2005年)、《與氣候變化有關(guān)的倫理原則宣言》(2017年)、《關(guān)于科學(xué)和科學(xué)研究人員的建議書》（2017年）等。
2.國內(nèi)外學(xué)者關(guān)于人工智能倫理的一些研究
《建議書》出臺以前，國內(nèi)學(xué)者已就人工智能帶來的倫理問題及其對具體政策和法律實施的挑戰(zhàn)展開了研究，回應(yīng)這些挑戰(zhàn)越來越成為探討的前沿和熱點。目前，國內(nèi)學(xué)界一些已有的研究圍繞不同視角展開，均涉及人權(quán)問題。本文僅擇其主要者簡述如下。
首先，是倫理與人權(quán)的關(guān)系。倫理是人權(quán)的道德基礎(chǔ)，是關(guān)于道德規(guī)范與人際關(guān)系的評價。人權(quán)首先是道德意義上的權(quán)利，也就是說，“人權(quán)是一種在道德上具有強(qiáng)烈正當(dāng)性的權(quán)利，或者說，是一種在道德上具有高度優(yōu)先性的權(quán)利訴求”。有學(xué)者指出，隨著啟蒙時代的“自然權(quán)利論”和康德的“理性權(quán)利觀”作為人權(quán)論證的主要方式被提出，人權(quán)與倫理學(xué)之間實現(xiàn)了邏輯和理論的自洽，人權(quán)價值被廣泛接受為基準(zhǔn)性道德價值，形成了“一種認(rèn)可每個人價值、尊嚴(yán)和權(quán)利的倫理”。根據(jù)這些研究可知，一定的倫理形成了相應(yīng)政策和法律選擇背后的價值觀，而包括人工智能在內(nèi)的科技倫理是指運(yùn)用道德規(guī)范和一定的價值觀來約束科技的發(fā)展和使用。
其次，是人工智能如何影響基本人權(quán)，如生命權(quán)、健康權(quán)、經(jīng)濟(jì)權(quán)利、政治權(quán)利、文化權(quán)利和發(fā)展權(quán)利等。人權(quán)的抽象性導(dǎo)致其在約束科技發(fā)展中存在一定的局限性，人工智能的發(fā)展也帶來了人權(quán)倫理的困境、沖突和挑戰(zhàn)。例如：人權(quán)的人格主體向人工智能擴(kuò)展的可能性，算法決策的歧視和對歧視的救濟(jì)，個人隱私權(quán)、表達(dá)自由權(quán)利、人性尊嚴(yán)的保障，科學(xué)技術(shù)的享受權(quán)，侵犯發(fā)展中國家人民的健康權(quán)，等等。
再次，是探求“科技和人權(quán)走向倫理和解”的建構(gòu)路徑，即尋求倫理與法律的結(jié)合點以解決科技發(fā)展中的人權(quán)困境。這些觀點包括：立法活動中，將倫理學(xué)中的道德因素轉(zhuǎn)化為實然法，促進(jìn)算法的可解釋性；司法裁判中避免對人工智能形成依賴，側(cè)重立法中對人工智能的開發(fā)與運(yùn)行程序的事前審查；在人權(quán)視角下過濾算法可能會依據(jù)的歧視性和敏感性詞語，使決策符合倫理；不能忽視多方合作制定人工智能法律與倫理規(guī)則的重要性。
最后，國外學(xué)者提出的一些觀點在我國也有較大影響力。例如，Jobin定義了以下人工智能倫理原則：透明度(transparency)、公正與公平(justice and fairness)、不傷害(nonmaleficence)、責(zé)任(responsibility)、隱私(privacy)、利他(beneficence)、自由與自治(freedom and autonomy)、信任(trust)、可持續(xù)(sustainability)、尊嚴(yán)(dignity)和團(tuán)結(jié)(solidarity)。上述原則均直接或間接與人權(quán)保障相關(guān)。
但是，上述研究的缺憾之一是未與人工智能相關(guān)的國際規(guī)則緊密相連，無法從全球?qū)用嫣岢鋈斯ぶ悄軅惱砝Ь车慕鉀Q方法。簡言之，這是缺乏國際性和全球性視角，尚未形成解決人工智能倫理問題總括性的、行之有效的全球標(biāo)準(zhǔn)而導(dǎo)致的。因此，在飛速發(fā)展的科技時代，亟須從全球視角整合各方觀點，制定國際社會能夠達(dá)成共識以保障人工智能的發(fā)展遵循倫理規(guī)范的準(zhǔn)則?！督ㄗh書》在很大范圍和程度上彌補(bǔ)了這一缺憾，也提供了人工智能倫理研究的具體指南。
（二）《建議書》采用的人工智能定義及其與倫理和人權(quán)的關(guān)系
2019年2月通過的《初步研究》，在《建議書》出臺之前就對“人工智能”的概念進(jìn)行了界定，并且考察了聯(lián)合國教科文組織職能范圍內(nèi)的人工智能倫理問題，繼而確定了將要擬訂的準(zhǔn)則性文書，即《建議書》的性質(zhì)、內(nèi)容、通用原則和關(guān)注的重點領(lǐng)域。
1.《初步研究》對人工智能的定義及其與倫理關(guān)系的論述
《初步研究》指出，人工智能在最寬泛的層面上可以分為 “理論型”或“科學(xué)型”，以及“實用型”或“技術(shù)型”兩大類別。“理論型”或“科學(xué)型”人工智能是指“使用人工智能的概念和模型幫助回答與人類和其他生物相關(guān)的問題”，涉及形而上學(xué)或精神層面的問題，本身具有十分嚴(yán)肅的倫理內(nèi)涵；“實用型”或“技術(shù)型”人工智能則以工程學(xué)為導(dǎo)向，創(chuàng)造機(jī)器或程序，使其獨立執(zhí)行本需依靠人類的行動?！督ㄗh書》是根據(jù)《初步研究》關(guān)于人工智能“理論型”或“科學(xué)型”定義的類別來提出其倫理框架的，本文也主要根據(jù)這一“理論型”或“科學(xué)型”的人工智能定義來進(jìn)行闡釋論證。
2.《初步研究》對人工智能倫理與人權(quán)關(guān)系的論述
由于人工智能倫理框架與人權(quán)有緊密的關(guān)聯(lián)，所以聯(lián)合國教科文組織從多學(xué)科、普遍性和整體性的角度出發(fā)，在《初步研究》中指出了兩個可供借鑒的現(xiàn)有人權(quán)框架和倡議。
第一個是《日內(nèi)瓦原則宣言》提出的倡議。該宣言于2003年在信息社會世界峰會上提出，強(qiáng)調(diào)“信息和通信技術(shù)的使用應(yīng)符合相關(guān)的國際法規(guī)，尊重人權(quán)和他人的基本自由（包括個人隱私）”。此外，此次峰會還要求政府、私營部門、民間團(tuán)體等所有利益攸關(guān)方進(jìn)行有效合作。聯(lián)合國教科文組織采用了這種多利益攸關(guān)方的方法，負(fù)責(zé)實施“獲取信息和知識”（C3）、“電子學(xué)習(xí)”（C7）、“文化多樣性”（C8）、“媒體”（C9）和“信息社會的倫理問題”（C10）等行動方針。
第二個是2015年聯(lián)合國教科文組織大會第三十八屆會議批準(zhǔn)的“互聯(lián)網(wǎng)普遍性框架”和相關(guān)的 ROAM原則，其涵蓋了人權(quán)、開放性、可獲取性和多利益攸關(guān)方參與等內(nèi)容。此外，教科文組織全民信息計劃政府間理事會第十八屆會議還審議批準(zhǔn)了由全民信息計劃信息倫理工作組制定的《信息社會倫理守則》。
《建議書》提出的人工智能倫理以上述兩個框架和倡議為基礎(chǔ)，結(jié)合人工智能技術(shù)動態(tài)發(fā)展的特點，提出了人工智能倫理的原則和基本價值觀，并針對數(shù)據(jù)保護(hù)、禁止大規(guī)模監(jiān)控、倫理影響評估以及環(huán)境保護(hù)等人工智能適用的不同政策領(lǐng)域提出了具體的建議。
（三）《建議書》的適用范圍
總體而言，《建議書》述及的是與人工智能領(lǐng)域有關(guān)且屬于聯(lián)合國教科文組織職責(zé)范圍之內(nèi)的倫理問題。具體而言，《建議書》以整體全面多元且不斷發(fā)展的文化框架為基礎(chǔ)，可以指導(dǎo)社會負(fù)責(zé)任地應(yīng)對人工智能技術(shù)對人類、社會、環(huán)境和生態(tài)系統(tǒng)產(chǎn)生的已知影響和未知影響，并且將人工智能倫理作為一種系統(tǒng)性規(guī)范加以考量，從而為是否使用人工智能技術(shù)提供參考。簡言之，《建議書》以人的尊嚴(yán)、福祉和防止損害為導(dǎo)向，并立足于科技倫理。
因此，與聯(lián)合國通過的其他國際規(guī)范性文書一樣，《建議書》的適用范圍并非地域性的，而是全球的人工智能領(lǐng)域，是聯(lián)合國教科文組織職責(zé)范圍內(nèi)的倫理問題。也就是說，其是僅適用于從屬于倫理、科技倫理下位概念和領(lǐng)域的人工智能倫理的文書。
二、《建議書》的主要內(nèi)容
《建議書》旨在促進(jìn)和平利用人工智能系統(tǒng)，是基于全球現(xiàn)有的人工智能倫理框架提出的一部全球公認(rèn)的準(zhǔn)則性文書?！督ㄗh書》圍繞人工智能倫理的價值觀和原則，通過規(guī)范人工智能具體實踐領(lǐng)域的政策進(jìn)行落實，同時著重強(qiáng)調(diào)包容、性別平等以及環(huán)境和生態(tài)系統(tǒng)保護(hù)等問題。由此可見，人工智能倫理與人權(quán)具有十分緊密的關(guān)系。
（一）《建議書》中體現(xiàn)的人權(quán)價值觀
《建議書》在“尊重、保護(hù)和促進(jìn)人權(quán)和基本自由以及人的尊嚴(yán)”這一主題之中，分層次提出了與人權(quán)相關(guān)的人工智能倫理價值觀，這些價值觀均與人權(quán)保護(hù)緊密相關(guān)。
首先，《建議書》重申了與人權(quán)保障有關(guān)的基本價值觀，即人的尊嚴(yán)構(gòu)成人權(quán)和基本自由這一普遍、不可分割、不可剝奪、相互依存又彼此相關(guān)的體系的基礎(chǔ)。人的尊嚴(yán)系指“承認(rèn)每個人固有和平等的價值，無論種族、膚色、血統(tǒng)、性別、年齡、語言、宗教、政治見解、民族、族裔、社會出身、與生俱來的經(jīng)濟(jì)或社會條件、殘障情況或其他狀況如何”。因此，尊重、保護(hù)和促進(jìn)包括國際人權(quán)法在內(nèi)的國際法確立的人的尊嚴(yán)和權(quán)利，在人工智能系統(tǒng)的整個生命周期內(nèi)都至關(guān)重要。為了保障人的尊嚴(yán)和權(quán)利，《建議書》構(gòu)建了人工智能系統(tǒng)生命全周期的人權(quán)保護(hù)，明確了人不應(yīng)受到人工智能的損害或被迫處于從屬地位，且使用人工智能的重要目的是改善人類的生活質(zhì)量。最后，人工智能還應(yīng)幫助保障特殊群體，既包括弱勢群體，也包括處境脆弱的群體的人權(quán)。
此外，《建議書》還明確規(guī)定：保護(hù)和促進(jìn)環(huán)境和生態(tài)系統(tǒng)蓬勃發(fā)展；依照國際人權(quán)法尊重、保護(hù)和促進(jìn)多樣性與包容性，其中包括非歧視、宗教信仰自由和言論自由；人工智能自主決策不得破壞社會的和平、包容、正義與公平。
（二）《建議書》確立的原則
《建議書》基于上述價值觀確立了一系列原則，其中包括相稱性和不損害、公平和非歧視、隱私權(quán)和數(shù)據(jù)保護(hù)、透明度和可解釋性、責(zé)任和問責(zé)以及多利益攸關(guān)方與適應(yīng)性治理和協(xié)作等?？梢哉f，《建議書》確立的這些原則，都直接或間接與人權(quán)保障和法治相關(guān)。
由于篇幅所限，本文僅以責(zé)任和問責(zé)原則，以及多利益攸關(guān)方原則為例加以闡釋。人工智能產(chǎn)品與服務(wù)的開發(fā)、生產(chǎn)、銷售和使用會涉及多個主體，在整個生命周期的各個環(huán)節(jié)都會涉及倫理責(zé)任。這對責(zé)任的認(rèn)定、分配和承擔(dān)構(gòu)成挑戰(zhàn)。此外，當(dāng)人工智能產(chǎn)品用于行政和司法決策等領(lǐng)域，會對個人權(quán)利和社會公平正義產(chǎn)生重大影響?！督ㄗh書》聚焦基于人工智能系統(tǒng)做出的決定和行動，指出相關(guān)的倫理責(zé)任最終都應(yīng)由人工智能行為者根據(jù)其在人工智能系統(tǒng)生命周期中的作用來承擔(dān)。在責(zé)任認(rèn)定方面，《建議書》提出覆蓋人工智能全周期的監(jiān)督、影響評估、審計和盡職調(diào)查機(jī)制，確保人工智能系統(tǒng)可審計和可追溯。在問責(zé)標(biāo)準(zhǔn)方面，《建議書》指出應(yīng)按照人權(quán)規(guī)范和標(biāo)準(zhǔn)以及生態(tài)和環(huán)境保護(hù)準(zhǔn)則進(jìn)行追蹤和審計，確保人工智能系統(tǒng)的運(yùn)行符合人權(quán)規(guī)范，保護(hù)生態(tài)系統(tǒng)的福祉。本文認(rèn)為，這一原則為各國人工智能倫理立法融入人權(quán)問責(zé)標(biāo)準(zhǔn)提供了較為明確的指導(dǎo)，并且強(qiáng)調(diào)在人工智能生命全周期進(jìn)行追溯和監(jiān)測，提升了責(zé)任認(rèn)定和責(zé)任分配的準(zhǔn)確性。
《建議書》的多利益攸關(guān)方原則提出，在依據(jù)國際法尊重隱私權(quán)以及其他人權(quán)規(guī)范和標(biāo)準(zhǔn)的基礎(chǔ)上對人工智能利用的數(shù)據(jù)進(jìn)行監(jiān)管時，必須重視不同利益攸關(guān)方在人工智能系統(tǒng)整個生命周期的參與。該原則明確了利益攸關(guān)方的種類，除了政府、技術(shù)界和研究人員，還包括民間社會、學(xué)術(shù)界、媒體、教育機(jī)構(gòu)、政策制定者、私營部門公司、人權(quán)機(jī)構(gòu)、反歧視檢測機(jī)構(gòu)及青年和兒童團(tuán)體等。多利益攸關(guān)方進(jìn)行治理與協(xié)作的具體行為標(biāo)準(zhǔn)，應(yīng)兼顧技術(shù)的變化和新利益攸關(guān)方的出現(xiàn)，采用開放式標(biāo)準(zhǔn)和互操作性原則，以促進(jìn)協(xié)作。
（三）《建議書》涵蓋的政策行動領(lǐng)域
在人工智能倫理的實踐層面，《建議書》基于上述價值觀和原則，就一些具體的政策領(lǐng)域，包括倫理影響評估、數(shù)據(jù)政策、環(huán)境和生態(tài)系統(tǒng)、性別、文化、教育、健康、社會福利、發(fā)展與國際合作等提出建議和指導(dǎo)。相關(guān)領(lǐng)域的建議有助于指導(dǎo)會員國出臺并實施相應(yīng)的政策或機(jī)制，并確保各利益攸關(guān)方遵守和落實。例如，可以鼓勵所有利益攸關(guān)方根據(jù)包括聯(lián)合國《工商企業(yè)與人權(quán)指導(dǎo)原則》在內(nèi)的準(zhǔn)則制定人權(quán)、法治、民主以及倫理影響評估和盡職調(diào)查工具。值得指出的是，《建議書》專門提出的關(guān)于工商企業(yè)與人權(quán)的上述例證，即企業(yè)社會責(zé)任的研究，目前在中國已經(jīng)逐漸成為一個熱點。
同樣由于篇幅所限，本文僅以倫理影響評估為例。《建議書》提出，會員國應(yīng)針對人工智能系統(tǒng)出臺倫理影響評估框架，并出臺預(yù)防、減輕和監(jiān)測風(fēng)險的措施以及其他保障機(jī)制。此種影響評估應(yīng)根據(jù)《建議書》提出的價值觀和原則，確定人工智能對人權(quán)和基本自由（特別是但不限于邊緣化和弱勢群體或處境脆弱群體的權(quán)利）、勞工權(quán)利、環(huán)境和生態(tài)系統(tǒng)、倫理以及社會產(chǎn)生的影響，并促進(jìn)公民的參與。具體來講有三點。一是在數(shù)據(jù)保護(hù)方面，需要確保人工智能的透明度、行動力和對個人數(shù)據(jù)的控制來保證個體的權(quán)益。二是禁止使用人工智能系統(tǒng)進(jìn)行侵犯人權(quán)和基本自由的活動，例如大規(guī)模監(jiān)控。制定監(jiān)管框架的最終責(zé)任和問責(zé)必須始終由人類承擔(dān)，人工智能技術(shù)本身不應(yīng)獲得法律人格。三是要通過倫理影響評估，幫助開發(fā)和部署人工智能系統(tǒng)的國家和公司評估該系統(tǒng)對個人、社會及環(huán)境的影響。這一工具將有助于提高各國機(jī)構(gòu)應(yīng)對人工智能不利影響的能力，并確保倫理規(guī)范在實踐中得到遵守。
可見，《建議書》關(guān)注的重點是如何規(guī)避人工智能的負(fù)面影響，而且要特別關(guān)注的是保障某些特殊群體的人權(quán)。
三、《建議書》的主要亮點
《建議書》主要有兩個亮點。亮點之一是其形式，《建議書》在序言中首先提出要銘記《世界人權(quán)宣言》（1948年）、《殘疾人權(quán)利公約》（2006年）等11個國際人權(quán)規(guī)范以及其他一切相關(guān)國際文書、建議書和宣言；隨后提出又注意到《聯(lián)合國發(fā)展權(quán)利宣言》（1986年）、《世界生物倫理與人權(quán)宣言》（2005年）等13個國際文書、建議書和宣言?！督ㄗh書》與前述國際文書、建議和宣言一脈相承，從本質(zhì)上繼承并發(fā)展了這些國際文件確立的人權(quán)精神和人權(quán)理論，同時也使人們注意到其采取的形式的特點和優(yōu)越性，而且其提及的上述國際文書、建議、宣言都是有國際法約束力的。
《建議書》的制定體現(xiàn)出聯(lián)合國教科文組織積極履行制定宣言、建議書或公約的職能。從內(nèi)容上，《建議書》明確倡議各國在人工智能倫理的價值觀和原則的指導(dǎo)下，在實踐中緊密關(guān)注并踐行聯(lián)合國教科文組織所關(guān)注的重點領(lǐng)域的人工智能倫理治理。聯(lián)合國教科文組織的工作組通過初步研究發(fā)現(xiàn)，自2018年以來，有關(guān)人工智能倫理問題原則的宣言數(shù)量日益增多。同時，工作組結(jié)合世界科學(xué)知識與技術(shù)倫理委員會（COMEST）的工作經(jīng)驗，認(rèn)為相較于上述日漸增多的其他區(qū)域性和國際性宣言，制定人工智能倫理問題宣言只能促使會員國就一般性、抽象性的原則達(dá)成一致意見，無法將各方所提價值觀整合為更具體的指導(dǎo)原則，因此無法達(dá)到理想的效果。綜合考慮國際社會的政治環(huán)境和經(jīng)濟(jì)背景，以及其他國際組織（如經(jīng)合組織）人工智能專家制定的戰(zhàn)略，教科文組織決定制定人工智能倫理問題建議書，聚焦文化、教育、科學(xué)和傳播等領(lǐng)域的人工智能倫理問題，提出具有創(chuàng)新性且實操性強(qiáng)的建議，增強(qiáng)會員國對上述領(lǐng)域人工智能問題的干預(yù)。此外，由于人工智能具有快速且非線性發(fā)展的特點，所以需要制定可根據(jù)人工智能發(fā)展進(jìn)行靈活調(diào)整，并符合國際人權(quán)標(biāo)準(zhǔn)的具體倫理框架。相較于形式固定且具有法律約束力的公約以及較為概括抽象的宣言，制定建議書更加符合該要求。
亮點之二是《建議書》的軟法性質(zhì)。聯(lián)合國教科文組織采取建議書而非宣言的形式來規(guī)范人工智能倫理主要是考慮建議書雖然不具有約束力，屬于國際法中“最軟的軟法”，但是全球迫切需要尋求一致的立場，解決快速發(fā)展的人工智能可能產(chǎn)生的倫理問題，建議書的形式比同樣是軟法的宣言形式更靈活、具體、具有可操作性，因而也更易于為各國所接受。與前一亮點相聯(lián)系，軟法雖然不具有法律約束力，但被視為生命科技領(lǐng)域國際規(guī)范形成的最佳形式選擇。通過聯(lián)合國教科文組織等跨文化國際組織整合倡議，可以為人工智能倫理規(guī)則在將來發(fā)展為習(xí)慣國際法或法律一般原則奠定基礎(chǔ)。但《建議書》中某些條款實際上也具有強(qiáng)制性和義務(wù)性。例如，它重申了人權(quán)法的強(qiáng)制性，并強(qiáng)調(diào)了國際法義務(wù)，在一般性條款中規(guī)定《建議書》的實施不得妨礙國際法和人權(quán)義務(wù)。當(dāng)然，相較于國內(nèi)法，國際法在整體上仍然還是軟法。在國內(nèi)人工智能倫理立法的過程中，可以參照《建議書》將某些具有軟法性質(zhì)的建議轉(zhuǎn)化為具有“硬法”性質(zhì)的法律，為未來將人工智能倫理規(guī)則由鼓勵性轉(zhuǎn)向制度性奠定基礎(chǔ)。
四、《建議書》對我國科技倫理治理的啟示
（一）人工智能倫理與科技倫理
目前，中國在科技倫理治理領(lǐng)域面臨的重大挑戰(zhàn)之一，是仍缺乏一套成熟的體系來規(guī)制科學(xué)技術(shù)，包括人工智能發(fā)展和應(yīng)用的潛在風(fēng)險。如前所述，由于人工智能在科技領(lǐng)域極易產(chǎn)生倫理問題，我國一直在推動加強(qiáng)人工智能倫理的法律法規(guī)和政策標(biāo)準(zhǔn)的研究工作，并且已出臺《網(wǎng)絡(luò)安全法》《國家信息化發(fā)展戰(zhàn)略綱要》等法律和規(guī)范性文件，對某些人工智能侵犯隱私權(quán)的倫理問題進(jìn)行了規(guī)制。但是就人工智能倫理和科技倫理的整體領(lǐng)域而言，具體的政策、立法和規(guī)范仍然缺乏。
黨的十八大以來，中央組建了國家科技倫理委員會，促進(jìn)科技倫理治理積極發(fā)展。2017年，國務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》，明確提出人工智能立法的“三步走”戰(zhàn)略。該規(guī)劃為我國人工智能倫理的立法和政策的出臺設(shè)立了目標(biāo)。2021年12月，中央全面深化改革委員會第二十三次會議提出建立科技倫理審查和監(jiān)督制度，明確要提高科技倫理治理的法治水平，加強(qiáng)科技倫理理論的研究。2022年3月，中共中央辦公廳、國務(wù)院辦公廳聯(lián)合印發(fā)了《關(guān)于加強(qiáng)科技倫理治理的意見》（下文簡稱《治理意見》）?！吨卫硪庖姟吩诳傮w要求、明確科技倫理原則、健全科技倫理治理體制、加強(qiáng)科技倫理治理制度保障、強(qiáng)化科技倫理審查和監(jiān)管、深入開展科技倫理教育和宣傳等方面做出了具體部署，為科技倫理規(guī)范的具體標(biāo)準(zhǔn)提供了有價值的政策性參考依據(jù)。2023年9月，科技部、教育部、工業(yè)和信息化部等部門共同頒布了《科技倫理審查辦法（試行）》，該辦法明確科技倫理治理應(yīng)堅持促進(jìn)創(chuàng)新與防范風(fēng)險相統(tǒng)一，遵循增進(jìn)人類福祉、尊重生命權(quán)利、堅持公平公正、保持公開透明等科技倫理治理原則，并提出設(shè)立科技倫理（審查）委員會，明確了科技倫理審查的重點內(nèi)容與公平、公正、透明、可靠、可控等審查標(biāo)準(zhǔn)。此外，該辦法還明確了審查程序以及科技倫理審查監(jiān)管的主體和責(zé)任。下文將根據(jù)《建議書》的啟示，對《治理意見》的實施進(jìn)行探討。
人工智能倫理是從屬于科技倫理的下位概念，也屬于后者治理的領(lǐng)域和范疇?！吨卫硪庖姟访鞔_提出，“十四五”期間重點加強(qiáng)生命科學(xué)、醫(yī)學(xué)、人工智能等領(lǐng)域的科技倫理立法研究。所以，《治理意見》中的科技倫理及其治理，在整體上可以涵蓋人工智能倫理，而在局部上，《建議書》則可以為細(xì)化并落實《治理意見》提供價值觀和原則，并以人工智能倫理治理為突破口和重點，就具體措施的確定和貫徹實施提供啟示和借鑒。
所以，未來我國在人工智能倫理領(lǐng)域具體政策的制定、實施和立法，應(yīng)借鑒《建議書》的意見，遵循人工智能倫理的國際法律原則和價值觀，以及國家層面的政策制定要求。多邊主義以及人工智能具有的特點要求一國在制定相關(guān)法律時遵循規(guī)范性的全球框架協(xié)議，開展國際合作。我國作為聯(lián)合國教科文組織的重要成員國，應(yīng)該率先借鑒和實施《建議書》提出的價值、原則、基本政策和具體建議，完善科技倫理治理立法和具體的政策規(guī)定，以體現(xiàn)我國負(fù)責(zé)任的大國形象。
針對具體領(lǐng)域的行動，《治理意見》結(jié)合我國的國情，增加了深入科技倫理理論研究、壓實創(chuàng)新主體科技倫理管理主體責(zé)任、加強(qiáng)科技倫理教育、推動科技倫理培訓(xùn)機(jī)制化發(fā)展的意見。這也呼應(yīng)了《建議書》提出的具體政策行動領(lǐng)域，有助于向全球展示我國的科技倫理治理觀念和實踐成果。所以，在今后的國內(nèi)立法中，可以根據(jù)《建議書》的價值觀、原則和具體領(lǐng)域的政策行動完善相應(yīng)的科技倫理規(guī)范，保障治理的有效執(zhí)行。
（二）細(xì)化科技倫理審查的評估標(biāo)準(zhǔn)
目前，《科技倫理審查辦法（試行）》第15條規(guī)定的科技倫理審查內(nèi)容和標(biāo)準(zhǔn)較為原則化，且與人權(quán)保護(hù)的關(guān)系仍需進(jìn)一步厘清。例如，在實踐中如何界定科技活動的社會價值，如何對接我國個人信息保護(hù)規(guī)定與國際原則，如何判斷數(shù)據(jù)收集、存儲、加工、使用等方案是否得當(dāng)?shù)?，都可以通過參照《建議書》中的內(nèi)容，融入人權(quán)要素，細(xì)化相應(yīng)的審查評價標(biāo)準(zhǔn)。例如，目前的科技倫理審查內(nèi)容包括對個人隱私侵害、違反平等權(quán)等情形的審查，但未提及侵犯其他基本人權(quán)和自由的類別，例如表達(dá)自由、宗教信仰自由等。此外，其也未區(qū)分人工智能可能造成的特殊倫理問題，例如算法的運(yùn)用加深了已有的歧視和偏見，同時產(chǎn)生新的歧視情形，應(yīng)體現(xiàn)如何在治理過程中區(qū)分上述兩種情形。在數(shù)據(jù)保護(hù)方面，除《科技倫理審查辦法（試行）》第15條第5款規(guī)定的國家數(shù)據(jù)安全審查，還應(yīng)在倫理風(fēng)險評估方案中考察人工智能的應(yīng)用是否會造成大規(guī)模監(jiān)控和社會評分等侵害人權(quán)的行為。再如，科技倫理審查應(yīng)考量人工智能等科技的運(yùn)用對不同利益攸關(guān)方的影響，并納入科技倫理審查的內(nèi)容。只有做好這一前期準(zhǔn)備，才能為利益攸關(guān)方后續(xù)參與科技倫理治理奠定基礎(chǔ)。
（三）推動制定科技倫理治理的問責(zé)標(biāo)準(zhǔn)
《科技倫理審查辦法（試行）》第47、48條分別規(guī)定了科技活動的承擔(dān)單位，以及科技倫理（審查）委員會違反審查辦法的追責(zé)情形，但并未明確科技產(chǎn)品或服務(wù)的開發(fā)者、生產(chǎn)者、銷售者和使用者分別應(yīng)承擔(dān)何種責(zé)任。應(yīng)制定覆蓋科技產(chǎn)品的研發(fā)、生產(chǎn)、銷售和使用等各個環(huán)節(jié)的監(jiān)督和盡職調(diào)查機(jī)制，確保責(zé)任可追溯。在問責(zé)標(biāo)準(zhǔn)方面，也應(yīng)強(qiáng)調(diào)人權(quán)并將其細(xì)化加入條款內(nèi)容當(dāng)中，目前的規(guī)定僅限于違反程序準(zhǔn)則，即科技活動承擔(dān)單位造假獲得科技倫理審查批準(zhǔn)，未獲科技倫理審查批準(zhǔn)或超出批準(zhǔn)范圍擅自開展科技活動等。應(yīng)在科技倫理審查辦法中引入人權(quán)規(guī)范和標(biāo)準(zhǔn)以及環(huán)境保護(hù)和保障人類健康的準(zhǔn)則，針對人工智能等對社會正義產(chǎn)生較大倫理挑戰(zhàn)的技術(shù)運(yùn)用，還應(yīng)該結(jié)合現(xiàn)有的《人工智能法（學(xué)者建議稿）》，提升人工智能產(chǎn)品用于自動化行政、司法決策中的倫理審查標(biāo)準(zhǔn)和責(zé)任認(rèn)定標(biāo)準(zhǔn)。
值得注意的是，《治理意見》和《科技倫理審查辦法（試行）》都屬于軟法。在科技倫理審查制度發(fā)展之初，采用軟法的形式可以最大程度減少分歧，達(dá)成科技倫理治理原則的共識。但由于缺乏強(qiáng)制力，可能無法有效進(jìn)行問責(zé)，也無法督促企業(yè)等主體落實針對人工智能等科技的運(yùn)用開展的倫理影響評估。所以，應(yīng)推動軟法向硬法的轉(zhuǎn)化，逐步出臺強(qiáng)制性法律，明確人工智能等科技的倫理問責(zé)標(biāo)準(zhǔn)和機(jī)制，保障科技倫理主體切實遵循相關(guān)義務(wù)，避免人權(quán)、環(huán)境權(quán)等遭受不利影響。
（四）加強(qiáng)人工智能倫理和科技倫理領(lǐng)域的國際合作
《治理意見》提出了“堅持開放發(fā)展理念，建立多方協(xié)同合作機(jī)制進(jìn)行科技倫理治理，貢獻(xiàn)中國智慧和中國方案”這一總體的治理要求，這與聯(lián)合國教科文組織《建議書》中的第四個政策領(lǐng)域即“發(fā)展與國際合作”是完全一致的。我國可以借鑒《建議書》的相關(guān)建議，努力促進(jìn)人工智能研究和創(chuàng)新方面的國際合作，鼓勵在人工智能領(lǐng)域開展技術(shù)交流和磋商，通過向中低收入國家提供資金、技術(shù)、知識等，彌合地緣技術(shù)差距。在國際司法方面，我國法院也應(yīng)加強(qiáng)對國際法和未來的科技倫理法律的解釋，并爭取將我國的司法經(jīng)驗加以推廣。
近年來，中國在聯(lián)合國教科文組織中的影響力日益增大。2014年3月，習(xí)近平主席和夫人彭麗媛訪問了聯(lián)合國教科文組織總部。在聯(lián)合國教科文組織的歷史上產(chǎn)生了巨大的影響。不僅如此，隨著中國成為世界第二大經(jīng)濟(jì)體，從2019年起，中國所繳聯(lián)合國教科文組織的會費(fèi)已經(jīng)排世界第1位，占會員國所繳會費(fèi)總數(shù)的近6%。當(dāng)然，這也與美國退出聯(lián)合國教科文組織有關(guān)?？梢哉f中國在尊重和保障人權(quán)等方面的巨大發(fā)展和進(jìn)步,得到了國際社會的廣泛認(rèn)可。
國際人權(quán)規(guī)范是各國處理科技倫理問題的根本價值判斷標(biāo)準(zhǔn)。人工智能技術(shù)以認(rèn)知能力為基礎(chǔ)，且處于動態(tài)的發(fā)展變化中，為科技時代帶來了更深層次的倫理困境，各國和有關(guān)組織從國際層面探尋解決困境的方法勢在必行。所以，通過借鑒《建議書》，切實貫徹執(zhí)行《治理意見》，努力使我國的科技倫理治理觀念和實踐成為全球范圍內(nèi)的模板。
結(jié)語
《治理意見》提出，科技倫理體系的構(gòu)建以習(xí)近平新時代中國特色社會主義思想為指導(dǎo)，科技活動應(yīng)堅持以人民為中心，尊重生命權(quán)利（包括生命安全、心理健康、人格尊嚴(yán)、個人隱私等），堅持公平公正，堅持公開透明等倫理原則?！督ㄗh書》注重人的尊嚴(yán)和人權(quán)保護(hù)，確立了性別平等、社會正義與發(fā)展、身心健康、多樣性、互聯(lián)性、包容性、環(huán)境和生態(tài)系統(tǒng)保護(hù)等準(zhǔn)則。由此可見，《建議書》的基本價值觀和原則與《治理意見》的指導(dǎo)思想和倫理原則是基本吻合的。
《建議書》明確了人工智能倫理的根本價值判斷標(biāo)準(zhǔn)是使人工智能技術(shù)立足于基本人權(quán)和自由，并兼顧創(chuàng)新和發(fā)展。作為第一部規(guī)范人工智能科學(xué)倫理的國際性規(guī)范文書，《建議書》采取軟法的形式，在各國共同目標(biāo)的基礎(chǔ)上構(gòu)建了人工智能倫理框架，有力維護(hù)了多邊主義。我國積極響應(yīng)聯(lián)合國教科文組織的建議，遵循并實施《建議書》中規(guī)定的基本價值觀、原則及政策行動，出臺多個國家層面的科技倫理治理指導(dǎo)文件，推動科技倫理和人工智能倫理的治理，并以積極、開放和包容的態(tài)度在全球范圍內(nèi)開展合作，向世界展現(xiàn)了負(fù)責(zé)任的大國形象。未來，我國可以借鑒《建議書》中的內(nèi)容，細(xì)化科技倫理審查中的人權(quán)要素，加強(qiáng)多利益攸關(guān)方合作，細(xì)化問責(zé)標(biāo)準(zhǔn)，進(jìn)一步完善科技倫理影響的評估和監(jiān)督機(jī)制，實現(xiàn)科技倫理治理的硬法與軟法協(xié)同立法，促進(jìn)我國的科技倫理治理體系不斷發(fā)展與完善。
（本文是在筆者為中國人權(quán)研究會、奧地利奧中友好協(xié)會于2022年5月10日舉辦的“2022·中歐人權(quán)研討會”所提交論文的基礎(chǔ)上修改而成的。論文英文版已經(jīng)于2023年2月載入奧地利Bacopa Verlag出版社的Science，Technology and Human Rights—Collected Papers of 2022 China Europe Seminar on Human Rights一書。本文亦是教育部中國聯(lián)合國教科文組織全國委員會《聯(lián)合國教科文組織的公約與建議委員會工作機(jī)制和我國關(guān)于人權(quán)來函的應(yīng)對策略研究》系列課題（2022—2024年度）的階段性研究成果，相關(guān)前期的中文研究成果已在《人權(quán)研究》2022年第4期以《聯(lián)合國教科文組織〈人工智能倫理問題建議書〉的借鑒啟示及其中國貢獻(xiàn)——以人權(quán)保障為視角》為題發(fā)表，特此說明。本文原載《發(fā)展權(quán)研究》2025年第1輯第99-116頁。）
【作者簡介：朱力宇，中國人民大學(xué)法學(xué)院教授，人權(quán)研究中心學(xué)術(shù)委員會秘書長，教育部中國聯(lián)合國教科文組織全國委員會咨詢專家。胡曉凡，中國政法大學(xué)外國語學(xué)院講師，美國范德堡大學(xué)法律博士（JD）】
（因篇幅較長，已略去原文注釋，本文轉(zhuǎn)自華中大Humanrights微信公眾號）
京公網(wǎng)安備 11010102003980號