中國信通院敖立：筑牢倫理基石，賦能創(chuàng)新發(fā)展——深入解讀《人工智能科技倫理審查與服務(wù)辦法(試行)》

 

　　引言
 

　　科技創(chuàng)新，倫理先行?？萍紓惱硎侨祟惿鐣惱韮r值在科技領(lǐng)域的延伸與拓展，是開展科學(xué)研究、技術(shù)開發(fā)等科技活動需遵循的價值理念與行為規(guī)范。習(xí)近平總書記高度重視科技倫理建設(shè)，2021年12月17日，在主持中央全面深化改革委員會第二十三次會議時強(qiáng)調(diào)：“科技倫理是科技活動必須遵守的價值準(zhǔn)則，要堅持增進(jìn)人類福祉、尊重生命權(quán)利、公平公正、合理控制風(fēng)險、保持公開透明的原則，健全多方參與、協(xié)同共治的治理體制機(jī)制，塑造科技向善的文化理念和保障機(jī)制。”2023年10月，習(xí)近平總書記提出《全球人工智能治理倡議》，明確“堅持倫理先行，建立并完善人工智能科技倫理準(zhǔn)則、規(guī)范及問責(zé)機(jī)制，形成人工智能科技倫理指南，建立科技倫理審查和監(jiān)管制度，明確人工智能相關(guān)主體的責(zé)任和權(quán)力邊界”。這些重要論述深刻闡明了科技倫理對保障科技安全的意義，為加強(qiáng)科技倫理治理提供了根本遵循。
 

　　近日，工業(yè)和信息化部等十部門聯(lián)合印發(fā)《人工智能科技倫理審查與服務(wù)辦法(試行)》(以下簡稱《辦法》)，對人工智能科技倫理審查與服務(wù)提出明確要求，這是深入貫徹習(xí)近平總書記重要論述，促進(jìn)人工智能產(chǎn)業(yè)科技創(chuàng)新高質(zhì)量發(fā)展和高水平安全良性互動的重要舉措。
 

　　一、科技倫理引導(dǎo)人工智能健康有序發(fā)展
 

　　近年來，在技術(shù)創(chuàng)新與商業(yè)應(yīng)用的雙輪驅(qū)動下，人工智能正加速與實體經(jīng)濟(jì)深度融合。其不僅在互聯(lián)網(wǎng)等數(shù)字原生領(lǐng)域?qū)崿F(xiàn)規(guī)模化應(yīng)用，還逐步滲透到金融、醫(yī)療、交通等行業(yè)，在重要場景中的賦能成效顯著。然而，隨著技術(shù)快速演進(jìn)與應(yīng)用領(lǐng)域拓展，人工智能帶來的算法歧視、深度偽造等倫理問題愈發(fā)凸顯。
 

　　人工智能科技倫理治理是引導(dǎo)科技創(chuàng)新方向的 “指南針”。一方面，它能引導(dǎo)企業(yè)開展符合倫理要求的技術(shù)創(chuàng)新，推動研發(fā)團(tuán)隊將倫理要求貫穿于人工智能研發(fā)應(yīng)用全過程，避免單純追求技術(shù)性能而忽視潛在倫理風(fēng)險；另一方面，能有效促進(jìn)倫理相關(guān)技術(shù)研發(fā)，如可解釋性人工智能技術(shù)、隱私增強(qiáng)技術(shù)等。此類技術(shù)突破不僅有助于解決當(dāng)前人工智能面臨的倫理困境，還能開拓新的技術(shù)應(yīng)用領(lǐng)域。
 

　　人工智能科技倫理治理是促進(jìn)產(chǎn)業(yè)健康發(fā)展的 “方向盤”。通過治理，能有效解決人工智能應(yīng)用中的倫理問題，如隱私保護(hù)、偏見歧視等，增強(qiáng)公眾對人工智能的信任，為其廣泛應(yīng)用奠定堅實基礎(chǔ)。以醫(yī)療領(lǐng)域為例，符合倫理要求的人工智能輔助診斷系統(tǒng)能更好地協(xié)助醫(yī)生進(jìn)行疾病診斷與治療方案制定，提高醫(yī)療服務(wù)的準(zhǔn)確性與效率，推動人工智能在醫(yī)療行業(yè)的深度融合，開拓龐大市場。同時，倫理治理能規(guī)范產(chǎn)業(yè)行為，降低倫理風(fēng)險，為產(chǎn)業(yè)營造良好發(fā)展環(huán)境，促進(jìn)其長期穩(wěn)定發(fā)展。
 

　　人工智能科技倫理治理是提升國家競爭力的 “助推器”。當(dāng)前，人工智能科技倫理治理已成為全球關(guān)注焦點。聯(lián)合國教科文組織于2021年11月發(fā)布《人工智能科技倫理問題建議書》，歐盟、美國、日本等國家和地區(qū)也通過建立人工智能專家委員會等方式，推動負(fù)責(zé)任的人工智能技術(shù)發(fā)展。良好的倫理治理環(huán)境，一方面能吸引更多國際合作伙伴，促進(jìn)產(chǎn)業(yè)合作與交流；另一方面，能在全球范圍內(nèi)樹立我國人工智能企業(yè)負(fù)責(zé)任的形象，助力相關(guān)產(chǎn)品和服務(wù)獲得國際市場認(rèn)可，提升國際競爭力。
 

　　二、服務(wù)人工智能行業(yè)發(fā)展，聚焦科技倫理治理重點問題
 

　　（一）加強(qiáng)科技倫理服務(wù)，支持促進(jìn)人工智能科技倫理發(fā)展
 

　　與《科技倫理審查辦法(試行)》相比，《辦法》增設(shè)第二章 “服務(wù)與促進(jìn)”，從標(biāo)準(zhǔn)建設(shè)、促進(jìn)服務(wù)、鼓勵創(chuàng)新、宣傳教育、人才培養(yǎng)五個方面提出舉措，賦能產(chǎn)業(yè)發(fā)展。當(dāng)前，全球人工智能科技倫理治理已進(jìn)入快車道，治理重點從倫理原則轉(zhuǎn)向落地實施，推動治理技術(shù)化、工程化、標(biāo)準(zhǔn)化成為關(guān)鍵。我國人工智能科技倫理治理面臨技術(shù)手段待突破、治理缺乏統(tǒng)一標(biāo)準(zhǔn)、工具匱乏等挑戰(zhàn)，需通過鼓勵技術(shù)創(chuàng)新、制定倫理標(biāo)準(zhǔn)、推進(jìn)倫理服務(wù)等方式應(yīng)對。此外，人工智能科技倫理治理不僅是技術(shù)問題，更是社會問題，因此通過宣傳教育提升公眾倫理素養(yǎng)、通過人才培養(yǎng)加強(qiáng)科研人員倫理意識，是防范倫理風(fēng)險的重要舉措。
 

　　（二）立足人工智能特點，促進(jìn)人工智能科技倫理審查落地
 

　　《科技倫理審查辦法(試行)》是覆蓋各領(lǐng)域科技倫理審查的綜合性規(guī)定，對審查基本程序、標(biāo)準(zhǔn)、條件等提出統(tǒng)一要求。與生命科學(xué)、醫(yī)學(xué)相比，人工智能科技倫理因技術(shù)特征具有獨有特點。因此，《辦法》在遵循通用辦法基礎(chǔ)上，充分考慮人工智能特點，在適用范圍、申請材料、審查重點、簡易程序適用等方面進(jìn)一步完善細(xì)化，以更適用于人工智能科技倫理審查。例如，《辦法》第十五條規(guī)定，人工智能科技倫理審查除關(guān)注科技人員資質(zhì)、積極作用、風(fēng)險控制方案等常規(guī)內(nèi)容外，還需遵守增進(jìn)人類福祉、公平公正、可控可信、透明可解釋、責(zé)任可追溯、隱私保護(hù)等人工智能科技倫理要求。
 

　　（三）優(yōu)化倫理治理，盡量降低創(chuàng)新主體倫理管理成本
 

　　考慮到中小企業(yè)難以成立科技倫理委員會的現(xiàn)實，《辦法》提出建設(shè)專業(yè)性人工智能科技倫理服務(wù)中心(以下簡稱“服務(wù)中心”)。第十一條對 “服務(wù)中心” 的設(shè)立、業(yè)務(wù)、要求進(jìn)行細(xì)化，明確其可接受中小企業(yè)委托，提供倫理服務(wù)。為避免重復(fù)監(jiān)管，《辦法》第二十六條規(guī)定了與其他監(jiān)管措施的銜接。此前，網(wǎng)信辦發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等文件，已將符合科技倫理要求作為審批條件或監(jiān)管內(nèi)容，針對此類人工智能科技活動，可不再開展專家復(fù)核，大幅降低了企業(yè)合規(guī)成本。
 

　　三、不斷完善人工智能治理生態(tài)，筑牢人工智能產(chǎn)業(yè)健康發(fā)展根基
 

　　當(dāng)前，人工智能科技倫理治理仍面臨不少現(xiàn)實挑戰(zhàn)。一是技術(shù)迭代快于治理規(guī)則完善，新場景、新應(yīng)用不斷涌現(xiàn)，倫理風(fēng)險具有隱蔽性、突發(fā)性、不可預(yù)測性，現(xiàn)有規(guī)范難以全面覆蓋。二是倫理原則落地難，企業(yè)面臨產(chǎn)品性能和倫理要求的平衡，管理成本高。三是治理支撐體系尚不完善，缺乏國際權(quán)威的第三方倫理測評標(biāo)準(zhǔn)和認(rèn)證體系。未來，應(yīng)以《辦法》出臺為契機(jī)，堅持發(fā)展和安全并重，不斷完善治理生態(tài)，推動人工智能產(chǎn)業(yè)高質(zhì)量和可持續(xù)發(fā)展。
 

　　（一）推行敏捷治理，以柔性監(jiān)管護(hù)航技術(shù)創(chuàng)新
 

　　一是健全政府與創(chuàng)新主體常態(tài)化溝通協(xié)作機(jī)制，建立倫理風(fēng)險信息共享、協(xié)同處置的工作格局。二是鼓勵企業(yè)創(chuàng)新，在守住安全底線的前提下，允許企業(yè)在盡到合理監(jiān)管義務(wù)時容錯糾錯。三是建立技術(shù)發(fā)展與倫理風(fēng)險動態(tài)監(jiān)測機(jī)制，及時完善政策規(guī)范，實現(xiàn)治理與技術(shù)發(fā)展同頻共振。
 

　　（二）深化協(xié)同共治，以多元參與筑牢責(zé)任鏈條
 

　　一是完善政府、企業(yè)、科研機(jī)構(gòu)、科技社團(tuán)組織、社會公眾等共同參與的多元治理體系，明確各方定位與職責(zé)。二是健全“政府引導(dǎo) + 企業(yè)自律 + 第三方支撐” 的協(xié)同運(yùn)行模式，將倫理要求嵌入人工智能全生命周期。三是加強(qiáng)科技倫理科普與培訓(xùn)，通過多種渠道、更加豐富的傳播方式，營造全社會共同關(guān)注、共同參與、共同監(jiān)督的良好生態(tài)。
 

　　（三）夯實基礎(chǔ)支撐，以標(biāo)準(zhǔn)工具提升治理效能
 

　　一是加快出臺人工智能科技倫理風(fēng)險評估、審查程序、審查委員會等配套標(biāo)準(zhǔn)，為創(chuàng)新主體提供可操作、可落地的規(guī)范指引。二是搭建科技倫理公共服務(wù)平臺，推進(jìn)科技倫理服務(wù)中心建設(shè)，提供專業(yè)的倫理審查、教育培訓(xùn)、專家咨詢等服務(wù)，降低中小企業(yè)治理成本。三是加強(qiáng)治理技術(shù)和工具研發(fā)，推動構(gòu)建人工智能倫理治理開源社區(qū)，推動治理工具、數(shù)據(jù)集開源開放，以技術(shù)賦能提升治理成效。
 

　　四、結(jié)語
 

　　中國信息通信研究院作為工業(yè)和信息化領(lǐng)域科技倫理專家委員會秘書處單位，將在工業(yè)和信息化部的指導(dǎo)下，充分發(fā)揮在人工智能政策研究、標(biāo)準(zhǔn)制定、技術(shù)評測等方面的優(yōu)勢，深化科技倫理治理支撐，保障《辦法》有效落實。一是搭建人工智能科技倫理產(chǎn)業(yè)服務(wù)平臺。開展科技倫理宣傳教育，開發(fā)人工智能科技倫理審查、測評工具，促進(jìn)治理工具開源開放。二是探索成立人工智能科技倫理服務(wù)中心。接受相關(guān)部門委托，承擔(dān)人工智能科技倫理專家復(fù)核工作，并為企業(yè)、高校、科研院所等單位提供科技倫理審查、咨詢、培訓(xùn)等服務(wù)。三是持續(xù)推動人工智能科技倫理標(biāo)準(zhǔn)制定工作。在工業(yè)和信息化部人工智能標(biāo)準(zhǔn)化技術(shù)委員會下，持續(xù)推動人工智能科技倫理風(fēng)險評估、科技倫理委員會、科技倫理服務(wù)中心、科技倫理審查程序、科技倫理審查人員技術(shù)技能要求等標(biāo)準(zhǔn)制定工作。四是積極開展人工智能科技倫理治理國際交流合作。加強(qiáng)與國際研究機(jī)構(gòu)的合作，依托國際人工智能領(lǐng)域的高端峰會等組織研討活動，宣傳人工智能科技倫理治理理念。