智能制造網(wǎng)APP
智能制造網(wǎng)手機站
智能制造網(wǎng)小程序
智能制造網(wǎng)官微
智能制造網(wǎng)服務(wù)號
智能控制
機器人
儀器儀表
物聯(lián)網(wǎng)
3D打印
工業(yè)軟件
回放
品牌
華測
人工智能技術(shù)的突破正推動人機交互從功能性輔助邁向情感化與人格化，在重塑社會互動模式的同時，也催生一系列新風(fēng)險挑戰(zhàn)。此類風(fēng)險具有隱蔽傳導(dǎo)特征，可能侵害公民權(quán)益，甚至沖擊社會倫理秩序與信任根基。若缺乏有效治理，將嚴(yán)重阻礙人工智能健康發(fā)展，損害社會公共利益。在此背景下制定《人工智能擬人化互動服務(wù)管理暫行辦法(征求意見稿)》(以下簡稱《辦法》)，有利于促進人工智能擬人化互動服務(wù)有序開展，引領(lǐng)人工智能“負(fù)責(zé)任創(chuàng)新”，為構(gòu)建“以人為本”的人工智能治理體系提供重要的制度支撐。
一、錨定國家戰(zhàn)略方向，彰顯“負(fù)責(zé)任創(chuàng)新”理念
以國家戰(zhàn)略與政策導(dǎo)向為根本遵循，凸顯了人工智能治理的前瞻性、精準(zhǔn)性、系統(tǒng)性與協(xié)同性。一是堅持科學(xué)立法原則，合理前瞻技術(shù)演進趨勢，為人工智能創(chuàng)新發(fā)展預(yù)留制度空間。二是實施分類分級監(jiān)管，立足擬人化互動服務(wù)特性精準(zhǔn)識別風(fēng)險并差異化施策。三是構(gòu)建全鏈條治理體系，統(tǒng)籌技術(shù)創(chuàng)新、倫理規(guī)范與社會效益，確保人工智能健康有序發(fā)展。四是形成多元共治格局，注重政府監(jiān)管與行業(yè)自律相結(jié)合，提升治理效能。
以“負(fù)責(zé)任創(chuàng)新”理念為指引，明確人工智能創(chuàng)新活動的責(zé)任邊界，讓技術(shù)始終在安全、公平、可持續(xù)的軌道上發(fā)展。擬人化互動服務(wù)通過模擬人類內(nèi)在特質(zhì)與用戶建立準(zhǔn)社會化的“情感聯(lián)結(jié)”，可能導(dǎo)致新型社會關(guān)系異化，而立法所貫徹的“負(fù)責(zé)任創(chuàng)新”理念正是為了保障人的主體性地位，維護真實人際關(guān)系的價值。基于這一理念設(shè)計的一系列制度，重在防范技術(shù)濫用對人格尊嚴(yán)、社會信任與倫理秩序造成沖擊，確保人工智能發(fā)展始終服務(wù)于人民福祉。
二、聚焦重點突出風(fēng)險，構(gòu)建精準(zhǔn)治理體系
《辦法》精準(zhǔn)識別并系統(tǒng)回應(yīng)了由“擬人化”和“情感交互”兩大核心特征所衍生的重點突出風(fēng)險，以“人機邊界模糊”為治理重點，構(gòu)建多維度風(fēng)險防控體系。
一是建立身份透明制度，劃定擬人化安全紅線，精準(zhǔn)防范人機邊界模糊引發(fā)的認(rèn)知混淆、信任侵蝕、人格權(quán)侵害及倫理越界等風(fēng)險。一方面，以顯著標(biāo)識義務(wù)為核心的身份透明制度重在保障用戶知情權(quán)與選擇權(quán)，為法律追責(zé)提供清晰起點，能夠有效遏制技術(shù)濫用的匿名性庇護，從源頭降低認(rèn)知混淆與信任侵蝕風(fēng)險。另一方面，《辦法》劃定人工智能擬人化政治安全紅線，防范深度偽造與新型網(wǎng)絡(luò)暴力，保護個人人格權(quán)益免受侵害。因此，立法堅持?jǐn)M人化互動服務(wù)的輔助人類定位，禁止替代、扭曲真實人際關(guān)系，并確保技術(shù)發(fā)展符合主流價值觀。
二是加強特殊群體保護，建立防沉迷機制，關(guān)注不同群體的差異化訴求，彰顯人文關(guān)懷與實質(zhì)公平理念。擬人化互動服務(wù)因其高度情感回應(yīng)性與陪伴特性，具有天然的沉迷風(fēng)險。未成年人正處于價值觀塑造與社交能力發(fā)展的關(guān)鍵期，老年人則可能面臨數(shù)字鴻溝與情感陪伴缺失的雙重困境，這些特殊群體在擬人化交互中易陷入情感依賴。立法針對性內(nèi)化企業(yè)的社會責(zé)任，確保技術(shù)進步紅利能夠公平、安全地惠及所有群體，實現(xiàn)實質(zhì)意義上的公平正義。
三是強調(diào)對用戶交互信息的嚴(yán)格保護，是對《個人信息保護法》的深化與場景化適用。情感類個人信息能夠映射用戶的內(nèi)心世界、情感弱點與潛意識傾向，不當(dāng)利用可能會引發(fā)心理操控、待遇歧視及情感勒索等風(fēng)險。同時，“情感計算”相關(guān)技術(shù)可能被濫用于提供成癮性服務(wù)，使用戶在無意識中暴露更多的敏感信息。因此，對用戶交互數(shù)據(jù)施加更嚴(yán)格的目的限制、安全存儲與使用禁令，是人格權(quán)保護在數(shù)智時代的延伸。
三、踐行系統(tǒng)治理思維，落實包容審慎監(jiān)管
《辦法》通過全鏈條責(zé)任、彈性監(jiān)管工具與多元共治格局，為“負(fù)責(zé)任創(chuàng)新”理念落地提供堅實保障，推動產(chǎn)業(yè)生態(tài)良性發(fā)展。
一是將責(zé)任設(shè)計貫穿擬人化互動服務(wù)的關(guān)鍵節(jié)點，實現(xiàn)風(fēng)險精準(zhǔn)防控。在模型設(shè)計階段，從源頭避免替代社會交往、控制用戶心理、誘導(dǎo)沉迷依賴等后果。在模型訓(xùn)練階段，使用體現(xiàn)主流價值觀的數(shù)據(jù)，評估合成數(shù)據(jù)的安全性，防止數(shù)據(jù)污染。在應(yīng)用部署前，依法開展安全評估，避免服務(wù)出現(xiàn)重大安全風(fēng)險。在服務(wù)運營中，建立風(fēng)險動態(tài)處置機制，及時應(yīng)對突發(fā)風(fēng)險。可以看出，這種全流程治理模式能夠有效避免事后補救式監(jiān)管的滯后性，推動風(fēng)險管理內(nèi)化為企業(yè)的核心業(yè)務(wù)流程，實現(xiàn)治理效能最大化。
二是強調(diào)協(xié)同共治，鼓勵行業(yè)組織制定標(biāo)準(zhǔn)、加強自律，體現(xiàn)了立法者對人工智能治理復(fù)雜性的清晰認(rèn)知。《辦法》積極回應(yīng)新技術(shù)新應(yīng)用多元治理需要，整合政府、企業(yè)、行業(yè)組織、社會公眾等主體的治理資源，形成治理合力。同時，《辦法》力求在防范風(fēng)險與鼓勵創(chuàng)新之間取得動態(tài)平衡，推動形成動態(tài)敏捷、多元協(xié)同的人工智能治理格局，促進擬人化互動服務(wù)在規(guī)范有序的環(huán)境中實現(xiàn)高質(zhì)量發(fā)展。
三是積極落實包容審慎監(jiān)管思路，探索“監(jiān)管沙盒”等彈性監(jiān)管工具，為新技術(shù)新應(yīng)用提供“安全試錯”的制度環(huán)境。《辦法》首次在部門規(guī)章層面明確“監(jiān)管沙盒”制度，允許企業(yè)在監(jiān)管機構(gòu)的監(jiān)督指導(dǎo)下開展創(chuàng)新試點和安全測試，在保障企業(yè)創(chuàng)新活力的同時，及時發(fā)現(xiàn)并防范試點過程中出現(xiàn)的風(fēng)險。這一彈性監(jiān)管模式準(zhǔn)確適應(yīng)了人工智能技術(shù)迭代快、應(yīng)用場景多的特點，為新技術(shù)的成熟推廣、安全防控創(chuàng)造有利條件。
總的來看，《辦法》將“負(fù)責(zé)任創(chuàng)新”理念轉(zhuǎn)化為可執(zhí)行、可追責(zé)的立法規(guī)則，為我國擬人化互動服務(wù)的健康發(fā)展提供了穩(wěn)定預(yù)期，也為全球應(yīng)對類似前沿挑戰(zhàn)貢獻了兼具前瞻性與實操性的“中國方案”。
作者：林 維 西南政法大學(xué)校長、中國法學(xué)會副會長
審核：陳舞陽
編輯：呂燕芳
校對：柴于涵
浙公網(wǎng)安備 33010602000006號
智能制造網(wǎng)APP
智能制造網(wǎng)小程序
微信公眾號
