智能制造網APP
智能制造網手機站
智能制造網小程序
智能制造網官微
智能制造網服務號
智能控制
機器人
儀器儀表
物聯網
3D打印
工業軟件
回放
品牌
華測
人工智能技術正以前所未有的浪潮之勢，引領新一輪科技革命和產業變革，深度重塑經濟社會發展格局。2025年8月，國務院發布《關于深入實施“人工智能+”行動的意見》，系統推動人工智能在全社會的普及應用與深度融合，逐步形成“以創新帶應用、以應用促創新”的良性發展飛輪。技術躍遷釋放價值紅利的同時帶來風險挑戰，只有當“安全內核”嵌入“發展飛輪”，產業才能實現高質量和可持續發展。
近日，中國信息通信研究院(簡稱“中國信通院”)正式發布《人工智能安全治理研究報告(2025年)——推進人工智能安全治理產業實踐框架》。
報告深入分析全球人工智能安全治理逐步邁向體系化、實操化趨勢，認識到各主要經濟體持續推進治理框架落地，如何在產業層面構建務實有效的安全治理舉措已成為各方關注的核心議題。本報告立足本土產業實踐，深入剖析當前面臨的安全治理挑戰，提出“兩橫三縱”的人工智能安全治理產業實踐框架，旨在為產業提供一套系統性、可落地、動態化的安全治理體系，推動人工智能釋放更大動能。
報告核心觀點
1. 人工智能技術發展帶來風險態勢不斷演化，需樹立動態的安全觀。人工智能技術應用的安全風險突破了傳統安全邊界帶來新態勢：一是風險形態演變快，補丁式防護思路難適用；二是風險識別難度高，應用場景風險指標難量化；三是模型能力進展快，對抗已知漏洞邁向應對未知風險。由于人工智能技術和應用具有不可預見性，當前人類對于人工智能安全風險認知存在局限性，需要建立動態演化的人工智能安全觀。
2. 全球各方多措并舉推進人工智能安全治理務實行動。國際合作層面，全球加強安全治理深化交流，聯合國、國際電信聯盟等主要國際組織加速推進治理規則完善，多國協同推進全球安全治理實踐，產業界、學術界積極開展對話交流凝聚治理共識。監管政策層面，各國推動安全治理體系化落地，各主要經濟體實施差異化監管方案，配套建立治理平臺，開展治理行動，推動形成治理實效。產業實踐層面，構建安全治理務實舉措成為核心議題，通過形成自律共識、開展測試評估、建立互通渠道等，形成保障產業發展的良性生態。
3. 人工智能產業面臨技術、應用、管理、協同共治的多重挑戰。一是技術發展擴大內生安全新敞口。模型固有特性誘發安全可控復雜難題，內生安全形勢愈發嚴峻。與傳統網絡安全相比，人工智能安全攻防非對稱性加劇，技術安全凸顯“易攻難守”新形勢。二是應用延展引發衍生安全新難題。模型應用既帶來應用形態迭代、開源生態濫用、軟件供應鏈漏洞等外部性安全難題，也引發個人、群體、社會多層面次生風險傳導放大。三是組織管理體系構建面臨新卡點。人工智能技術的黑箱屬性、應用的不確定性和產業鏈條的多樣性愈發凸顯，給人工智能模型研發、系統部署、應用運行等不同組織主體以及同時擁有多重身份的組織主體帶來管理挑戰。四是多元共治協同機制尚待健全完善。當前行業在核心治理環節普遍存在共建合力不足的問題，統一標準尚未形成、協同機制仍需完善。
4. 報告提出“兩橫三縱”的人工智能安全治理產業實踐框架。面對人工智能內生安全與應用風險交織泛化的復雜挑戰，傳統單點、靜態的防護體系已難以為繼，產業界亟需一個系統性的安全治理落實框架。為此，報告立足本土產業實踐，提出“兩橫三縱”的人工智能安全治理產業實踐框架。企業內部層面，人工智能管理體系建設應結合技術發展態勢，深度融合“管理層”的制度牽引作用與“技術層”的能力支撐作用，聚焦實際應用場景的應用風險，建立覆蓋人工智能系統全生命周期的動態安全合規和風險管理方案，系統構建“開發側”“部署側”與“應用側”安全關，實現從模型研發、系統部署到場景應用的全鏈條防護。此外，產業界需加強多元共治，將分散的治理努力匯聚成強大的系統屏障。
5. 多領域勾勒人工智能安全治理從原則框架走向行業縱深實施的清晰路徑。金融行業探索構建基于智能程度與金融場景的分級管控體系，通過安全護欄、算法修正與本地化部署，筑牢風險防線。醫療行業積極應對模型幻覺等核心挑戰，通過構建高價值應用、高知識密度、高技術含量數據集，保障輸出的準確性與安全性。交通行業聚焦智能座艙與自動駕駛，積極探索端到端安全測試與仿真驗證體系。能源行業在關鍵領域推動人工智能安全內生設計理念落地，推行“可解釋AI+專家規則”雙校驗機制，確保工業級可靠。通信行業創新實踐“以技治技”，通過大小模型協同、安全知識賦能與全生命周期管控，構建主動防御體系。
浙公網安備 33010602000006號
智能制造網APP
智能制造網小程序
微信公眾號
