人工智能作為新一輪科技革命和產業變革的重要驅動力量，具有技術屬性與社會屬性高度融合的特點，在推動生產力發展的同時，也帶來新的風險和挑戰。習近平總書記強調：“要堅持促進發展和依法管理相統一，既大力培育人工智能、物聯網、下一代通信網絡等新技術新應用，又積極利用法律法規和標準規范引導新技術應用。”黨的二十屆三中全會《決定》提出“完善生成式人工智能發展和管理機制”“建立人工智能安全監管制度”。堅持發展與治理、創新與安全并重，全面提升人工智能安全治理水平，既是保障人工智能健康有序發展的迫切需要，也是推進國家治理體系和治理能力現代化的重要內容。
堅持以人為本和智能向善的價值導向。發展人工智能，根本目的是造福人類、增進人民福祉、促進人的全面發展。習近平總書記強調：“堅持以人為本、智能向善，在聯合國框架內加強人工智能規則治理”。堅持以人為本、智能向善，就要讓人民群眾共享人工智能發展紅利，不斷提升人民群眾獲得感、幸福感、安全感，防范濫用人工智能技術給社會帶來危害，引導人工智能向善而行。提高人工智能安全治理水平，一方面要引導人工智能發展以增進人類共同福祉為目標，以保障社會安全、尊重人類權益為前提，確保人工智能始終朝著有利于人類文明進步的方向發展；另一方面要在法律、倫理等層面引導人工智能的價值取向，確保人工智能發展安全可控。
構建人工智能安全治理的政策法規和制度體系。要加快人工智能立法進程，制定具有前瞻性的人工智能法律法規，為人工智能安全治理提供堅實法律基礎。健全基礎設施安全保護、跨境數據安全監管、人工智能安全服務認證等一系列制度，落實人工智能安全治理責任制，清晰界定相關主體權利、義務和責任邊界，建立問責和追溯機制，形成人工智能安全治理的制度體系，以良法善治實現激勵發展與合理規制的有機統一，確保人工智能安全、可靠、可控，朝著有利于維護國家安全、促進經濟社會發展、增進人民福祉的方向發展。
完善與人工智能技術發展相適應的科學監管方式。人工智能迭代速度快，處于一種不斷變化的狀態中，必須完善與其發展相適應的科學監管方式。適應產學研用深度融合的人工智能發展態勢，健全縱向有機銜接、橫向有機聯系的監管網絡，將安全治理嵌入研究開發應用的全過程。加強對潛在風險研判和防范，根據技術發展、行業領域、應用場景等因素建立并動態調整人工智能分級分類標準，對大模型可能產生的安全風險開展合規性評估。加強安全保護基礎理論研究和前沿安全技術研究，推動人工智能安全技術創新，開發先進加密技術、認證技術和通用大模型安全可控技術，鼓勵跨學科研究，推進人工智能與網絡安全、信息安全等領域融合，防范數據泄露、惡意攻擊和其他安全漏洞，以高效能科學監管提升人工智能安全治理水平。
形成共建共治共享的人工智能安全治理格局。推動人工智能健康發展，需要多方協同、共建共治。加強政府主導，建立人工智能監管統籌協調機制，發揮其在戰略規劃、風險管控、規則制定、社會服務體系等方面的總體協調作用。引導行業組織、企業、教育和科研機構、網絡平臺和有關專業機構強化審慎自律，支持其在人工智能安全風險防范方面開展協作，構建多部門協調、多學科融合、多元主體參與的人工智能安全治理框架和工作體系。同時，搭建公眾參與安全治理的線上線下平臺，建立起人人有責、人人盡責、人人享有的人工智能安全治理體系，形成人工智能安全治理的強大合力。
（朱步樓 作者為江蘇省政協專家咨詢委員會副主任）
