2025-10-27 14:12:02 來源：
人工智能（AI）技術經過近幾年的突飛猛進，也已經從應用試驗品轉化為企業生產力。相應地，大量IT應用正在從數字化向數智化演進。AI應用在迅速增長的同時，也在加速融入企業業務流程，但在千行百業的企業內部，AI應用落地的進程卻千差萬別。
為此，CIO時代與新基建研究院聯合全球開源與企業級AI領先企業——紅帽公司，匯集產、學、研各方力量，成立了企業級AI+專家委員會。面向制造、金融、能源、零售、電信等多個行業的百余名CIO，從算力、數據、AI規劃、組織與人才、AI風險等多個維度展開調研，在此基礎之上進行定性深度訪談，力圖揭示AI應用的真實落地圖景，為企業AI落地提供路徑和策略參考。
AI治理與風險管理
（一）AI帶來的風險與治理對策
在AI落地之初，就要考慮AI可能帶來的風險，這其中既包括數據偏差和數據安全漏洞帶來的數據驅動風險，也包括內容生成濫用、系統性失控等在內的AI技術濫用風險。
此外，AI應用還需要關注倫理與法律協同，同時在AI應用的使用過程中，也需要制定動態分層治理、全生命周期監控等技術監管機制。當AI應用與核心業務結合之后，特別要注意大模型幻覺給核心業務的風險，由于AI技術迭代速度過快，還特別要關注改進傳統治理手段，以適配AI幻覺等新型風險。
（二）AI治理與風險管理現狀分析
1．絕大多數國內企業不了解AI風險，也缺乏相應的對策
在“針對未來AI的應用，是否清晰AI的風險及應對策略”選題中，有超過57％的CIO選擇了否，而只有不足４3％的CIO了解AI風險并且有相應的對策。國內企業CIO的AI風險意識急需提升。
圖1 針對未來的AI應用，企業AI風險及應對策略現狀
２．數據安全風險位列AI風險首位
在“CIO最關注的AI潛在風險”選題中，數據安全風險成為了69% CIO的選擇。接下來關注度高的選項依次是系統安全風險、信息內容風險和模型算法風險。與這些風險相比，倫理安全風險的關注度較低，只有11%的CIO關注這一領域。
圖2 CIO最關注的AI潛在風險
３．AI安全領域，CIO們更關注什么？
在針對AI風險治理中，CIO對于自己關注的技術做出了選擇。其中， 60%的CIO選擇了AI解決方案靈活性與擴展性，這個特性可以有效降低對單一AI技術或產品供應商的依賴。另有55%的CIO選擇了構建全生命周期AI治理模型，這就要求從人員，組織，流程，技術和數據等維度制定管理規范及標準。超過半數的CIO選擇了數據隱私與合規性保障。
雖然只有39%的CIO更為關注動態風險評估，只有28％的CIO選擇了模型的透明性與動態風險評估，但這并不能說明這兩項技術不重要，而只可能是在目前的AI應用階段，CIO們更為關注另外三個因素。從技術角度來看，利用AI管理平臺實現AI模型的自動化測試、漂移檢測和對抗攻擊防御，而提升模型的透明性，可以幫助理解復雜模型的決策邏輯，減少“黑箱”風險。這對于AI模型安全性的提升，將起到重要作用，因為作為安全因素，并不能被忽略。
圖3 企業關注的AI新技術引發的治理問題
掃碼參與
2025年度企業級AI策略+架構及應用落地2.0調研
商務合作：
小希：15701060895 微信：ciotimes
媒體合作：
小歐: 13641177280 微信: 同手機號
免責聲明：本網站（http://www.hongdawj.com.cn/）內容主要來自原創、合作媒體供稿和第三方投稿，凡在本網站出現的信息，均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
本網站刊載的所有內容（包括但不僅限文字、圖片、LOGO、音頻、視頻、軟件、程序等）版權歸原作者所有。任何單位或個人認為本網站中的內容可能涉嫌侵犯其知識產權或存在不實內容時，請及時通知本站，予以刪除。
搶沙發
