Gartner發布安全且大規模實現AI價值的四大新興挑戰

　　2024年第二季度Gartner對451名高級技術領導者進行的一項調研顯示，57%的首席信息官(CIO)表示自身肩負著企業人工智能(AI)戰略的領導責任。然而，四大新興挑戰令CIO很難實現AI的價值。

　　Gartner杰出研究副總裁Mary Mesaglio表示：“由于技術供應商之間的持續創新競爭，CIO常常覺得自己身處技術炒作之中;但在推動AI成果方面的事實——價值難以實現，又讓他們感到身處低谷。”

　　Gartner杰出研究副總裁兼院士級分析師Hung LeHong表示：“CIO其實可以掌控AI成果的推進節奏。如果企業的AI目標較為適中，并且所在行業尚未被AI顛覆，CIO可以采用相對穩健的節奏，即AI穩健型步伐(AI-steady pace)。如果企業的AI目標更為宏大，或所在行業正被AI重塑，CIO就需要采用更快速的節奏，即AI加速型步伐(AI-accelerated pace)。無論是以AI穩健型步伐還是以AI加速型步伐前進，最終都必須推動價值和成果的實現。”

　　在近期舉行的Gartner IT Symposium/Xpo開幕主題演講中，面向現場8,000余名CIO和IT高管，Gartner分析師闡述了如何應對四大新興挑戰，以安全的方式大規模實現AI價值。

　　使用AI未必總能實現業務效益

　　使用生成式人工智能(GenAI)創造業務價值的前提是，必須在工作流中持續使用GenAI工具。2024年第二季度，Gartner對美國、英國、印度、澳大利亞和中國的5,000余名數字工作者進行了調研。結果顯示，使用GenAI的員工平均每周可節省3.6小時，但并非所有使用GenAI的員工都能獲得同等程度的效益。

　　LeHong表示：“這是AI生產力面臨的真正挑戰。GenAI帶來的生產力提升并非均勻分布，而是因員工而異，這不僅是因為個人興趣和采用程度存在差異，還取決于工作的復雜程度和經驗水平。”

　　采用AI加速型步伐的企業機構不僅尋求生產力方面的效益，還在尋求其他層面的改進，包括運營和流程層面的改進(例如實現關鍵業務流程的自動化或重塑與聊天機器人協作的職位)以及業務層面的變革性改進(例如能夠創造新收入來源或重塑企業價值主張的成果)。

　　Mesaglio表示：“在這種情況下，CIO應像管理投資組合一樣管理AI收益，確定每個收益領域的投入大小，并平衡整個組合的風險與回報。”

　　AI成本可能會迅速失控

　　Gartner于2024年6月和7月對300余名CIO進行的調研結果顯示，超過90%的CIO表示成本管理限制了其利用AI創造價值的能力。實際上，Gartner認為成本是與安全或幻覺同等重要的AI風險。

　　根據Gartner的估算，如果不了解GenAI成本如何擴展，CIO的成本計算可能會出現高達5到10倍的誤差。

　　LeHong表示：“CIO需要清楚AI的成本構成，不僅要了解成本的組成和定價模式選項，還要掌握如何降低成本并與供應商談判。CIO應創建概念驗證，除測試技術的可行性外，還要重點評估成本的擴展情況。”

　　無處不在的數據和AI帶來了新的挑戰和風險

　　AI和數據在企業中廣泛應用，已不再是IT部門直接控制的集中資產。Gartner對300余名CIO進行的調研發現，未來平均只有35%的AI能力由內部IT團隊構建。這意味著企業需要采取新的方法來管理和保護數據訪問、治理AI的輸入和輸出，并安全地實現AI價值。

　　在描述未來的AI技術堆棧時，LeHong表示：“這里將提及‘技術架構組合’的概念。組合的底層是所有來自IT的資產，通常是集中的資產;頂部是來自企業各處的資產，通常是分散的資產;中間則是保證所有資產安全的信任、風險和安全管理(TRiSM)技術。這種組合框架有助于企業應對各種類型的AI和數據。”

　　Mesaglio表示：“CIO應當設計一個技術架構組合，既能應對AI復雜性，又能對新的機遇保持開放。采取AI穩健型步伐的企業機構(AI項目不超過十個)將通過人類團隊和委員會管理其技術架構組合。采用AI加速型步伐的企業機構將通過引入TRiSM技術——一系列用于建立信任、監控風險、管理安全的技術，以確保大規模AI應用的安全性。”

　　使用AI對員工績效和福祉來說是一把雙刃劍

　　有些員工可能會很喜歡AI工具，有些則會感覺受到威脅或產生反感。對AI的強烈反應可能會引發意想不到的行為結果，進而對員工的工作表現產生負面影響，例如對使用AI的同事產生嫉妒以及對AI工具的過度依賴等。

　　然而，很少有企業機構在積極管理這些行為結果。Gartner在2024年6月和7月進行的這項調研顯示，只有20%的CIO表示自己致力于減少GenAI對員工福祉的潛在負面影響。

　　“大多數企業不太關心員工對于AI的感受，但這一點其實很重要，因為AI可能會引發各種意想不到的行為結果。”Mesaglio表示，“關鍵在于，通過變革管理解決這個問題時，企業必須明確行為結果的相應負責人，像管理技術和業務成果一樣嚴格管理行為結果。”