Gartner發(fā)布安全且大規(guī)模實現(xiàn)AI價值的四大新興挑戰(zhàn)

2024年第二季度Gartner對451名高級技術(shù)領(lǐng)導(dǎo)者進行的一項調(diào)研顯示，57%的首席信息官（CIO）表示自身肩負著企業(yè)人工智能（AI）戰(zhàn)略的領(lǐng)導(dǎo)責(zé)任。然而，四大新興挑戰(zhàn)令CIO很難實現(xiàn)AI的價值。

Gartner杰出研究副總裁Mary Mesaglio表示：“由于技術(shù)供應(yīng)商之間的持續(xù)創(chuàng)新競爭，CIO常常覺得自己身處技術(shù)炒作之中；但在推動AI成果方面的事實——價值難以實現(xiàn)，又讓他們感到身處低谷?！?/p>

Gartner杰出研究副總裁兼院士級分析師Hung LeHong表示：“CIO其實可以掌控AI成果的推進節(jié)奏。如果企業(yè)的AI目標(biāo)較為適中，并且所在行業(yè)尚未被AI顛覆，CIO可以采用相對穩(wěn)健的節(jié)奏，即AI穩(wěn)健型步伐（AI-steady pace）。如果企業(yè)的AI目標(biāo)更為宏大，或所在行業(yè)正被AI重塑，CIO就需要采用更快速的節(jié)奏，即AI加速型步伐（AI-accelerated pace）。無論是以AI穩(wěn)健型步伐還是以AI加速型步伐前進，最終都必須推動價值和成果的實現(xiàn)。”

在近期舉行的Gartner IT Symposium/Xpo開幕主題演講中，面向現(xiàn)場8,000余名CIO和IT高管，Gartner分析師闡述了如何應(yīng)對四大新興挑戰(zhàn)，以安全的方式大規(guī)模實現(xiàn)AI價值。

使用AI未必總能實現(xiàn)業(yè)務(wù)效益

使用生成式人工智能（GenAI）創(chuàng)造業(yè)務(wù)價值的前提是，必須在工作流中持續(xù)使用GenAI工具。2024年第二季度，Gartner對美國、英國、印度、澳大利亞和中國的5,000余名數(shù)字工作者進行了調(diào)研。結(jié)果顯示，使用GenAI的員工平均每周可節(jié)省3.6小時，但并非所有使用GenAI的員工都能獲得同等程度的效益。

LeHong表示：“這是AI生產(chǎn)力面臨的真正挑戰(zhàn)。GenAI帶來的生產(chǎn)力提升并非均勻分布，而是因員工而異，這不僅是因為個人興趣和采用程度存在差異，還取決于工作的復(fù)雜程度和經(jīng)驗水平?！?/p>

采用AI加速型步伐的企業(yè)機構(gòu)不僅尋求生產(chǎn)力方面的效益，還在尋求其他層面的改進，包括運營和流程層面的改進（例如實現(xiàn)關(guān)鍵業(yè)務(wù)流程的自動化或重塑與聊天機器人協(xié)作的職位）以及業(yè)務(wù)層面的變革性改進（例如能夠創(chuàng)造新收入來源或重塑企業(yè)價值主張的成果）。

Mesaglio表示：“在這種情況下，CIO應(yīng)像管理投資組合一樣管理AI收益，確定每個收益領(lǐng)域的投入大小，并平衡整個組合的風(fēng)險與回報?！?/p>

AI成本可能會迅速失控

Gartner于2024年6月和7月對300余名CIO進行的調(diào)研結(jié)果顯示，超過90%的CIO表示成本管理限制了其利用AI創(chuàng)造價值的能力。實際上，Gartner認為成本是與安全或幻覺同等重要的AI風(fēng)險。

根據(jù)Gartner的估算，如果不了解GenAI成本如何擴展，CIO的成本計算可能會出現(xiàn)高達5到10倍的誤差。

LeHong表示：“CIO需要清楚AI的成本構(gòu)成，不僅要了解成本的組成和定價模式選項，還要掌握如何降低成本并與供應(yīng)商談判。CIO應(yīng)創(chuàng)建概念驗證，除測試技術(shù)的可行性外，還要重點評估成本的擴展情況?！?/p>

無處不在的數(shù)據(jù)和AI帶來了新的挑戰(zhàn)和風(fēng)險

AI和數(shù)據(jù)在企業(yè)中廣泛應(yīng)用，已不再是IT部門直接控制的集中資產(chǎn)。Gartner對300余名CIO進行的調(diào)研發(fā)現(xiàn)，未來平均只有35%的AI能力由內(nèi)部IT團隊構(gòu)建。這意味著企業(yè)需要采取新的方法來管理和保護數(shù)據(jù)訪問、治理AI的輸入和輸出，并安全地實現(xiàn)AI價值。

在描述未來的AI技術(shù)堆棧時，LeHong表示：“這里將提及‘技術(shù)架構(gòu)組合’的概念。組合的底層是所有來自IT的資產(chǎn)，通常是集中的資產(chǎn)；頂部是來自企業(yè)各處的資產(chǎn)，通常是分散的資產(chǎn)；中間則是保證所有資產(chǎn)安全的信任、風(fēng)險和安全管理（TRiSM）技術(shù)。這種組合框架有助于企業(yè)應(yīng)對各種類型的AI和數(shù)據(jù)?！?/p>

Mesaglio表示：“CIO應(yīng)當(dāng)設(shè)計一個技術(shù)架構(gòu)組合，既能應(yīng)對AI復(fù)雜性，又能對新的機遇保持開放。采取AI穩(wěn)健型步伐的企業(yè)機構(gòu)（AI項目不超過十個）將通過人類團隊和委員會管理其技術(shù)架構(gòu)組合。采用AI加速型步伐的企業(yè)機構(gòu)將通過引入TRiSM技術(shù)——一系列用于建立信任、監(jiān)控風(fēng)險、管理安全的技術(shù)，以確保大規(guī)模AI應(yīng)用的安全性?！?/p>

使用AI對員工績效和福祉來說是一把雙刃劍

有些員工可能會很喜歡AI工具，有些則會感覺受到威脅或產(chǎn)生反感。對AI的強烈反應(yīng)可能會引發(fā)意想不到的行為結(jié)果，進而對員工的工作表現(xiàn)產(chǎn)生負面影響，例如對使用AI的同事產(chǎn)生嫉妒以及對AI工具的過度依賴等。

然而，很少有企業(yè)機構(gòu)在積極管理這些行為結(jié)果。Gartner在2024年6月和7月進行的這項調(diào)研顯示，只有20%的CIO表示自己致力于減少GenAI對員工福祉的潛在負面影響。

“大多數(shù)企業(yè)不太關(guān)心員工對于AI的感受，但這一點其實很重要，因為AI可能會引發(fā)各種意想不到的行為結(jié)果。”Mesaglio表示，“關(guān)鍵在于，通過變革管理解決這個問題時，企業(yè)必須明確行為結(jié)果的相應(yīng)負責(zé)人，像管理技術(shù)和業(yè)務(wù)成果一樣嚴格管理行為結(jié)果?！?/p>