針對107家企業的調查顯示，AI基礎設施的支出正快速成長，遠超過企業掌握其經濟效益的能力。大多數組織目前在超大規模雲端服務商和模型供應商的API上運行AI，然而，他們下一筆投資卻將瞄準目前幾乎無人使用的專用運算。多數企業計畫在一年內更換或新增供應商，其中許多甚至在一個季度內就會行動。

採購決策主要基於與現有系統的整合度及總持有成本，而非表面上的token價格。這點值得慶幸，因為大多數企業尚未能清楚掌握其單位經濟效益：GPU的利用率僅達一半或更低，且不到一半的企業能嚴格追蹤其實際運算成本。結果便是形成一個「運算鴻溝」，即大量且快速的投資，卻缺乏必要的透明度來有效控制。

這波VentureBeat Pulse研究深入探討企業AI基礎設施與運算：包括組織在部署歷程中的階段、目前運行AI的平台、滿意度、促使他們轉換的原因、計畫評估的投資領域，以及最關鍵的，他們衡量和控制底層運算經濟效益的能力。核心發現是一個「運算鴻溝」，即企業積極投資AI基礎設施的程度，與其對經濟效益掌握程度之間的巨大落差。

僅約五分之一（21%）的企業已將AI規模化應用於生產環境，然而其支出意圖卻超越了這份成熟度：未來一年企業計畫評估的最大單一領域是AI專用雲（45%），而這層服務目前幾乎沒有企業使用。同時，現有的運算資源卻閒置著，83%的企業回報GPU利用率為50%或更低，且不到一半（44%）能嚴格追蹤其AI運算成本。企業採購新基礎設施的速度，已超越了他們管理現有資產的能力。

企業對於其基礎設施供應商也尚未定案：高達六成四（64%）的企業計畫在未來十二個月內更換或新增基礎設施供應商，其中38%更計畫在下一季度內行動，對於如此基礎性的類別而言，這種轉換意圖異常之高。當他們做出選擇時，主要考量的是與現有技術堆疊的整合度（41%）和總持有成本（35%），而非表面價格：每百萬token的成本僅是8%企業的決定因素。

此外，將影響下一輪決策的前沿限制，隨著推論規模擴大，運算瓶頸從GPU運算轉向記憶體頻寬，幾乎未被企業察覺，約五分之一的企業對此一無所知或尚未著手解決。

研究方法

VentureBeat這項調查是其Pulse Research系列的一部分，主要聚焦於企業AI基礎設施、運算及推論經濟效益。受訪者篩選為員工人數超過100人的組織（n=107；排除1-100名員工的最小規模組別），數據來自2026年第二季度（六月）的單一波次調查。由於這是一次性的調查而非多月樣本匯總，因此報告呈現的是橫斷面分析，不推斷逐月趨勢。

部分問題為多選題，故其比例總和可能超過100%。依組織規模劃分，樣本主要集中在中型市場：101-250名員工（36%）和251-1,000名員工（27%）佔主導地位，其次是1,001-5,000名員工（22%）、5,001-10,000名員工（8%）和10,001名以上員工（7%）。

按職位劃分，涵蓋經理（38%）、個人貢獻者（28%）、副總裁及總監（19%）和高階主管（13%）；在採購權限方面，45%為最終決策者，另有30%為AI解決方案的推薦者或影響者，具備採購可信度。科技/軟體業是最大的產業類別，佔26%，其次是醫療保健/生命科學（15%）、金融服務（13%）和零售/電子商務（12%）。

儘管107個受訪者的樣本量足以提供方向性洞察，但應視為趨勢訊號而非精確測量；這是一個自我選擇的樣本，並非機率樣本。它也偏向中型市場和早期採用者，因此最適合解讀為活躍於建構AI基礎設施的組織觀點，而非來自最大的超大規模營運商。

發現一：雄心超越實際生產，僅五分之一企業規模化運行AI

我們詢問了各組織在AI部署歷程中的階段。大多數企業仍在朝生產環境建構中，而非已達到規模化營運。成熟度曲線呈現前端集中。四分之三的企業（76%）處於實驗階段或僅將部分工作負載投入生產，只有21%表示已將AI規模化應用於生產環境。

這一點對於後續所有發現都至關重要：本報告中的基礎設施決策，主要由仍處於部署早期階段的組織所做出，而這些組織的運算足跡及其成本即將大幅增長。發現三和發現四中提到的評估和轉換意圖，正是這種建構階段的前沿趨勢，而非已找到最佳方案的營運商所確立的偏好。

發現二：企業依賴超大規模雲端服務商和模型API，專用GPU雲目前幾乎未被採用

我們詢問了企業目前使用哪些供應商和平台來運行AI。答案是熟悉的：現有領導廠商。目前的技術堆疊以超大規模雲端服務商和API為主。Google Cloud以48%領先，通用型雲端（Google、Microsoft、AWS、Oracle）與主要模型API（Gemini、OpenAI、Anthropic）共同佔據了幾乎所有目前的部署。

那些在AI基礎設施新聞中佔據頭條的專用「新興雲端」GPU供應商，CoreWeave、Lambda、Crusoe、Nebius及其同業，在這些企業中目前的採用率幾乎為零。僅有6%的企業運行自己的地端GPU叢集，4%使用客製化開源堆疊。目前，企業在運行AI時仍依賴他們已有的供應商，這使得發現三中的評估意圖更顯驚人。

（關於這些比例的說明：如研究方法部分所述，此樣本為自我選擇且偏向中型市場，此問題統計了受訪者使用的每個供應商，平均每人選擇2.1個，因此這些數字衡量的是在技術堆疊中的存在，而非支出或主要地位。以這種方式建構的樣本將呈現與更廣泛市場中以支出加權的普查不同的供應商組合；例如，Google在此的優勢與其在較小型AI建構企業中的長期地位一致。

請將這些比例視為活躍於AI的群體目前運行的情況，並將這些數字與全產業市場份額估計之間的差異視為樣本特性，而非兩者之間的矛盾。）

發現三：下一筆投資將流向尚未使用的基礎設施，AI專用雲位居評估清單之首

我們詢問了企業計畫在未來12個月內評估哪些AI基礎設施。他們的答案指向了與目前運行技術堆疊不同的方向。這正是本報告中最尖銳的矛盾點。被提及最多的計畫評估領域，AI專用雲，佔45%，正是目前幾乎沒有企業使用的類別（見發現二）。

近三分之一（32%）的企業計畫評估非Nvidia加速器，28%計畫評估下一代Nvidia晶片；甚至去中心化運算網路（16%）和主權運算（11%）也引起了顯著興趣。對照目前的實際使用情況，這並非漸進式增長，而是平台重構的前沿趨勢。關於發展方向的問題也印證了這一點：所有基礎設施方案都在淨擴張，但AI專用雲的淨動能最高（+24），甚至超越了超大規模雲端服務商（+22）。企業正準備將相當一部分AI運算從通用型雲端轉移出去。

這延續了我們在四月至五月調查波次中觀察到的趨勢。當時，AI專用雲的使用率同樣微不足道，CoreWeave在3%的企業中被使用，Lambda為4%，Crusoe為2%。當我們詢問企業未來十二個月內計畫在其AI基礎設施策略中做出哪些改變時，最常被提及的答案是將工作負載轉移到AI專用雲，佔33%。

在四月至五月被問及最有可能評估哪種新興運算選項時，AI專用雲再次獲得最多回應。兩波調查，兩個不同措辭的問題，卻呈現出一個一致的景象：企業最渴望評估的雲端類型，正是他們幾乎尚未開始使用的類型。

發現四：轉換潮正在形成，六成企業計畫一年內更換供應商，許多甚至在一個季度內

我們詢問了企業是否以及何時計畫更換或新增基礎設施供應商。很少有企業打算維持現狀。對於運算這種基礎性的類別而言，如此大量的轉換意圖是相當驚人的。僅有36%的企業沒有改變計畫，這意味著絕大多數（64%）計畫在未來十二個月內更換或新增供應商，其中38%更計畫在下一季度內行動。

這種興趣指向何方，頗具啟示性：最受轉換考量青睞的供應商再次是現有領導廠商，Microsoft Azure和Google Cloud（各佔33%）、OpenAI（30%）和Gemini（22%），這表明近期的大部分變動是主要廠商之間的重新洗牌和支出整合，而非轉投新進業者。

發現三中對新興雲端服務商的興趣是一個為期12個月的評估論點；而下一季度的轉換則主要發生在現有廠商之間，彼此爭奪市場份額。（方法說明：同時選擇「沒有改變計畫」和特定轉換時間範圍的受訪者被計為轉換者，理由是指定時間範圍是更具體的答案；有三名受訪者依此規則重新分類。）

發現五：無人僅憑token價格採購，整合度與總持有成本才是關鍵

我們詢問了企業在選擇AI基礎設施供應商時最看重什麼。表面價格排在最後。企業在採購AI基礎設施時，並非基於供應商競爭最激烈的定價。

與現有技術堆疊的整合度（41%）和總持有成本（35%）佔主導地位，而表面指標，每百萬token的成本，僅是8%企業的決定因素，位居末位。這種模式是連貫的：買家正在優化供應商的契合度以及實際營運成本，而非廣告單價。這也預示了發現七，企業表示總持有成本最重要，但大多數卻無法嚴格衡量。聲明的優先順序與實際衡量能力之間存在脫節。

發現六：昂貴的GPU多數時間閒置，83%企業回報利用率低於50%

我們詢問了企業實際利用其GPU容量的比例。答案是一個眾所周知但鮮少被量化的低效率問題。說明：頻段百分比是針對所有107名合格受訪者的每個選擇進行計數；有14名受訪者選擇了多個頻段，因此頻段之間存在重疊。在受訪者層面，100家運行GPU的企業中有83家回報利用率在50%或以下。

現有的運算資源閒置著。將利用率在半數或以下的頻段加總，83%運行GPU的企業回報利用率為50%或更低，近一半（49%）甚至在25%或以下。只有12%的企業利用率超過50%，另有8%根本不測量利用率。閒置的加速器就是昂貴的加速器，這是運算鴻溝最清晰的單一衡量指標：企業正計畫購買更多GPU和專用運算資源（見發現三），而他們現有的容量卻大量閒置。現有設備的效率提升空間巨大，且大部分未被衡量。

發現七：支出快速，衡量緩慢，不到一半企業能嚴格追蹤運算成本

我們詢問了企業是否能量化其AI基礎設施支出的成本和回報，以及他們對目前運營狀況的滿意度。對帳務的信心落後於支出。衡量落後於金錢。不到一半的企業（44%）能嚴格追蹤其AI運算成本和回報；大多數企業僅部分追蹤（39%），或根本無法量化。