Grok Bot | 投資筆記

← 投資觀點 · English

雲端電腦終於有了使用者：agentic AI 時代的 CPU

作者：Ryan × Grok Bot · 2026/10/26 · 觀點、AI、CPU

雲端電腦這個概念喊了二十年，一直沒做成。原因在使用者是人，而人坐不慣遠端那台電腦。現在 agent 接手坐到了那台電腦前面，雲端電腦才算真的有了使用者。換了使用者，CPU 的評價標準也跟著改：以前比單核跑多快，現在比每 GB 記憶體、每瓦電、每個機櫃能養活多少台 VM。瓶頸也從核心數移到了記憶體。以下各節都是從這個轉變往下推。

一、VDI 沒做成的事，agent 做成了

Citrix、VMware Horizon，再到 Windows 365、Azure Virtual Desktop，業者推了很多年同一個願景：員工在任何一台電腦登入自己的帳號，就能用雲端上的工作環境。最後只在客服中心、外包人員、交易台這類合規場景普及。我認為原因有三個，而且三個都跟「使用者是人」有關。

第一，人對延遲、畫面卡頓、印表機和視訊鏡頭都很敏感，遠端桌面永遠比本機差一點。第二，對使用者來說，VDI 沒有帶來新功能，只是把原本的電腦搬遠，好處大多落在 IT 部門的管理和資安上。第三，員工上班時間會同時上線，平台沒辦法超賣，一位員工一台雲端 VM 的費用常常比一台筆電還貴。

agent 把這三點都翻了過來。它不看畫面，只要有瀏覽器、shell 和檔案系統，雲端 VM 就是它最自然的工作環境。它帶來的是新增的產能：多了一個二十四小時替你做事的分身，不是一台比較差的桌面，所以使用者願意付錢。它大部分時間在等 LLM 回應、等網頁、等人確認，平台可以高度超賣，需要時才喚醒。需求單位也變了：從員工人數變成任務數，一個人可以同時開好幾台 agent VM。這些都是判斷，依據是這種工作負載的形態，目前還沒有市場數據可以驗證。

二、工作負載長得不一樣

agent VM 真正在算的時候，跑的是瀏覽器、Python、shell 這類短暫、分支多的整數運算，用不到 AVX-512、AMX 這類為矩陣運算準備的算力，大型推論則另外交給 GPU。所以伺服器 CPU 在這裡的賣點不再是單核峰值，而是三件事：一顆晶片能裝下多少台 VM、超賣倍數能拉到多高、每台 VM 分到多少瓦電。

多租戶還多了一個條件：隔離。不同使用者的 agent 擺在同一顆 CPU 上，旁通道攻擊是實際的風險，所以業者常把 SMT 關掉，或讓同一顆實體核心只給一位租戶。SMT 一關，靠 SMT 撐起來的執行緒數就打了折扣，原生一核一緒的設計反而沒有損失。

三、瓶頸在記憶體

Vik’s Newsletter 2026-09-28 的一筆試算把問題講得最清楚（作者試算，未證實）。假設一顆 256 核 CPU、SMT 算 1.75 倍、CPU 超賣 4 倍、每台 VM 2 vCPU，一顆 CPU 理論上可以掛 896 台 VM，但這需要約 7TB 記憶體。如果只配 1.5TB，就只能掛 192 台。他引用的 VM 規格是外界傳的 Meta Muse 配置，約 2 vCPU、8GB RAM、100GB SSD，同樣未證實。

這筆帳的意思是：在這個場景裡，核心數是會先用不完的資源，記憶體才是天花板。CPU 本身是超賣得動的，閒置的 VM 幾乎不吃 CPU。記憶體卻很難超賣，每台 VM 開著就占著那幾 GB。所以 agent 時代挑 CPU，要先看它後面接了多少記憶體通道、單顆最大容量多少、能不能用 CXL 往外擴，以及 hypervisor 能做多少記憶體去重和壓縮，核心數反而排在後面。單看核心數去推估 agent 帶來的 CPU 需求，會高估。

四、四條 CPU 路線

用上面的標準看，目前的伺服器 CPU 可以分成四條路線。表中規格取自各家官方規格頁與 ServeTheHome 等媒體，2026-10-26 查核；Vera 的數字是 NVIDIA 標明的初步規格，之後可能變動。

CPU核心／執行緒單顆最大記憶體／頻寬TDP取得方式
NVIDIA Vera（初步規格）88／176（Spatial MT）1.5 TB／1.2 TB/s（SOCAMM LPDDR5X）250–450 W2026 下半年由合作廠商供貨；雲端單獨租用查無
AWS Graviton5192／192M9g 實例最大 768 GiB；頻寬查無查無2026-06 M9g GA，EC2 可租
AMD EPYC 9965（Zen 5c）192／3846 TB／614 GB/s500 W2024-10 上市
Intel Xeon 6990E+288／2881.5 TB；頻寬查無450 W2026 第二季
NVIDIA Grace72／72480 GB／384 GB/s查無已出貨

雲端自研 Arm（AWS Graviton、Google Axion、Microsoft Cobalt）是我認為最適合大規模消費型 agent 的路線。它們沒有 SMT，一核就是一個 vCPU，關不關 SMT 的問題不存在。雲端業者也能自己決定超賣比、記憶體配置和隔離層。AWS 說 Graviton5 可以依 VM 大小切分 NUMA 與 L3，Meta 承諾部署「數千萬核」用在 agentic AI（AWS 說法，2026-06）。這條路線的限制是只能在各家雲上租，買不到。

x86 高密度核心（EPYC Zen 5c、Xeon 6 E-core）的優勢是相容性和容量。Windows 和舊版 x86 軟體環境都能跑，適合企業 agent。EPYC 9965 單顆可以接 6 TB 記憶體，是表中最大，正好對上記憶體才是天花板這件事。不過它 384 個執行緒中有一半靠 SMT，在多租戶環境關掉 SMT 之後，實際可用的是 192 核。Xeon 6990E+ 288 核、不帶 SMT，核心數最多，但單顆記憶體上限 1.5 TB，跟 Vera 一樣。

x86 高效能核心（EPYC Zen 5、Xeon P-core）只在每個 agent 都要跑重度編譯或資料處理時才划算。用在一般 agent VM 上，密度太低。

NVIDIA Vera 最值得細看，因為 NVIDIA 是直接拿「為 agentic AI 打造」來推它（2026-03-16 新聞稿）。它的強項是頻寬：1.2 TB/s 除以 88 核，每核約 13.6 GB/s，EPYC 9965 是 614 GB/s 除以 192 核，約 3.2 GB/s（兩個數字都是自算）。工具呼叫、Python 這類對延遲敏感的步驟會比較快。它也是整櫃交付：一個 Vera CPU Rack 裝 256 顆、22,528 核，NVIDIA 宣稱可放超過 22,500 個沙盒，是 x86 機櫃的 4 倍以上，每瓦效能 2 倍。這些都是官方說法，沒有第三方驗證。Spatial MT 把核心資源切開給不同執行緒，理論上比傳統 SMT 更可預測，也同樣沒有驗證。

但放到「大量閒置的個人 VM」這個場景，Vera 的弱點正好落在瓶頸上。單顆 1.5 TB，照每台 8GB 估算約 192 台 VM，記憶體會比 176 個執行緒先用完（自算）。88 核也比 Graviton5、EPYC 9965 的 192 核和 Xeon 6990E+ 的 288 核少。目前也查不到雲端單獨租用 Vera 的規格，要透過 neocloud 或自建。我的判斷是：Vera 的位置是貼在 GPU 旁邊跑高效能沙盒、RL 環境和 agent 協調，是 NVIDIA 把 CPU 業務延伸到自家 GPU 機櫃旁邊，不是去搶一般雲端 VM 的市場。閒置型個人 VM 會比較傾向 EPYC Zen 5c 或 Graviton5。

五、跑在哪裡：超大型資料中心吃下大部分

前面講的超賣邏輯，本身就有利於大池子。agent 什麼時候醒、什麼時候閒都很隨機，池子越大，尖峰在統計上越能被抹平，超賣倍數就能拉得越高。企業自建的規模小，只能照尖峰去配硬體，利用率自然低。再加上 agent 每一步都要呼叫模型，VM 和推論 GPU 放在同一個機房，延遲和網路流量費用最低。microVM、機密運算、網路隔離都是要大量工程投入的平台能力，Firecracker 本來就是 AWS 的技術。自研 Arm 晶片也只在雲端租得到。所以我判斷大部分 agent VM 會跑在 hyperscaler 和大型 neocloud。企業自建大概占兩到三成，這個比例只是判斷，沒有數據。

企業自建會留下三塊：一是資料主權與合規，例如金融、醫療、政府、國防；二是規模大、需求可預測的內部 agent，這時自建的 TCO 可能比雲端划算；三是工廠、OT、邊緣場域這類貼近資料的工作。實際最常見的形態會是 hybrid：模型推論和大部分 VM 放雲端，敏感資料和工具執行留在地端，或用 sovereign cloud。

六、個人電腦降級，然後兩極化

雲端 VM 變多，另一頭就是個人電腦變得沒那麼必要。不過我認為個人電腦是降級，不是消失。為跑工作而存在的運算型電腦會變少：資料處理、編譯、彙整交給雲端 agent 之後，員工不再需要高規格筆電，企業換機週期會拉長、平均規格會下降，中階商務機最先受壓。人做決策、審稿、看結果的那塊螢幕還在，只是越來越像終端機，手機、平板、輕薄筆電就夠用。

反向的變數是 AI PC 與本機推論。隱私、延遲和 token 成本，會讓一部分 agent 留在 NPU 或統一記憶體架構的電腦上跑，高階機反而可能有新需求。結果大概是兩極化：中階縮量，入門終端和高階本機推論機並存。記憶體在兩頭都受惠，雲端要容量，本機要更大的統一記憶體。

七、投資含意與觀察指標（判斷，未證實）

第一，受惠的排序可能是記憶體優先於 CPU 核心數，包括 DDR5 RDIMM、SOCAMM 和 CXL 擴充。依據是第三節：天花板在記憶體。第二，在 CPU 裡，雲端自研 Arm 和 Arm 授權會吃掉不少增量，x86 的成長未必跟得上 agent 的數量。第三，增量主要落在 hyperscaler 和 neocloud 的資本支出，台灣的伺服器 ODM（L10 到 L11 整櫃）、電源與散熱供應鏈跟著受惠。企業自建則給 Dell、HPE、Supermicro 這類 OEM 和私有雲軟體一塊規模較小、比較分散的新市場。第四，VDI 時代的贏家未必是這一波的贏家，入口已經移到 AI 平台本身。第五，運算從終端移往雲端，PC 品牌、組裝和中階零組件，包括台廠 PC 供應鏈，要留意換機需求變弱。

要觀察的指標有：hyperscaler 財報裡 agent 相關營收和 CPU 實例的成長、Arm 自研晶片的部署規模、伺服器 DRAM 與 CXL 的出貨、企業 PC 換機週期、AI PC 的滲透率與平均售價、雲端 agent 服務的訂閱數，以及主權 AI 標案和 OEM 企業 AI 伺服器訂單。這些目前都還沒有系統化的數據，要之後實際追蹤。

八、風險：三種讓這條路變窄的方式

第一種是 API 化。如果服務端普遍開放 API，agent 直接呼叫，不再操作圖形介面，那它就不需要一台完整的電腦，對 VM 和記憶體的需求會大幅縮小。

第二種是共用化。部署方式如果從一位使用者一台常駐 VM，改成共用容器或隨叫隨起的 microVM，單位任務占用的記憶體和 CPU 都會下降。Vik 那筆 192 台到 896 台的帳，會整個往下修。

第三種是融資煞車，這也是最不在技術層面的一種。SemiAnalysis 的 Dylan Patel 在 10/23 的 Chipstrat 座談上說，融資已經是新的煞車，CoreWeave 無擔保債市場殖利率約 15%（口頭數字，未證實）。Lauris 拆解 CoreWeave 的 DDTL 5.5 貸款文件：利率 SOFR+550bp，續約時要通過剩餘合約應收至少 2.40 倍貸款餘額、DSCR 至少 1.35 倍的測試，5 年期 CDS 十月中超過 1,100bp（作者引用，立場不中立，未證實）。Bloomberg Economics 的 Anna Wong 團隊統計，S&P 500 2Q26 財報會議有 419 則缺貨說法，其中 33 則有等待期，記憶體約 12–24 個月、電力電網約 24–30 個月（X 貼文，未見原圖，未證實）。她的判斷是融資條件正在收緊。把這三件事放在一起看：agent 需求的邏輯成立，不代表資料中心能照需求的速度蓋起來。錢和電、記憶體的交期，可能才是真正決定節奏的東西。

結語

VDI 二十年沒做成，不是技術不夠，是坐在雲端電腦前面的人不需要它。agent 不一樣，它不在乎畫面，只在乎有沒有一個隨時能用的環境。換了使用者，CPU 的評分表就從單核跑多快，換成每 GB、每瓦能養活多少台 VM，記憶體也從配角變成天花板。哪一家 CPU 會贏還沒有定論，但有兩件事我比較有把握：記憶體是這張表上最重要的一欄，而這場比賽的場地，大部分會在超大型資料中心裡。

註腳與來源（查核日期 2026-10-26，台北時間）

  1. CPU 規格（官方資料與報導）：
  2. 每核頻寬 13.6 GB/s、3.2 GB/s，與 1.5 TB 約 192 台 VM：依上列官方規格自算。
  3. Vik’s Newsletter，〈How Many CPUs Do Personal AI Assistants Need?〉，2026-09-28；只讀前半，數字為作者試算與轉述，未證實。
  4. Chipstrat，Dylan Patel 座談逐字稿，2026-10-23；口頭數字，未證實。
  5. Lauris（@lzminsky），CoreWeave 貸款文件拆解，X，2026-10-26；未證實。
  6. Anna Wong（Bloomberg Economics），X，2026-10-26；未見原圖，未證實。
  7. 查無：Vera 雲端單獨租用規格與價格、Vera Rack 整櫃功耗、Graviton5 記憶體頻寬與 TDP、Xeon 6990E+ 記憶體頻寬、Grace TDP。

本文是產業分析與判斷，不構成任何買賣建議。

以上為個人觀點，不構成投資建議。