intel 在台說明三款面向代理式 AI 的運算架構,涵蓋主流筆電與邊緣裝置的 Core 系列 3、專攻大型模型推論的 GPU D 系列,以及負責企業工作負載調度的下一代 Xeon,英特爾還宣布於光華數位新天地設立Intel AI PC體驗館,於12月6日(日)之前,每週五至日開放民眾親身體驗搭載Intel Core系列3處理器與Intel Core Ultra系列3處理器的最新產品與AI應用。

代理式 AI 往往得在同一項任務中反覆檢索資料、呼叫模型、使用工具,再執行後續操作。英特爾的布局是由伺服器 CPU 負責流程調度與資料搬移、GPU 執行模型推論,並將適合在裝置端處理的工作交給 PC 與邊緣平台。 代號 Crescent Island 的 Intel GPU D 系列採用 Xe3P 架構,以標準 PCIe 卡與氣冷設計切入既有資料中心。英特爾公布的系列規格包括 350W 功耗、1.5 TB/s 記憶體頻寬,以及 1.3 PFLOPS 的 FP8 算力。英特爾自有品牌卡搭載 160GB LPDDR5X,最高 480GB 則是 ODM 合作夥伴可採用的配置。

英特爾稱,GPU D 系列單卡最高可支援 3,000 億參數模型,八卡系統可支援逾 1 兆參數模型。大容量記憶體有助於容納更多模型權重,以及長上下文所需的快取,也可能減少部分模型跨卡切分的需求。實際能服務多少同時在線的使用者,仍取決於卡型、模型精度、上下文長度和延遲要求。對企業而言,採購時更有意義的比較,是在相同服務延遲下,每百萬 token 的成本能降到多少。

下一代 Xeon「Diamond Rapids」將採用 Intel 18A-P 製程,最高配置 256 核心與 1.28GB 末級快取,支援 16 個記憶體通道,資料傳輸速率最高達 12,800 MT/s,並提供 128 條支援 PCIe Gen 6 與 CXL 3.0 的通道。晶片採用 Foveros Direct 3D 封裝與 UCIe-S 互連,同時加入 APX 指令擴充與強化版 AMX 矩陣運算擴充。

當多個 AI 代理同時查詢資料庫、呼叫工具或等待模型回應,CPU 仍要處理工作佇列、輸出入與資料流。Diamond Rapids 的核心密度和記憶體通道配置,著眼於提高這類並行工作的系統吞吐量。英特爾目前已揭露架構規格,正式上市時程仍待確認。

代號 Wildcat Lake 的 Core 系列 3 已於今年 4 月推出,鎖定主流消費與商用筆電,也涵蓋機器人、智慧建築和 POS 終端等邊緣應用。其運算晶粒採 Intel 18A,透過 UCIe 連接封裝內的晶粒,整合具 XMX 加速能力的 Xe3 顯示核心,並支援最多兩組Thunderbolt 4、Wi-Fi 7 與藍牙 6。NPU 算力最高為 17 TOPS,40 TOPS 則是整體平台的 AI 算力。

依英特爾公布的測試結果,Core 7 360 相較約五年前的參考平台,單執行緒效能最高提升 47%,多執行緒最高提升 41%,GPU AI 效能最高為 2.8 倍。至於相較 Core 7 150U 的「處理器功耗最高降低 64%」,測試情境為 YouTube 4K 串流播放。

三款產品中,Core 系列 3 已上市,GPU D 系列正處於送樣階段,Diamond Rapids 則已揭露架構。英特爾能否憑藉大容量氣冷卡擴大企業推論部署,接下來要看 480GB 夥伴卡的供貨,以及實際模型在固定延遲下的吞吐量與每百萬 token 成本。

英特爾於光華數位新天地設立Intel AI PC體驗館,於12月6日(日)之前,每週五至日開放民眾親身體驗搭載Intel Core系列3處理器與Intel Core Ultra系列3處理器的最新產品與AI應用。活動期間,消費者購買指定產品,憑發票或收據及含序號的產品外盒,於開館時間至Intel AI PC體驗館服務台完成登記,即可參加抽獎等相關活動。此外,合作夥伴華碩與微星科技亦於各自品牌週期間,加碼提供總值新台幣10,000元的贈品。

By 壹哥OneGeek1979

我是壹哥(ONE),1979年出生於桃園,2年業務經驗、4年公關經驗、4年創業經驗、超過15年科技記者國際採訪經驗,十足3C科技愛好者,擅長趨勢與分析,曾任 ETtoday 新聞雲採訪主任,主筆國際科技產業發展趨勢。

Leave ur Comment