AI 基建

按 AI 工作負載建設基礎設施,涵蓋運算與儲存設計、網絡、現場條件、部署及持續營運。

明亮工作枱上的 GPU 伺服器及主機組件概念場景
企業硬件與 AI 運算概念場景
規劃 AI 基建

將 AI 工作負載轉化為 IT 及項目團隊能夠交付和營運的 IT 基建方案。Express Projects 統籌容量與軟件要求、現場準備、部署、驗證及持續管理。項目可包含品牌運算平台和組件供應;有特定需要時,再評估訂製配置。

需要準備的資料

  • AI 工作負載、軟件棧、初步需求量及增長預期
  • 數據位置、託管偏好及現有 IT 基建
  • 現場容量、驗證標準及營運責任

交付成果

  • 工作負載要求及 IT 基建設計決策
  • 現場準備、部署及驗證計劃
  • 配置記錄及持續營運交接資料

了解項目結構

工作負載及加速器
主機及儲存
網絡及現場供電
軟件及營運

先釐清訓練或推論需要,再一併評估加速器及主機資源。儲存吞吐、網絡介面、機櫃供電、散熱條件及軟件兼容性須納入同一套方案。

項目規劃示意,最終架構按具體項目議定。

明確工作負載及驗收標準

推理、開發和訓練對 GPU 顯存、主機資源及數據存取的要求各不相同。記錄模型要求、併發量、數據量、軟件依賴及預期增長,並商定有代表性的工作負載和測試條件,以實際用途評估平台選擇。

設計環境並做好現場準備

統籌計算、儲存、網絡、身份及管理存取。結合數據位置、連接、成本和營運責任,比較本地部署與雲端部署。與設施及平台服務方確認機櫃尺寸、供電額度及制冷安排;專業設施服務另行確定範圍。

部署並驗證議定平台

協調安裝、儲存與網絡存取、經批准的驅動及議定軟件環境。運行驗證工作負載前,檢查用戶權限和 IT 基建狀態。記錄軟件版本、測試條件、結果及未完成事項,作為技術驗收依據。

明確營運和擴容責任

確定監控、容量評估、補丁與驅動變更、備份責任及問題升級路徑。硬件支援、IT 基建營運,以及模型或應用工作應分別明確負責人。擴容前復核兼容性和現場容量;性能目標與服務覆蓋以議定設計及合約為準。

按需納入設備供應

根據設計、兼容性及支援要求,評估合適的品牌伺服器、加速卡、儲存和網絡設備。供貨、配置及保養安排在方案中確認。標準配置不適用時,可另行查詢訂製組裝及 OEM / ODM,並分別明確驗證和支援範圍。

與此環境相關的技術

了解設備規格、安裝及營運計劃涉及的平台。

訂製配置示例 選填

AI 運算配置,圍繞工作負載規劃。

先選擇合適的平台方向,再按應用程式、現場條件及營運方式訂定配置。

用於 Express AI G6 訂製系統的 6U GPU 伺服器機箱參考圖

Express AI G6

面向 GPU 工作負載的大型機架平台,統籌評估加速卡、主機資源、儲存和供電。

參考平台: TA-S8621A4商討這套配置
用於 Express AI G4 配置查詢的 4U 機箱參考圖

Express AI G4

可供評估訂製計算或加速卡系統的 4U 機箱選項。每項查詢均單獨選擇並核查平台及組件清單。

參考平台: TA-S5888G1商討這套配置

以上為配置例子,具體組件、兼容性、保養安排及交付範圍於方案中確認。

開始前的常見問題

按 AI 工作負載建設基礎設施,涵蓋運算與儲存設計、網絡、現場條件、部署及持續營運。

可以負責 IT 基建的規劃、部署和管理嗎?

可以。服務可銜接工作負載評估、IT 基建設計、現場準備、安裝、驗證及持續管理。方案會列明包含的系統、責任和驗收標準。

需要先確定購買哪款 GPU 嗎?

不需要。先提供軟件、模型要求、預計使用情況及現場可用容量,便於明確備選方案和採購前應完成的檢查。

設計中可以利用現有設備或雲端資源嗎?

可以。請提供現有設備清單、軟件環境及雲端服務安排。確認設計前,會結合兼容性、容量、數據存取、許可和營運要求,評估設備復用及工作負載部署位置。

服務包括開發或訓練我們的 AI 模型嗎?

模型開發、數據集、應用整合及訓練操作,與 IT 基建供應和管理分別確定範圍。請在需求中說明,便於評估附加工作。

Express Projects

建立新據點,遷移關鍵系統, 改善日常營運。

告訴我們需要部署、連接或改善的內容,一起釐清範圍及下一步。

商討您的項目
WhatsApp 聯絡我們