Compute Engine 執行個體的佈建模型


本文件說明 Compute Engine 執行個體的佈建模型。如要進一步瞭解部署選項,請參閱「為工作負載選擇 Compute Engine 部署策略」。

佈建模型會決定執行個體的可用性、生命週期和價格。瞭解這些模型後,您就能為工作負載選擇最合適的選項。

可用的佈建模型

建立運算執行個體時,您可以指定下�����中一���佈建模型。如果您未指定佈建模型,Compute Engine 會預設使用標準佈建模型。

  • 標準

  • Spot

  • 彈性啟動 (預覽)

  • 取決於預留項目

下表可協助您比較各佈建模式的用途和價格:

標準 Spot 彈性啟動 (預覽) 取決於預留項目
摘要
  • 您可以根據資源可用性立即建立執行個體。
  • 您可以控制何時停止或刪除執行個體。
  • 您可以根據資源可用性立即建立執行個體。
  • 您可以控制何時停止或刪除執行個體。不過,您也允許 Compute Engine 隨時停止或刪除執行個體,以便回收容量。
  • 建立區域代管執行個體群組 (MIG) 後,您可以要求 Compute Engine 新增附加 GPU 的執行個體至 MIG。Compute Engine 會根據資源可用性安排執行個體的佈建作業。
  • 您可以控制刪除執行個體的時機。不過,您無法停止、暫停或重新建立這些設定。執行個體最多可運作七天。然後 Compute Engine 會自動刪除這些項目。
  • 您可以要求在未來某個日期保留���量,以便建立附加 GPU 或 TPU 的執行個體。如果 Google Cloud 核准您的要求,系統就會建立預訂,讓您在指定日期開始使用。
  • 在核准的預留期間,您可以停止、重新啟動、刪除及重新建立執行個體,以便視需要使用預留資源。預留期結束後,Compute Engine 會自動刪除預留項目和任何耗用該預留項目的執行個體。
用途 適合需要穩定性和持續運作的工作負載,例如下列工作負載:
  • 網路伺服器
  • 資料庫
  • 企業應用程式
  • 開發和測試
適合用於可容許中斷的工作負載,例如下列工作負載:
  • 批次處理
  • 高效能運算 (HPC)
  • 持續整合與持續部署 (CI/CD)
  • 資料分析
  • 媒體編碼
  • 線上推論
需要穩定性且需要執行時間不超過七天的工作負載,例如下列工作負載:
  • 小型模型預先訓練
  • 模型微調
  • HPC 模擬
  • 批次推論
適合需要穩定性和特定執行時間的工作負載,例如:
  • 工作負載持續時間為 90 天以下
    • 模型預先訓練工作
    • 模型微調工作
    • HPC 模擬工作負載
    • 預期短期內推論工作負載會增加
  • 工作負載超過 90 天的情況
    • 訓練工作負載
    • 推論工作負載
定價 您需要支付執行個體的標準價格。詳情請參閱「VM 執行個體定價」。 多數 vCPU、GPU 和本機 SSD 可享 60% 至 91% 的折扣。 詳情請參閱 Spot VM 定價 根據執行個體使用的機器系列或 TPU 版本,您可享有最高 53% 的 vCPU、GPU 和 TPU 折扣。請參閱 Dynamic Workload Scheduler (DWS) 定價 根據執行個體使用的機器系列,您最多可享 vCPU 和 GPU 折扣 53%。詳情請參閱加速器最佳化 VM 的定價
配額 建立執行個體時,系統會使用標準配額。 建立執行個體時,系統會消耗先占配額 。如果專案缺少先占配額,則會消耗標準配額。Google Cloud 免費方案抵免額不適用於 Spot VM。 當 MIG 將執行個體新增至群組時,會耗用可搶占配額。如果專案缺少先占配額,則會消耗標準配額。 配額不適用於取決於預留項目的佈建模式。

執行個體的可用性和生命週期

下表列出每個佈建模型的運算執行個體可用性和生命週期:

標準 Spot 彈性啟動 (預覽) 取決於預留項目
建立必要條件 無創作前置條件。 無創作前置條件。 無創作前置條件。 如要建立執行個體,您必須先建立多個區塊的未來預留要求,以便預留容量。在您指定的日期和時間,Compute Engine 會配置所要求的容量。接著,您可以建立例項,開始使用該服務。
支援的機器系列 你可以使用任何機器系列,但 A4 和 A3 Ultra 除外。 您可以使用任何機器系列,但下列機器除外:
  • M2 和 M3
  • C3 和 X4 裸機執行個體
您只能使用下列機器系列:
根據您預留建立 VM 的容量方式,您只能使用下列機器系列:
執行個體可用性 只要您要求的資源可用,隨時都可以建立執行個體。 只要您要求的資源可用,隨時都可以建立執行個體。 您只能透過 在 MIG 中建立大小調整要求來建立執行個體。Compute Engine 會使用 DWS 排程,根據資源可用性來佈建您要求的容量。DWS 可確保您能取得 GPU 等需求量高的資源。 您必須先為未來日期預留容量,才能建立執行個體。在您要求的日期,Compute Engine 會提供您要求的容量,您就可以用來建立執行個體。如果您預訂 TPU,Compute Engine 會使用 DWDS 來佈建您要求的容量。DWS 可確保您能取得 TPU 等需求量高的資源。
執行個體生命週期 您可以控制何時停止或刪除執行個體,但以下情況除外:
  • 如果執行個體使用的機器類型不支援即時遷移,Compute Engine 會在主機維護事件期間停止執行個體。
  • 在極少數情況下,執行個體可能會因主機錯誤而停止。
您可以控制何時停止或刪除執行個體,但以下情況除外:
  • Compute Engine 可能會隨時停止或刪除執行個體,以便回收容量。這項程序稱為「優先權」。
  • 如果執行個體使用的機器類型不支援即時遷移,Compute Engine 會在主機維護事件期間停止執行個體。
  • 在極少數情況下,執行個體可能會因主機錯誤而停止。
已佈建的執行個體會在您選擇的執行時間長度內執行,最多可達七天。您無法停止、暫停或重新建立執行個體。

發生下列任一情況時,Compute Engine 會刪除執行個體:
  • 您要求刪除執行個體。
  • 執行個體的執行時間到期。
您可以控制何時停止或刪除執行個體,但以下情況除外:
  • Compute Engine 會在主機維護事件期間停止執行個體。
  • 自動建立的預留項目,用於佈建所要求的容量,已達到承諾的預留期間結束時間。屆時,Compute Engine 會自動刪除預留項目,以及任何正在耗用該預留項目的執行個體。
  • 在極少數情況下,執行個體可能會因主機錯誤而停止。

後續步驟