Vertex AI 簡介

您可以透過 Vertex AI 這個機器學習 (ML) 平台訓練及部署 ML 模型和 AI 應用程式,並自訂大型語言模型 (LLM) 用於 AI 技術輔助應用程式。Vertex AI 結合資料工程、數據資料學和機器學習工程的工作流程。不同的團隊將能運用相同的工具協同合作,並透過 Google Cloud的強大功能調度應用程式資源。

Vertex AI 提供多個模型訓練和部署選項:

部署模型後,請使用 Vertex AI 的端對端機器學習運作工具,在整個機器學習生命週期中自動化及擴充專案。這些 MLOps 工具會在全代管基礎架構上執行,您可以根據效能和預算需求進行自訂。

您可以使用 Python 適用的 Vertex AI SDK,在 Vertex AI Workbench 中執行整個機器學習工作流程。Vertex AI Workbench 是以 Jupyter 筆記本為基礎的開發環境。您可以與團隊合作,在 Colab Enterprise 中開發模型。Colaboratory 是與 Vertex AI 整合的版本。其他可用的介面包括 Google Cloud 主控台、Google Cloud CLI 指令列工具、用戶端程式庫和 Terraform (支援有限)。

Vertex AI 和機器學習 (ML) 工作流程

本節將概略說明機器學習工作流程,以及如何使用 Vertex AI 建構及部署模型。

機器學習工作流程圖

  1. 資料準備:擷取及清理資料集後,請執行探索性資料分析 (EDA),瞭解機器學習模型預期的資料結構和特徵。將資料轉換和特徵工程應用於模型,並將資料分割為訓練、驗證和測試集。

    • 使用 Vertex AI Workbench 筆記本探索及視覺化資料。Vertex AI Workbench 已整合 Cloud Storage 和 BigQuery,可協助您更快存取及處理資料。

    • 如果是大型資料集,請透過 Vertex AI Workbench 的筆記本使用 Dataproc Serverless Spark 執行 Spark 工作負載,���無須自行管理 Dataproc 叢集。

  2. 模型訓練:選擇訓練方法來訓練模型,並調整模型以提升效能。

    • 如要瞭解如何在不編寫程式碼的情況下訓練模型,請參閱 AutoML 總覽。AutoML 支援表格、圖片、文字和影片資料。

    • 如要編寫自己的訓練程式碼,並使用偏好的機器學習框架訓練自訂模型,請參閱自訂訓練總覽

    • 使用自訂調整工作,為自訂訓練模型最佳化超參數。

    • Vertex AI Vizier 會為您調整複雜機器學習 (ML) 模型中的超參數。

    • 使用 Vertex AI Experiments 運用不同的機器學習技巧訓練模型,並比較結果。

    • 您可以在 Vertex AI Model Registry 中註冊已訓練的模型,以便進行版本控制並交付給實際工作環境。Vertex AI Model Registry 可與驗證和部署功能整合,例如模型評估和端點。

  3. 模型評估和迭代:評估已訓練的模型、根據評估指標調整資料,並迭代模型。

    • 使用精確度和召回率等模型評估指標,評估及比較模型效能。您可以透過 Vertex AI Model Registry 建立評估項目,或是在 Vertex AI Pipelines 工作流程中加入評估項目。
  4. 模型服務:將模型部署至實際工作環境,並取得線上預測結果,或直接查詢批次預測結果。

    • 使用預先建立自訂容器部署自訂訓練模型,以便取得即時線上預測 (有時稱為 HTTP 預測)。

    • 取得非同步的批次預測,不必部署至端點。

    • 經過最佳化的 TensorFlow 執行階段可讓您以較低的成本和較低的延遲時間提供 TensorFlow 模型,這比開放原始碼的預先建構 TensorFlow 服務容器更有效率。

    • 如果是使用表格模型的線上服務案例,請使用 Vertex AI 特徵儲存庫,從中央存放區提供特徵,並監控特徵健康狀態。

    • Vertex Explainable AI 可協助您瞭解各項特徵對模型預測的貢獻程度 (特徵歸因),以及從訓練資料集中找出標示錯誤的資料 (以範例為基礎的解釋)。

    • 部署並取得使用 BigQuery ML 訓練的模型線上預測結果。

  5. 模型監控:監控已部署模型的效能。使用���入的預測資料重新訓練模型,以便提高效能。

    • Vertex AI Model Monitoring 會監控模型的訓練/應用偏差和預測偏移情形,並在傳入的預測資料與訓練基準值差距過大時,傳送快訊通知您。

後續步驟