你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站，请访问 https://docs.azure.cn。

在 Azure Kubernetes 服务 (AKS) 上使用 NVIDIA GPU Operator

NVIDIA GPU作员自动管理并部署预配 GPU 所需的所有 NVIDIA 软件组件，包括驱动程序安装、 适用于 Kubernetes 的 NVIDIA 设备插件、NVIDIA 容器运行时等。 由于 NVIDIA GPU作员处理这些组件，因此无需在 AKS 群集上单独安装 NVIDIA 设备插件。 这也意味着为了在 AKS 上使用 NVIDIA GPU 操作器，应跳过自动 GPU 驱动程序安装。

提示

如果不需要完全控制 NVIDIA GPU 操作员， AKS 管理的 GPU 节点池（预览版） 会为你安装和维护 NVIDIA 驱动程序、Kubernetes 设备插件和 DCGM 指标导出程序。

重要

AKS 文档和示例中都提到了开源软件。 AKS 服务级别协议、有限保修和 Azure 支持不涵盖你部署的软件。 将开源技术与 AKS 一起使用时，请查阅相应社区和项目维护者提供的支持选项来制定计划。

Microsoft 将负责生成我们在 AKS 上部署的开源包。 该责任包括对生成、扫描、签名、验证和修补过程拥有完整的所有权，以及对容器映像中的二进制文件的控制。 如需了解详细信息，请参阅 AKS 漏洞管理和 AKS 支持范围。

在您开始之前

  • 本文假设你有现有 AKS 群集。 如果没有群集，请使用 Azure CLI、 Azure PowerShell 或 Azure 门户创建群集。
  • 需要安装 Azure CLI 2.72.2 或更高版本才能设置 --gpu-driver 字段。 运行 az --version 即可查找版本。 如果需要安装或升级，请参阅 安装 Azure CLI。

注释

启用 GPU 的 VM 包含专用硬件，这些硬件定价较高，其可用性受区域限制。 有关详细信息，请参阅定价工具和区域可用性。

局限性

获取群集的凭据

使用 az aks get-credentials 命令获取 AKS 群集的凭据。 以下示例命令获取 myAKSCluster 资源组中群集 myResourceGroup 的凭据：

az aks get-credentials --resource-group myResourceGroup --name myAKSCluster

注释

NVIDIA GPU 操作员与同一 AKS 群集上的多个操作系统版本不兼容。

  1. 通过使用 az aks nodepool add 命令并将 API 字段 --gpu-driver 设置为值 none，通过创建启用了 NVIDIA GPU 的节点池来跳过自动 GPU 驱动程序安装。 将此 API 字段设置为 none 在创建节点池期间会跳过默认的 GPU 驱动程序安装。 有关示例，请参阅 跳过 GPU 驱动程序安装。 此设置不会更改任何现有节点。 可以将节点池缩放至零，然后进行备份，以使更改生效。
az aks nodepool add \
--resource-group myResourceGroup \
--cluster-name myAKSCluster \
--name gpunp \
--node-count 1 \
--node-vm-size Standard_NC4as_T4_v3 \
--node-taints sku=gpu:NoSchedule \
--gpu-driver none

  1. 按照 NVIDIA 文档 安装 GPU 操作器。

  2. 安装 GPU Operator 后，请检查 GPU 是否可调度，并 运行 GPU 工作负载。

注释

使用 NVIDIA GPU Operator 在 SPOT 实例上部署时，还可能需要考虑其他一些因素。 请参考 https://github.com/NVIDIA/gpu-operator/issues/577

  • Last updated on