Korzystanie z Operatora GPU NVIDIA w usłudze Azure Kubernetes Service (AKS)

Operator procesora GPU FIRMY NVIDIA automatyzuje zarządzanie i wdrażanie wszystkich składników oprogramowania NVIDIA potrzebnych do aprowizacji procesora GPU, w tym instalacji sterowników, wtyczki urządzenia NVIDIA dla platformy Kubernetes, środowiska uruchomieniowego kontenera NVIDIA i nie tylko. Ponieważ operator procesora GPU firmy NVIDIA obsługuje te składniki, nie trzeba oddzielnie instalować wtyczki urządzenia NVIDIA w klastrze usługi AKS. Oznacza to również, że automatyczna instalacja sterownika procesora GPU powinna zostać pominięta w celu korzystania z operatora procesora GPU FIRMY NVIDIA w usłudze AKS.

Wskazówka

Jeśli nie potrzebujesz pełnej kontroli nad operatorem GPU NVIDIA, pule węzłów GPU zarządzane przez AKS (wersja zapoznawcza) instalują i utrzymują sterownik NVIDIA, wtyczkę urządzeń Kubernetes i eksportera metryk DCGM.

Ważne

Oprogramowanie typu open source jest wymienione w dokumentacji i przykładach usługi AKS. Oprogramowanie, które wdrażasz, jest wykluczone z umów dotyczących poziomu usług AKS, ograniczonej gwarancji i wsparcia technicznego platformy Azure. W miarę korzystania z technologii open source wraz z usługą AKS zapoznaj się z opcjami pomocy technicznej dostępnymi w odpowiednich społecznościach i opiekunami projektów, aby opracować plan.

Firma Microsoft ponosi odpowiedzialność za tworzenie pakietów typu open source wdrażanych w usłudze AKS. Ta odpowiedzialność obejmuje posiadanie pełnej kontroli nad procesem kompilacji, skanowania, podpisywania, weryfikacji i szybkich poprawek, a także nad plikami binarnymi w obrazach kontenerów. Aby uzyskać więcej informacji, zobacz Zarządzanie podatnościami dla usług AKS i zakres wsparcia dla AKS.

Zanim rozpoczniesz

Uwaga / Notatka

Maszyny wirtualne z obsługą GPU zawierają wyspecjalizowany sprzęt, który wiąże się z wyższymi cenami i dostępnością w regionach. Aby uzyskać więcej informacji, zobacz narzędzie do ustalania cen i dostępność regionów .

Ograniczenia

Pobierz poświadczenia dla klastra

Pobierz poświadczenia dla klastra AKS za pomocą polecenia az aks get-credentials. Przykładowe polecenie pobiera poświadczenia dla klastra myAKSCluster w grupie zasobów myResourceGroup.

az aks get-credentials --resource-group myResourceGroup --name myAKSCluster

Uwaga / Notatka

Operator GPU NVIDIA nie jest zgodny z wieloma wersjami systemów operacyjnych w tym samym klastrze AKS.

  1. Pomiń automatyczną instalację sterownika procesora GPU, tworząc pulę węzłów z obsługą procesora GPU firmy NVIDIA przy użyciu az aks nodepool add polecenia i ustawiając pole --gpu-driver interfejsu API na wartość none. Ustawienie tego pola interfejsu API na none podczas tworzenia puli węzłów powoduje pominięcie domyślnej instalacji sterownika procesora GPU. Aby zapoznać się z przykładem, zobacz Pomiń instalację sterownika procesora GPU. To ustawienie nie zmienia żadnych istniejących węzłów. Możesz skalować pulę węzłów do zera, a następnie wykonać kopię zapasową, aby zmiany zaczęły obowiązywać.
az aks nodepool add \
--resource-group myResourceGroup \
--cluster-name myAKSCluster \
--name gpunp \
--node-count 1 \
--node-vm-size Standard_NC4as_T4_v3 \
--node-taints sku=gpu:NoSchedule \
--gpu-driver none

  1. Postępuj zgodnie z dokumentacją firmy NVIDIA, aby zainstalować operator procesora GPU.

  2. Po zainstalowaniu operatora procesora GPU sprawdź, czy procesory GPU można schedulować i uruchomić obciążenie procesora GPU.

Uwaga / Notatka

W przypadku korzystania z operatora procesora GPU FIRMY NVIDIA i wdrażania w wystąpieniach spot może być konieczne dodatkowe kwestie. Proszę zajrzeć do https://github.com/NVIDIA/gpu-operator/issues/577

  • Last updated on