KI-Runtime-CLI

Die air Kommandozeilenschnittstelle übermittelt und verwaltet verteilte Trainings-Workloads auf AI Runtime, der bedarfsgesteuerten serverlosen GPU-Compute-Plattform. Die CLI verwendet yaML-basierte Auftragskonfiguration, integriert in MLflow und unterstützt arbeitsbereichbasierte und gitbasierte Codeworkflows.

air CLI entspricht den gleichen Compliancestandards wie AI Runtime. Die unterstützten Standards und Ausnahmen finden Sie im Compliancesicherheitsprofil.

Wann die CLI verwendet werden soll

Verwenden Sie die KI-Runtime CLI, wenn Sie folgendes ausführen möchten:

• Übermitteln Sie GPU-Schulungsarbeitslasten von Ihrem Laptop und Code-Editor, ohne ein Notizbuch zu öffnen.
• Definieren Sie Schulungsaufträge deklarativ in YAML, damit sie in die Quellcodeverwaltung eingecheckt werden können.
• Führen Sie lang laufende Trainingsaufträge oder über mehrere Knoten verteiltes Training aus – Workloads, die über eine interaktive Sitzung hinaus ausgeführt werden müssen oder sich über mehr als einen Knoten erstrecken.

Zur Python-API im Notebook (@distributed und @ray_launch) siehe stattdessen Multi-GPU-Arbeitslast.

Um interaktiv auf einem einzelnen GPU-Knoten über SSH zu arbeiten – von Ihrem Terminal oder Ihrer IDE aus, anstatt eine Workload einzureichen –, verwenden Sie databricks ssh connect. Siehe Herstellen einer Verbindung mit Databricks mithilfe eines SSH-Tunnels.

In diesem Abschnitt

• Installieren der AI Runtime CLI
• KI-Runtime CLI – Schnellstart
• AI Runtime CLI-Befehlsreferenz
• Workload YAML-Referenz
• Nachverfolgen von Ausführungen mit MLflow und der Seite „Einzelvorgänge ausführen“
• Verwenden von benutzerdefinierten Docker-Images
• Beispiele für die KI-Laufzeitumgebung-CLI