Not
Bu sayfaya erişim yetkilendirme gerektiriyor. Oturum açmayı veya dizinleri değiştirmeyi deneyebilirsiniz.
Bu sayfaya erişim yetkilendirme gerektiriyor. Dizinleri değiştirmeyi deneyebilirsiniz.
Important
Bu özellik Genel Önizleme aşamasındadır.
Aşağıdaki örnekler, air ile air run -f train.yaml CLI’sinden gönderdiğiniz eksiksiz, uçtan uca iş yükleridir. Her biri, iş yükü YAML dosyası, bootstrap komutları ve kod ile birlikte H100 GPU'larda gerçek bir çoklu GPU kullanım düzenini gösterir. Daha önce bir çalıştırma göndermediyseniz hızlı başlangıç ile başlayın.
| Example | Description |
|---|---|
| FSDP ile çok düğümlü LLM ince ayarı |
torchrun ve PyTorch Tam Parçalı Veri Paralelliği (FSDP) kullanılarak 16 H100 GPU’da (2 düğüm üzerinde) Llama-3.1-8B’nin denetimli ince ayarlaması. Günlükleri MLflow'a, kontrol noktalarını ise bir Unity Catalog birimine kaydeder. |
| Ray Train ile dağıtılmış eğitim | Ray Train'in TorchTrainer ile, tek bir düğüm üzerindeki 8 H100 GPU'da, GPU başına bir çalışanla dağıtık veri paralelliğiyle ince ayar. |
| Ray Data ve vLLM ile toplu çıkarım | Ray Data ve vLLM ile, tek bir düğüm üzerindeki 8 H100 GPU’da GPU başına bir vLLM kopyası çalıştırarak çevrimdışı LLM toplu çıkarım işlemi gerçekleştirme ve sonuçları bir Unity Catalog volume’üne Parquet biçiminde yazma. |