Monitoruj aplikację generatywnej sztucznej inteligencji
Średni
Inżynier AI
Microsoft Foundry
Dowiedz się, jak monitorować wydajność generowanej aplikacji sztucznej inteligencji przy użyciu rozwiązania Microsoft Foundry. W tym module nauczysz się śledzić kluczowe metryki, takie jak opóźnienie i użycie tokenów, aby podejmować świadome, ekonomiczne decyzje dotyczące wdrażania.
Cele szkolenia
Po ukończeniu tego modułu będziesz wiedzieć, jak wykonać następujące czynności:
- Dowiedz się, dlaczego monitorowanie jest niezbędne podczas przenoszenia aplikacji sztucznej inteligencji generacji w kierunku gotowości produkcyjnej.
- Identyfikowanie i interpretowanie kluczowych metryk wydajności: opóźnienie, przepływność, użycie tokenu i współczynniki błędów.
- Użyj usługi Azure Monitor razem z firmą Microsoft Foundry, aby obserwować i analizować zachowanie aplikacji.
- Stosowanie wniosków w celu optymalizacji wydajności, kosztów i doświadczenia użytkownika w rozwiązaniach sztucznej inteligencji klasy Gen.
Wymagania wstępne
Przed rozpoczęciem tego modułu należy zapoznać się z następującymi informacjami:
- Podstawowe pojęcia dotyczące tworzenia oprogramowania
- Podstawowe pojęcia dotyczące sztucznej inteligencji
- Podstawowe pojęcia dotyczące platformy Azure