Überwachen Ihrer Anwendung für generative KI
Fortgeschrittene Anfänger
KI-Techniker
Microsoft Foundry
Erfahren Sie, wie Sie die Leistung Ihrer generativen KI-Anwendung mithilfe von Microsoft Foundry überwachen. In diesem Modul lernen Sie wichtige Metriken wie Latenz und Tokenverwendung nachzuverfolgen, um fundierte, kostengünstige Bereitstellungsentscheidungen zu treffen.
Lernziele
Am Ende dieses Moduls können Sie:
- Verstehen Sie, warum die Überwachung entscheidend ist, wenn Gen KI-Apps in Richtung Produktionsreife weiterentwickelt werden.
- Identifizieren und Interpretieren wichtiger Leistungsmetriken: Latenz, Durchsatz, Tokenverwendung und Fehlerraten.
- Verwenden Sie Azure Monitor zusammen mit Microsoft Foundry, um das App-Verhalten zu beobachten und zu analysieren.
- Wenden Sie Einblicke an, um Leistung, Kosten und Benutzerfreundlichkeit in GEN-KI-Lösungen zu optimieren.
Voraussetzungen
Bevor Sie dieses Modul starten, sollten Sie mit folgenden Kenntnissen vertraut sein:
- Grundlegende Softwareentwicklungskonzepte
- Grundlegende KI-Konzepte
- Grundlegende Azure-Konzepte