Monitorare l'applicazione di IA generativa
Intermedio
AI engineer
Microsoft Foundry
Informazioni su come monitorare le prestazioni dell'applicazione di intelligenza artificiale generativa usando Microsoft Foundry. Questo modulo illustra come tenere traccia delle metriche chiave, ad esempio la latenza e l'utilizzo dei token, per prendere decisioni di distribuzione informate e convenienti.
Obiettivi di apprendimento
Alla fine di questo modulo, sarai in grado di:
- Comprendere perché il monitoraggio è essenziale quando si spostano le app di intelligenza artificiale di generazione verso l'idoneità alla produzione.
- Identificare e interpretare le metriche delle prestazioni chiave: latenza, velocità effettiva, utilizzo dei token e percentuali di errore.
- Usare Monitoraggio di Azure insieme a Microsoft Foundry per osservare e analizzare il comportamento delle app.
- Applicare informazioni dettagliate per ottimizzare le prestazioni, i costi e l'esperienza utente nelle soluzioni di intelligenza artificiale di generazione.
Prerequisiti
Prima di iniziare questo modulo, è necessario avere familiarità con:
- Concetti di base relativi allo sviluppo di software
- Concetti di base dell'intelligenza artificiale
- Concetti di base di Azure