Memantau aplikasi AI generatif Anda
Menengah
Teknisi AI
Microsoft Foundry
Pelajari cara memantau performa aplikasi AI generatif Anda menggunakan Microsoft Foundry. Modul ini mengajarkan Anda untuk melacak metrik utama seperti latensi dan penggunaan token untuk membuat keputusan penyebaran yang tepat dan hemat biaya.
Tujuan pembelajaran
Pada akhir modul ini, Anda akan dapat:
- Pahami mengapa pemantauan sangat penting saat memindahkan aplikasi Gen AI menuju kesiapan produksi.
- Identifikasi dan interpretasikan metrik performa utama: latensi, throughput, penggunaan token, dan tingkat kesalahan.
- Gunakan Azure Monitor bersama dengan Microsoft Foundry untuk mengamati dan menganalisis perilaku aplikasi.
- Terapkan wawasan untuk mengoptimalkan performa, biaya, dan pengalaman pengguna dalam solusi Gen AI.
Prasyarat
Sebelum memulai modul ini, Anda harus terbiasa dengan:
- Konsep pengembangan perangkat lunak dasar
- Konsep AI dasar
- Konsep Azure dasar