Operazioni di accodamento ed elaborazione di intelligenza artificiale con il bus di servizio di Azure
Scopri come usare il bus di servizio di Azure per disaccoppiare i componenti dell'applicazione di intelligenza artificiale, mettere in coda le richieste di inferenza, distribuire i carichi di lavoro di elaborazione tra consumer concorrenti e gestire gli errori tramite le code di messaggi non recapitabili. Questo modulo illustra le code, gli argomenti con sottoscrizioni, la strutturazione dei messaggi per i payload di intelligenza artificiale e l'elaborazione affidabile dei messaggi con Python SDK.
Obiettivi di apprendimento
Dopo aver completato questo modulo, sarai in grado di:
- Spiegare in che modo Azure Service Bus separa i componenti dell'applicazione di intelligenza artificiale e identificare quando applicare modelli di messaggistica, ad esempio il bilanciamento del carico, i consumatori in competizione e il modello pub-sub (pubblica-sottoscrivi).
- Scegliere tra code e argomenti con sottoscrizioni del bus di servizio, in base alla possibilità che un flusso di lavoro di intelligenza artificiale richieda l'elaborazione per un singolo consumer o il fan-out a più consumer.
- Strutturare i messaggi del bus di servizio per i carichi di lavoro di intelligenza artificiale, tra cui la serializzazione dei prompt e dei parametri del modello, la gestione di payload di grandi dimensioni con il modello di controllo delle attestazioni e l'inclusione degli ID di correlazione per il tracciamento delle richieste end-to-end.
- Elaborare i messaggi in modo affidabile usando la modalità di ricezione blocco di visualizzazione, gestire i messaggi non elaborabili tramite code di messaggi non recapitabili e monitorare la coda di messaggi non recapitabili per le inferenze non riuscite.
Prerequisiti
Prima di iniziare questo modulo, è necessario disporre di:
- Esperienza di programmazione con linguaggi come Python, JavaScript o C#.
- Conoscenza di base dei servizi di Azure e dei concetti relativi al cloud computing.
- Familiarità con i concetti di messaggistica asincrona e i modelli di sistemi distribuiti.