Operazioni di accodamento ed elaborazione di intelligenza artificiale con il bus di servizio di Azure

Intermedio
Sviluppatore
Bus di servizio di Azure

Scopri come usare il bus di servizio di Azure per disaccoppiare i componenti dell'applicazione di intelligenza artificiale, mettere in coda le richieste di inferenza, distribuire i carichi di lavoro di elaborazione tra consumer concorrenti e gestire gli errori tramite le code di messaggi non recapitabili. Questo modulo illustra le code, gli argomenti con sottoscrizioni, la strutturazione dei messaggi per i payload di intelligenza artificiale e l'elaborazione affidabile dei messaggi con Python SDK.

Obiettivi di apprendimento

Dopo aver completato questo modulo, sarai in grado di:

  • Spiegare in che modo Azure Service Bus separa i componenti dell'applicazione di intelligenza artificiale e identificare quando applicare modelli di messaggistica, ad esempio il bilanciamento del carico, i consumatori in competizione e il modello pub-sub (pubblica-sottoscrivi).
  • Scegliere tra code e argomenti con sottoscrizioni del bus di servizio, in base alla possibilità che un flusso di lavoro di intelligenza artificiale richieda l'elaborazione per un singolo consumer o il fan-out a più consumer.
  • Strutturare i messaggi del bus di servizio per i carichi di lavoro di intelligenza artificiale, tra cui la serializzazione dei prompt e dei parametri del modello, la gestione di payload di grandi dimensioni con il modello di controllo delle attestazioni e l'inclusione degli ID di correlazione per il tracciamento delle richieste end-to-end.
  • Elaborare i messaggi in modo affidabile usando la modalità di ricezione blocco di visualizzazione, gestire i messaggi non elaborabili tramite code di messaggi non recapitabili e monitorare la coda di messaggi non recapitabili per le inferenze non riuscite.

Prerequisiti

Prima di iniziare questo modulo, è necessario disporre di:

  • Esperienza di programmazione con linguaggi come Python, JavaScript o C#.
  • Conoscenza di base dei servizi di Azure e dei concetti relativi al cloud computing.
  • Familiarità con i concetti di messaggistica asincrona e i modelli di sistemi distribuiti.