Operațiuni AI de coadă și procese cu Azure Service Bus
Intermediar
Developer
Azure Service Bus
Învață cum să folosești Azure Service Bus pentru a decupla componentele aplicațiilor AI, a pune în coadă cererile de inferență, a distribui sarcinile de procesare între consumatorii concurenți și a gestiona defecțiunile prin cozi cu litere moarte. Acest modul acoperă cozi, subiecte cu abonamente, structurarea mesajelor pentru payload-urile AI și procesarea fiabilă a mesajelor cu SDK-ul Python.
Obiective de instruire
După ce terminați acest modul, veți putea să:
- Explică cum Azure Service Bus decuplează componentele aplicației AI și identifică când să aplici tipare de mesagerie precum load leveling, consumatori concurenți și publish-subscribe.
- Alege între cozi Service Bus și subiecte cu abonamente, în funcție de faptul dacă un flux de lucru AI necesită procesare pentru un singur consumator sau distribuire către mai mulți consumatori.
- Structurați mesajele Service Bus pentru sarcinile de lucru AI, inclusiv serializarea prompturilor și parametrilor modelului, gestionarea sarcinilor utile mari cu modelul claim-check și includerea ID-urilor de corelație pentru urmărirea cererilor de la un capăt la altul.
- Procesează mesajele în mod fiabil folosind modul de recepție peek-lock, gestionează mesajele otrăvite prin cozi cu litere moarte și monitorizează coada cu litere moarte pentru inferențe eșuate.
Cerințe preliminare
Înainte de a începe acest modul, ar trebui să aveți:
- Experiență de programare cu limbaje precum Python, JavaScript sau C#.
- Înțelegerea de bază a serviciilor Azure și a conceptelor de cloud computing.
- Familiaritate cu conceptele de mesagerie asincronă și modelele sistemelor distribuite.