Kolejkowanie i przetwarzanie operacji sztucznej inteligencji za pomocą usługi Azure Service Bus
Dowiedz się, jak używać usługi Azure Service Bus do oddzielania składników aplikacji sztucznej inteligencji, kolejkowania żądań inferencji, dystrybuowania obciążeń przetwarzania pomiędzy konkurencyjnych odbiorców oraz obsługi błędów za pomocą kolejek komunikatów końcowych. Ten moduł obejmuje kolejki, tematy z subskrypcjami, strukturyzację komunikatów dla ładunków sztucznej inteligencji i niezawodne przetwarzanie wiadomości za pomocą zestawu SDK dla Pythona.
Cele nauczania
Po ukończeniu tego modułu będziesz mieć następujące umiejętności:
- Wyjaśnij, jak Azure Service Bus oddziela składniki aplikacji AI i zidentyfikuj, kiedy stosować wzorce obsługi komunikatów, takie jak bilansowanie obciążenia, konkurujący konsumenci oraz publikacja-subskrypcja.
- Wybierz między kolejkami i tematami usługi Service Bus z subskrypcjami na podstawie tego, czy przepływ pracy sztucznej inteligencji wymaga przetwarzania przez jednego użytkownika, czy przetwarzania w trybie fan-out dla wielu użytkowników.
- Strukturowanie komunikatów usługi Service Bus dla obciążeń AI, w tym serializowanie monitów i parametrów modelu, obsługa dużych ładunków za pomocą wzorca claim-check oraz dodawanie identyfikatorów korelacji w celu kompleksowego śledzenia żądań.
- Niezawodnie przetwarzaj komunikaty przy użyciu trybu odbierania z podglądem i blokadą, obsługuj zatrute komunikaty za pośrednictwem kolejek martwych listów i monitoruj kolejkę martwych listów pod kątem nieudanych analiz.
Warunki wstępne
Przed rozpoczęciem tego modułu należy dysponować następującymi informacjami:
- Doświadczenie w programowaniu w językach takich jak Python, JavaScript lub C#.
- Podstawowa wiedza na temat usług platformy Azure i pojęć związanych z przetwarzaniem w chmurze.
- Znajomość koncepcji asynchronicznej obsługi komunikatów i wzorców systemów rozproszonych.