Enfileirar e processar as operações de IA com o Barramento de Serviço do Azure
Intermediário
Desenvolvedor
Barramento de Serviço do Azure
Aprenda a usar o Barramento de Serviço do Azure para desacoplar componentes de aplicativos de IA, enfileirar solicitações de inferência, distribuir cargas de trabalho de processamento entre consumidores concorrentes e lidar com falhas por meio de filas de mensagens não entregues. Este módulo aborda filas, tópicos com assinaturas, estruturação de mensagens para conteúdos de IA e processamento de mensagens confiáveis com o SDK do Python.
Objetivos de aprendizagem
Ao final deste módulo, você poderá:
- Explique como o Barramento de Serviço do Azure desacopla os componentes do aplicativo de IA e identifique quando aplicar os padrões de mensagens, como o nivelamento de carga, os consumidores concorrentes e publicar-assinar.
- Escolha entre as filas do Barramento de Serviço e os tópicos com as assinaturas que tenham como base a opção de um fluxo de trabalho de IA requerer o processamento por um único consumidor ou a distribuição para vários consumidores.
- Estruture as mensagens do Barramento de Serviço para as cargas de trabalho de IA, incluindo a serialização de prompts e os parâmetros de modelo, a manipulação de grandes cargas com o padrão claim-check e incluindo as IDs de correlação para o rastreamento de solicitações de ponta a ponta.
- Processe as mensagens de forma confiável usando o modo de recebimento peek-lock, trate as mensagens problemáticas por meio de filas de mensagens mortas e monitore a fila de mensagens mortas para detectar falhas de inferência.
Pré-requisitos
Antes de iniciar este módulo, você deve ter:
- Experiência de programação com linguagens como Python, JavaScript ou C#.
- Compreensão básica dos serviços do Azure e dos conceitos de computação em nuvem.
- Familiaridade com conceitos de mensagens assíncronas e padrões de sistemas distribuídos.