Implementar a segurança para IA
Visão rápida
-
Nível
-
Habilidade
As cargas de trabalho de IA introduzem novas superfícies de ataque em camadas de identidade, dados e runtime que os controles de segurança tradicionais não abordam totalmente. Neste roteiro de aprendizagem, você implementa controles de segurança de IA em camadas na plataforma de segurança Microsoft.
Você começa descobrindo e avaliando os riscos de dados de IA usando Gerenciamento da Postura de Segurança de Dados do Microsoft Purview (DSPM). Em seguida, proteja as identidades dos agentes usando o ID do agente Microsoft Entra e o Acesso Condicional, e analise o alcance da violação de identidade por IA e as rotas de ataque no Microsoft Defender XDR. A partir daí, você configura a proteção de runtime em tempo real para agentes do Copilot Studio usando o Microsoft Defender para Aplicativos de Nuvem e protege o tráfego de modelo de IA usando o AI Gateway no Microsoft Foundry. Por fim, você configura os guardrails no Microsoft Foundry, protege cargas de trabalho de IA usando Microsoft Defender para Nuvem e controla agentes implantados usando Microsoft Agent 365.
Pré-requisitos
- Conhecimento prático dos conceitos de identidade Microsoft Entra ID e dos conceitos de identidade Azure
- Familiaridade com a navegação nos portais do Microsoft Defender e Microsoft Purview
- Experiência no gerenciamento de configurações de segurança de nuvem no Azure
- Conhecimento de conceitos de agente de IA e tecnologias do "Microsoft Copilot"
Introdução ao Azure
Escolha a conta do Azure correta para você. Pague conforme o uso ou experimente o Azure grátis por até 30 dias. Inscrição.
Código de Conquista
Gostaria de solicitar um código de conquista?
Módulos neste roteiro de aprendizagem
Aplique controles de acesso condicional às identidades do agente de IA no Microsoft Entra Agent Identity. Mapeie como os agentes se autenticam, configuram políticas que impõem condições de acesso e gerenciam o ciclo de vida da identidade do agente para reduzir o risco de agentes comprometidos ou com privilégios excessivos.
Use Microsoft Defender XDR para descobrir agentes de IA que operam em seu ambiente, avaliar o raio de explosão de cada identidade de agente e analisar caminhos de ataque que podem levar a dados não autorizados ou acesso a recursos.
Configure Microsoft Defender para Aplicativos de Nuvem para fornecer proteção de runtime para agentes Copilot Studio. Habilite a proteção nas configurações do portal Defender para Inteligência Artificial, coordene com os administradores do Power Platform para a configuração do ID do aplicativo e verifique se o inventário de agentes, os alertas e os dados de Busca Avançada aparecem no Microsoft Defender XDR.
Use o Gateway de IA no Microsoft Foundry para proteger e controlar o tráfego do modelo de IA. Examine a arquitetura do gateway, crie e configure uma instância de gateway com controles de segurança e aplique restrições de acesso e monitoramento para impor a política e detectar uso indevido.
Os guardrails do Microsoft Foundry ajudam a proteger cargas de trabalho de IA aplicando controles de segurança configuráveis que avaliam prompts e respostas. Você aprenderá a entender modelos de segurança internos, testar e refinar guardrails, criar listas de bloqueios, configurar filtros de conteúdo e validar se as proteções funcionam conforme o esperado. Esses recursos ajudam as organizações a evitar interações inseguras ou que violam políticas, proteger dados confidenciais e manter a confiança em aplicativos assistidos por IA.
O Microsoft Defender para Nuvem ajuda a proteger cargas de trabalho de IA combinando descoberta, gerenciamento de postura e proteção de runtime em uma plataforma. Você aprenderá a habilitar o plano de trabalhos de IA, examinar insights no painel de segurança de Dados e IA, avaliar a postura usando o Gerenciamento de Postura de Segurança de Nuvem (CSPM), detectar ameaças em tempo de execução com a Proteção de Cargas de Trabalho em Nuvem (CWP) e investigar incidentes no Microsoft Defender XDR. Esses recursos funcionam juntos para identificar lacunas de configuração, detectar comportamentos suspeitos e fornecer visibilidade de ponta a ponta em seus ambientes de IA.
Habilite e configure o plano de Defender para Serviços de IA em Microsoft Defender para Nuvem para detectar ameaças direcionadas a cargas de trabalho Serviços de IA do Azure. Em seguida, configure componentes de planos e monitore a postura de segurança de IA usando o painel de segurança de Dados e IA.
Use Microsoft Agent 365 para controlar agentes de IA em seu ambiente de Microsoft 365. Habilite a interface de gerenciamento do Agent 365, registre agentes e aplique controles de acesso e monitore a atividade e o uso do agente para impor as políticas de governança de IA da sua organização.
Use o Gerenciamento da Postura de Segurança de Dados do Microsoft Purview para IA para descobrir como os dados confidenciais fluem por meio de ferramentas de IA, identificar conteúdo do SharePoint superexposto e examinar os riscos de interação gerados por aplicativos de IA e do Copilot.