Introduzione ai test della sicurezza dell'intelligenza artificiale
Principiante
Sviluppatore
Azure
Informazioni sul red teaming dell'intelligenza artificiale, sulle tre categorie di test di sicurezza dell'intelligenza artificiale e su come pianificare ed eseguire esercizi di red teaming per i modelli linguistici di tipo LLM e le applicazioni abilitate all'intelligenza artificiale.
Obiettivi di apprendimento
Dopo aver completato questo modulo, è possibile:
- Descrivere il red teaming per intelligenza artificiale e le differenze rispetto ai test di sicurezza tradizionali
- Identificare le tre categorie di red teaming per intelligenza artificiale e le competenze richieste
- Pianificare un esercizio di red teaming per l'intelligenza artificiale, inclusi composizione del team e metodologia di test.
- Spiegare come gli strumenti automatizzati di red teaming supportano i test manuali
Prerequisiti
Per un'esperienza di apprendimento ottimale con questo modulo, è necessario avere una conoscenza e un'esperienza specifiche di:
- Concetti fondamentali sulla sicurezza (ad esempio, autenticazione, controllo di accesso, crittografia)
- Concetti fondamentali dell'intelligenza artificiale (ad esempio, modelli, training, inferenza)
- I tipi di attacchi di intelligenza artificiale trattati nel modulo Nozioni fondamentali sulla sicurezza dell'intelligenza artificiale
- I controlli di sicurezza trattati nel modulo Controlli di sicurezza di intelligenza artificiale
Informazioni di base su Azure
Scegliere l'account Azure più adatto per l'utente. Pagamento a consumo o prova gratuita di Azure per un massimo di 30 giorni. Iscriversi.