Úvod do testování zabezpečení AI
Začátečník
Vývojář
Azure
Seznamte se s red teamingem AI, třemi kategoriemi testování zabezpečení AI a jak plánovat a provádět red teaming cvičení pro LLMy a aplikace s funkcemi umělé inteligence.
Cíle výuky
Po dokončení tohoto modulu můžete:
- Popište, co je červené seskupování umělé inteligence a jak se liší od tradičního testování zabezpečení.
- Identifikujte tři kategorie červeného seskupování umělé inteligence a dovednosti, které vyžadují.
- Plánování červeného seskupování umělé inteligence, včetně týmové složení a metodologie testování
- Popsat, jak automatizované červené nástroje seskupování doplňují ruční testování
Požadavky
Pokud chcete získat co nejlepší studijní prostředí z tohoto modulu, měli byste mít znalosti a zkušenosti:
- Základní koncepty zabezpečení (například ověřování, řízení přístupu, šifrování)
- Základní koncepty AI (například modely, trénování, odvozování)
- Typy útoků AI probíraných v modulu Základy zabezpečení AI
- Kontrolní mechanismy zabezpečení popsané v modulu kontrolních mechanismů zabezpečení AI
Začínáme s Azure
Zvolte si účet Azure, který vám vyhovuje. Zvolte průběžné platby nebo vyzkoušejte Azure zdarma až na 30 dnů. Zaregistrujte se.