Wprowadzenie do testowania zabezpieczeń sztucznej inteligencji
Początkujący
Deweloper
Azure
Dowiedz się więcej na temat red teamingu sztucznej inteligencji, trzech kategorii testów bezpieczeństwa sztucznej inteligencji oraz planowania i wykonywania ćwiczeń red teaming dla LLM i aplikacji wspieranych przez sztuczną inteligencję.
Cele szkolenia
Po ukończeniu tego modułu możesz wykonywać następujące czynności:
- Opisz, czym jest red teaming w kontekście sztucznej inteligencji i jak różni się od tradycyjnych testów zabezpieczeń.
- Zidentyfikuj trzy kategorie red teamingu AI oraz umiejętności, których każda z nich wymaga
- Planowanie czerwonego ćwiczenia tworzenia zespołu sztucznej inteligencji, w tym metodologii tworzenia zespołu i testowania
- Opis sposobu, w jaki zautomatyzowane czerwone narzędzia do tworzenia zespołu uzupełniają testowanie ręczne
Wymagania wstępne
Aby uzyskać najlepsze doświadczenie w nauce z tego modułu, musisz mieć wiedzę i doświadczenie w następujących tematach:
- Podstawowe pojęcia dotyczące zabezpieczeń (na przykład uwierzytelnianie, kontrola dostępu, szyfrowanie)
- Podstawowe pojęcia dotyczące sztucznej inteligencji (na przykład modele, szkolenie, wnioskowanie)
- Typy ataków sztucznej inteligencji omówione w module Podstawy zabezpieczeń sztucznej inteligencji
- Mechanizmy kontroli zabezpieczeń omówione w module kontroli zabezpieczeń sztucznej inteligencji
Rozpoczynanie pracy z platformą Azure
Wybierz konto Azure, które najbardziej Ci odpowiada. Płać na bieżąco lub wypróbuj platformę Azure bezpłatnie przez 30 dni. Zarejestruj się.