Einführung in das KI-Sicherheitstesten

  • Modul
  • 6 Einheiten
Anfänger
Entwickler
Azure

Erfahren Sie mehr über das rote KI-Teaming, die drei Kategorien von KI-Sicherheitstests und wie Sie rote Teamingübungen für LLMs und KI-fähige Anwendungen planen und ausführen.

Lernziele

Nach Abschluss dieses Moduls können Sie:

  • Beschreiben Sie, was AI-Red-Teaming bedeutet und wie es sich von traditionellen Sicherheitstests unterscheidet.
  • Identifizieren Sie die drei Kategorien des KI-Red-Teamings und die Fähigkeiten, die jeweils erforderlich sind.
  • Planen einer AI Red Teaming-Übung, einschließlich Teamzusammensetzung und Testmethodik
  • Beschreiben, wie automatisierte Rote Teaming-Tools manuelle Tests ergänzen

Voraussetzungen

Den besten Lernerfolg in diesem Modul erzielen Sie, wenn Sie über Kenntnisse und Erfahrung in den folgenden Bereichen verfügen:

  • Grundlegende Sicherheitskonzepte (z. B. Authentifizierung, Zugriffssteuerung, Verschlüsselung)
  • Grundlegende KI-Konzepte (z. B. Modelle, Schulungen, Rückschlüsse)
  • Die Arten von KI-Angriffen, die im Grundlagen des KI-Sicherheitsmoduls behandelt werden
  • Die sicherheitsrelevanten Kontrollen, die im Modul "KI-Sicherheitskontrollen " behandelt werden

Erste Schritte mit Azure

Wählen Sie das für Sie geeignete Azure-Konto aus. Nutzen Sie die Vorausbezahlung, oder testen Sie Azure kostenlos für bis zu 30 Tage. Registrieren Sie sich.

Start