Red Teaming
Kurz erklärt
Die gezielte Suche nach Schwachstellen durch herausfordernde oder adversariale Tests.
Einordnung
Beim Einsatz von KI werden etwa unerwünschte Ausgaben, manipulierbare Anweisungen und problematische Werkzeugaufrufe untersucht.
Ein Testteam prüft, ob fremde Dokumente den Assistenten von seinen Regeln abbringen können.