Guardrails
Kurz erklärt
Technische oder organisatorische Schutzmechanismen, die den Einsatz eines KI-Systems begrenzen.
Einordnung
Dazu können Berechtigungen, Eingabeprüfungen und Freigabeschritte gehören; kein einzelner Mechanismus verhindert alle Fehler.
Ein Agent darf Entwürfe anlegen, aber keine Inhalte selbstständig veröffentlichen.