Guardrails

Guardrails sind Regeln und technische Schranken, die festlegen, was ein KI-System tun darf und was nicht. Sie sollen verhindern, dass ein Modell schädliche, falsche oder unerwünschte Ausgaben liefert, etwa indem riskante Anfragen blockiert oder Antworten gefiltert werden. So lässt sich der Einsatz eines Modells sicherer gestalten.