Top-p (Nucleus Sampling)

Top-p, auch Nucleus Sampling genannt, ist eine Einstellung, die bei der Wortwahl eines Sprachmodells nur die wahrscheinlichsten Optionen zulässt, bis ihre Wahrscheinlichkeit zusammen einen Schwellenwert erreicht. Unwahrscheinliche Wörter werden so ausgeschlossen. Wie die Temperatur beeinflusst Top-p, wie kreativ oder kontrolliert die Antworten ausfallen.