Black Box

Als Black Box bezeichnet man ein System, bei dem man zwar Eingabe und Ausgabe sieht, aber nicht nachvollziehen kann, wie es im Inneren zu seinem Ergebnis kommt. Viele große KI-Modelle gelten als Black Box, weil ihre Entscheidungen aus Millionen oder Milliarden Stellwerten entstehen, die sich nicht einfach in verständliche Regeln übersetzen lassen. Das erschwert es, Fehler zu erklären oder Vertrauen aufzubauen.