Was KI-Bias bedeutet
KI-Voreingenommenheit tritt auf, wenn ein System Ergebnisse hervorbringt, die bestimmte Gruppen, Kategorien, Verhaltensweisen oder Standpunkte systematisch begünstigen oder benachteiligen. Verzerrungen können in Vorhersagen, Rankings, generierten Inhalten, Empfehlungen, Moderation, Einstellungsbildschirmen, Kreditentscheidungen und vielen anderen Ergebnissen auftreten.
Warum das wichtig ist
Voreingenommenheit ist wichtig, weil sie Nutzern schaden, rechtliche Risiken schaffen, das Vertrauen schädigen und zu schlechten Geschäftsentscheidungen führen kann. Selbst wenn die Ergebnisse rechtlich nicht vertraulich sind, kann Voreingenommenheit dazu führen, dass ein Produkt für einen Teil seiner Zielgruppe irrelevant oder unfair erscheint.
Häufige Anwendungen
- Überwachen von Datensätzen auf fehlende oder überrepräsentierte Gruppen.
- Testen der Leistung über Sprachen, Regionen und Nutzersegmente hinweg.
- Überprüfung von von Menschen erstellten Labels.
- Überwachungsempfehlungen und Rankings auf Verzerrung.
- Dokumentieren von Modellverhalten und Eskalationspfaden.
Worauf zu achten ist
Bias ist nicht nur ein Modellproblem. Dies kann über historische Daten, fehlende Daten, Kennzeichnungspraktiken, Proxy-Variablen, Produktdesign, Bewertungsmetriken oder die Verwendung des Modells nach der Bereitstellung erfolgen.
KI-Bias lässt sich am besten im Kontext verstehen: welche Daten verwendet werden, welche Aufgabe unterstützt wird und wie die Ausgabe geprüft wird.