Definition - Bias in ML Anwendungen

• Typen:
  • Technischer Bias
• Generalisierungen:
  • Datenqualität
• Involvierte Definitionen:
  • Werte (Kultur)
  • Normen (Kultur)
  • Data Quality
• Veranstaltung: DEDS
• Referenz: @schelter2020

⠀

Definition: Bias in ML Anwendungen

Als Bias (dt. Vorurteil oder Verzerrung) bezeichnen wir (im Kontext von ML Anwendungen) Fehler oder Verzerrungen innerhalb der Daten oder des Modells, die zu ungenauen oder ungerechten Ergebnissen führen können.

Nach @schelter2020 unterscheiden wir zwischen:

• grundlegendem Bias
  Resultiert aus den Werten und Normen der Gesellschaft; zeigt sich oft in den zugrundeliegenden Datensätzen.
• technischem Bias
  Resultiert aus den Operationen des ML Systems, häufig der Datenvorverarbeitung und Augmentierung.
• aufkommendem Bias
  Resultiert aus dem System selbst, indem das System und seine Ergebnisse die Wahrnehmung seiner Nutzer sukzessive beeinflusst.