Veröffentlicht am:
19.10.2022

Verringern Techniken zur Überwachung und Reduzierung von Verzerrungen die Genauigkeit?

In unserem Workshop bei WeTechTogether zeigten Tanya Golubev und Anastasia Stamatouli, dass dies nicht immer der Fall sein muss.

Leider konzentriert sich der Markt immer noch zu viel auf diesen Genauigkeitsaspekt und er wird zu Unrecht als Indikator für ein robustes KI-System verwendet.

Der Workshop zeigte, dass die Genauigkeit gleich bleibt, wenn man nichts mit den Daten macht (z. B. sie voller geschlechts- und rassenspezifischer Bias belässt) oder 3 verschiedene Ansätze implementiert, um sie zu reduzieren.

Natürlich handelt es sich hier um ein einfaches Beispiel, ein KI-Modell auf der Grundlage öffentlich zugänglicher Daten, aber es zeigt, wie irreführend dieser Aspekt der Genauigkeit ist. Es ist klar, dass die Qualität der Daten, auf die die Korrekturmaßnahmen angewendet werden, viel höher ist und dies zu einer geringeren Diskriminierung führt.

Aber ist die Milderung von Bias technisch ausreichend, um Fairness zu gewährleisten? Selbstverständlich nicht.

Der jüngste KI-Steuerskandal in den Niederlanden zeigt, dass ein Unternehmen oder eine Institution sich nicht nur über die Fähigkeiten und Grenzen der verwendeten technischen Lösung im Klaren sein muss, sondern auch über die Fähigkeiten und Grenzen der Personen, die sie einsetzen. Klare Verfahren und eine angemessene Schulung sind von entscheidender Bedeutung, denn eine Person in der Schleife ist nicht per se eine Schutzmaßnahme, wenn diese Person die Ergebnisse des KI-Systems nicht überprüft oder in Frage stellt.

Es ist notwendig, einen Schritt weiter zu gehen.

Daher müssen Unternehmen und Institutionen viele Diskussionen über verschiedene ethische Aspekte führen. Eine vertrauenswürdige KI zu realisieren bedeutet unter anderem, den Entscheidungsprozess transparent zu machen, Rechenschaftspflicht zu etablieren und die Möglichkeit zu schaffen, Entscheidungen, die von KI-Systemen und den Personen, die sie bedienen, getroffen werden, anzufechten und effektiv zu hinterfragen.

Unternehmen und Institutionen, die nicht bereit sind, beide Dimensionen der Fairness (die technologische und die verfahrenstechnische) zu berücksichtigen, laufen Gefahr, erheblichen Schaden anzurichten, der auch jegliches Vertrauen in diese erstaunlichen Technologien zerstören würde.

Vorbeugen ist besser als heilen. Das ist nichts Neues.