Liebe Steemianer
Benachteiligte ein Künstliche Intelligenz-System (AI), das eingesetzt worden war, um Bewerber vorzuselektieren, systematisch Frauen? Genau das scheint bei einem von Amazon zu diesem Zweck entwickelten Algorithmus passiert zu sein, zumindest laut der Quelle (1). Als Grund wurde angegeben, die AI war trainiert worden mit vergangenen erfolgreichen Bewerbungen. Da aber in der Vergangenheit wesentlich mehr Männer als Frauen eingestellt worden waren, übernahm die AI diese Bewertung und stufte Frauen generell schwächer ein. Das Geschlecht des Bewerbers wie sein/ihr Name waren dem Algorithmus nicht sichtbar (fairness by unawareness), aber es gab offenbar geschlechtsspezifische Hinweise wie Mitgliedschaften bei Vereinen, soziales Engagement etc.
Werden bei der Kreditvergabe Bewohner bestimmer Stadtteile diskriminiert, nur weil eine AI lernte, dass Kreditnehmer mit Adressen aus bestimmten Stadtteilen in der Vergangenheit ihre Kredite weniger oft zurückzahlen konnten?
Benachteiligen Algorithmen, die die Rückfallgefahr von Straftätern prognostizieren, Schwarze, wie das der Verein propublica.org behauptete und "mit Einzelfällen untermauerte" (2)? Solche Tools werden in den USA häufig eingesetzt, um z.B. die Höhe einer Kaution festzulegen oder über vorzeitige Haftentlassungen zu entscheiden. Als Parameter fließen ein, "ob sich die Eltern des Beschuldigten getrennt haben, ob Freunde oder Verwandte im Gefängnis waren, wie oft sie umgezogen sind oder wie oft sie mit ihrem Geld gerade so über die Runden kommen" (3). Eine Frage nach der Hautfarbe selbst gehört nicht dazu.
3 völlig unterschiedliche Beispiele, in allen 3 Fällen scheinen AI-Systeme systematisch zu diskriminieren. Was sagt uns das über die Künstliche Intelligenz? Nicht viel, denn ein Algorithmus ist nur so gut wie die Daten, die ihm zugrunde liegen und die Parameter, an denen die Erfolge bei der Mustererkennung oder bei einer Vorhersage beurteilt werden. Diese Parameter legen freilich Menschen fest, die Vorurteile haben oder nicht haben. Die interessantere Frage ist aber: Was sagt uns das über Diskriminierung bzw. vermeintliche Diskriminierung?
Diskriminierung ist ja die systematische Benachteiligung von Personen oder Gruppen aufgrund bestimmter Wertvorstellungen oder auch unbewusster Einstellungen oder Vorurteile (4). Das Wort kommt vom lat. discriminare, was einfach unterscheiden heißt, ohne (Ab)Wertung. Also einen Unterschied feststellen. Im Lauf der Geschichte kam es allmählich zu einem Bedeutungswandel vom unterscheiden zum abwertenden diskriminieren, da leider oft die festgestellten Gruppen unterschiedlich bewertet wurden. Prägnantestes Beispiel ist sicher der Rassismus, der millionenfaches Leid über die Welt gebracht hat.
Nun läßt sich aber einfach nicht leugnen, dass Männer und Frauen anders sind. Im Sport gibt es unterschiedliche Bewerbe für Männer und Frauen (apropos, ich frage mich, wann die erste Olympiade stattfindet mit einer dritten Kategorie für alle anderen Geschlechter außer m/w).
In der Bekämpfung jeglicher Diskriminierung geht man aber mittlerweile so weit, dass beinahe bei jeder Unterscheidung, oder bei der bloßen Feststellung eines Unterschiedes (z.B. "es wurden mehr Männer als Frauen eingestellt", siehe oben) sofort Diskriminierung! gerufen wird. Die eigentliche Frage ist, was ist noch ein legitimerweise festgestellter Unterschied und wo beginnt die Diskriminierung? Wenn es um Bergwerksarbeiter geht, wäre die Feststellung "es wurden mehr Männer als Frauen eingestellt" wohl keine Diskriminierung, aber bei Installateuren, Speditionsmitarbeitern, Briefträgern, Fahrradkurieren? Wo ist die Grenze? Und wer darf sie festlegen? Darf ein Geschäftsführer für seinen Betrieb festlegen, dass er keine Ausfälle durch Schwangerschaften haben will? Ist es legitim, dass Interessensgruppen und Minoritäten der Mehrheit diktieren, was eine Diskriminierung ist, wie es derzeit passiert?
Außerdem missverstehen viele bei AI-unterstützen Algorithmen, dass ein Prognose (egal ob für einen Erfolg im Job, einen Rückfall oder einen Kreditausfall) einfach eine Wahrscheinlichkeitsvorhersage ist, bei der man mit Fehlern - notwendigerweise - rechnen muss. Weil aber Einzelpersonen involviert sind, gilt jeder Fehler als für diese ungerecht, obwohl das System eventuell insgesamt treffsicherer wäre als ohne AI. Der Individualismus, der in den entwickelten Ländern so in den Himmel gehoben wird (weil nur er die Grundlage für den altenativlosen Konsumkapitalismus ist, der die Profite der Konzerne maximiert) siegt hier vermutlich gegen die Vernunft (vermutlich, weil ich die Einzelheiten der Algorithmen in den 3 Beispielen nicht kenne).
Hierzulande gilt ja die Devise "Alle sind gleich". Für Deutsche, aber auch social justice warriors in aller Welt ist nichts schlimmer als Ungleichheit. Zum Beispiel in der Schule haben alle Kinder das gleiche Recht auf gute Schulnoten, man müsse nur genug fördern, um die intellektuell Benachteiligten auf das gleiche Level zu bringen wie die anderen. Auch die Besteuerung bestraft diejenigen mit hohem Einkommen überproportional, um Geringverdiener und Taugenichtse zu fördern. In beiden Fällen wird von oben nach unten verteilt (hochbegabte Kinder müssen sich langweilen bzw. werden nicht adäquat gefördert) und dadurch die vermeintlich Bevorzugten (talentierter, bessere Jobs (die einem ja meist nicht in den Schoß fallen)) selbst benachteiligt! D.h. man ersetzt eine Benachteiligung nur durch eine andere, ohne freilich das Kind beim Namen zu nennen, denn Wählerstimmen bekommt man nur durch Anbiederung an die Masse. OK, es gibt vereinzelt Hochbegabtenförderung, aber ich denke nicht genug. Spätestens zum Studium oder nach der Uni wandern viele High-Potentials ins Ausland ab. Und nicht nur die - in Deutschland hat allein das leistungsfeindliche Besteuerungssystem bereits solche Ausmasse angenommen, dass viele Gutverdienende schon ins Ausland abwanderten (5). Eine bedenkliche Entwicklung.
Die für viele schreckliche Wirklichkeit ist, dass die Menschen eben nicht gleich sind. Sie haben verschiedene Vorlieben und Talente, Begabungen, aber auch Macken und Schwächen. Je nachdem, welche Einstellung man hat, wird man in obigen Beispielen natürlich entweder ebenfalls sofort Diskriminierung! rufen, oder erst überlegen, was die Ursachen dieser von den AIs gefundenen Unterschiede sein könnten.
In diesem Zusammenhang erwähnenswert ist auch das Simpson-Paradox, das man kennen sollte und das manchmal eine vermeintliche Diskriminierung erklären kann. Am vielleicht berühmtesten ist die Diskriminierungsklage gegen die Universität Berkeley, die verklagt wurde, weil 1973 männliche Bewerber eine 44%-Chance hatten, aufgenommen wurden, aber Frauen nur eine 35%ige.
Als man genauer hinsah, stellte sich aber heraus, dass Frauen sich tendenziell bei den stark überlaufenen Studienfächern beworben hatten (geistes- und sozialwissenschaftliche), wo es für beide Geschlechter niedrigere Zulassungsraten gab, während Männer ihre Bewerbungen tendenziell dorthin sandten, wo es generell höhere Zulassungsraten gab (weil diese weniger nachgefragt waren, z.B. Chemie oder Ingenieurswissenschaften). Also keine Diskriminierung, obwohl es auf den ersten Blick so aussah! Das Geschlecht beeinflusste die Fächerwahl (6).
Forscher am Max-Planck-Institut für Intelligente Systeme in Tübingen (dessen Direktor, Bernhard Schölkopf hat unlängst den mit 1Mio€ dotierten Körber-Preis erhalten (7)) wollen nun auch AIs "Fairness" beibringen (8).
Doch was ist Fairness? Ist diese überhaupt programmierbar und wenn ja, ist sie nicht nicht nur max. so gut wie die Wertvorstellung desjenigen, der sie in den Algorithmus programmiert?
Abgesehen davon, wie weit soll Fairness gehen? Derzeit sind Geschlecht, sexuelle Präferenz, Behinderungen und Rasse (v.a. in den USA) im Vordergrund, aber ist es nicht genauso diskriminierend, wenn Unternehmen Menschen über 50 rausschmeissen, weil diese zu teuer sind oder zu unflexibel? Nur weil die "Alten" keine lautstarke Lobby haben, ist es nicht weniger diskriminierend, sie komplett zu ignorieren? Wenn man es weit genug treibt, gehört bald jeder von uns zu irgendeiner Minderheit, gegen deren Diskriminierung angekämpft werden muss.
Ist aber eine Gesellschaft bzw. Kultur, deren oberstes Ziel nicht Wettbewerbsfähigkeit (und damit einhergehender Wohlstand), sondern sozialer Ausgleich ist, nicht langfristig zum Scheitern verurteilt? Würde es angesichts des Mangels an MINT-Fachkräften (9) nicht Not tun, hier kräftig gegenzusteuern anstatt flächendeckend minoritätenfördernde Genderbeauftragte zu installieren (in D. gibt es bereits über 200 Gender-Professuren (10))?
Fazit:
Mehr Fragen als Antworten. Ich hoffe, diese Fragen regen zu selbstständigem Denken an anstatt dem blinden Folgen von Meinungen von lautstarken Interessensgruppen, auch wenn sie auf den ersten Blick noch so vernünftig und gerecht erscheinen!
Quellen:
(1) https://www.heise.de/newsticker/meldung/Amazon-KI-zur-Bewerbungspruefung-benachteiligte-Frauen-4189356.html
(2) https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing
(3) https://www.heise.de/newsticker/meldung/US-Justiz-Algorithmen-benachteiligen-systematisch-Schwarze-3216770.html
(4) https://de.wikipedia.org/wiki/Diskriminierung
(5) https://www.nzz.ch/meinung/deutschlands-doppeltes-migrationsproblem-zu-und-abwanderung-ld.1464988
(6) https://deacademic.com/dic.nsf/dewiki/1291483
(7) https://www.koerber-stiftung.de/koerber-preis-fuer-die-europaeische-wissenschaft/bisherige-preistraeger/2019
(8) https://cyber-valley.de/de/news/isabel-valera-leitet-die-neue-unabhangige-forschungsgruppe-probabilistic-learning-am-mpi-is
(9) https://www.handelsblatt.com/politik/deutschland/iw-studie-mangel-bei-mint-fachkraeften-steigt-auf-rekordhoch/23137014.html?ticket=ST-51115897-7xZVNG0c6oPxSoue6I3b-ap4
(10) https://www.tichyseinblick.de/feuilleton/buecher/die-gender-forschung-greift-um-sich/
Diskriminierung oder nicht?
