Ich meine, die Antwort ist einfach. Aber fragen wir zunächst ChatGPT. Das System verneint: Nein – generative, vortrainierte Transformator-KI-Systeme wie GPT-3 seien nicht von Natur aus sexistisch.

Auf der Wissensebene haben ChatGPT bzw. die Entwickler*innen und Datawissenschaftler*innen, die das System trainiert haben, ihre „Hausaufgaben gemacht“. Fragt man ChatGPT, was Sexismus bedeutet, antwortet das System:Junge Frau in legerer Kleidung konzentriert vor einem Laptop sitzend und arbeiten. Dahinter dekorativ Zahnräder mit verschiedenen Symbolen, die ineinander greifen.

„Der Begriff Sexismus bezieht sich auf eine Einstellung oder ein Verhalten, das ein Geschlecht diskriminiert und benachteiligt. Es umfasst Vorurteile, Stereotypen und Diskriminierung aufgrund des Geschlechts, insbesondere gegen Frauen.“

Einwandfrei. Überhaupt bekommt das System beim Sexismus-Quiz des Europäischen Rats das Prädikat „Großmeister“ (nicht Großmeisterin?) mit 10 von 10 Punkten. So weit, so gut. (https://human-rights-channel.coe.int/stop-sexism-quiz-de.html)

ChatGPT „findet“, es gendere in seinen Antworten. Test: In einer Frage nach der Beschreibung einer Person, die ein Flugzeug fliegt, gendert ChatGPT nicht. Als ich das System darauf hinweise, antwortet es: „Das tut mir leid, das war ein Fehler.“ Auch eine geschlechtergerechte Liste der besten Wissenschaftler der letzten 200 Jahre beinhaltet nur eine Frau (Marie Curie).

Das Experiment macht deutlich, was aufgrund der Klassifikationen von Daten, mit denen eine Künstliche Intelligenz trainiert wird, zwangsläufig eintritt:

  • Sie reproduziert die gesellschaftlichen Diskriminierungsstrukturen (nicht im Bezug auf das Geschlecht).
  • Sie trägt Vorurteile und Stereotype weiter, multipliziert sie ins Undenkbare.
  • Sie schreibt die Muster der Vergangenheit durch vermeintlich „überlegene Technologie“ in die Zukunft fort.

Zudem sind Frauen in Daten oft „unsichtbar“. Es besteht eine immense geschlechtsspezifische Datenlücke, der sog. „Gender Data Gap“. KI-Systeme können auf fehlende Daten nicht trainiert werden.

Daher meine einfache Antwort auf die Eingangsfrage: „ChatGPT, Deine Antworten sind sexistisch. Wie die Gesellschaft.“

Eine technologische Lösung dieses sehr grundsätzlichen Problems aller KIs ist aktuell nicht in Sicht. Es braucht Regulierung, Know-how und Verantwortung in Unternehmen sowie Verständnis zu den Leistungsgrenzen, „unerwünschten Risiken und Nebenwirkungen“ bei Nutzer*innen und Bürger*innen.

Wir Frauen sind in unseren unterschiedlichen Rollen gefordert!

Was Du beispielsweise tun kannst:

  • Mache Dir selbst ein Bild. Teste beispielsweise öffentlich zugängliche KI-Systeme auf das Vorkommen von Frauen bei nicht geschlechtsspezifischen Fragen. Teste auch die Spiele und Programme, die die Kids nutzen.
  • Engagiere Dich im Job dafür, dass algorithmen-basierte Systeme auf „Herz und Nieren“ auf Vorurteile, Stereotype oder Verzerrungen geprüft werden. Nicht nur in der Programmierung, sondern auch im Personalbereich, im Marketing etc.
  • Setze Dich als Entscheidungsträgerin für Diversität bei Digitalisierung und Entwicklung ein und sorge mit einer CDR-Strategie für ethische Entscheidungen im digitalen Business.

Technologien sollten die Welt besser, gerechter und nachhaltiger machen. Es ist unsere gemeinsame Verantwortung, dass das auch passiert.

Ein Workshop „Diskriminierung durch KI“ sensibilisiert und kann dabei unterstützen, Unternehmenswerte auch in Digitalprojekten umzusetzen. Materialien für einen Workshop finden sich bei Klick auf den Link. Wenn Sie einen solchen oder ähnlichen Workshop durchführen möchten, unterstütze ich gerne bei der Konzeption und Moderation. Sprechen Sie mich gerne an.

Dieser Artikel ist erstmals als Gastbeitrag für das Futurewoman-Netzwerk am 9. Februar 2023 auf LinkedIn erschienen und wurde für die Veröffentlichung auf wiseway.de geringfügig angepasst.

 

Saskia Dörr

Als Ihre Digital Sherpa bei WiseWay und Pionierin nachhaltiger KI bringe ich über 20 Jahre Erfahrung aus der Informations- und Kommunikationsbranche mit. Als Expertin für Digital Responsibility, Nachhaltigkeitsmanagerin und Gründerin von WiseWay begleite ich Sie verantwortungsvoll durch die digitale Transformation. Gemeinsam setzen wir Maßstäbe in ethischer Digitalisierung. Lassen Sie uns ins Gespräch kommen!

    Bleiben Sie mit dem Newsletter up-to-date! Jetzt abonnieren.