Die Digitalkünstlerin Caroline Sinders will darauf aufmerksam machen, dass Suchmaschinen oder Gesichterkennungssoftware von Stereotypen und Vorurteilen, etwa gegenüber Frauen, geprägt sind. Sinders arbeitet deshalb an einer “feministischen” Software. Am vergangenen Freitag sprach Sinders bei Z2X Digital in Berlin, einer Veranstaltung von ZEIT ONLINE. Nach welchen Regeln wir über Z2X berichten, lesen Sie in hier.

ZEIT ONLINE: Frau Sinders, Sie erstellen gerade einen “feministischen” Datensatz – und irgendwann soll daraus eine “feministische” künstliche Intelligenz entstehen. Warum brauchen wir diese Dinge?

Caroline Sinders: Die Technologie, mit der wir zu tun haben, ist nicht neutral, sondern ziemlich sexistisch: Die Wissenschaftlerin Aylin Caliskan hat zum Beispiel herausgefunden, dass Google Translate beim Übersetzen Geschlechterstereotype bedient: Im Türkischen gibt es das geschlechtsneutrale Pronomen “o”. Wenn Sie allerdings die türkischen Sätze “o bir doktor” und “o bir hemşire” ins Englische übersetzen lassen, wird daraus: “Er ist ein Arzt” und “Sie ist eine Krankenschwester”.

ZEIT ONLINE: Wie kommt das?

Sinders: Wir leben in einer diskriminierenden Welt. Technologie spiegelt die Einstellungen und Vorurteile derer, die sie entwickeln und benutzen. Da geht es nicht nur um Sexismus, sondern auch um Rassismus. Schauen Sie in ein Technologieunternehmen: Welche Menschen arbeiten dort, wie sehen sie aus, mit welchen Daten arbeiten sie? Wenn zum Beispiel eine Gruppe weißer Männer eine Gesichtserkennungssoftware entwickelt und nicht darauf achtet, dass Bilder von Menschen mit anderer Hautfarbe und anderem Geschlecht in dem Datensatz enthalten sind, kann es sein, dass die Software nur bestimmte Gesichter als menschlich erkennt – und andere Personen für Gorillas hält. Das Programm Google Fotos hat einen schwarzen Programmierer und seine Freunde automatisch als “Gorillas” vertaggt. Wenn wir uns also in einem Raum der Ungleichheit befinden, wird Technologie diese Ungleichheit reproduzieren und verstärken.

ZEIT ONLINE: Ihr “feministischer” Datensatz ist ein Ansatz, etwas gegen diese Diskriminierung zu tun. Was macht Daten zu feministischen Daten?

Sinders: Alle Daten, die wir produzieren, sind etwas zutiefst Menschliches. Zum Beispiel die Daten, die wir auf Social Media hinterlassen: Wir posten zu einer bestimmten Uhrzeit, an einem bestimmten Tag. Wir vergeben Likes. Wir führen Unterhaltungen und versenden GIFs. All diese Daten sind von Menschen gemacht – und enthalten deswegen auch Überzeugungen oder Einstellungen der Menschen, die sie hinterlassen haben. Also können sie auch feministisch sein.

ZEIT ONLINE: Welche Daten verwenden Sie?

Sinders: Der Datensatz besteht aus inzwischen über 100 feministischen Texten, die ich in Workshops gemeinsam mit den Teilnehmenden sammle. Es sind ganz unterschiedliche Texte. Zum Beispiel ein feministischer Science-Fiction-Roman von Octavia Butler, der Text von Beyoncés Lemonade, das Sachbuch Broad Band von Claire Evans über die Frauen, die das Internet mitentwickelt haben, Donna Haraways Essays Ein Manifest für Cyborgs und eine Anthologie queerer Gedichte.

ZEIT ONLINE: Wer nimmt an Ihren Workshops teil?

Sinders: Ganz unterschiedliche Leute. Menschen aus der Wissenschaft, aus der IT-Branche, aber auch Künstlerinnen und Bibliothekare kommen zu den Workshops. Sie finden an ganz verschiedenen Orten statt: in Bibliotheken, in Galerien und Museen, aber auch im Rahmen von Konferenzen.

ZEIT ONLINE: Und dann entscheiden Sie gemeinsam, welche Texte in den Datensatz aufgenommen werden?

Sinders: Ja. Die Teilnehmenden schlagen zum Beispiel Artikel oder Interviews vor, und dann sprechen wir über die Texte und diskutieren, ob wir sie in den Datensatz aufnehmen. Mein grundsätzlicher Anspruch ist, dass es ein intersektionaler Datensatz wird, also zum Beispiel nicht nur Texte weißer Feministinnen einfließen, sondern auch solche von Women of Color und von Transfrauen.