KI und Gewalt gegen Frauen Wer programmiert Macht?

Gewalt gegen Frauen hat sich längst vom analogen in den digitalen Raum ausgebreitet. Während der digitale Raum eine grundlegende Transformation durch den Einsatz und das Wachsen von Künstlicher Intelligenz (KI) durchläuft, bleibt auch Gewalt gegen Frauen nicht unberührt von KI. Welche Risiken birgt eine von KI gestützte digitale Welt für Frauen? Und könnte KI die Lösung für unseren bestehenden Probleme sein?

Jede dritte Frau erlebt Gewalt in ihrem Leben. Das sind 840 Millionen Frauen weltweit, wie eine neu veröffentlichte statistischen Schätzung der Weltgesundheitsorganisation (WHO) zeigt. Die Dunkelziffer dürfte weit höher sein. Im November jeden Jahres widmet sich die Weltgemeinschaft diesem Thema, rund um den Internationalen Tag zur Beseitigung von Gewalt gegen Frauen am 25. November. Während der Wochen vor und nach diesem Datum werden Themen rund um den Gewaltschutz für Frauen diskutiert – häusliche Gewalt, sexuelle Gewalt, Femizide – ernste Sicherheitsthemen, die die Hälfte der Bevölkerung betreffen. Seit einiger Zeit auch auf der Agenda: die Gewalt, die sich vom analogen in den digitalen Raum hin ausbreitet, die jährlich ansteigt – und von rasanten KI-Entwicklungen gestützt ist.

Digitale Gewalt – was ist das?

Digitale Gewalt steht als Überbegriff für „eine Vielzahl von Angriffsformen, die auf Herabsetzung, Rufschädigung, soziale Isolation und die Nötigung oder Erpressung eines bestimmten Verhaltens der Betroffenen abzielen“, wie der Bundesverband Frauenberatungsstellen und Frauennotrufe (bff) definiert. Dies kann sich beispielsweise in Cyberstalking, unerlaubtem Tracking, bildbasierter Gewalt oder Hassrede äußern. Der bff mahnt, dass digitale Gewalt meist nicht im Vakuum geschieht, sondern mit analoger Gewalt als Ergänzung oder Verstärkung dieser einhergeht.

Hinter Anonymität im Netz verborgen fällt es leicht, Hass und Hetze zu verbreiten. Mit nur einem Klick lassen sich wüste Beschimpfungen oder gar generierte pornografische Inhalte über das Netz in Sekundenschnelle versenden. Entweder direkt an Betroffene ins E-Mail-Fach oder als Post in öffentlichen Foren, für alle zu sehen und mitzulesen. Der Einfluss, den weitgehend unregulierte KI-Technologien in diesem Rahmen auf Gewalt gegen Frauen hat, sollte nicht unterschätzt werden.

Wie spielt KI in dieses Feld ein?

Die Basis für Gewalt gegen Frauen, im analogen wie im digitalen Bereich, sind Sexismus und patriarchale Machtvorstellungen. In diesen breitet sich KI nahezu ungebremst aus: Technologien lernen von den Systemen und Strukturen, die wir ihnen vorgeben. Dieses erlernte Bild wird reproduziert, inklusive herrschender Machtstrukturen und Vorurteilen ohne kritische Auseinandersetzung mit diesen. Die KI wird zu einer Repräsentation derer, die sie entwickeln: meist männlich, weiß, privilegiert; für die KI-Technologie ein „normales“ Abbild der Gesellschaft. Im Personalwesen des Unternehmens Amazon lief das so schief, dass der Fall Schlagzeilen machte: eine KI-Software, die Lebensläufe von BewerberInnen analysieren sollte, sortierte kurzerhand Lebensläufe aus in denen das Wort „Frau“ oder „Mädchen“ vorkamen.

Doch zur gefährlichen Wahrheit gehört weitaus mehr: künstliche Intelligenz wird auch gezielt als Tool gegen Frauen eingesetzt. Hauptsächlich geschieht das im Bereich der sogenannten „Deepfakes“: künstlich erstellte Bilder und Videos, die sich frei zugänglicher Bilder von echten Menschen bedienen und täuschend echt aussehen. Oft sind sie eine Gefahr für die Demokratie, wenn beispielsweise mithilfe von KI ein real wirkendes Video einer Politikerin erstellt wird, in dem sie betrunken wirr daherredet. Doch viel häufiger sind die Deepfakes im pornografischen Bereich: 96% berichtete das holländische Unternehmen Sensity AI im Jahr 2019. „Nudifier Apps“ ermöglichen beispielsweise den digitalen Übergriff, indem sie künstliche Nacktfotos erstellen. Man lädt ein frei zugängliches Bild in die App und die KI-Funktion erstellt mit nur einem Klick falsche, aber echt aussehende Nacktbilder realer Personen.

Opfer dieser Technologien sind oft Frauen, die in der Öffentlichkeit stehen – Politikerinnen und Prominente – doch auch Privatpersonen sind betroffen: Mütter, Auszubildende, Schülerinnen. KI-Modelle haben auch keine Schwierigkeiten, komplette pornografische Filme anhand von Bildern von Personen, meist ohne deren Zustimmung, herzustellen. Die deutsche Schauspielerin und Autorin Collien Fernandes erzählt im Interview mit dem Deutschlandfunk von ihren traumatischen Erlebnissen mit digitaler, sexueller Gewalt: „Für mich handelt es sich hier ganz klar um eine digitale Vergewaltigung.“ Von ihr wurden KI-generierte Deepfake Nacktbilder und Pornos über ein falsches LinkedIn-Profil verschickt – teils mit gewaltvollen Inhalten.

Wie geht man gegen solche Gewalt vor?

Regulierungen würden helfen, doch Verantwortungsbewusstsein von Entwickler- und Unternehmerseite scheint in weiter Ferne. Politik und Justiz kommen kaum hinterher, neue Gesetze für den Umgang mit KI zu veranlassen, nicht zuletzt durch die rasante Geschwindigkeit, mit der sich die Technologie weiterentwickelt. Laut deutschem Recht gibt es momentan „keinen spezifischen Paragrafen, der das Herstellen und Verbreiten von nicht einvernehmlicher Deepfake Pornographie verbietet“, so der Deutschlandfunk.

Neue Gesetze wären notwendig, doch „Regulierung allein reicht nicht mal aus“, mahnt Eva Gengler, die als Doktorandin der Wirtschaftsinformatik unter anderem zu KI-Governance und feministischer KI forscht. Wir müssten über Regulierungsgesetze hinaus weiterdenken, anstatt nur das Risiko einzudämmen auch überlegen, wie man KI gezielt für eine gerechtere Gesellschaft einsetzen könne.

Die Lösung für Gewalt gegen Frauen?

Künstliche Intelligenz als solche sei nicht der Bösewicht der Geschichte. Hier setzt Genglers Forschung an und zeigt auf, wie wir den neuen Lebensbegleiter zum Positiven einsetzen können. „Grundsätzlich verstärkt diese Technologie, was da ist, und das ist nicht automatisch schlecht. Als Verstärker der Gesellschaft kann sie auch vom Guten lernen und Gutes verstärken – wenn wir das wollen.“ Über faires und besseres Prompting, klare Zielsetzungen in der KI-Governance, und eine Gerechtigkeitsperspektive in der Entwicklung könne man so beispielsweise eine Technologie trainieren, die uns anzeigt, welchen Bias wir in unserer Gesellschaft haben. „Der Zweck, warum wir KI einsetzen, ist entscheidend. Was KI tut, ist Muster erkennen und diese reproduzieren. Natürlich könnten wir auch sagen: Zeig uns auf, wo das Problem liegt und mach es anders!“

Und ganz konkret?

Über Bias-Hinterfragung und Fairness hinaus kann KI sogar eine direkte Hilfe im Kampf gegen Gewalt an Frauen sein. Im Fall von Hassrede helfen die schnellen Analysefähigkeiten der KI, speziell wenn es um große Datenmengen geht. Hier sieht das Lamarr-Institut für Maschinelles Lernen und Künstliche Intelligenz eine Chance: „KI-Systeme, die auf Natural Language Processing (kurz: NLP) basieren, können automatisch beleidigende oder menschenverachtende Inhalte erkennen und entsprechende Maßnahmen einleiten“, so das Institut. Das deutsche Start-Up „So Done“ geht bereits einen Schritt weiter: Das Unternehmen nutzt eine KI-Software, um jene Hassrede zu identifizieren, die tatsächlich justiziabel ist. NutzerInnen können direkt über die Plattform gerichtlich gegen die Hassrede vorgehen. Die mögliche Geldentschädigung wird zur Hälfte mit dem Start-Up geteilt. „Es gibt so viele Anwendungsmöglichkeiten, um KI zum Guten einzusetzen,“ schließt Eva Gengler unser Gespräch. Es liege an uns als Gesellschaft und Weltgemeinschaft, zu überlegen, welchen Nutzen wir am besten aus dieser fortschrittlichen Technologie ziehen wollen.