Generation A
„Künstliche Intelligenz betrifft nicht alle in gleichem Maße“

Ein partizipativer Designworkshop am Goethe-Institut in Nikosia erforscht die Zukunft der Künstlichen Intelligenz in Zypern und untersucht neue Formate für das Bildungsprogramm des Goethe-Instituts.

Es ist ein milder Tag Ende Februar, als die Teilnehmer*innen einander vor der malerischen Villa des Goethe-Instituts Nikosia paarweise gegenübersitzen. Ausgerüstet mit Stift und Papier werden sie gebeten, sich gegenseitig in diesem überraschend analogen Setup eines Workshops über künstliche Intelligenz zu porträtieren. Ohne weitere Anweisungen skizzieren sie die ersten Porträts. Der Vorgang wird wiederholt, allerdings mit immer neuen Einschränkungen: ein Porträt, ohne auf das Papier zu schauen, ein anderes nur mit der nicht bevorzugten Hand und eines durch das Zeichnen einer einzigen durchgehenden Linie. Das Ergebnis ist eine Reihe von teils abstrakten, teils figürlichen Bildern, die jeweils die gleiche Person auf unterschiedliche Weise darstellen. Die Porträts sind eine kreative Einführung, aber auch eine erste Reflexion über die Themen des Workshops. Sehen Sie sich selbst in diesem Porträt? Welche Aspekte von Ihnen sind auf dem Bild zu sehen? Welche Aspekte fehlen? Wie haben sich die Einschränkungen auf die Bilder ausgewirkt? Und was ist Ihnen bei der Darstellung einer anderen Person aufgefallen?

In der Gegenüberstellung werden die offensichtlichen Verzerrungen der Porträts auf lustige und faszinierende Weise deutlich. Und sie deuten auf ein Problem hin, das allen Darstellungen gemein ist. Unabhängig davon, ob sie von Hand oder durch maschinelle Lernalgorithmen gezeichnet wurden, können Darstellungen nicht neutral sein. Sie übertreiben oder untergraben, verzerren und akzentuieren. Deshalb tauchen die durch die Zeichenübung aufgeworfenen Fragen in den nächsten zwei Tagen des Workshops immer wieder auf: Darstellungen spielen bei der Diskussion über die Potenziale und Risiken der Künstlichen Intelligenz eine Rolle – und bei der Frage, ob Daten jemals gerecht sein können.

Diese Übung zeigt, wie partizipative Designworkshops wie der am Goethe-Institut Nikosia sich auf überraschende Weise mit Fragen der Künstlichen Intelligenz auseinandersetzen. Der von der Berliner Kuratorin für digitale Kunst Jasmin Grimm und der Berliner Designerin Nushin Yazdani konzipierte Workshop ist sowohl ein Experimentierfeld für neue Bildungsformate als auch Teil der partizipatorischen Strategie des Goethe-Instituts für zukünftige Formate. Er ist der erste in einer Reihe von Workshops, die an Goethe-Instituten in ganz Europa stattfinden und die zum Ziel haben, neue Veranstaltungen, Ausstellungen und andere Formate mitzugestalten und zu evaluieren.

Nach der Zeichenübung befragen sich die Teilnehmer gegenseitig über ihr Interesse an KI und darüber, wie sie das Leben in Zypern verändern könnte. „Bei all der Korruption, die ich sehe, wünsche ich mir eine unvoreingenommene KI, die bessere politische Entscheidungen trifft als unsere Politiker. Ich glaube wirklich, dass eine neutrale KI etwas verbessern könnte“, sagt ein Student und löst damit eine Diskussion über Korruption aus, aber auch über die Frage, ob ein KI-System jemals wirklich neutral sein kann oder ob es tatsächlich voreingenommen sein muss, um faire Entscheidungen zu treffen.

Welche Auswirkungen hat maschinelles Lernen auf die Gesellschaft? Wie können Städte intelligenter werden? Wie werden persönliche Daten genutzt? Wie können Algorithmen für demokratische und allgemeine Zwecke verwendet werden? Die im Workshop aufgeworfenen Fragen stammen aus dem Alltag der Teilnehmer, gehen aber oft ins Philosophische. Niemand erwähnt explizit die Grüne Linie zwischen dem nördlichen und südlichen Teil der Insel, doch die politischen Spannungen zwischen beiden Seiten sind in den Diskussionen spürbar. Ein Student aus dem nördlichen Teil ärgert sich darüber, dass er für ein Projekt mehrere Monate auf elektronische Teile warten muss, da viele Importe zunächst das türkische Festland passieren müssen. Andere äußern ihre Besorgnis über die Videoüberwachung im Nordteil der Insel, die von dubiosen Unternehmen durchgeführt wird. Ein Student aus dem südlichen Teil der Insel ist verärgert über den schlechten und unregelmäßigen öffentlichen Verkehr in Nikosia, der wahrscheinlich teilweise auf die Teilung der Stadt zurückzuführen ist. Und mit etwas Fatalismus werden Szenarien diskutiert, denen zufolge Zypern in 20 Jahren aufgrund des Klimawandels und steigender Meeresspiegel unter Wasser stehen wird.

Es ist bemerkenswert, dass es dem Goethe-Institut in Nikosia gelungen ist, eine so heterogene Gruppe mit Teilnehmern aus der griechischen und türkisch-zyprischen Gemeinschaft zu versammeln. Das Institut ist in der einzigartigen Lage, einen solchen Austausch zu initiieren, da es sich in der so genannten Grünen Linie befindet, einer entmilitarisierten Zone unter der Kontrolle der Friedensmission der Vereinten Nationen. Die Grüne Linie trennt Zypern und die Stadt Nikosia in einen nördlichen und einen südlichen Teil. Das Institut liegt zwischen den Checkpoints beider Seiten und ist einer der wenigen Orte, die von der griechischen und der türkisch-zyprischen Gemeinschaft ohne Passieren der Checkpoints besucht werden können.

Die Diskussionen werden durch den Input von lokalen KI-Experten katalysiert. Jahna Otterbacher ist Assistenzprofessorin an der Open University of Cyprus und forscht zu KI und Diskriminierung. In ihrem Vortrag wird deutlich, dass die Verzerrungen von KI-Systemen oft unbemerkt bleiben. Otterbacher führt dies an einem lokalen Beispiel vor Augen: Sucht man mit Hilfe der Google-Bildersuche nach „Zypern“, erhält man je nach eingegebener Sprache unterschiedliche Ergebnisse. Gibt man „Zypern“ auf Griechisch ein, werden Bilder von politischen Karten der geteilten Insel angezeigt. Sucht man „Zypern“ auf Russisch, erhält man Strandbäder, während die Suche auf Chinesisch Bilder von Immobilienobjekten anzeigt. Solche unsichtbaren Verzerrungen können Diskriminierung fördern, wenn der Suchbegriff „nurses“ standardmäßig Krankenschwestern ergibt, während der Suchbegriff „surgeon“ standardmäßig männliche Chirurgen anzeigt. Otterbachers Forschung will solche problematischen Diskriminierungen in Suchalgorithmen dokumentieren. „Natürlich verwenden Menschen ständig Stereotypen“, erklärt sie. „Die Technologie kann jedoch die Stereotypisierung verstärken und fördern oder ihr entgegenwirken.“

Ein zweiter Impuls kommt von Loizos Michael, Associate Professor an der Open University of Cyprus und Direktor des Computational Cognition Lab. In seinem Vortrag gibt Michael einen Überblick über die Technikgeschichte der Künstlichen Intelligenz und die Trends in der aktuellen KI-Forschung. Insbesondere erklärt er, wie die künstliche Intelligenz in Zukunft transparenter und vertrauenswürdiger werden könnte. Diese vertrauenswürdigen KI-Systeme würden nicht nur automatisierte Entscheidungen treffen, sondern diese Entscheidungen auch begründen. Zum Thema Verzerrungen und KI erklärt Michael: „Künstliche Intelligenz und maschinelles Lernen hängen von Verzerrungen ab. Ohne Verzerrungen wäre ein System nicht in der Lage, irgendwelche Muster zu erkennen“. Gleichwohl betont er, dass es wichtig ist, die Verzerrungen der von uns verwendeten Daten und Systeme zu erkennen und sich ihrer bewusst zu sein.

Der Workshop endet mit einer Co-Design-Sitzung, in der die Teilnehmer Feedback zu neuen Formatvorschlägen für das Goethe-Institut unter dem Aspekt digitale Technologie und KI geben und diese weiterentwickeln. Die Ideen reichen von einem Roboter, der zu den verschiedenen Goethe-Instituten in Europa reist, um lokale Tanzschritte zu lernen, bis hin zu ‚Vantage Point‘, einem Programm, das sich mit Desinformation und tendenziöser Berichterstattung in Zypern beschäftigt. In einigen wenigen Vorschlägen geht es um Formate, die für die Ethik der KI und die Verzerrungen der digitalen Technologien sensibilisieren. Während des gesamten Workshops ist deutlich geworden, dass es wahrscheinlich nie eine Technologie ohne Verzerrungen geben wird. Und dennoch ist es wichtig zu fordern: Wer etwas entwirft, sollte mit allen davon betroffenen Menschen in Kontakt stehen.