„Der Fisch entdeckt das Wasser als letzter”: Ein Gespräch mit Tomo Kihara
Der japanische Designer und Entwickler Tomo Kihara versucht, den Menschen bei der Suche nach alternativen Lösungen für komplexe soziale Probleme zu helfen. Er erklärt, die künstliche Intelligenz habe ihn viel über Kontext, menschliche Voreingenommenheit und Offenheit für unerwartete Wege zu neuen Ideen gelehrt, insbesondere zu solchen, die der Gesellschaft nutzen.
Was würden Sie denken, wenn Sie einen leeren Kaffeebecher wegwürfen und der Mülleimer zu Ihnen sagte: „Bitte recyceln Sie diese Tasse“? Das mag weit hergeholt klingen, ist es aber nicht. Der japanische Designer Tomo Kihara hat die Smartphone-App ObjectResponder entwickelt, die anhand von künstlicher Intelligenz Ideen in Prototypen umsetzt, die rasch getestet und wiederholt werden können. Das Werkzeug ermöglicht es Designern, den von der Smartphone-Kamera erkannten Objekten gestützt auf Google Cloud Vision ähnlich wie ein Chatbot-System Antworten zuzuordnen.
Kihara beschäftigt sich in seiner Wahlheimat Amsterdam mit auf der Kameraerkennung beruhenden Interaktionen und prognostiziert, dass sie sich in den nächsten fünf bis zehn Jahren in einen allgegenwärtigen Bestandteil unseres Alltags verwandeln werden. „Schon heute gibt es im städtischen Raum Sensoren, die unseren Körper erkennen. Wenn wir beispielsweise durch automatische Türen gehen, erkennen Infrarotsensoren, dass sich eine Person nähert. Wir wundern uns nicht mehr über Türen, die sich automatisch öffnen. In den kommenden Jahren werden diese einfachen Sensoren durch Kameras ersetzt werden, die unter Einsatz von KI erkennen werden, wer wir sind und was wir tun – das ist gleichermaßen beängstigend und aufregend.“
Kihara erinnert sich an sein Experiment mit den sprechenden Mülltonnen in den Niederlanden: „Es erzeugte eine spielerische Spannung zwischen Mensch und Maschine, denn die Leute lassen sich nicht gerne von einem Computer sagen, was sie tun sollen.“ Der 26-jährige Designer ist überzeugt, dass die Reaktion ganz anders ausgefallen wäre, hätte er dieses Experiment in Tokio gemacht.
„In Japan sind wir daran gewöhnt, dass Gegenstände mit uns sprechen“, erklärt er. „Wir wundern uns nicht darüber, dass Toiletten mit uns kommunizieren. Unsere Toiletten, unsere Münzautomaten, unsere Badewannen sprechen mit uns. Wenn das Badewasser zu kalt wird oder wenn wir das Wechselgeld im Automaten vergessen, weisen diese Maschinen uns darauf hin. Wir sind also daran gewöhnt, dass Dinge Antworten geben und eigenständig Entscheidungen fällen.“
Beim Umgang mit der künstlichen Intelligenz sieht Kihara deutliche Unterschiede zwischen Europa und Ostasien. „In Europa stehen in der Diskussion über die KI die ethischen Fragen und die Auswirkungen dieser Technologie auf den Menschen im Vordergrund. Es werden negative Vorstellungen damit verbunden. In Ostasien hingegen sprechen die Leute vor allem über die Chancen, die uns die Technologie eröffnet.“
Er erklärt, der unterschiedliche Zugang der westlichen und östlichen Kultur zu KI und Technologie könnte seinen Ursprung teilweise in einem animistischen Weltverständnis haben, das aus dem in Japan vorherrschenden Shintoismus hervorgegangen ist. In diesem Verständnis haben alle, auch unbeseelte Dinge einen Geist und einen eigenen Willen. Dazu komme die „ostasiatische Vorstellung, dass uns die Technologie retten wird, dass sie das Leben besser machen wird. Die Europäer begegnen der Technologie mit sehr viel größerer Skepsis.“ Kihara urteilt nicht darüber, welche Sichtweise vorzuziehen ist, sondern findet es „stets interessant, sich mit diesen sehr unterschiedlichen Perspektiven auseinanderzusetzen“.
Tomo Kiharas "TheirTube"-Projekt sorgte für Aufsehen in der Online-Welt | © Tomo Kihara
Tomo Kihara begann Mediendesign an der Keio Universität in Tokio zu studieren, entdeckte jedoch bald seine Leidenschaft für Social Design-Projekte: „Ich stellte fest, dass die Niederlande einer der besten Orte sind, um das zu erlernen.“ Also zog Kihara nach Europa um, wo er seinen Master an der Technischen Universität Delft machte.
Er wurde in die Erforschung von Design und Maschinenlernen eingeführt und kam nicht mehr davon los. „Ich war fasziniert, denn du gestaltest etwas, das sich deiner Kontrolle entzieht, und es ist ungewiss, wie sich dein Design auswirken wird.“
Die Faszination für autonome, entscheidungsfähige KI regte Kihara zur Entwicklung von TheirTube an, einem Projekt, das es dem Benutzer erlaubt, in die Blase des YouTube-Filters einer anderen Person einzutreten und sich die Videos anzusehen, die auf der Startseite dieser Person auftauchen.
Das Projekt war ein großer Erfolg bei Reddit und in den sozialen Medien und wurde mit einem Mozilla Creative Media Award ausgezeichnet. Auf TheirTube kann man zwischen den Algorithmen von sechs Persönlichkeitstypen wählen – Frutarier, Prepper, Liberaler, Konservativer, Verschwörungstheoretiker und Klimawandelleugner – und sich ansehen, welche Videos die weltgrößte Video-Sharing-Plattform Anhängern verschiedener politischer Richtungen anbietet.
Die von TheirTube ausgewählten YouTube-Videos variieren je nach Art der verwendeten Kontoeinstellung | © Tomo Kihara
„Im vergangenen Jahr hat die KI auf YouTube und Facebook zur Verbreitung extremer Inhalte beigetragen“, erklärt Kihara. „Videos von QAnon, in denen behauptet wurde, COVID-19 werde von 5G verursacht, wurden vom Algorithmus häufig empfohlen.”
In den letzten Monaten des Jahres 2020 hat Kihara beobachtet, dass mittlerweile entschlossener gegen Verschwörungstheorien und extremistische Videos vorgegangen wird. Er hofft, dass TheirTube den Menschen vor Augen führt, wie viel Voreingenommenheit in ihren Feeds steckt und wie die Empfehlungsalgorithmen zur Verbreitung von extremistischem Gedankengut und Verschwörungstheorien beitragen. Kihara zitiert gerne das Sprichwort „Der Fisch entdeckt das Wasser als letzter“, das sich in seinen Augen sehr gut zur Beschreibung der gegenwärtigen Situation eignet, in der wir „erst begreifen, wie voreingenommen unser eigener Feed ist, wenn wir die Feeds anderer Leute sehen“.
Vor kurzem hat Kihara ein weiteres Spiel entwickelt, das die Voreingenommenheit von Algorithmen zum Vorschein bringt. Bei der Beschäftigung mit Maschinen, die Tassen und Menschen erkannten, fragte er sich, „wie es wäre, wenn sie beginnen könnten, über das subjektive Empfinden von Gewalt, sexueller Attraktivität oder Schönheit zu entscheiden“. Er studierte eine von Googles offenen API-Plattformen, die genutzt werden kann, um gewaltsame und pornographische Inhalte zu erkennen.
„Es ist faszinierend, dass eine Maschine eigenständig über ein derart heikles Thema entscheiden kann, und sie sitzt hinter Googles SafeSearch-Filter, der auswählt, was wir im Internet zu sehen bekommen.“
Das von Kihara entwickelte Spiel trägt die Bezeichnung Is This Violence? Während die Spieler im Spiel Gewalt anwenden, können sie in Echtzeit beobachten, welche dieser Aktionen die Maschine als Gewalt identifiziert. Die Resultate sind verstörend: Der Gewaltindikator steigt, wenn die Gewalt im Spiel von einer Figur mit dunklerer Haut ausgeht. Der Wert ändert sich auch, wenn die Hautfarbe einer Figur auf ein und demselben Bild von einem helleren zu einem dunkleren Ton geändert wird.Kihara erklärt, dass es zahlreiche Beispiele für derartige Voreingenommenheit gibt: Die deutsche NRO AlgorithmWatch hat darauf hingewiesen, dass Google Vision Cloud auf einem Bild ein Thermometer in der Hand einer dunkelhäutigen Person als „Waffe“ etikettierte, während ein Thermometer auf einem ähnlichen Bild von einer hellhäutigen Person als „elektronisches Gerät” identifiziert wurde. Google korrigierte dies umgehend, aber das Beispiel veranschaulicht ein sehr viel tiefer verwurzeltes Problem.
Kihara ist überzeugt, dass es so etwas wie einen unvoreingenommenen Menschen nicht gibt und dass dasselbe für die von Menschen gebauten Maschinen gilt. In seinen Projekten geht es ihm nicht darum, die großen Techfirmen oder die Technologie an sich zu kritisieren. „Das Ziel ist, einen Weg zu finden, um nicht wünschenswerte Voreingenommenheit im System spielerisch zutage zu fördern.“
Teilnehmer nehmen an einer inszenierten "Is this violence?"-Sitzung von Tomo Kihara teil | © Tomo Kihara
Das Konzept des Spiels zieht sich durch das gesamte Werk Tomo Kiharas. „Das Spiel kann auch dazu dienen, unter sicheren Bedingungen nach einer alternativen Lösung für ein systemisches Problem zu suchen“, sagt er. „Mir gefällt die Zugangsweise, im Grunde darauf zu verzichten, einen Weg zu einer Lösung zu suchen, sondern den Leuten stattdessen die Möglichkeit zu geben, sich kreativ einzubringen und zu versuchen, ein Problem in einem anderen Blickwinkel zu betrachten.“
Tomo Kihara | © Tomo Kihara
Der junge Designer erklärt, dass seine Arbeitsweise von dem niederländischen Kulturhistoriker Johan Huizinga beeinflusst wurde, der in seinem 1938 erschienenen Buch Homo Ludens den Ursprüngen der Kultur im Spiel nachspürte. Kihara interessiert sich insbesondere für Huizingas Konzept der „magischen Kreise“, die sichere experimentelle Räume für die kreative Problemlösung darstellen.
„Wenn Menschen spielen, bewegen sie sich in diesem metaphorischen Raum der magischen Kreise, in dem die Regeln der realen Welt nicht gelten“, erklärt Kihara. „Wenn sich zwei Menschen auf der Straße prügeln, ist das ein Problem, aber im Boxring gilt das nicht, denn dort gelten bestimmte Regeln. Was mir daran wirklich gefällt, ist die Tatsache, dass der magische Kreis ein sicherer Ort für Experimente ist. Dort kann man sicher und konstruktiv experimentieren.“
„Stellen wir uns einen Designworkshop vor. Dort können die Leute mutiger sein, weil sie sich in einem magischen Kreis befinden. Es macht nichts, wenn sie nur etwas Bruchstückhaftes hervorbringen. Genau diese Einstellung braucht man, um etwas Neues zu schaffen.“
Weitere Stichworte von Tomo Kihara über die Zukunft kreativer KI gibt eshier.
Kihara beschäftigt sich in seiner Wahlheimat Amsterdam mit auf der Kameraerkennung beruhenden Interaktionen und prognostiziert, dass sie sich in den nächsten fünf bis zehn Jahren in einen allgegenwärtigen Bestandteil unseres Alltags verwandeln werden. „Schon heute gibt es im städtischen Raum Sensoren, die unseren Körper erkennen. Wenn wir beispielsweise durch automatische Türen gehen, erkennen Infrarotsensoren, dass sich eine Person nähert. Wir wundern uns nicht mehr über Türen, die sich automatisch öffnen. In den kommenden Jahren werden diese einfachen Sensoren durch Kameras ersetzt werden, die unter Einsatz von KI erkennen werden, wer wir sind und was wir tun – das ist gleichermaßen beängstigend und aufregend.“
Sprechende Toiletten
Kihara erinnert sich an sein Experiment mit den sprechenden Mülltonnen in den Niederlanden: „Es erzeugte eine spielerische Spannung zwischen Mensch und Maschine, denn die Leute lassen sich nicht gerne von einem Computer sagen, was sie tun sollen.“ Der 26-jährige Designer ist überzeugt, dass die Reaktion ganz anders ausgefallen wäre, hätte er dieses Experiment in Tokio gemacht.
„In Japan sind wir daran gewöhnt, dass Gegenstände mit uns sprechen“, erklärt er. „Wir wundern uns nicht darüber, dass Toiletten mit uns kommunizieren. Unsere Toiletten, unsere Münzautomaten, unsere Badewannen sprechen mit uns. Wenn das Badewasser zu kalt wird oder wenn wir das Wechselgeld im Automaten vergessen, weisen diese Maschinen uns darauf hin. Wir sind also daran gewöhnt, dass Dinge Antworten geben und eigenständig Entscheidungen fällen.“
Beim Umgang mit der künstlichen Intelligenz sieht Kihara deutliche Unterschiede zwischen Europa und Ostasien. „In Europa stehen in der Diskussion über die KI die ethischen Fragen und die Auswirkungen dieser Technologie auf den Menschen im Vordergrund. Es werden negative Vorstellungen damit verbunden. In Ostasien hingegen sprechen die Leute vor allem über die Chancen, die uns die Technologie eröffnet.“
Er erklärt, der unterschiedliche Zugang der westlichen und östlichen Kultur zu KI und Technologie könnte seinen Ursprung teilweise in einem animistischen Weltverständnis haben, das aus dem in Japan vorherrschenden Shintoismus hervorgegangen ist. In diesem Verständnis haben alle, auch unbeseelte Dinge einen Geist und einen eigenen Willen. Dazu komme die „ostasiatische Vorstellung, dass uns die Technologie retten wird, dass sie das Leben besser machen wird. Die Europäer begegnen der Technologie mit sehr viel größerer Skepsis.“ Kihara urteilt nicht darüber, welche Sichtweise vorzuziehen ist, sondern findet es „stets interessant, sich mit diesen sehr unterschiedlichen Perspektiven auseinanderzusetzen“.
Tomo Kiharas "TheirTube"-Projekt sorgte für Aufsehen in der Online-Welt | © Tomo Kihara
In der Filterblase des Anderen
Tomo Kihara begann Mediendesign an der Keio Universität in Tokio zu studieren, entdeckte jedoch bald seine Leidenschaft für Social Design-Projekte: „Ich stellte fest, dass die Niederlande einer der besten Orte sind, um das zu erlernen.“ Also zog Kihara nach Europa um, wo er seinen Master an der Technischen Universität Delft machte.
Er wurde in die Erforschung von Design und Maschinenlernen eingeführt und kam nicht mehr davon los. „Ich war fasziniert, denn du gestaltest etwas, das sich deiner Kontrolle entzieht, und es ist ungewiss, wie sich dein Design auswirken wird.“
Die Faszination für autonome, entscheidungsfähige KI regte Kihara zur Entwicklung von TheirTube an, einem Projekt, das es dem Benutzer erlaubt, in die Blase des YouTube-Filters einer anderen Person einzutreten und sich die Videos anzusehen, die auf der Startseite dieser Person auftauchen.
Das Projekt war ein großer Erfolg bei Reddit und in den sozialen Medien und wurde mit einem Mozilla Creative Media Award ausgezeichnet. Auf TheirTube kann man zwischen den Algorithmen von sechs Persönlichkeitstypen wählen – Frutarier, Prepper, Liberaler, Konservativer, Verschwörungstheoretiker und Klimawandelleugner – und sich ansehen, welche Videos die weltgrößte Video-Sharing-Plattform Anhängern verschiedener politischer Richtungen anbietet.
Die von TheirTube ausgewählten YouTube-Videos variieren je nach Art der verwendeten Kontoeinstellung | © Tomo Kihara
„Im vergangenen Jahr hat die KI auf YouTube und Facebook zur Verbreitung extremer Inhalte beigetragen“, erklärt Kihara. „Videos von QAnon, in denen behauptet wurde, COVID-19 werde von 5G verursacht, wurden vom Algorithmus häufig empfohlen.” In den letzten Monaten des Jahres 2020 hat Kihara beobachtet, dass mittlerweile entschlossener gegen Verschwörungstheorien und extremistische Videos vorgegangen wird. Er hofft, dass TheirTube den Menschen vor Augen führt, wie viel Voreingenommenheit in ihren Feeds steckt und wie die Empfehlungsalgorithmen zur Verbreitung von extremistischem Gedankengut und Verschwörungstheorien beitragen. Kihara zitiert gerne das Sprichwort „Der Fisch entdeckt das Wasser als letzter“, das sich in seinen Augen sehr gut zur Beschreibung der gegenwärtigen Situation eignet, in der wir „erst begreifen, wie voreingenommen unser eigener Feed ist, wenn wir die Feeds anderer Leute sehen“.
Ist das Gewalt?
Vor kurzem hat Kihara ein weiteres Spiel entwickelt, das die Voreingenommenheit von Algorithmen zum Vorschein bringt. Bei der Beschäftigung mit Maschinen, die Tassen und Menschen erkannten, fragte er sich, „wie es wäre, wenn sie beginnen könnten, über das subjektive Empfinden von Gewalt, sexueller Attraktivität oder Schönheit zu entscheiden“. Er studierte eine von Googles offenen API-Plattformen, die genutzt werden kann, um gewaltsame und pornographische Inhalte zu erkennen.
„Es ist faszinierend, dass eine Maschine eigenständig über ein derart heikles Thema entscheiden kann, und sie sitzt hinter Googles SafeSearch-Filter, der auswählt, was wir im Internet zu sehen bekommen.“
Das von Kihara entwickelte Spiel trägt die Bezeichnung Is This Violence? Während die Spieler im Spiel Gewalt anwenden, können sie in Echtzeit beobachten, welche dieser Aktionen die Maschine als Gewalt identifiziert. Die Resultate sind verstörend: Der Gewaltindikator steigt, wenn die Gewalt im Spiel von einer Figur mit dunklerer Haut ausgeht. Der Wert ändert sich auch, wenn die Hautfarbe einer Figur auf ein und demselben Bild von einem helleren zu einem dunkleren Ton geändert wird.Kihara erklärt, dass es zahlreiche Beispiele für derartige Voreingenommenheit gibt: Die deutsche NRO AlgorithmWatch hat darauf hingewiesen, dass Google Vision Cloud auf einem Bild ein Thermometer in der Hand einer dunkelhäutigen Person als „Waffe“ etikettierte, während ein Thermometer auf einem ähnlichen Bild von einer hellhäutigen Person als „elektronisches Gerät” identifiziert wurde. Google korrigierte dies umgehend, aber das Beispiel veranschaulicht ein sehr viel tiefer verwurzeltes Problem.
Kihara ist überzeugt, dass es so etwas wie einen unvoreingenommenen Menschen nicht gibt und dass dasselbe für die von Menschen gebauten Maschinen gilt. In seinen Projekten geht es ihm nicht darum, die großen Techfirmen oder die Technologie an sich zu kritisieren. „Das Ziel ist, einen Weg zu finden, um nicht wünschenswerte Voreingenommenheit im System spielerisch zutage zu fördern.“
Teilnehmer nehmen an einer inszenierten "Is this violence?"-Sitzung von Tomo Kihara teil | © Tomo Kihara
Spielerische Eingriffe
Das Konzept des Spiels zieht sich durch das gesamte Werk Tomo Kiharas. „Das Spiel kann auch dazu dienen, unter sicheren Bedingungen nach einer alternativen Lösung für ein systemisches Problem zu suchen“, sagt er. „Mir gefällt die Zugangsweise, im Grunde darauf zu verzichten, einen Weg zu einer Lösung zu suchen, sondern den Leuten stattdessen die Möglichkeit zu geben, sich kreativ einzubringen und zu versuchen, ein Problem in einem anderen Blickwinkel zu betrachten.“
Tomo Kihara | © Tomo Kihara
Der junge Designer erklärt, dass seine Arbeitsweise von dem niederländischen Kulturhistoriker Johan Huizinga beeinflusst wurde, der in seinem 1938 erschienenen Buch Homo Ludens den Ursprüngen der Kultur im Spiel nachspürte. Kihara interessiert sich insbesondere für Huizingas Konzept der „magischen Kreise“, die sichere experimentelle Räume für die kreative Problemlösung darstellen.
„Wenn Menschen spielen, bewegen sie sich in diesem metaphorischen Raum der magischen Kreise, in dem die Regeln der realen Welt nicht gelten“, erklärt Kihara. „Wenn sich zwei Menschen auf der Straße prügeln, ist das ein Problem, aber im Boxring gilt das nicht, denn dort gelten bestimmte Regeln. Was mir daran wirklich gefällt, ist die Tatsache, dass der magische Kreis ein sicherer Ort für Experimente ist. Dort kann man sicher und konstruktiv experimentieren.“
„Stellen wir uns einen Designworkshop vor. Dort können die Leute mutiger sein, weil sie sich in einem magischen Kreis befinden. Es macht nichts, wenn sie nur etwas Bruchstückhaftes hervorbringen. Genau diese Einstellung braucht man, um etwas Neues zu schaffen.“
Weitere Stichworte von Tomo Kihara über die Zukunft kreativer KI gibt eshier.