Beyond Bias

Beyond Bias © Goethe-Institut / Max Mueller Bhavan New Delhi

Generative KI gestaltet die Werkzeuge von morgen, doch sie birgt das Risiko, die heutigen Vorurteile und Ungleichheiten zu reproduzieren. Können wir uns eine Zukunft vorstellen, in der generative KI die Vielfalt menschlicher Erfahrungen wirklich widerspiegelt? Mit repräsentativen Datensätzen und gezielt angepassten Modellen ebnet Beyond Bias den Weg für kulturell sensible und technisch innovative Werkzeuge.

Über das Projekt

KI-Systeme sind Spiegel ihrer Trainingsdaten. Wenn wir nicht jetzt handeln, werden die generativen KI-Modelle der Zukunft weiterhin die Vorurteile, Beschränkungen und Ungleichheiten reproduzieren, die in der digitalen Darstellung heute verankert sind.

Um dem entgegenzuwirken, initiiert das Goethe-Institut in Zusammenarbeit mit Gooey.AI ein vielfältiges Projekt, das eine Zukunft neu denkt, in der generative KI die reiche Vielfalt menschlicher Erfahrungen umfasst und widerspiegelt. Durch die Erstellung kulturell repräsentativer Bilddatensätze und die gezielte Feinabstimmung von KI-Modellen wollen wir Vorurteile direkt angehen und Werkzeuge entwickeln, die sowohl kulturell sensibel als auch technisch innovativ sind.

Dieses Projekt setzt auf partizipative Forschung, strategische Partnerschaften und praxisorientiertes Arbeiten. Es bringt Stimmen aus den Bereichen Kreativität, Recht, Archivierung und Forschung zusammen, um die Entwicklung von KI neu zu gestalten. Gemeinsam schaffen wir zugängliche, kulturell nuancierte Datensätze und feinabgestimmte KI-Modelle, die es jeder Person ermöglichen, neue und repräsentative visuelle Inhalte zu erstellen. Damit leisten wir einen Beitrag zu einer gerechten und inklusiven digitalen Zukunft für Kreative weltweit.

Unsere Ziele

Digitale Teilhabe unterrepräsentierter Gemeinschaften fördern: Zusammenbringen eines vielfältigen Netzwerks aus kulturellen, akademischen und juristischen Fachleuten, um sicherzustellen, dass verschiedene Gemeinschaften (z. B. geschlechtsbezogene Minderheiten, handwerkliche Gemeinschaften) fair in generativer KI vertreten werden.
Strategische Partnerschaften schmieden: Kooperation mit deutschen und indischen Institutionen, um unsere globale Wirkung zu verstärken.
Öffentliche Werkzeuge schaffen: Entwicklung reproduzierbarer KI-Workflows, die es Kreativen weltweit ermöglichen, KI-Modelle individuell anzupassen und zu trainieren.
Öffentliche Nutzung stärken: Bereitstellung dieser maßgeschneiderten KI-Modelle auf Plattformen wie Gooey.AI und Huggingface, sodass jede*r Kunst in zuvor unmöglichen Stilen erschaffen kann.
Bilddatensätze erweitern: Unterstützung bei der Bereitstellung unterrepräsentierter Bilddatensätze für führende KI-Bildgenerationsmodelle (z. B. OpenAI’s DALL-E, Stable Diffusion, FLUX), damit die nächste Generation generativer KI-Tools mehr Kulturen gerecht repräsentiert.

Unser Manifest für ethische KI

Generative KI beeinflusst bereits Kultur, Bildung, Wissenssysteme und kreative Praktiken. Doch trotz der unbestrittenen Potentiale von KI wächst die Erkenntnis, dass sie Gefahr läuft, historische Ungleichheiten zu spiegeln und zu verstärken. Mit unserem Manifest möchten wir uns für eine ethische Entwicklung der KI einsetzen. „Mit diesem ersten Manifest hoffen wir, eine Diskussion über die Entwicklung einer ethischeren KI anzustoßen.“ „Das Manifest liegt nur in englischer Sprache vor.“

Ein offenes Manifest für eine inklusivere KI-Zukunft

Bitte beachten Sie, dass der Text des Manifests nur in englischer Sprache vorliegt.

KI-Systeme sind nicht neutral. Sie werden durch die Daten geprägt, mit denen sie trainiert werden, durch die Menschen, die sie entwerfen, und durch die Werte – explizit oder verborgen, die ihrer Programmierung zugrunde liegen. Wenn diese Systeme auf verengten, einseitigen Perspektiven oder extraktiven Paradigmen basieren, können sie bestehende Verzerrungen in großem Maßstab reproduzieren und normalisieren. Mit diesem ersten Manifest hoffen wir, eine Diskussion über die Entwicklung einer ethischeren KI anzustoßen.

Two women from the Mughal era are working on their laptops © Gooey.AI © Gooey.AI

Einseitigkeit, Stereotype und Verzerrungen

Allzu oft spiegeln sich kulturelle und soziale Voreingenommenheit im digitalen Raum wider. Beyond Bias skizziert einige der zentralen Vorurteile, die angegangen werden müssen, bevor künstliche Intelligenz mit Datensätzen des Status quo trainiert wird. Die Identifizierung dieser Probleme an der Schnittstelle von sozialer, wirtschaftlicher und technologischer Entwicklung war ein entscheidender erster Schritt, um diesen bei der Schaffung einer ethischen KI entgegenzuwirken.

© Unsplash © Unsplash
Warum brauchen wir ein Manifest?

KI-Systeme werden durch die Daten geprägt, mit denen sie trainiert werden, und durch die Menschen, die sie entwerfen und programmieren. Wenn diese Systeme auf verengten, einseitigen Perspektiven oder extraktiven Paradigmen basieren, können sie bestehende Vorurteile in großem Maßstab reproduzieren und normalisieren. Wir glauben, dass es einen anderen Weg gibt. Mit einem offenen Manifest rufen wir zu einer kollektiven Neugestaltung von KI auf.

© Unsplash © Unsplash

KI-Bias und die Auswirkungen

Künstliche Intelligenz prägt unsere digitalen Interaktionen – aber sie ist keineswegs neutral. Von Gesichtserkennung bis Übersetzungstools: Verzerrte Algorithmen können Ungleichheiten verstärken. Wie können wir diese versteckten Vorurteile aufdecken und gerechtere KI-Systeme schaffen?

Vorurteile und Irrtümer

Künstliche Intelligenz ist nicht neutral

Im vergangenen Jahrzehnt haben wir einen Großteil unserer Zeit in der digitalen Welt verbracht – einer Welt, über die eine Handvoll Konzerne zunehmend die Kontrolle ausüben. Diese Unternehmen steuern in beträchtlichem Maße, was wir sehen und sagen können und welche Werkzeuge uns zur Verfügung stehen.

Egal, ob sie für die Suche oder in der automatisierten Content-Moderation verwendet wird: Künstliche Intelligenz ist nur so nützlich wie die ihr zugrunde liegenden Datensätze. Foto (Detail): © Adobe Foto (Detail): © Adobe

Vorurteile von Künstlicher Intelligenz

Übersetzungstools sensibler gestalten

Um Texte schnell in eine andere Sprache zu übersetzen, nutzen viele nahezu täglich eine Übersetzungssoftware wie „Google Translate“. Aber auch diese Tools geben in den übersetzten Sprachversionen häufig gesellschaftliche Vorurteile wieder.

Foto (Detail): Alexander Limbach © picture alliance / Zoonar Foto (Detail): Alexander Limbach © picture alliance / Zoonar
Demokratie im digitalen Raum

„Sei vorsichtig, was du erschaffst!”

Die Menschenrechtsanwältin und Autorin Maureen Webb erklärt, wie technische Lösungen Diskriminierung verschärfen können – und wie Hacker*innen sich dafür einsetzen, die demokratischen Grundrechte im digitalen Raum zu bewahren.

Foto (Detail): © picture alliance/Zoonar/Axel Bueckert Foto (Detail): © picture alliance/Zoonar/Axel Bueckert
Künstliche Intelligenz und Wahlen

Es gilt, die Demokratie zu retten

Die gefälschte Stimme einer Politikerin, KI-gestützte Robocalls oder ein fiktiver Fernsehmoderator: Künstliche Intelligenz bietet eine Fülle neuer Möglichkeiten, Desinformationen zu streuen. In Zeiten globaler Krisen ist dies eine echte Bedrohung für die Demokratie.

Foto (Detail): © Adobe Foto (Detail): © Adobe
Künstliche Intelligenz

Die schreckliche KI

In der heutigen Welt kann nichts der digitalen Revolution entgehen. Wie wir uns bewegen, kommunizieren und konsumieren, wird durch Code gesteuert, und dieser Code wird immer intelligenter. Doch ist Künstliche Intelligenz (KI) keineswegs so fair oder neutral, wie es scheinen mag.

Foto (Detail): © Adobe Foto (Detail): © Adobe

Kontakt

Dies ist mehr als nur ein Projekt – es ist eine Bewegung, die darauf abzielt, die Art und Weise, wie KI mit Kultur und Repräsentation interagiert, neu zu definieren. Schließen Sie sich uns an, während wir eine inklusivere, kollaborativere Zukunft für KI-Technologie gestalten. Wenn Sie an diesem Projekt teilnehmen möchten, kontaktieren Sie uns bitte unter BeyondBias@gooey.ai.