Humanoide Roboter „Tengai bewertet alle gleich“

Drei Roboterköpfe mit menschlichem Anlitz, alle drei genannt Tengai, nebeneinander
Foto (detail): Tengai Unbiased

Wie können Verzerrungen in Bewerbungsssituationen vollständig beseitigt werden? Mit Robotern - behauptet Softwareentwicklerin Vanja Tufvesson. Sie gründete die NGO Pink Programming, die Coding-Camps für als Frauen identifizierende und nicht-binäre Gemeinschaften organisiert, und hat den ersten unvoreingenommenen Roboter der Welt mitentwickelt.

Von Natascha Holstein und Svenja Hoffmann

Vanja Tufvesson, Wann haben Sie das Gebiet der KI-Technologie für sich entdeckt? 

Mein Interesse an der KI-Technologie besteht schon lange. An der Universität habe ich Mathematik studiert und mich dann auf Software spezialisiert, weil mir die Schnittstelle zwischen diesen beiden Bereichen gefallen hat. Ich untersuchte, wie große Datenmengen verarbeitet und verstanden werden können. Am interessantesten fand ich die Analyse von Texten sowie Suchmaschinen und Clustering-Algorithmen. Nachdem ich in verschiedenen Bereichen gearbeitet hatte, wurde mir eines klar: Obwohl ich mich gerne mit komplexen Fragestellungen befasse, ist es nicht unbedingt wichtig, die fortschrittlichste Technologie zur Lösung eines Problems zu verwenden. Denn sobald Sie das Problem kennen, können Sie die Technologie auswählen. Ob diese dann einfach oder komplex ist, spielt keine Rolle, solange Sie die richtige Lösung finden.

Wie sind Sie auf die Idee gekommen Pink Programming – eine der größten NGOs in Schweden, die Coding-Camps für als Frauen identifizierende und nicht-binäre Gemeinschaften organisiert – zu gründen, und warum ist diese Organisation so wichtig?

Da ich selbst in Bezug auf mein Geschlecht eine Minderheit im Technologiebereich bin, wollte ich etwas verändern. In einem der vergangenen Sommer sprach ich mit einer der wenigen Entwickler*innen, die ich kannte und mit der ich studiert hatte. Meine Idee war es, ein Programmiercamp für Frauen mit ausschließlich weiblichen Mentor*innen und sozialen Aktivitäten anzubieten. Zu der Zeit gab es nicht viele andere Organisationen, die für diese Sache kämpften, sodass wir viel Aufmerksamkeit in den Medien erhielten. Das Camp war innerhalb einer Woche ausgebucht, und es standen Hunderte von Leuten auf der Warteliste. Nach dem Camp dachten wir, dass wir dieses große Interesse nicht vernachlässigen können und etwas tun müssen. Deshalb entschlossen wir uns, eine gemeinnützige Organisation zu gründen und unsere Karriere als Entwickler*innen fortzusetzen. 

Die Organisation ist wichtig für die Diversität insgesamt, nicht nur bezogen auf das Geschlecht, sondern auch auf das Alter, die soziale Herkunft oder spezielle Interessen. Es kann schwierig sein, mit Menschen zu arbeiten, die sich von einer*m selbst unterscheiden, aber es macht auch mehr Spaß. Wenn der Input vielfältig ausfällt, dann betrachten Sie Aspekte aus unterschiedlichen Blickwinkeln, lernen voneinander und vor allem ist das Ergebnis viel besser. Überall auf der Welt verschließt der Stereotyp – die allgemeine Wahrnehmung, wer Entwickler*in sein kann – viele Türen, nicht nur für Frauen. Sie müssen nicht seit Ihrer Kindheit programmiert haben, um Programmierer*in zu werden. Das Feld ist sehr breit gefächert und ich möchte betonen, dass Sie lernen können, solange Sie an dem Gebiet interessiert sind.

Wann haben Sie das Problem der Voreingenommenheit in der KI-Wissenschaft zum ersten Mal erkannt?

Als jemand, der diese Technologie studiert hat, war ich immer der Meinung, dass der KI Voreingenommenheit innewohnt. Wenn Sie möchten, dass Ihr Computer aus früheren Verhaltensweisen lernt, programmieren Sie genau das: Er soll gängige Muster finden, um etwas anderes in dieselbe Kategorie einzuordnen. Ist das nicht die Definition von Voreingenommenheit? Deshalb war ich überrascht, dass die Leute von dieser Tatsache überrascht waren. 

Wichtig ist die Erkenntnis, dass KI sehr leistungsfähig sein kann, wenn Sie so viele Daten haben, dass es für Menschen unmöglich ist, sie zu analysieren und Muster zu finden. Aber nicht alle Probleme sind für eine KI-Lösung geeignet. Sie sollten sich immer fragen, ob es leistungsstarke Alternativen gibt, die Sie eher verwenden könnten. Normalerweise erweisen sich einfache Statistiken als sehr wirkungsvoll bei der Analyse von Daten. 

KI ist Verzerrung.

Vanja Tufvesson

Wer kam auf die Idee von Tengai und wie verlief der Entwicklungsprozess? 

Unsere Schwesterfirma TNG, das führende Unternehmen für unvoreingenommenes Rekrutieren in Schweden, hat vor langer Zeit einen ersten großen Schritt in dieser Hinsicht getan: Es propagierte blinde Lebensläufe, das heißt, Sie lassen Ihren Namen und Ihr Foto in der Bewerbung weg. Später überlegte das Innovationsteam der Firma, wie es weitergehen könnte und wie sich die Voreingenommenheit vollständig reduzieren ließe. Das Team kam zu dem Schluss, dass die einzige Möglichkeit darin besteht, Menschen aus dem Prozess zu entfernen und Roboter die Interviews durchführen zu lassen. TNG tat sich mit einem Stockholmer Robotik-Start-up zusammen, das Tengais Hardware, also die eigentliche Maschine, entwickelt hat. Da das Interesse der Kund*innen größer war als erwartet, beschlossen die Besitzer*innen bald, Tengai von TNG zu trennen und ein eigenes Unternehmen zu gründen. Zu diesem Zeitpunkt, also vor etwas mehr als einem Jahr, bin ich dazugekommen, um den technischen Prozess zu leiten.

Aber wenn Sie Tausende von Bewerbungen haben, entscheiden nicht immer zuerst Menschen, wer zum Vorstellungsgespräch eingeladen wird?

Wir empfehlen, die allererste Auswahl mit Tengai vorzunehmen. Die Maschine kann Bewerbungen nicht lesen – noch nicht –, aber die Bewerbung selbst könnte einige Screening-Fragen enthalten, anhand derer sich die Bewerber*innen vorab filtern lassen. Dennoch ist es für die Personalvermittlung immer noch schwierig, einige hundert Bewerber*innen zu befragen. Daher würde Tengai die erste Auswahl treffen und auf dieser Basis zum Beispiel die fünf besten Kandidat*innen empfehlen. Mithilfe von zehn Robotern könnten Sie gleichzeitig die Interviews durchführen lassen, sodass Sie kein weiteres Personal benötigen.

Wie beurteilt Tengai, ob jemand für den Job geeignet ist?
 

Wir verwenden ein in der Verhaltenswissenschaft allgemein bekanntes Framework namens Big 5. Das bezieht sich auf die folgenden Charaktereigenschaften: Offenheit, Gewissenhaftigkeit, Extraversion, Verträglichkeit, Neurotizismus. 

Derzeit analysiert Tengai nur, was die Kandidat*innen sagen, denn es existieren keine Untersuchungen, die belegen, dass die Art und Weise wie sie etwas sagen, für die zukünftige Arbeitsleistung relevant ist. 

Kritiker*innen verweisen darauf, dass die Big 5 in westlichen Kontexten etabliert wurden und hauptsächlich dort zum Einsatz kommen. Wie kann Tengai unvoreingenommen sein, wenn es dieses Framework verwendet? 

Der Roboter weiß nicht, aus welchem Land die Kandidat*innen stammen, er kennt weder Namen noch Geschlecht oder Aussehen. Es ist nur die Antwort, die zählt. Wir stellen keine bewährten Forschungsergebnisse in Frage, sondern verwenden die neueste Technologie, kombinieren verschiedene Frameworks und integrieren sie in den Roboter. Im traditionellen Interview gehen Personalvermittler*innen mit Kandidat*innen in einen Raum, dann kommen sie wieder heraus und treffen die Entscheidung. Es gibt keine Daten darüber, was im Raum gesagt wurde. Letztendlich hängt es von der Stimmung der Personalvermittlung ab, wer den Job bekommt. Das ist einer der Hauptgründe, warum Tengai unvoreingenommen ist: Sie behandelt und bewertet alle gleich. Der Roboter stellt immer die gleichen Fragen, er wird nicht müde, er wechselt nicht zu anderen Themen, wie gemeinsame Interessen oder dass man als Kind dieselbe Schule besucht hat. 

Sie behandelt und bewertet alle gleich.

Vanja Tufvesson

Was fragt Tengai? Kann sie manipuliert werden?
 
Wir kombinieren verschiedene Arten von Fragen. Eine typische Ja-Nein Frage lautet: „Interagieren Sie gerne mit Ihren Kolleg*innen, wenn Sie am Arbeitsplatz sind?“. Dann gibt es komplexere Fragen, die eine längere Antwort nach sich ziehen, etwa: „Wenn Sie mit einem unbekannten Problem konfrontiert sind, wie gehen Sie damit um?“ Nachdem die Kandidat*innen geantwortet haben, fragt Tengai weiter: „Was waren die Schritte?“ oder „Was war das Ergebnis?“ Dies ist eine übliche Technik, die auch von Personalvermittler*innen angewendet wird und unter dem Titel „Situation – Verhalten – Ergebnis“ bekannt ist. 

Eine von uns in Auftrag gegebene Validierungsstudie zeigte, dass es ziemlich schwierig ist, Tengai anzulügen. Tengai fallen zudem Manipulationsversuche deutlicher auf, als jedem anderen Persönlichkeitstest. Wir stellen während der Beurteilung mehrere Fragen, und wenn Sie gelogen haben, müssten Sie dies konsequent tun, was schwierig ist. Wenn Sie nur bei einer Frage lügen, wird Tengai feststellen, dass Ihre Antworten nicht übereinstimmen.

Wie wichtig ist es in Bewerbungssituationen, ein menschliches Gesicht und keinen Computer als Gegenüber zu haben? 

Es ist sehr wichtig, einem menschenähnlichen Roboter zu begegnen, damit nicht das Gefühl entsteht, Sie sprächen mit einem Roboter. Tengai interagiert richtig mit Ihnen, sodass – obwohl Sie wissen, dass sie ein Roboter ist – Sie das Gefühl haben, mit einer Person zu reden. Sie äußern sich viel ehrlicher, müssen aber gleichzeitig nicht über Ihre Worte und Sprachgewohnheiten nachdenken, wie Sie es im Austausch mit einer Person täten, wie „War das eine gute Antwort? War ich höflich genug?“ Es ist das erste Mal, dass Sie in einem Interview nur über sich selbst sprechen können, und das ist in Ordnung.

Wer hat sich für das Gesicht entschieden und könnte dieses verändert werden? 

Technisch ließe sich das ändern, aber wir haben uns entschieden, immer das gleiche Gesicht zu verwenden. Es ist jedoch eine sehr berechtigte Frage, auf die es keine einfache Antwort gibt. Denn wer entscheidet, was das ideale Gesicht ist? Wäre es die Projektion der Gesichter der Kandidat*innen auf den Roboter? Oder sollte es eine berühmte Person sein? Es ist sehr schwierig, weil wir für alle Kandidat*innen das gleiche Gegenüber haben wollen. Gleichzeitig könnte unterschiedliches Aussehen jeweils einen unterschiedlichen Eindruck vermitteln. 

Wer entscheidet, was das ideale Gesicht für einen Roboter ist?

Vanja Tufvesson

Welche Unternehmen will Tengai hauptsächlich erreichen und welche Unternehmen nutzen die Technologie bereits? 

Derzeit arbeiten etwa zehn bis fünfzehn Unternehmen mit Tengai, momentan nur in Schweden. Rekrutierungsprozesse können für Unternehmen sehr teuer sein, insbesondere, wenn Sie die falsche Person auswählen. Daher ist das Implementieren von Technologien, die in diesem Prozess helfen könnten, an sich schon eine große Chance, Kosten einzusparen. Wenn sich bei Ihnen nur wenige Kandidat*innen bewerben, die alle sehr qualifiziert für den Job sind, können sie diese selbst interviewen. Aber ansonsten ist Tengai ideal für umfangreiche Bewerbungsgespräche, bei denen viele Personen zu interviewen sind. Somit ziehen die Unternehmen den größtmöglichen Nutzen aus dem Prozess. 

Glauben Sie, dass in ein paar Jahren jedes größere Unternehmen Tengai oder einen anderen Rekrutierungsroboter haben wird? 

Für mich ist das definitiv das Modell der Zukunft. Es gibt viele zukunftsorientierte Aspekte von Tengai. So gewöhnen wir uns immer mehr an Sprachtechnologie. Für mich ist es noch ein bisschen ungewohnt, Geräte mit meiner Stimme zu steuern. Doch die jüngere Generation ist mit diesem Wissen aufgewachsen und wird es nicht als befremdlich empfinden, von einem Roboter interviewt zu werden. Meiner Meinung nach wird die Digitalisierung nicht nur bei der Rekrutierung von Personal, sondern bei allen Interaktionen ein normaler Bestandteil werden. 

Auch andere Branchen können noch viel von der KI-Technologie profitieren, die Reise hat gerade erst begonnen. Tengai liefert der Personalvermittlung Daten und Unterstützung für ihre Entscheidungen, sodass sie effektiver arbeiten können. Wir wollen nicht die Personalvermittler*innen ersetzen, sondern ihnen helfen.