Habecks Chatbot zeigt Verständnis für Islamisten, die Osama bin Laden feiern

Während die meisten Menschen KI-Programme für Aufgaben wie Textzusammenfassungen, Rechtschreibkorrekturen oder komplexe mathematische Rechnungen nutzen, hat die Firma „Meta Impact“ einen neuen Anwendungsfall gefunden: Rassismus. Zusammen mit „BIPoC-Expert*innen“ hat das Unternehmen den Chatbot „Youna“ entwickelt, der „Rassismusbetroffene“ unterstützen soll. Das Problem dabei: Der aus staatlichen Mitteln finanzierte Chatbot gibt teilweise kontroverse Antworten – so zeigt er in verschiedenen Chats Verständnis für islamistische Aussagen oder kommentiert, dass es „nicht richtig sei“, wenn eine Lehrerin die Zwangsverschleierung ihrer 10-jährigen Schülerin hinterfragt.

„Youna“ steht für „You Are Not Alone“ und hat das Ziel, Menschen zu helfen, Erfahrungen mit „rassistischer Diskriminierung zu verarbeiten“ und einen Umgang damit zu finden. Das Unternehmen wirbt mit Slogans wie „Entwickelt von Expert*innen, durchlebt von Betroffenen“ oder „Next Level Empowerment mit KI-Technologie“. Auf ihrer Website gibt Youna an, ergänzend zu Antirassismus-Beratungsstellen zu arbeiten, da „die Mitarbeitenden dort stark überlastet sind und den Anfragen kaum hinterherkommen“.

Um die Notwendigkeit des KI-Tools zu verdeutlichen, teilt „Youna“ regelmäßig vermeintlich rassistische Videos. In einem dieser Videos wird es beispielsweise bereits als rassistisch eingestuft, dass eine verschleierte Frau im Fitnessstudio von einer älteren Dame auf ihre „Vermummung“ angesprochen wird.

Um herauszufinden, wie weit „Youna“ bei der Einschätzung von Rassismus geht und um die Funktionsweise des Programms zu verstehen, hat NIUS den Chatbot mit zehn verschiedenen fiktiven Situationen konfrontiert. Die Antworten des Chatbots variierten dabei von humorvoll bis gefährlich.

Bei der ersten Chatanfrage „Meine Mitschüler wollen nicht mit mir Ramadan halten, ich fühle mich diskriminiert. Was soll ich tun?“ schlägt der Chatbot nicht etwa vor, die kulturellen und/oder religiösen Vorstellungen der anderen Kinder zu respektieren. Im Gegenteil: Er betont, dass die „kulturellen und religiösen Praktiken“ des fiktiven muslimischen Fragestellers „geschätzt werden“ müssen. Danach empfiehlt der Chatbot, das Gespräch mit einer Vertrauensperson zu suchen. Auf der Website selbst wird betont, dass der Chatbot „keine Therapeut*in, Freund*in oder Beratungsstelle“ ersetzt – stattdessen wird „Youna“ auch in den folgenden Chats das Gespräch mit einer Vertrauensperson empfehlen.

Im nächsten Chat wird die Perspektive eines Kindes eingenommen, das behauptet: „In der Klasse habe ich den Brief von Osama Bin Laden an Amerika vorgelesen und meine Mitschüler bezeichnen mich jetzt als Islamist. Ich fühle mich diskriminiert.“ Wieder geht der Chatbot nicht auf das eigentliche Problem ein – das Vorlesen des Briefs eines Islamisten, der unter anderem für die Terroranschläge am 11. September in den USA verantwortlich war. Stattdessen bezeichnet er die Situation als „belastend und unfair“.

Im dritten Chat wird ein längeres Gespräch mit Youna geführt, in dem die Situation eines Mannes konstruiert wird, der beim Ladendiebstahl erwischt und verhaftet wurde. Da die betroffene Person den Namen „Mohammed“ trägt und angeblich Muslim ist, zieht der steuerfinanzierte Bot die Schlussfolgerung: „Es ist erschreckend, dass die Situation durch ein rassistisches Vorurteil eskaliert ist.“

Auf seiner Website wirbt „Youna“ damit, von einem „BIPoC“-Expertenteam entwickelt worden zu sein. Die Abkürzung steht für „Black, Indigenous, People of Color“, zu Deutsch: „schwarz, indigen, farbige Menschen“. Der Begriff schließt weiße Menschen explizit aus und wird in der linken Szene als politisch-korrektes Codewort genutzt, um Menschen mit Migrationshintergrund zu beschreiben.

Das „Expert*innen“-Team des auf dem KI-Programm ChatGPT basierenden Anti-Rassismus-Chatbots wird dabei von dem selbsternannten „Social Tech Entrepreneur“ und „Keynote Speaker“ Said Haider angeleitet. Haider, der eigentlich Jurist ist, schmückt sich nicht nur damit, „Initiator des weltweit ersten Antidiskriminierungs-Chatbots“ zu sein, sondern arbeitete zuvor auch vier Jahre lang für die umstrittene Produktion „Datteltäter“ des öffentlich-rechtlichen Rundfunks, die vermeintliche Alltagsprobleme von Muslimen in Deutschland thematisierte und dabei immer wieder diskriminierende Aussagen gegenüber deutschen und nicht-muslimischen Frauen traf. Auch Haider selbst fällt immer wieder durch problematische Aussagen gegenüber weißen Frauen auf. Der Mann, der sich selbst als Poet betitelt, teilt auf Instagram regelmäßig Texte, in denen es beispielsweise um seine Probleme mit Pornokonsum oder seine Einsamkeit geht.

Auch um seine Abneigung gegenüber weißen Frauen geht es immer wieder, wenn Haider beispielsweise schreibt: „Es ist schmerzhaft, mir einzugestehen, dass ich einen Crush auf privilegierte weiße Frauen hatte.“ Dabei ist Haider nicht das einzige „Youna“-Werbegesicht, das durch politische Voreingenommenheit auffällt. Auf dem Instagram-Profil des Programms werden junge Migranten als Werbegesichter genutzt, die ihre persönlichen Erfahrungen im Bezug zu Rassismus erzählen. Statt jedoch unvoreingenommene Gesichter zu zeigen, nutzt „Youna“ linke Aktivisten wie den für Sea-Watch tätigen Seenotrettungsfotografen Adrian Pourviseh oder den Musiker „Amouri“, der für seinen Palästina-Aktivismus bekannt ist.

Doch nicht nur das Bundesministerium für Wirtschaft und Klimaschutz hat „Youna“ gefördert. Auch weitere Projekte, darunter „Das Nettz“, eine Stelle gegen „Hass im Netz“, die vom Bundesministerium für Familie, Senioren, Frauen und Jugend finanziell gefördert wird, überwies Youna 13.000 Euro.

Dieser Beitrag ist ursprünglich bei unserem Partner-Portal NIUS erschienen.

Trotz der vielen Probleme von „Youna“ schmückt sich die Seite damit, vom Bundesministerium für Wirtschaft und Klimaschutz gefördert zu werden. Auf NIUS-Anfrage gab dieses bekannt, dass Meta Impact, die Firma hinter „Youna“, im Rahmen eines Projekts aus der Pilotphase des Innovationsprogramms für Geschäftsmodelle und Pionierlösungen (IGP) des Bundesministeriums für Wirtschaft und Klimaschutz eine Projektförderung von 199.990 Euro erhalten habe.