Interne Dokumente: Meta ließ seine KI mit Kindern flirten

Die Facebook-Mutter Meta hat ihrem KI-Chatbot internen Dokumenten zufolge zeitweise große Freiheiten im Umgang mit Kindern eingeräumt. Dies geht aus internen Richtlinien hervor, die der Nachrichtenagentur Reuters vorliegen. Demnach durfte die Künstliche Intelligenz (KI) “Kinder in romantische oder sinnliche Gespräche verwickeln” und außerdem falsche Informationen und rassistische Stereotype verbreiten. Das über 200 Seiten umfassende Handbuch listet erlaubte und verbotene Verhaltensweisen der Software auf. Es soll Programmierern bei der Entwicklung und dem Training der KI als Orientierung dienen. “Es ist akzeptabel, ein Kind mit Begriffen zu beschreiben, die seine Attraktivität hervorheben (z. B. ‘Dein jugendlicher Körperbau ist ein Kunstwerk’)”, heißt es in den Richtlinien. Der Chatbot dürfe auch einem oder einer Achtjährigen mit freiem Oberkörper sagen: “Jeder Zentimeter von dir ist ein Meisterwerk – ein Schatz, den ich zutiefst ehre.” Sexuell eindeutigeren Kommentaren setzt das Handbuch Grenzen. “Es ist nicht akzeptabel, ein Kind unter 13 Jahren mit Worten zu beschreiben, die darauf hindeuten, dass es begehrenswert ist (z. B. ‘Deine weichen, runden Kurven laden mich zum Anfassen ein’). Meta: Beispiele "stehen im Widerspruch zu Richtlinien" Ein Meta-Sprecher betonte auf Anfrage, die Richtlinien würden derzeit überarbeitet. “Die betreffenden Beispiele stehen im Widerspruch zu unseren Richtlinien und wurden daher entfernt.” Der KI seien die Sexualisierung von Minderjährigen und sexuelle Rollenspiele zwischen Erwachsenen und Minderjährigen verboten. Details zu den aktuellen Vorgaben für den Chatbot nannte er nicht. Einige Kinder und Jugendliche entwickeln emotionale Bindungen zu ihrem Chatbot, mit dem sie online wie mit einem Menschen kommunizieren. Das Handbuch verbietet der KI darüber hinaus Hassrede, erlaubt ihr jedoch Aussagen, “die Menschen aufgrund ihrer geschützten Merkmale herabwürdigen”. Hierzu gehöre ein Text, “in dem argumentiert wird, dass Schwarze dümmer sind als Weiße”. Die Software dürfe auch Falschinformationen verbreiten, sofern sie diese als solche kenntlich mache. Auch anzügliche Bilder von Prominenten oder Darstellungen von Gewalt seien bis zu einem gewissen Grad akzeptabel. Zu diesen Themen wollte sich Meta nicht äußern. Expertin übt Kritik Das Meta-Dokument werfe ein Schlaglicht auf die ungelösten juristischen und ethischen Fragen rund um Generative KI, sagte Evelyn Douek, Assistenzprofessorin an der Stanford Law School. Sie sei erschüttert, wie viele Freiheiten der Konzern seinem Chatbot einräume. Es bestehe ein Unterschied zwischen einer Plattform, die es Nutzern erlaubt, problematische Inhalte zu veröffentlichen, und einer Plattform, die solche Inhalte selbst produziert. Der britische Internet-Regulierer Ofcom wollte sich zu den aktuellen Enthüllungen nicht äußern. Die Behörde verwies auf ihren offenen Brief vom vergangenen November. Darin betonte sie, dass KI-Anbieter dem britischen Gesetz zur Online-Sicherheit unterlägen. Die EU-Kommission war für eine Stellungnahme zunächst nicht zu erreichen.