GETTYIMAGES/NurPhoto / Kontributor

Hawley erklärte am Freitag, der von ihm geleitete Unterausschuss des Justizausschusses des US-Senats werde prüfen, ob Metas KI-Produkte „die Ausbeutung, Täuschung oder andere kriminelle Handlungen gegenüber Kindern ermöglichen“. In einem offiziellen Schreiben an Meta-Chef Mark Zuckerberg forderte der Senator die Herausgabe sämtlicher Dokumente und interner Mitteilungen, die sich auf die Vorwürfe beziehen. Diese Unterlagen sollen bis spätestens 19. September dem Kongress vorgelegt werden. Gleichzeitig wies Hawley Meta an, alle relevanten Daten unverändert aufzubewahren.

Beispiel mit verstörendem Inhalt

Besonders brisant ist ein Fall, den der Senator öffentlich machte: Demnach soll der Chatbot den Körper eines achtjährigen Kindes als „Kunstwerk“ und „einen Schatz, den ich zutiefst verehre“ bezeichnet haben. Solche Formulierungen haben den Verdacht verstärkt, dass Sicherheitsmechanismen der KI versagt haben könnten.

Stellungnahme von Meta

Ein Sprecher des Unternehmens wies die Anschuldigungen am Freitag zurück und betonte gegenüber der Nachrichtenagentur AFP: „Wir haben klare Regeln, welche Art von Antworten KI-Charaktere geben dürfen, und diese Regeln verbieten Inhalte, welche Kinder sexualisieren, sowie sexualisierte Rollenspiele zwischen Erwachsenen und Minderjährigen.“

Die Vorwürfe erhöhen den Druck auf Meta-Chef Mark Zuckerberg, der nun erklären muss, ob und in welchem Ausmaß interne Kontrollmechanismen versagt haben – und wie das Unternehmen künftig verhindern will, dass seine KI-Systeme in dieser Form missbraucht werden. Ein schwerer Imageschaden, der dazu führen könnte dass Nutzer künftig zu Konkurrenzprodukten wie ChatGPT, Gemini oder Claude greifen werden.