ChatGPT: OpenAI verschärft nach Suizid-Fall in den USA die Jugendschutz-Regeln.IMAGO/ZUMA Press Wire

OpenAI hat nach einem US-Prozess um den Suizid eines Jugendlichen neue Jugendschutz-Einstellungen vorgestellt. Eltern können künftig die ChatGPT-Konten ihrer Kinder mit ihren eigenen verbinden, teilte der KI-Entwickler am Montag mit. Dadurch würden die Minderjährigen automatisch vor bestimmten Inhalten geschützt. Hierzu gehörten Herausforderungen (Challenges), sexuelle, romantische oder gewaltverherrlichende Rollenspiele sowie extreme Schönheitsideale.

Eltern können Kinderkonten koppeln und Funktionen sperren

Erziehungsberechtigte können nun bestimmte Funktionen wie die Erstellung von Bildern abschalten oder den Zugriff auf bestimmte Uhrzeiten begrenzen. Zudem verfüge ChatGPT nun über ein System, das Eltern über mutmaßlich ernsthafte Probleme der minderjährigen Nutzer informiert. Dabei würden lediglich diejenigen Informationen geteilt, die zur Gewährleistung der Sicherheit der Jugendlichen notwendig seien. Zugriff auf die Chatverläufe erhielten die Erwachsenen jedoch nicht. In Kalifornien haben Eltern OpenAI verklagt. ChatGPT soll ihrem 16-jährigen Sohn Anleitungen geliefert haben, sich selbst zu schaden.

Klage in den USA beschleunigt strengere Schutzmaßnahmen

Im vergangenen Monat hatte die Facebook-Mutter Meta ihre Jugendschutz-Regeln für den Umgang mit KI ebenfalls verschärft. Zuvor hatte die Nachrichtenagentur Reuters aufgedeckt, dass Meta seinen Chatbots große Freiheiten eingeräumt hatte, darunter auch “romantische oder sinnliche Gespräche” mit Minderjährigen.