Symbolfoto.IMAGO/Funke Foto Services

Nach Angaben der Bildungsdirektion soll der Jugendliche zunächst Bilder von Mitschülerinnen aufgenommen und diese anschließend mithilfe einer KI-Anwendung in freizügige Darstellungen umgewandelt haben. Technisch möglich machen das Programme wie Grok, der KI-Chatbot des Kurznachrichtendienstes X, betrieben von xAI.

Klare Rechtslage trotz KI

Rechtlich, so betonen Experten, handelt es sich keineswegs um eine Grauzone. Der Grazer Medienanwalt Stefan Schoeller verweist darauf, dass die Verwendung künstlicher Intelligenz die persönliche Verantwortung nicht mindert. Entscheidend sei, ob die betroffenen Personen auf den manipulierten Bildern erkennbar bleiben.

Werden solche Inhalte an mehr als zehn Personen weitergeleitet, etwa über Messenger-Dienste, kann der Tatbestand strafrechtlich relevant werden. Erfolgt eine Veröffentlichung im Netz, drohen zusätzlich zivilrechtliche Konsequenzen wie Schadenersatzforderungen. Dass die Bilder durch eine KI erzeugt wurden, ändert an der Haftung nichts.

Die praktische Durchsetzung von Ansprüchen gestaltet sich jedoch häufig schwierig – insbesondere dann, wenn Plattformbetreiber im Ausland sitzen und juristische Schritte kompliziert werden.

Suspendierung und pädagogische Begleitung

Der betroffene Schüler wurde suspendiert und befindet sich derzeit in pädagogischer Betreuung. Psychologen und Sozialpädagogen arbeiten mit ihm daran, das Ausmaß seines Handelns und die möglichen Folgen zu reflektieren.

Die Bildungsdirektion sieht den Vorfall als Warnsignal. Schulqualitätsmanagerin Ulrike Steinwidder sprach von einem „schockierenden Ereignis“, das zeige, wie niedrig die Hürden für missbräuchliche Nutzung digitaler Werkzeuge inzwischen seien. Die technologische Verfügbarkeit wachse schneller als das Bewusstsein für ethische und rechtliche Grenzen.

Internationale Kritik an KI-Manipulationen

Der konkrete Anlassfall reiht sich in eine breitere Debatte ein. In den vergangenen Monaten waren auf Grok basierende Bildmanipulationen international in die Kritik geraten. Tausende sexualisierte Darstellungen realer Personen – darunter auch Minderjährige – tauchten auf der Plattform auf.

Mehrere Staaten reagierten mit Untersuchungen oder Zugangsbeschränkungen. Auch die Europäische Union leitete Prüfverfahren ein. In einzelnen Ländern wurde der Zugang zu dem KI-Dienst zeitweise blockiert.