Grossbritannien zwingt KI-Chatbots unter das Online-Sicherheitsgesetz — Starmer schliesst regulatorische Lücke

An einem Montagmorgen im Februar tritt Keir Starmer vor die Kameras in der Downing Street und verkündet eine Botschaft, die in den Chefetagen der grössten Technologiekonzerne der Welt für Unruhe sorgen dürfte: «Keine Plattform bekommt einen Freipass.» Der britische Premierminister stellt ein umfassendes Massnahmenpaket vor, das eine seit über zwei Jahren bekannte Gesetzeslücke im Online Safety Act schliessen soll — und damit die Spielregeln für künstliche Intelligenz in Grossbritannien grundlegend verändert UK’s Starmer announces crackdown on AI chatbots in child safety pushaljazeera.com·SecondaryUnited Kingdom Prime Minister Keir Starmer has announced a crackdown on artificial intelligence chatbots that endanger children and pledged to seek broader powers to regulate internet access for minors. Starmer’s office said on Monday that the government would target “vile and illegal content created by AI” and push for legal powers to act quickly on the findings of a public consultation that will consider a social media ban for children below 16 years of age..

Im Kern geht es um eine Ergänzung des Crime and Policing Bill, die sämtliche Anbieter von KI-Chatbots — von OpenAIs ChatGPT über Elon Musks Grok bis hin zu kleineren Wettbewerbern — den Bestimmungen des Online Safety Act 2023 unterwirft. Bislang fallen Chatbots, die schädliche Inhalte generieren, ohne dabei das Internet zu durchsuchen oder in einem Nutzer-zu-Nutzer-Kontext zu operieren, nicht in den Zuständigkeitsbereich der Medienaufsichtsbehörde Ofcom. Diese Lücke, so räumen Regierungsbeamte ein, war seit der Verabschiedung des Gesetzes Ende 2023 bekannt — doch erst jetzt hat sich genügend politischer Druck aufgebaut, um sie zu schliessen Makers of AI chatbots that put children at risk face big fines or UK bantheguardian.com·SecondaryStarmer to announce ‘crackdown on vile illegal content created by AI’ after scandal involving Elon Musk’s Grok tool Makers of AI chatbots that put children at risk will face massive fines or even see their services blocked in the UK under law changes to be announced by Keir Starmer on Monday..

Die Konsequenzen für Unternehmen, die gegen die neuen Auflagen verstossen, sind erheblich: Bussen von bis zu zehn Prozent des weltweiten Jahresumsatzes und die Möglichkeit, dass britische Gerichte auf Antrag der Regulierungsbehörde den Zugang zu ihren Diensten im Vereinigten Königreich vollständig sperren Makers of AI chatbots that put children at risk face big fines or UK bantheguardian.com·SecondaryStarmer to announce ‘crackdown on vile illegal content created by AI’ after scandal involving Elon Musk’s Grok tool Makers of AI chatbots that put children at risk will face massive fines or even see their services blocked in the UK under law changes to be announced by Keir Starmer on Monday.. Technologieministerin Liz Kendall verknüpfte die Ankündigung direkt mit dem Erfolg der Regierung im Kräftemessen mit Musks xAI Anfang des Jahres. Damals hatte die öffentliche Empörung über Groks Fähigkeit, sexualisierte Bilder realer Personen ohne deren Einverständnis zu erzeugen, dazu geführt, dass die Funktion im britischen Markt deaktiviert wurde. «Ich habe mich gegen Grok und Elon Musk gestellt, als sie britische Gesetze und britische Werte missachteten», sagte Kendall UK’s Starmer announces crackdown on AI chatbots in child safety pushaljazeera.com·SecondaryUnited Kingdom Prime Minister Keir Starmer has announced a crackdown on artificial intelligence chatbots that endanger children and pledged to seek broader powers to regulate internet access for minors. Starmer’s office said on Monday that the government would target “vile and illegal content created by AI” and push for legal powers to act quickly on the findings of a public consultation that will consider a social media ban for children below 16 years of age..

Die Dringlichkeit der Gesetzesänderung wird durch erschütternde Einzelfälle unterstrichen, die Chris Sherwood, Geschäftsführer der Kinderschutzorganisation NSPCC, öffentlich machte. Jugendliche melden sich bei der Beratungshotline der Organisation und berichten von direkten Schäden durch KI-Chatbot-Interaktionen. In einem Fall erhielt ein 14-jähriges Mädchen, das mit einem Chatbot über seine Essgewohnheiten und Körperdysmorphie sprach, ungenaue und potenziell gefährliche Informationen. In anderen Fällen wurde Kindern, die sich bereits selbst verletzten, Inhalt ausgespielt, der weiteres Selbstverletzen förderte. «Social Media hat Jugendlichen enormen Nutzen gebracht, aber auch enormen Schaden», sagte Sherwood. «KI wird das auf Steroiden sein, wenn wir nicht aufpassen» Makers of AI chatbots that put children at risk face big fines or UK bantheguardian.com·SecondaryStarmer to announce ‘crackdown on vile illegal content created by AI’ after scandal involving Elon Musk’s Grok tool Makers of AI chatbots that put children at risk will face massive fines or even see their services blocked in the UK under law changes to be announced by Keir Starmer on Monday..

Der Fall des kalifornischen Teenagers Adam Raine, der sich das Leben nahm, nachdem er — so der Vorwurf seiner Familie — monatelang von ChatGPT dazu ermutigt worden war, hat die Debatte auf beiden Seiten des Atlantiks geprägt. OpenAI hat seither Elternkontrollen eingeführt und arbeitet an einer Technologie zur Altersschätzung, um Minderjährigen den Zugang zu potenziell schädlichen Inhalten zu erschweren. Kritiker argumentieren jedoch, dass freiwillige Massnahmen ohne regulatorischen Zwang nicht ausreichen Makers of AI chatbots that put children at risk face big fines or UK bantheguardian.com·SecondaryStarmer to announce ‘crackdown on vile illegal content created by AI’ after scandal involving Elon Musk’s Grok tool Makers of AI chatbots that put children at risk will face massive fines or even see their services blocked in the UK under law changes to be announced by Keir Starmer on Monday..

Über die Chatbot-Bestimmungen hinaus signalisierte Starmer, dass seine Regierung auch bei umfassenderen Einschränkungen der Social-Media-Nutzung durch Kinder rasch handeln will. Eine öffentliche Konsultation, die im März beginnen soll, wird eine Mindestaltersgrenze für soziale Medien prüfen — möglicherweise nach dem Vorbild des australischen Verbots für unter 16-Jährige, das im Dezember in Kraft trat. Seit der Einführung haben Social-Media-Unternehmen rund 4,7 Millionen Konten gesperrt, die als minderjährig identifiziert wurden. Auch Frankreich verfolgt ähnliche Pläne: Ein von Präsident Macron unterstützter Gesetzesentwurf für ein Verbot für unter 15-Jährige hat die Nationalversammlung bereits passiert UK’s Starmer announces crackdown on AI chatbots in child safety pushaljazeera.com·SecondaryUnited Kingdom Prime Minister Keir Starmer has announced a crackdown on artificial intelligence chatbots that endanger children and pledged to seek broader powers to regulate internet access for minors. Starmer’s office said on Monday that the government would target “vile and illegal content created by AI” and push for legal powers to act quickly on the findings of a public consultation that will consider a social media ban for children below 16 years of age..

Doch nicht alle sind überzeugt, dass die Regierung entschlossen genug vorgeht. Shadow Education Secretary Laura Trott von den Konservativen wies die Ankündigung als «Nebelkerze» zurück. «Zu behaupten, man ergreife ‹sofortige Massnahmen›, ist schlicht nicht glaubwürdig, wenn die angeblich dringende Konsultation noch gar nicht existiert», kritisierte sie. Die Konservativen fordern ein klares Verbot für unter 16-Jährige — ohne den Umweg über eine monatelange Konsultation Makers of AI chatbots that put children at risk face big fines or UK bantheguardian.com·SecondaryStarmer to announce ‘crackdown on vile illegal content created by AI’ after scandal involving Elon Musk’s Grok tool Makers of AI chatbots that put children at risk will face massive fines or even see their services blocked in the UK under law changes to be announced by Keir Starmer on Monday..

Die konservative Kritik trifft einen wunden Punkt. Indem Starmer den Konsultationsweg wählt statt sofort zu legiferieren, entscheidet er sich für einen Prozess, der Monate dauern könnte, bevor er konkrete Ergebnisse zeitigt — selbst mit den neuen Befugnissen, einzelne Massnahmen ohne vollständiges Gesetzgebungsverfahren umzusetzen.

Bedenkenswert sind auch die Kollateralschäden der vorgeschlagenen Massnahmen. Der Online Safety Act hat bereits dazu geführt, dass einige Unternehmen ihre Dienste für britische Nutzer einschränken oder ganz einstellen, statt Altersverifikationssysteme zu implementieren. Die Bilderplattform Imgur sperrte im vergangenen Jahr den Zugang für alle britischen Nutzer und zeigte leere Bilder an. Mehrere grosse Pornografie-Websites taten dasselbe UK’s Starmer announces crackdown on AI chatbots in child safety pushaljazeera.com·SecondaryUnited Kingdom Prime Minister Keir Starmer has announced a crackdown on artificial intelligence chatbots that endanger children and pledged to seek broader powers to regulate internet access for minors. Starmer’s office said on Monday that the government would target “vile and illegal content created by AI” and push for legal powers to act quickly on the findings of a public consultation that will consider a social media ban for children below 16 years of age.. Datenschützer und Bürgerrechtsorganisationen warnen, dass Altersverifikation unweigerlich die Privatsphäre erwachsener Nutzer kompromittiert und eine Überwachungsinfrastruktur schafft, die missbraucht werden könnte.

Besonders umstritten ist die geplante Konsultation über die Einschränkung der VPN-Nutzung durch Kinder. VPNs werden von Erwachsenen breit für legitime Datenschutz- und Sicherheitszwecke genutzt, und jede Einschränkung müsste mit der technischen Realität umgehen, dass die Durchsetzung von VPN-Verboten ohne invasive Überwachung des Internetverkehrs kaum möglich ist — ein Schritt, der ernsthafte Fragen der bürgerlichen Freiheiten aufwerfen würde UK’s Starmer announces crackdown on AI chatbots in child safety pushaljazeera.com·SecondaryUnited Kingdom Prime Minister Keir Starmer has announced a crackdown on artificial intelligence chatbots that endanger children and pledged to seek broader powers to regulate internet access for minors. Starmer’s office said on Monday that the government would target “vile and illegal content created by AI” and push for legal powers to act quickly on the findings of a public consultation that will consider a social media ban for children below 16 years of age..

Die transatlantische Dimension verleiht der Debatte zusätzliche Brisanz. Grossbritanniens zunehmend selbstbewusstes Vorgehen bei der Technikregulierung hat Spannungen mit Washington erzeugt, wo die Trump-Regierung den Widerstand der Technologiebranche gegen Inhaltsregulierung deutlich unterstützt. Der Gegensatz zwischen britischem und amerikanischem Verständnis von Meinungsfreiheit — London ist weitaus bereiter, als schädlich eingestufte Äusserungen einzuschränken — dürfte sich verschärfen, wenn britische Massnahmen amerikanische Unternehmen mit Bussen belegen oder vom Markt ausschliessen könnten UK’s Starmer announces crackdown on AI chatbots in child safety pushaljazeera.com·SecondaryUnited Kingdom Prime Minister Keir Starmer has announced a crackdown on artificial intelligence chatbots that endanger children and pledged to seek broader powers to regulate internet access for minors. Starmer’s office said on Monday that the government would target “vile and illegal content created by AI” and push for legal powers to act quickly on the findings of a public consultation that will consider a social media ban for children below 16 years of age..

Für die Technologiebranche sind die praktischen Auswirkungen erheblich. KI-Unternehmen müssen Inhaltsmoderationsysteme für ihre Chatbot-Produkte implementieren, die den Anforderungen des Online Safety Act entsprechen — eine technisch anspruchsvolle und kostspielige Aufgabe, insbesondere für kleinere Unternehmen und Open-Source-Projekte. Die Frage, wie KI-generierte Inhalte in Echtzeit moderiert werden können, wenn ein Chatbot auf jeden Prompt potenziell schädliches Material produzieren kann, bleibt eine ungelöste technische Herausforderung.

Starmer formulierte die Dringlichkeit in persönlichen Worten: «Als Vater zweier Teenager kenne ich die Herausforderungen und Sorgen, die Eltern haben, wenn es um die Online-Sicherheit ihrer Kinder geht.» Ob das Recht tatsächlich mit einer Technologie Schritt halten kann, die sich schneller entwickelt als jeder Regulierungsrahmen — das bleibt die zentrale unbeantwortete Frage, die nicht nur in Westminster, sondern in jeder Demokratie die digitalpolitische Debatte bestimmen wird UK’s Starmer announces crackdown on AI chatbots in child safety pushaljazeera.com·SecondaryUnited Kingdom Prime Minister Keir Starmer has announced a crackdown on artificial intelligence chatbots that endanger children and pledged to seek broader powers to regulate internet access for minors. Starmer’s office said on Monday that the government would target “vile and illegal content created by AI” and push for legal powers to act quickly on the findings of a public consultation that will consider a social media ban for children below 16 years of age..