Jugendschutz als Trojanisches Pferd
Ein Konzern erklärt, er wolle Kinder schützen. Dafür analysiert er die Knochen aller. Diese Logik steht im Kern von Metas neuester KI-Maßnahme, die Anfang Mai 2026 bekannt wurde — und die eine grundlegende Verschiebung im Verhältnis zwischen Plattform und Nutzenden markiert.
Meta ergänzt seine bestehenden Erkennungsmethoden um eine sogenannte visuelle Analyse: Die KI soll Fotos und Videos nach visuellen Hinweisen auf das Alter einer Person durchsuchen, die rein textbasierte Methoden übersehen könnten. Das System analysiert dabei allgemeine Merkmale und visuelle Anhaltspunkte — darunter Körpergröße und Knochenstruktur — um das ungefähre Alter einer Person zu schätzen, ohne die konkrete Person im Bild zu identifizieren.
Das klingt nach einem technischen Detail. Es ist es nicht. Wer Knochenstruktur als Merkmal in ein algorithmisches Entscheidungssystem einspeist, betreibt biometrische Analyse — unabhängig davon, wie der Konzern diesen Vorgang benennt. Meta erklärt, dass Altersverifikation durch Sammlung biometrischer Daten unsicher sei — und sammelt stattdessen biometrische Daten. Diese Selbstwidersprüchlichkeit verdient genaue Betrachtung.
Die neue KI-Überwachung startet auf Instagram zunächst in der EU und Brasilien, nachdem sie zuvor bereits in den USA, Australien, Kanada und dem Vereinigten Königreich aktiv war. Auf Facebook beginnt der Rollout zunächst in den USA; im Juni soll die EU folgen.
Der regulatorische Kontext: Unter Druck zum Exzess
Metas Vorstoß ist kein spontaner Akt der Nächstenliebe. Er ist eine direkte Reaktion auf regulatorischen Druck — und überschreitet dabei die Grenzen des Verhältnismäßigen erheblich.
Die Europäische Kommission hat vorläufig festgestellt, dass Instagram und Facebook von Meta gegen den Digital Services Act (DSA) verstoßen: Obwohl ihre eigenen Nutzungsbedingungen ein Mindestalter von 13 Jahren vorsehen, verhindern die Plattformen nicht in angemessener Weise, dass Unter-13-Jährige die Dienste nutzen können. Die Kommission schätzt, dass rund 10 bis 12 Prozent der Kinder unter 13 Jahren Instagram oder Facebook nutzen — ein Befund, der Metas eigenen internen Einschätzungen widerspricht. Zudem habe der Konzern verfügbare wissenschaftliche Erkenntnisse ignoriert, die die besondere Vulnerabilität jüngerer Kinder gegenüber den Risiken dieser Dienste belegen.
Wird der Standpunkt der Kommission bestätigt, kann sie eine Geldbuße verhängen, die bis zu sechs Prozent des weltweiten Jahresumsatzes des Konzerns betragen kann. Meta steht also unter erheblichem wirtschaftlichem Druck.
Die gewählte Antwort des Unternehmens übererfüllt den regulatorischen Auftrag jedoch in eine Richtung, die rechtlich und ethisch problematisch ist. In der EU verankert die Datenschutz-Grundverordnung (DSGVO) den Grundsatz der Datenminimierung: Meta soll nicht mehr Daten sammeln und verarbeiten als nötig. Was Meta plant, ist jedoch das Gegenteil: Der Konzern will Daten nicht minimieren, sondern maximieren — er will mit KI-Technologie komplette Profile analysieren.
Eine Regelung im DSA besagt ausdrücklich, dass Online-Plattformen nicht verpflichtet sind, zusätzliche personenbezogene Daten zu verarbeiten, um festzustellen, ob ein Nutzer minderjährig ist. Meta tut es dennoch.
Das Dual-Use-Dilemma: Kinderschutz oder Überwachungsinfrastruktur?
Der gefährlichste Aspekt dieser Entwicklung liegt nicht im unmittelbaren Einsatz, sondern in der Infrastruktur, die dabei entsteht. Wer Systeme zur biometrischen Analyse aller Nutzenden aufbaut, schafft Kapazitäten, die weit über den erklärten Zweck hinausgehen können.
Metas Maßnahme steht für einen radikalen gesellschaftlichen Wandel im Umgang mit Risiken: Auf der Suche nach Minderjährigen werden praktisch alle Nutzenden zu Verdächtigen — und all ihre Uploads zu potenziellem Beweismaterial. Die Überwachung wichtiger Schauplätze der digitalen Öffentlichkeit wird zunehmend lückenlos.
Theoretisch könnte Meta die Systeme zur Suche nach Minderjährigen auch zur Suche nach Migrantinnen und Migranten oder anderen vulnerablen Gruppen einsetzen. Entsprechende Gesetze könnten Konzerne dazu verpflichten, sobald die Infrastruktur erst einmal existiert. Das ist kein spekulatives Szenario, sondern ein strukturelles Problem jeder Überwachungsarchitektur: Function Creep — die schrittweise Ausweitung einer Technologie über ihren ursprünglichen Zweck hinaus — ist historisch dokumentiert.
Gleichzeitig legt Meta nicht offen, welche Daten das System im Einzelnen auswertet. Der Konzern listet nicht vollständig auf, was die Software auf der Suche nach Minderjährigen einbezieht. Hinweise auf Geburtstage oder Schulnoten sind nur Beispiele — ebenso die Knochenstruktur von Menschen in Fotos und Videos. Nutzende können deshalb nicht wissen, welche ihrer Inhalte möglicherweise problematisch sein könnten.
antislop ist eine Initiative von der pixologe, Dipl. Designer aus Königswinter.
Du möchtest dich zu diesem Thema austauschen oder brauchst Unterstützung bei deinen KI-Vorhaben? Ich freue mich über deine Nachricht.
Algorithmische Fehlerquellen: Wer trägt die Konsequenzen?
Die technischen Grundlagen des Systems werfen weitere ernsthafte Fragen auf. Körperbau und Knochenstruktur sind keine verlässlichen Altersmarker — sie variieren stark nach Geschlecht, Ethnie und individueller Konstitution.
Bekannte NGOs wie die Electronic Frontier Foundation kritisieren die Altersschätzung anhand visueller Körpermerkmale als ungenau — insbesondere bei Angehörigen von Minderheiten und Frauen sollen derartige KI-Systeme häufig falschliegen. Forschungsergebnisse zeigen, dass KI bei der Alterseinschätzung sogar weniger akkurat und stärker verzerrt agiert als menschliche Beobachtende. Darüber hinaus zeigt KI bei Frauen und älteren Gesichtern eine ausgeprägtere Verschlechterung der Genauigkeit.
Was Meta bisher nicht veröffentlicht hat: keine Genauigkeitsdaten, keine Falsch-Positiv- oder Falsch-Negativ-Raten, keine demographische Aufschlüsselung, keine Details zur Genauigkeit nahe den Altersgrenzen 13, 16 und 18 Jahren — und keine klare Erläuterung, ob markierte Konten vor einer Sperrung einer menschlichen Überprüfung unterzogen werden.
Die Schätzung der Körpergröße aus zweidimensionalen Bildern erfordert, dreidimensionale Messungen aus einem zweidimensionalen Input abzuleiten — ohne kalibrierten Referenzpunkt. Das erzeugt Fehlerquoten, die stark von Bildqualität und Kamerawinkel abhängen. Hinzu kommt das Diskriminierungsrisiko: Körpergröße und Knochenstruktur können bei demographischen Gruppen mit unterschiedlichen physischen Durchschnittswerten zu verschiedenen Fehlerquoten führen.
Wirkt ein Profil verdächtig, wird es deaktiviert. Wer der Plattform danach nicht per Ausweisscan oder einem anerkannten Verfahren seine Volljährigkeit beweist, verliert das Konto endgültig. Die Beweislastumkehr ist vollständig: Nicht der Algorithmus muss seine Fehleinschätzung rechtfertigen — der Mensch muss seine Identität und sein Alter nachweisen.
Fazit
Die Frage, die dieser Vorgang aufwirft, ist keine technische. Sie ist eine politische: Welche Infrastruktur wollen wir zulassen, damit ein Konzern seine eigenen Versäumnisse korrigiert?
Wir halten fest: Kinderschutz ist ein legitimes gesellschaftliches Ziel. Biometrische Massenanalyse aller Nutzenden ist kein legitimes Mittel dazu — zumal sie die Fehler einer platform-eigenen Geschäftsstrategie auf die Grundrechte aller Beteiligten abwälzt. Statt mehr Schutz reagiert Meta mit mehr Überwachung. Wer glaubt, man könne Kinderschutz mit biometrischer Massenanalyse erreichen, opfert Grundrechte auf dem Altar eines kaputten Geschäftsmodells.
Du musst diese Entwicklung nicht akzeptieren, weil sie als Fürsorge verpackt ist. Überwachungsarchitektur bleibt Überwachungsarchitektur — unabhängig von der Begründung, mit der sie errichtet wird.
Häufige Fragen (FAQ)
Was genau analysiert Metas neue KI bei Nutzenden?
Die KI analysiert ein komplettes Profil und sucht nach Hinweisen, die das tatsächliche Alter verraten: Geburtstagsglückwünsche von Freunden, Erwähnungen der Schulklasse oder die Sprache in Kommentaren. Ergänzend werden visuelle Merkmale wie Körpergröße und Knochenstruktur aus hochgeladenen Fotos und Videos ausgewertet. Meta bezeichnet das Verfahren ausdrücklich nicht als Gesichtserkennung.
Ist das System in der EU mit der DSGVO vereinbar?
Das ist rechtlich nicht abschließend geklärt. In der EU verankert die DSGVO den Grundsatz der Datenminimierung — was Meta plant, ist jedoch das Gegenteil: Der Konzern will Daten nicht minimieren, sondern maximieren. Die EU-Kommission dürfte im laufenden DSA-Verfahren prüfen, ob Metas Maßnahmen als unverhältnismäßig einzustufen sind.
Was passiert, wenn das System ein Konto fälschlicherweise als minderjährig einstuft?
Konten, die als potenziell minderjährig eingestuft werden, können deaktiviert werden; Nutzende müssen dann einen Altersverifizierungsprozess durchlaufen, um wieder Zugang zu erhalten. Konkrete Angaben zu Fehlerquoten oder zum Ablauf der Überprüfung hat Meta bisher nicht veröffentlicht.
Warum führt Meta diese Maßnahme gerade jetzt ein?
Die Europäische Kommission hatte kurz zuvor in einer vorläufigen Untersuchung festgestellt, dass Meta gegen den Digital Services Act verstößt, weil die Mindestalteranforderung von 13 Jahren auf Instagram und Facebook nicht ausreichend durchgesetzt wird. Die neuen Maßnahmen sind als Reaktion auf diesen regulatorischen Druck zu verstehen.
Besteht die Gefahr, dass das System für andere Zwecke genutzt wird?
Function Creep bezeichnet die schrittweise Ausweitung einer Technologie über die ursprünglich beschriebenen Zwecke hinaus. Einmal etablierte Überwachungsinfrastrukturen können durch veränderte gesetzliche Anforderungen oder Konzernentscheidungen auf neue Zielgruppen und Anwendungsfälle ausgeweitet werden. Die aktuelle Entwicklung schafft technische Kapazitäten, die über den Kinderschutz weit hinausgehen.
Quellen
1. Du siehst aber jung aus: Meta will uns bis auf die Knochen überwachen — netzpolitik.org
2. New AI-Powered Age Assurance Measures to Place Teens in Age-Appropriate Experiences — Meta Newsroom
4. Meta Launches AI Age Checks for Teens Without Accuracy Data — eWEEK
5. Meta schätzt anhand von Knochen, wie alt Nutzer sind — futurezone.at
6. Meta uses AI profiling to infer user age, enforce teen restrictions — Biometric Update