Der Verg­leich, den Meta selbst mitgesc­hrieben hat

Meta beendet in den USA einen der größten Kinderschutz-Prozesse gegen einen Tech-Konzern. Für das Unternehmen ist das ein guter Tag. Und der Vergleich könnte auch die Debatte in Europa verändern. Eine Hintergrundanalyse.

Ende April stellte die EU-Kommission vorläufig fest, dass Meta nicht genug dagegen tut, dass Kinder unter 13 Jahren Instagram und Facebook nutzen. Am 10. Juli folgte der nächste Vorwurf: Instagram und Facebook verstießen womöglich auch wegen ihres „süchtig machenden Designs" gegen den Digital Services Act. Die Kommission nennt dabei ausdrücklich endloses Scrollen, Autoplay, Push-Benachrichtigungen und hochpersonalisierte Empfehlungssysteme.

Nun kommt aus den USA eine Antwort, die viele dieser Probleme berührt. Sie kommt allerdings von Meta selbst. Es ist ein Vergleich, den das Unternehmen mit 52 Generalstaatsanwälten von US-Bundesstaaten und Territorien ausgehandelt hat und in seinem eigenen Framing als neuen Branchenstandard präsentiert.

Ein guter Tag für Mark Zuckerberg

Der Vergleich beendet einen Teil der Verfahren, in denen Meta mit gewaltigen Forderungen konfrontiert war. Vor Prozessbeginn hatte das Unternehmen erklärt, allein Kalifornien, Colorado, Kentucky und New Jersey könnten bis zu 1,4 Billionen Dollar verlangen. Die vier Staaten selbst hatten laut Reuters mit Forderungen von knapp 200 Milliarden Dollar gerechnet.

Herausgekommen ist ein Bruchteil davon. Meta nennt eine Zahlung von bis zu 18 Milliarden Dollar über zehn Jahre. Davon sind rund 12,7 Milliarden garantiert. Weitere rund 5,3 Milliarden werden nur fällig, wenn auch YouTube und TikTok bestimmte Jugendschutzmaßnahmen einführen und entsprechende Zahlungen leisten. Meta verbucht zunächst eine Belastung von rund zehn Milliarden Dollar.

Mit anderen Worten: Die medial präsenten 17 Milliarden sind faktisch weniger, und verteilt über zehn Jahre sind das 1,2 Milliarden, die Meta pro Jahr abschreiben kann. Das ist Portokasse.

Wichtiger als die Zahl ist aber, was Meta nicht zugesteht: ein Fehlverhalten. Das Unternehmen bestreitet weiterhin die Vorwürfe. Das ist angesichts Tausender weiterer Klagen von Einzelpersonen und Schulbezirken nicht nebensächlich. Der Vergleich schafft jedenfalls kein Schuldeingeständnis, auf das sich andere Kläger einfach berufen könnten.

Und weil es ein ausgehandelter Vergleich ist, konnte Meta auch die Regeln mitverhandeln, denen es sich künftig unterwirft. Genau darin liegt die politische Bedeutung des Deals. Meta zahlt und bekommt zugleich die Gelegenheit, eine bestimmte Vorstellung davon festzuschreiben, wie Jugendschutz auf sozialen Netzwerken aussehen soll. Diese Vorstellung kann es jetzt als möglichen Standard für die gesamte Branche verkaufen.

Der Präzedenzfall New Mexico

Meta wusste zu diesem Zeitpunkt bereits, wie die Alternative aussehen kann. Vor wenigen Wochen hatte ein Gericht in New Mexico dem Unternehmen konkrete Regeln für Instagram und Facebook vorgeschrieben: Minderjährige dürfen dort höchstens 90 Stunden im Monat auf beiden Plattformen verbringen. Zwischen 22 und 7 Uhr müssen Push-Nachrichten abgeschaltet sein, und die Like-Zahlen bleiben auf Konten von Minderjährigen standardmäßig verborgen. Die Umsetzung steht zudem unter gerichtlicher Aufsicht.

Der Staat hatte sogar noch weitergehende Eingriffe verlangt. Endloses Scrollen und Autoplay sollten für Minderjährige verschwinden, engagement-optimierende Empfehlungsalgorithmen verändert werden. Der Richter ging so weit nicht. Doch das Verfahren hatte einen neuen Standard gesetzt. Nicht Meta allein entscheidet, wie Instagram für Jugendliche funktioniert. Im nächsten Prozess hätten erneut Richter über Produktdesign entscheiden können.

Vor diesem Hintergrund bekommt der nun ausgehandelte Vergleich eine andere Bedeutung. Meta akzeptiert Regeln, auf die es selbst Einfluss hatte, und verhindert damit das Risiko, dass ihm Gerichte womöglich schärfere diktieren. Mark Zuckerberg hat hier noch einmal die Kurve gekriegt.

Die Regeln klingen schärfer, als sie teilweise sind

Auf den ersten Blick ist der Katalog eindrucksvoll. Jugendliche sollen Instagram und Facebook standardmäßig höchstens zwei Stunden am Tag nutzen können. Zwischen Mitternacht und sechs Uhr morgens werden zentrale Teile der Apps gesperrt. Während der Schulzeit werden Benachrichtigungen stummgeschaltet. Dazu kommen Nutzungshinweise, mehr Elternkontrolle, Altersfeststellung und Einschränkungen bei bestimmten Filtern und Inhalten.

Ein Teil davon sind echte Eingriffe. Das Zwei-Stunden-Limit lässt sich von Jugendlichen nicht einfach wegklicken. Aber mit der Zustimmung der Eltern geht das. Dasselbe gilt für den Night Mode. Meta verspricht außerdem, stärker nach Accounts von Unter-13-Jährigen zu suchen und Jugendliche zu erkennen, die bei der Anmeldung ein falsches Erwachsenenalter angegeben haben. Das ist vergleichbar mit der Ankündigung von ChatGPT aus dieser Woche, ebenfalls automatisiert bestimmte Altersgruppen identifizieren zu können, denen dann keine Werbung ausgespielt werden soll.

Doch schon bei den Zeitlimits lohnt sich ein zweiter Blick. Zwei Stunden Instagram und Facebook täglich sind ein großzügiger Ausgangspunkt. Direct Messages sind von Time Limit, Night Mode und School Mode ausdrücklich ausgenommen. Und ausgerechnet die strengere Variante tritt erst in Kraft, wenn andere große Plattformen mitziehen. Sie sieht eine Stunde pro App vor und eine Nachtruhe von 22 bis 7 Uhr. Time Limit und Night Mode gelten zunächst fünf Jahre; bei einem Beitritt der Konkurrenz verlängert sich die Verpflichtung auf zehn Jahre. Meta verknüpft die schärfste Version seines eigenen Jugendschutzes also mit dem Verhalten seiner Wettbewerber. Was, wenn die andere Vorstellungen haben?

Auch der sogenannte „School Mode" klingt härter, als er ist. Instagram wird während der Schulzeit nicht gesperrt. Zwischen 8 und 15 Uhr werden im Wesentlichen Push-Benachrichtigungen stummgeschaltet. Direct Messages und Sicherheitsmeldungen bleiben davon ausgenommen. Das kann Ablenkung reduzieren. Ein Verbot der Nutzung während des Unterrichts ist es nicht. Noch deutlicher wird die Grenze des Vergleichs bei den Mechanismen, die das eigentliche Nutzungserlebnis von Instagram prägen.

Die Algorithmus-Maschine bleibt an

Der algorithmisch personalisierte Feed bleibt für Jugendliche der Normalfall. Meta verpflichtet sich lediglich dazu, einen nicht personalisierten Feed als Option anzubieten und Jugendliche regelmäßig auf diese Möglichkeit hinzuweisen. Eltern können festlegen, dass ihr Kind diese Variante nutzen muss.

Ähnlich funktioniert die Regel für Autoplay. Videos hören für Minderjährige nicht automatisch auf, von selbst abzuspielen. Jugendliche bekommen die Möglichkeit, Autoplay auszuschalten; Eltern können diese Einstellung erzwingen. Das klingt nach einem Detail. Tatsächlich steckt darin eine grundlegende regulatorische Entscheidung.

Wenn algorithmische Empfehlungen oder Autoplay dazu beitragen, dass Jugendliche länger auf einer Plattform bleiben, gibt es zwei Möglichkeiten, darauf zu reagieren. Man kann Meta verpflichten, diese Mechanismen für Minderjährige standardmäßig abzuschalten. Oder man lässt die Mechanismen bestehen und gibt Jugendlichen und Eltern einen Schalter, mit dem sie sie selbst deaktivieren können. Der US-Vergleich entscheidet sich weitgehend für die zweite Variante. Das ist im Interesse von Meta.

Die EU-Kommission verlangt das Gegenteil. In ihrer vorläufigen Feststellung vom 10. Juli fordert sie für genau diese Funktionen die standardmäßige Deaktivierung: Autoplay und endloses Scrollen sollen für Minderjährige von vornherein aus sein. Metas Zeitwerkzeuge nennt sie zu leicht wegzuklicken, um die Nutzung spürbar zu senken.

Auch die regelmäßigen Nutzungshinweise folgen dem Prinzip der Option. Nach jeweils 15 Minuten kontinuierlicher Nutzung und beim Erreichen bestimmter Tageswerte sollen Jugendliche daran erinnert werden, wie lange sie bereits auf der Plattform sind. Der Mechanismus, der zum Weiterscrollen einlädt, bleibt bestehen. Daneben erscheint ein Hinweis, vielleicht damit aufzuhören.

Der Vergleich in den USA greift die Engagement-Architektur von Instagram deshalb nicht grundsätzlich an: Reels verschwinden nicht. Endloses Scrollen wird nicht abgeschafft. Der personalisierte Empfehlungsalgorithmus bleibt Standard. Autoplay bleibt grundsätzlich erhalten. Auch personalisierte Werbung wird durch den Vergleich nicht grundsätzlich umgebaut.

Meta verändert also weniger die Maschine als die Schalter, die Jugendliche und Eltern an ihr bedienen können.

Die EU-Kommission stellt eine andere Frage

Hier wird es für die europäische Debatte spannend. Denn die Europäische Kommission stellt inzwischen eine andere Frage.

Im April ging es zunächst um Kinder unter 13 Jahren. Obwohl Meta selbst ein Mindestalter von 13 Jahren festlegt, könnten Kinder diese Grenze leicht umgehen, indem sie bei der Anmeldung ein falsches Geburtsdatum eingeben, so die vorläufige Feststellung. Meta erkenne solche Accounts außerdem nicht zuverlässig und entferne sie nicht schnell genug.

Auch darauf antwortet der US-Vergleich. Meta verspricht eine stärkere „Age Assurance": Das Unternehmen will Unter-13-Jährige proaktiv erkennen und außerdem Accounts identifizieren, die wahrscheinlich 13- bis 17-Jährigen gehören, obwohl ein älteres Geburtsdatum angegeben wurde.

Bemerkenswert ist allerdings, wie Meta die Verantwortung dafür framed: Das Unternehmen fordert zugleich, App Stores müssten verifizierte Altersinformationen an Plattformen weitergeben. Aus einem Problem der eigenen Alterskontrolle wird damit zumindest teilweise ein Infrastrukturproblem: Apple, Google und letztlich der Gesetzgeber sollen dabei helfen, festzustellen, wie alt ein Nutzer ist. Hier sind wir auch bei der EU-Debatte um Altersverifikationssysteme mit ihren problematischen Nebenwirkungen, bei der eine Frage ungeklärt ist: Wie prüft man das Alter von Millionen Menschen, ohne am Ende eine Ausweispflicht im Internet einzuführen?

Noch fundamentaler ist jedoch die zweite europäische Auseinandersetzung, jene um das süchtig machende Design. Damit treffen die europäische Untersuchung und der amerikanische Vergleich inzwischen auf erstaunlich ähnliche Produktmechanismen. Sie behandeln sie aber unterschiedlich.

Der US-Vergleich sagt an vielen Stellen: Wir geben Jugendlichen und Eltern einen Ausgang. Die europäische Frage kann weitergehen: Darf Meta den Eingang überhaupt so bauen?

Reicht es, einem 14-Jährigen einen Schalter anzubieten, mit dem er Autoplay deaktivieren kann? Reicht ein optionaler nicht personalisierter Feed, wenn gerade hochpersonalisierte Empfehlungssysteme Teil des untersuchten Risikos sind? Und reicht ein Hinweis nach 15 Minuten, den man sofort wegklickt, wenn die Gestaltung der Plattform selbst darauf optimiert ist, dass der Nutzer nicht aufhört?

Der DSA verlangt nicht bloß eine bestimmte Zahl von Jugendschutzknöpfen. Sehr große Plattformen müssen systemische Risiken ermitteln und wirksam mindern. Die Kommission kann deshalb grundsätzlich fragen, ob die angebotenen Schutzmaßnahmen das Risiko tatsächlich reduzieren. Ob sie überhaupt vorhanden sind, ist die kleinere Frage.

Wer soll sich eigentlich ändern?

Genau deshalb könnte der amerikanische Vergleich für die europäische Debatte in zwei entgegengesetzte Richtungen wirken.

Meta bekommt ein starkes Argument. Das Unternehmen kann auf einen umfangreichen Katalog verweisen: Zeitlimits, Nachtmodus, Elternkontrollen, Age Assurance, weniger Benachrichtigungen, einen alternativen Feed und die Möglichkeit, Autoplay auszuschalten. Und es kann sagen: Wir haben reagiert. Es kann seinen US-Standard als globale Möglichkeit präsentieren. Zumindest noch in der EU.

Gleichzeitig liefert der Vergleich der EU-Kommission aber Anschauungsmaterial dafür, was technisch möglich ist. Meta kann den Zugang nach einer bestimmten Nutzungsdauer tatsächlich blockieren. Es kann Jugendliche nachts aus Feed und Reels aussperren. Es kann Push-Benachrichtigungen automatisch abschalten. Es kann Accounts aufgrund eigener Alterssignale einer geschützten Umgebung zuordnen. Und es kann einen Feed ohne personalisierte Empfehlungen anbieten.

Der entscheidende Unterschied zwischen einem Schutzmechanismus und einer Schutzoption

Damit verschiebt sich die Frage. Dass Meta solche Eingriffe technisch vornehmen kann, ist gezeigt. Jetzt geht es darum, wann sie automatisch greifen müssen und wer sie wieder ausschalten darf. Das ist der entscheidende Unterschied zwischen einem Schutzmechanismus und einer Schutzoption.

Ein Empfehlungsalgorithmus, den ein Jugendlicher selbst abschalten kann, ist etwas anderes als einer, den Meta für Jugendliche erst gar nicht einschaltet. Autoplay, das Eltern deaktivieren können, ist etwas anderes als Autoplay, das für Minderjährige von vornherein aus ist. Ein Nutzungshinweis nach 15 Minuten ändert an der Gestaltung, die zur langen Nutzung einlädt, nichts.

Der amerikanische Vergleich ist deshalb keineswegs bedeutungslos. Die tatsächlichen Zeitbeschränkungen sind ein erheblicher Eingriff, die Altersfeststellung könnte ebenfalls einer werden. Aber der Deal zieht eine bemerkenswerte Grenze: Wo es um zentrale Mechanismen des Produkts geht, bleibt häufig die bisherige Architektur bestehen und die Verantwortung wandert zu Jugendlichen und Eltern.

Das passt auch zu Metas eigener Erzählung des Vergleichs. Immer wieder spricht das Unternehmen davon, Eltern zu „empowern". Das ist ein anderes Leitbild als die europäische Vorstellung einer Plattform, die systemische Risiken selbst reduzieren muss. Für Meta ist das attraktiv: Das Unternehmen kann künftig argumentieren, dass es Jugendlichen Wahlmöglichkeiten gibt, Eltern Kontrolle verschafft und zugleich die Grundstruktur seiner Produkte erhält.

Für Europa stellt sich damit eine grundsätzlichere Frage

Für Europa stellt sich damit eine grundsätzlichere Frage. Soll Jugendschutz heißen, dass Kinder und Eltern lernen, eine riskant gebaute Plattform richtig einzustellen? Oder muss die Plattform für Kinder einfach anders gebaut sein?

Der Streit dreht sich längst um mehr als die Summe, die Meta zahlt. Er dreht sich darum, wer sich ändern soll: Die Jugendlichen oder Instagram.

Und er reicht über den Jugendschutz hinaus. Endloses Scrollen und Autoplay prägen das Produkt für alle Nutzer:innen, auch für die Erwachsenen. Wird Instagram allein für unter 18-Jährige sicherer gebaut, bleibt das eigentliche Problem für den Rest der Gesellschaft bestehen. Metas Produkte müssen für alle Nutzer:innen besser werden. Das dürfen wir in der Debatte um Kinder- und Jugendschutz nicht vergessen.