Anneke Buffone hat fast sieben Jahre lang als Forscherin für Meta gearbeitet. Sie forschte unter anderem zu problematischem Nutzungsverhalten, Bildschirmzeit-Kontrollen und Methoden zur Altersüberprüfung. Zuletzt sagte sie als Sachverständige im Prozess gegen Meta im US-Bundesstaat Tennessee aus. Dort wird Meta vorgeworfen, Instagram bewusst suchtfördernd gestaltet und negative Folgen für Kinder und Jugendliche billigend in Kauf genommen zu haben. Heute setzt sich Buffone für systemische Veränderungen ein, um Kinder und Jugendliche im Internet besser zu schützen.
Digitalrechte: Du hast in einem Interview gesagt, dass Algorithmen so gebaut sind, dass sie Menschen digital ausziehen. Was meinst du damit?
Buffone: Ein Algorithmus beobachtet sehr viele kleine Verhaltenssignale sehr genau. Wie lange schaue ich ein Video an? Wann breche ich ab? Worauf klicke ich? Wonach suche ich? Kommentiere ich etwas? Fange ich an, einen Kommentar zu schreiben und lösche ihn wieder? Auch sehr subtile Interaktionen können erfasst und interpretiert werden.
Plattformen nutzen solche Signale, um Menschen mehr von den Inhalten anzuzeigen, die sie auf der App halten. Aber „etwas hält meine Aufmerksamkeit“ ist nicht dasselbe wie „ich möchte mehr davon sehen“. Das ist im Grunde wie bei einem Autounfall. Wenn man an einem Unfall vorbeifährt, schaut man in der Regel hin. Das bedeutet aber nicht, dass man mehr Unfälle sehen will. Es bedeutet erst einmal nur, dass der Mensch instinktiv seine Aufmerksamkeit auf Gefahren richtet. Dieses Signal ist evolutionär sinnvoll, kann von einem Empfehlungssystem aber falsch interpretiert werden.
Digitalrechte: Auf Social Media laufen emotionale oder skurrile Inhalte besonders gut. Bedeutet das, dass unser Gehirn ähnliche Signale wie bei Gefahr erhält?
Buffone: Genau. Überraschung, Wut, Empörung oder Angst ziehen Aufmerksamkeit auf sich. Ich habe das selbst erlebt. Während einer Aussage vor Gericht bin ich unerwartet in Tränen ausgebrochen. Eine Journalistin veröffentlichte später einen kurzen Ausschnitt davon auf Instagram. Der Clip bekam sehr viele Aufrufe, obwohl kein Kontext vorhanden war. Die Leute sahen nur: Da weint jemand – offenbar passiert etwas Dramatisches. Genau solche Signale funktionieren im Algorithmus sehr gut.
Hinzu kommt ein Gewöhnungseffekt. Wenn man immer wieder bizarre oder falsche Inhalte sieht, können sie irgendwann plausibler wirken. Wenn man das erste Mal einen Hund multiplizieren sieht, denkt man wahrscheinlich: Das ist völliger Unsinn. Beim dritten oder zehnten Mal kommt einem der multiplizierende Hund nicht mehr so abwegig vor - das hat man ja schon mal gesehen. Mit KI-generierten Inhalten wird dieses Problem noch schwieriger.
„Kinder sollten aktiv Einfluss auf ihren Feed nehmen“
Digitalrechte: Du bist selbst Mutter und kennst die Mechanismen sozialer Plattformen sehr gut. Was hat dieses Wissen mit deinem Familienleben gemacht? Hältst du deine Kinder von Social Media fern?
Buffone: Nicht grundsätzlich. Meine Kinder werden mit KI und Social Media aufwachsen. Nur weil sie irgendwann ein bestimmtes Alter erreichen, können sie diese Systeme nicht plötzlich automatisch sicher nutzen. Deshalb versuche ich eher, ihnen Medienkompetenz beizubringen. Ich schaue, wo meine Kinder besonders verwundbar sind. Hat ein Kind zum Beispiel ein schwieriges Körpergefühl, muss man bei bestimmten Social-Media-Inhalten besonders aufmerksam sein. Kinder sollten deshalb lernen, wie sie aktiv Einfluss auf ihren Feed nehmen: Wo finde ich Funktionen wie „weniger davon anzeigen“? Wie melde ich etwas? Wie blockiere ich? Wie beschwere ich mich? .
Digitalrechte: Wenn du Eltern nur konkrete Tipps geben könntest – welche wären das?
Buffone: Informiert euch. Lest viel, sprecht mit Expertinnen und Experten und versucht zu verstehen, welche Risiken für euer konkretes Kind besonders relevant sind. Zweitens sollten Geräte nachts nicht im Schlafzimmer liegen. Problematische Dinge passieren online häufiger zu Zeiten, in denen niemand ein Auge darauf hat. Drittens sollte die Bildschirmzeit nicht vollkommen unbegrenzt sein.
Und am Wichtigsten: Sprich mit deinem Kind. Ich spreche sehr viel mit meinen Kindern darüber, was sie sehen und was ihnen dabei durch den Kopf geht. Ich versuche auch offen zu erzählen, wenn ich selbst merke, dass mir eine App nicht guttut oder ich mich schwer davon lösen kann. Verbote funktionieren meiner Erfahrung nach nur begrenzt. Kinder versuchen, sie zu umgehen, und irgendwann müssen sie ohnehin lernen, mit diesen Technologien umzugehen. Es geht darum, Wissen und Vertrauen aufzubauen. Und natürlich spielt Regulierung eine Rolle. Eltern können nicht die gesamte Verantwortung für Systeme übernehmen, die von milliardenschweren Unternehmen entwickelt werden.
Metas Jugendschutz reicht nicht aus
Digitalrechte: Meta verweist darauf, inzwischen stärker in Jugendschutz zu investieren – etwa mit Teen Accounts, Zeitlimits oder Altersüberprüfung. Was sagst du zu diesem Argument?
Buffone: Grundsätzlich ist es gut, wenn Unternehmen Schutzmaßnahmen einführen. Das Problem ist, dass solche Einstellungen in der Praxis kompliziert sind, Zeit kosten und nicht zuverlässig funktionieren. Mit ihnen wird im Grunde Verantwortung auf die Eltern abgewälzt. Als Mutter kann ich ganz klar sagen: Ich habe nicht jeden Tag 45 Minuten Zeit, verschiedene Apps zu überwachen und deren Einstellungen zu kontrollieren. Die meisten anderen Eltern haben diese Zeit ebenfalls nicht.
Meine Empfehlung ist trotzdem, solche Schutzfunktionen, zu nutzen. Es ist aber keine echte Lösung. Langfristig braucht es ein System, in dem Eltern verständlich und zuverlässig bestimmte Schutzstufen einstellen können und dabei berücksichtigen können, welche Risiken für ihr Kind relevant sind. Davon sind wir meiner Meinung nach heute noch weit entfernt.
Digitalrechte: Wenn du eine Social-Media-App von Grund auf neu bauen könntest: Wie müsste sie aussehen, damit sie für Menschen unabhängig vom Alter sicherer wäre?
Buffone: Generell darf das wichtigste Ziel nicht sein, die Verweildauer um jeden Preis zu erhöhen. Stattdessen sollte man danach fragen, welche Inhalte für die Person gerade hilfreich und sinnvoll sind? Dafür müsste man neu darüber nachdenken, welche Signale ein Algorithmus überhaupt benutzen darf. Eine Plattform sollte nicht aus unbewussten Reaktionen schließen, was der Nutzer angeblich sehen will. Man sollte selbst entscheiden, wann man welche Inhalte angezeigt bekommt. Was Empfehlungssysteme angeht, braucht es wesentlich mehr Transparenz. Menschen sollten verstehen können, warum ihnen ein bestimmter Inhalt angezeigt wird. Politische Inhalte zeigen, wie wichtig Transparenz ist. Früher war relativ klar erkennbar, was Wahlwerbung ist. Heute kann politischer Content über viele Umwege finanziert oder verbreitet werden. Ich glaube allerdings nicht, dass es dafür eine simple Lösung gibt. Auch ein chronologischer Feed ist nicht automatisch besser. Die Forschung zeigt, dass solche Änderungen unerwartete Effekte haben können.
Digitalrechte: Vielen Dank für das Gespräch!…