„Es ist gut, dass die EU-Kommission endlich ChatGPT für das reguliert, wie der Dienst heute von vielen Millionen europäischen Bürger:innen genutzt wird: Auch als Suchmaschine, die Fragen beantwortet, ohne dass nachvollziehbar ist, wie eine Antwort zustande kommt. Das ist zu viel Macht in der Hand eines Unternehmens. Die EU-Kommission sollte jetzt die zur Verfügung stehenden Werkzeuge ausreizen, um mehr Licht ins Dunkle zu bringen, nach welchen Mechanismen welche Ergebnisse wem genau angezeigt werden und warum.Markus Beckedahl, Zentrum für Digitalrechte und Demokratie
Doch Transparenz darüber, wie ChatGPT Informationen sammelt und anzeigt, ist das absolute Minimum. Mit der heutigen Entscheidung geht die EU-Kommission nur den ersten Schritt: Sie muss im Anschluss zeigen, dass sie Rechtsverstöße feststellen kann und im Anschluss auch gegebenenfalls notwendige Maßnahmen konsequent gegen OpenAI durchsetzt. Abzuwarten bleibt, ob OpenAI den Rechtsweg nutzt, um sich gegen die Entscheidung zu wehren.“
Heute hat die EU-Kommission ChatGPT als „sehr große Online-Suchmaschine“ (engl. very large online search engine, VLOSE) eingestuft. Wir ordnen die Entscheidung für euch ein.
Was regelt der DSA?
Der „Digital Services Act“ (deutsch: Gesetz über digitale Dienste) soll sicherstellen, dass digitale Dienste vertrauenswürdig gestaltet sind und verbraucherschutzrechtliche Standards respektieren. Der DSA verpflichtet Online-Marktplätze, soziale Netzwerke, aber eben auch Online-Suchmaschinen dazu, Risiken für die Grundrechte der Nutzenden zu minimieren und Transparenz über ihre Funktionsweise herzustellen.
Wann gilt eine Plattform oder Suchmaschine als „sehr groß“ und welche Folgen hat das?
Als „sehr groß“ gilt eine Plattform oder Suchmaschine, wenn mehr als 45 Millionen Personen auf sie monatlich zugreifen. Die Rechtsfolge der Einstufung, welche die EU-Kommission vorgenommen hat, ist, dass Brüssel allein für die Marktaufsicht der Dienste zuständig ist. Die EU will so sicherstellen, dass große Tech-Konzerne direkt aus Brüssel und mit hoher Schlagkraft beaufsichtigt werden. Die zentrale Zuständigkeit hat zugleich die Schwäche, dass die zuständigen Abteilungen der Kommission nicht unabhängig agieren, sondern den Weisungen der Kommissionspräsidentin unterliegen. Für alle kleineren Plattformen ist die jeweils nationale Aufsichtsbehörde für Plattformregulierung zuständig – in Deutschland ist das die Bundesnetzagentur (BNetzA). Anders als Brüssel arbeiten die nationalen Behörden unabhägngig von politischen Weisungen.
Welche Pflichten gelten für „sehr große Suchmaschinen“?
Online-Suchmaschinen müssen zunächst die allgemeinen Vorschriften erfüllen, die auch für sehr große Online-Plattformen gelten. Sie dürfen keine illegalen Inhalte anzeigen und müssen ein Beschwerdemanagement für Meldungen der Nutzenden etablieren.
Für Suchmaschinen greifen Regeln dazu, wie sie Informationen im gesamten Web zugänglich machen. Der Fokus liegt auf Fragen rund um Informationszugang, Desinformation, Meinungsbildung und Wahlbeeinflussung. Einzelne Pflichten, die für ChatGPT relevant werden dürften sind:
Jährliche Risikoanalysen: OpenAI muss systemische Risiken wie Desinformation, Diskriminierung oder Wahlbeeinflussung in der Darstellung der Suchergebnisse untersuchen.
Externe Audits: Das Unternehmen muss sich jährlichen, unabhängigen Prüfungen unterziehen.
Datenzugang für die Forschung: Wissenschaftler erhalten das Recht, interne Daten für gesellschaftliche Untersuchungen einzusehen.
Transparenzberichte: Veröffentlichung von Daten zur Inhaltsmoderation und zum Personalaufwand.
Wie profitieren Nutzende von dieser Entscheidung?
Für die Anwender in Europa ergeben sich durch die Einstufung von ChatGPT als VLOSE neue Rechte und Schutzmaßnahmen:
Meldemechanismen: Nutzer müssen eine einfache Möglichkeit erhalten, rechtswidrige oder gefährliche Antworten direkt zu melden.
Beschwerdemanagement: Es gibt mehr Rechte, gegen falsche oder verleumderische Inhalte vorzugehen.
Transparenz bei Werbung: OpenAI muss Werbung in die Suche klar kennzeichnen.
Schutz vulnerabler Gruppen: OpenAI muss Maßnahmen gegen systemische Risiken ergreifen, um etwa die mentale Gesundheit von Jugendlichen oder Menschen mit psychologischen Problemen zu schützen. Die Verstärkung von Einsamkeit und Psychosen sowie eine Reihe von Suiziden nach Interaktion mit Chatbots haben gezeigt, dass dieses Thema noch nicht hinreichend adressiert wurde.
Integrität der Informationen und Schutz vor Bias: Wer sich zu politischen Themen informiert, beispielsweise vor einer anstehenden Wahl, sollte sich darauf verlassen können, dass ich objektive und neutrale Informationen präsentiert bekomme. Genau an dieser Frage wird man zukünftig auch den Erfolg der Durchsetzung dieser Regeln messen können.
Digitale Grundrechte brauchen eine starke Stimme – deine Unterstützung macht sie hörbar.
Als gemeinnützige Organisation finanzieren wir uns durch Spenden. Hilf uns, Machtmissbrauch einzudämmen und digitale Souveränität zu stärken.