Dieses Interview konnten unsere Newsletter-Abonnent:innen bereits vorab lesen. Für frühere Einblicke, Analysen und Gespräche zu digitalen Rechten hier zum Newsletter anmelden.
Die Forderung, Kamerabrillen mit heimlicher Aufnahmefunktion vom Markt zu nehmen, stößt häufig auf einen Einwand: Diese Brillen sind blinden oder sehbeeinträchtigten Menschen eine große Alltagshilfe. Wir haben mit Christiane Möller vom Deutschen Blinden- und Sehbehindertenverband (DBSV) gesprochen.
Möller ist Justiziarin und stellv. Geschäftsführerin beim DBSV. Der Verband vertritt blinde und sehbehinderte Menschen sowie Patientinnen und Patienten, deren Erkrankung zu einer Sehbehinderung oder Erblindung führen kann. Der Verband hat unter anderem die Erhaltung und Verbesserung der sozialen Stellung blinder und sehbehinderter Menschen sowie von Augenpatienten, ihrer gleichwertigen Teilhabe und Mitwirkung am Leben in der Gesellschaft sowie die Erhaltung und Verbesserung ihrer medizinischen Versorgung zum Ziel.
Ein Warnsignal, das nicht alle erreicht
Digitalrechte: Wie bewerten Sie das kleine LED-Licht der Meta Ray Ban Brillen, das als Warnhinweis bei Aufnahmen aufblinkt? Reicht das aus?
Christian Möller: Für Sehende kann ich das nicht beurteilen, ob man es ausreichend sieht. Wir als sehbehinderte und blinde Menschen nehmen es natürlich überhaupt nicht wahr. Wir sind in solchen Situationen besonders vulnerabel. Die Debatte um heimliche Aufnahmen betrifft uns also genauso.
Es wäre super, wenn man zusätzlich zu dem Licht eine Ergänzung hätte, z.B. ein Geräusch, sodass wir Aufnahmen möglichst auch mitbekommen. Gleichzeitig bekommt man ein Störgeräusch auf einem belebten Platz oder aus ein paar Meter Entfernung auch nicht immer mit. Auch mit Geräusch weiß man nicht unbedingt, ob man selbst oder jemand bzw. etwas anderes gerade aufgenommen wird. Wir haben selbst noch keine Lösung. Abgesehen davon müssen wir als Gesellschaft überlegen, wie wir mit dem Thema umgehen.
Digitalrechte: Sie meinen Filmen im öffentlichen Raum generell?
Möller: Genau. Angesichts der ganzen Kameras, die es sowieso schon im öffentlichen Raum gibt, kann man sich jetzt noch weniger sicher sein, wann man eigentlich gefilmt wird, von wem und was mit den Aufnahmen passiert. Es geht auch darum, wie unbeobachtet man sich noch fühlt und wie frei man sich im öffentlichen Raum bewegt.
Digitalrechte: Aktuell wird auch über ein Verbot von Kamerabrillen diskutiert. Was halten Sie davon?
Möller: Das Ziel blinder und sehbehinderter Menschen ist in der Regel nicht, Content auf Social Media zu erstellen. Sie wollen sich orientieren, die eigene Umwelt wahrnehmen und Informationen erhalten. Durch die aktuelle Debatte besteht innerhalb der Community schon die Sorge, dass man beim Tragen der Brille auf der Straße angegangen oder als „Spanner“ bezeichnet wird. Das gilt es zu verhindern. Gleichzeitig gibt es aber auch Menschen, die diese Brillen missbrauchen. Das darf natürlich auch nicht sein. Ich bezweifle aber, dass ein pauschales Verbot von KI-Brillen der richtige Weg ist. In meinen Augen ist die wichtigere Frage: Wie schaffen wir technische und regulatorische Möglichkeiten, um Missbrauch zu verhindern?
„Wir nutzen das Gerät, um uns beschreiben zu lassen, was andere sehen“
Digitalrechte: Wie verändern Kamerabrillen den Alltag eines blinden oder sehbehinderten Menschen – und was können sie besser als Smartphone oder andere Hilfsmittel?
Möller: Smart Glasses sind für Menschen, die blind oder sehbehindert sind, besonders praktisch als Kommunikationsmedium, weil man die Hände frei hat. Wenn man unterwegs ist, hat man als blinder Mensch in der Regel einen Blindenstock oder einen Blindenführhund dabei. Oft kommt dann noch eine Einkaufstasche hinzu. Dann hat man keine Hand mehr frei, um das Smartphone zu bedienen. Wir nutzen das Gerät als Hilfsmittel, um uns beschreiben zu lassen, was andere sehen, z. B. einen Aushang oder einen Verpackungsaufdruck im Supermarkt. Es gibt auch die Möglichkeit, sich mit einer speziellen App dabei helfen zu lassen, etwa eine Treppe zu finden.
Der zweite Vorteil ist, dass die Tonausgabe im wesentlichen über Knochenleit-Kopfhörer kommt. Die sitzen als glatte Fläche vor dem Ohr auf dem Jochbein. Das heißt, dass man Informationen bekommt und gleichzeitig die Ohren frei hat, um die Umgebung zu hören. Das ist für blinde und sehbehinderte Menschen besonders wichtig. Ansonsten machen wir mit Smart Glasses auch, was alle gerne damit machen, zum Beispiel Musik hören oder die KI fragen, ob ein Supermarkt noch offen hat.
Digitalrechte: Welche Rolle spielt dialogorientierte KI dabei?
Möller: Für viele blinde und sehbehinderte Menschen können KI-Funktionen ein wahnsinniger Game Changer sein. Die Kommunikation mit KI über Sprache, um sich Informationen zu beschaffen, erleichtert vielen den Alltag und bedeutet mehr Teilhabe. Deshalb ist es für uns wichtiger, sichere und barrierefreie KI-Systeme zu haben. Ob diese dann in Smart Glasses, Smart Speakern oder anderen Geräten verbaut sind, ist zweitrangig.
Digitalrechte: Nutzen Sie selbst eine KI-Brille?
Möller: Nein, ich persönlich nutze es nicht, unter anderem aus Gründen des Datenschutzes. Aber ich verstehe aus den genannten Vorteilen jede blinde oder sehbehinderte Person, die das Gerät nutzt.
Digitalrechte: Momentan nutzen viele Menschen die Meta Ray Ban Glasses. Wie groß ist die Auswahl am Markt an Brillen, die den Bedürfnissen blinder und sehbeeinträchtigter Menschen entsprechen?
Möller: Dass viele Menschen Meta nutzen, liegt auch einfach daran, dass Meta Marktführer ist. Blinde und sehbehinderte Menschen achten genauso wie nichtbehinderte Menschen darauf, welches Produkt die besten und meisten Funktionen hat. Die Sprach- und KI-Funktion von Meta ist gut und noch dazu einfach zu benutzen. Brillen, die es auf dem Hilfsmittelmarkt gibt, kommen in ihrer Funktionalität aktuell nicht an das ran, was Meta-Brillen können. Sie kosten in der Regel auch viel mehr.
Wenn Selbstständigkeit zur Datenschutzfrage wird
Digitalrechte: Sehbeeinträchtigte Menschen nutzen die Brillen vielleicht auch, um sich sensible Inhalte vorlesen zu lassen, zum Beispiel Briefe von der Bank oder medizinische Dokumente. Sehende Menschen haben die Möglichkeiten, die Brille abzunehmen ohne dass ihnen ein Nachteil entsteht. Entstehen dadurch besondere Risiken?
Möller: Natürlich kann man über die Brille die KI-Funktion nutzen, um sich Text vorlesen zu lassen. Aber man muss sich zweierlei bewusst machen. Erstens wird der Text nicht stumpf vorgelesen, sondern von der KI interpretiert. Dadurch kann man sich nicht ganz sicher sein, dass alles Wort für Wort wiedergegeben wird. Für eine wörtliche Wiedergabe gibt es spezialisierte Apps, die aber nicht unbedingt in einer KI-Brille integriert sind. Zweitens sollte man sich fragen, was mit den Daten passiert. Letztlich verdient Meta sein Geld damit, dass sie Daten sammeln, die Menschen mit den Brillen aufnehmen und dann zum Beispiel auf Social Media veröffentlichen.
Digitalrechte: Meta sammelt Daten aus KI-Interaktionen mit der Brille, ebenso Aufnahmen, die in der Cloud liegen. Damit trainiert Meta unter anderem seine KI. War das Thema in ihrem Verband ein Thema?
Möller: Durchaus. Ich würde jeder Person raten, in den Einstellungen so viel wie möglich zu deaktivieren. Zum Beispiel, dass die eigenen Daten für Trainingsdaten genutzt werden. Aber selbst wenn man das deaktivieren kann, können weder blinde noch sehende Personen überprüfen, ob Meta sich auch wirklich daran hält.
Bestenfalls kann man situativ auswählen, für was man die Brille verwendet. Beschreibt mir die KI das Plakat im Bus oder navigiert sie mich durch die Stadt? Wenn man persönliche Dokumente öffnet, nutzt man vielleicht lieber ein anderes Hilfsmittel. Es ist leider auch nicht so, dass man mit der Meta-Brille alle blindenspezifischen Apps nutzen könnte – auch solche, die datenschutzrechtlich vielleicht bessere wären. Man kann nur nutzen, was Meta zulässt.
Digitalrechte: Sie haben vorhin schon gesagt, dass ein Risiko besteht, dass die KI nicht wortgenau vorliest. Sehende Menschen können das selbst verifizieren. Wie gehen blinde und sehbeeinträchtige Menschen mit den Themen KI-Halluzinationen oder Verzerrungen um?
Möller: Menschen aus der Community, die solche Brillen nutzen, schildern eher, dass Bildbeschreibungen bei Weitem nicht mehr so fehlerhaft sind wie noch vor ein paar Jahren. Das merkt man aber generell bei KI-Systemen. Uns wird aber auch geschildert, dass das gleiche Bild ein paar Stunden später etwas anders beschrieben wird als zuvor. Da ist viel kritisches Mitdenken gefragt. Deshalb fordern wir, dass KI-Systeme transparent machen, wenn sie sich nicht sicher sind anstatt zu halluzinieren.
Teilhabe by Design
Digitalrechte: Ein Vorschlag ist es, Smart Glasses als Medizinprodukt einzustufen. Welche Vorteile hat eine Einstufung als Medizinprodukt und welche Nachteile?
Möller: Wenn man KI-Brillen als Medizinprodukt bzw. Hilfsmittel nutzt, gibt es zum Beispiel strengere datenschutzrechtliche Anforderungen. Gleichzeitig möchte ich betonen, dass Meta die Brillen nie als Hilfsmittel entwickelt hat. Bestimmte Funktionen sind nur so gut, weil sie für den breiten Markt gedacht sind und um damit Geld zu verdienen. Ich halte es für illusorisch, dass Meta Produkte mit vergleichbarer Qualität für eine vergleichsweise kleine Gruppe an blinden und sehbehinderten Menschen entwickeln würde, mit einer sicheren KI und strengsten Datenschutzanforderungen.
Digitalrechte: Halten Sie ein vorläufiges Verbot mit Ausnahmen für Medizinprodukte für sinnvoll?
Möller: Muss heutzutage etwas ein Medizinprodukt sein, damit blinde und sehbehinderte Menschen es nutzen können? Ich denke da zurück an die ersten Smartphones. Apple hat seine Produkte zum Beispiel von Anfang an so gebaut, dass sie barrierefrei zugänglich waren und man als blinde Person nicht noch extra eine Software kaufen musste. Statt einer Sonderlösung für bestimmte Gruppen sollten wir als Gesellschaft einfordern, dass Produkte so gebaut sind, dass alle Menschen sie alltagstauglich nutzen und sich gleichzeitig alle darauf verlassen können, dass sie angemessen geschützt werden. Um so etwas einzufordern, bräuchten wir als Gesellschaft sehr viel Mut.
Kein Entweder-Oder bei Grundrechten
Digitalrechte: Für mich wirkt es manchmal so, als würden im Diskurs das Recht auf Teilhabe und das Recht auf Privatsphäre gegenübergestellt. So als könnten die beiden Rechte nicht nebeneinander existieren und man müsste sich im Zweifel entscheiden, welches einem gerade wichtiger ist.
Möller: Das sehe ich auch so und das geht natürlich nicht. Wir haben genauso wie alle anderen Menschen den Wunsch und das Recht, dass zum einen wir vor heimlichen Aufnahmen und zum anderen unsere Daten geschützt werden. Es darf nicht sein, dass wir technische Möglichkeiten und mehr Selbstständigkeit erkaufen, indem wir unsere Privatsphäre aufgeben. Das eine muss mit dem anderen einhergehen.
Digitalrechte: Was müsste eine gute Regulierung von Smart Glasses Ihrer Ansicht nach leisten?
Möller: Wir als blinde und sehbehinderte Menschen wollen die technischen Möglichkeiten, die Teilhabe verbessern, auch nutzen können. Wichtig wäre, dass alle Anbieter von Smart Glasses Barrierefreiheit sicherstellen, so dass man auch als blinder oder sehbehinderter Mensch eine echte Auswahl hat. Außerdem müssen Hersteller eine Manipulation ihrer Geräte technisch verhindern. Es kann nicht sein, dass ich überall Anleitungen finde, wie ich das Warnlämpchen an der Brille manipulieren kann. Gleichzeitig müssen wir regulatorisch bei heimlichen Aufnahmen und Veröffentlichungen nachbessern. Aktuell müssen Betroffene auf zivilrechtlichen Weg selbst aktiv werden. Da braucht es bessere strafrechtliche Regelungen.
Digitalrechte: Also gesamtgesellschaftliche Regulation statt Sonderregeln?
Möller: Genau. Das ist letztlich auch Inklusion. Behinderte Menschen sollten da Hilfsmittel haben, wo sie speziell gebraucht werden. Geräte, die im Alltag vermeintlich allen zur Verfügung stehen, sollten behinderte Menschen auch ohne Einschränkung nutzen können. Ich würde mir wünschen, dass der Markt so aussieht, dass man als Verbraucher und Verbraucherin zwischen verschiedenen Produkten das für sich passende auswählen kann. Aktuell besteht aufgrund von Kosten und Funktionalität ein gewisser Druck, eine bestimmte Marke kaufen zu müssen.
Wer setzt den Tech-Konzernen Grenzen?
Digitalrechte: „Privacy by Design“ würde zum Beispiel bedeuten, dass Daten besser geschützt verarbeitet würden, etwa auf dem Gerät selbst, auf dem Smartphone oder zumindest auf einer Cloud der eigenen Wahl. Aufnahmen könnten ständig überschrieben und Gesichter oder persönliche Informationen beim Hochladen in eine Cloud automatisch anonymisiert werden. Ginge bei so einer Ausgestaltung ein nützlicher Anwendungsfall für sehbehinderte Menschen verloren?
Möller: Das glaube ich nicht. In Europa ist Gesichtserkennung sowieso nicht einfach so erlaubt. Das wäre so ein Anwendungsfall, der für blinde und sehbehinderte Menschen noch einmal eine besondere Bedeutung hätten. Damit könnte man erkennen, wer vor einem steht, genauso wie es sehende Personen können. Ich sehe aber auch das Missbrauchspotential und die rechtlichen Schwierigkeit, die damit verbunden sind. Zum Beispiel die Verknüpfung von Daten im Hintergrund, sodass daraus Bewegungsprofile entstehen, mit denen Staaten oder Firmen uns überwachen können.
Digitalrechte: Wer ist aus Ihrer Sicht dafür verantwortlich, dass KI-Brillen sowohl barrierefrei als auch datenschutzkonform gestaltet werden?
Möller: Die Politik muss aktiver werden. Wir als Verband haben Vorstellungen davon, wie wir Teilhabe organisieren können. Aber wir haben keine Armee von KI-Experten und Juristen, die Maßnahmen vorbereiten können. Und durchsetzen können wir das schon gar nicht. Aber von allein werden Meta, Google und andere Tech-Konzerne nicht nachbessern. Die EU muss klare Vorgaben machen und dann auch darauf bestehen, dass diese umgesetzt werden.
Digitalrechte: Danke für das Gespräch!