Kampf gegen die Macht der Algorithmen

Bundesjustizminister Heiko Maas sieht im Algorithmen-Code großer Internetkonzerne wie Google oder Facebook Risiken für die Nutzer. Ein Gutachten stützt die Bedenken des SPD-Politikers und plädiert wie er für ein Gesetz.


Was tun gegen die Macht der Algorithmen? Bundesjustizminister Heiko Maas (SPD) brachte erst vor kurzem scharfe rechtliche Vorgaben ins Spiel. „Ich glaube, wir brauchen ein digitales AGG, ein Antidiskriminierungsgesetz für Algorithmen – gegen digitale Diskriminierung und für vorurteilsfreies Programmieren“, sagte Maas im Sommer bei einer Konferenz in Berlin.

Hinter dem Vorstoß steht die Sorge, dass die unzähligen Daten, die inzwischen im Umlauf sind und teilweise für geschäftliche Zwecke genutzt werden, zu einem Bumerang für die Menschen werden können. Wenn etwa soziale oder wirtschaftliche Scoring-Verfahren eingesetzt würden, könne daraus eine „gefährlichen Gleichung“ werden, nach der positive Daten Vorteile und Teilhabe und negative Daten, Nachteile und Ausgrenzung bedeuteten. „Schon heute“, so Maas damals, „beeinflussen Algorithmen viele Entscheidungen – sowohl im Geschäftsleben als auch politisch und sozial.“

Eine Regulierung der Algorithmen würde insbesondere auch Internetkonzerne wie Facebook und Google betreffen. Den Suchmaschinenkonzern hatte Maas schon vor fast drei Jahren aufgefordert, seinen Suchalgorithmus „transparent“ zu machen. „Am Ende geht es darum, wie transparent die Algorithmen sind, die Google benutzt, um seine Suchergebnisse zu sortieren“, sagte der SPD-Politiker seinerzeit der „Financial Times“. „Wenn eine Suchmaschine einen solchen Einfluss auf die wirtschaftliche Entwicklung hat, dann ist dies eine Angelegenheit, mit der wir uns befassen müssen.“

Das sieht nicht nur Maas so. Der Wissenschaftliche Dienst des Bundestages sieht inzwischen auch Bedarf für eine schärfere Kontrolle der von den Internetunternehmen verwendeten Algorithmen. Zu diesem Ergebnis kommt ein Gutachten der Parlamentsjuristen, das dem Handelsblatt vorliegt. Die Expertise hatte die Grünen-Bundestagsabgeordnete Renate Künast in Auftrag gegeben.

Die Verwendung eines Algorithmus durch Dienste-Anbieter ist gar nicht das Problem, sondern dessen inhaltliche Ausgestaltung. Von Belang ist etwa, welche Faktoren das Ergebnis einer Suchanfrage bei Google beeinflussen. Oder auch die Frage, wie sich Falschmeldungen, Hasskommentare oder „Filterblasen“auf demokratische Entscheidungen auswirken? Und ob der Nutzer einen Anspruch darauf hat zu erfahren, nach welchen Kriterien seine personalisierten „Newsfeed“ und Werbeanzeigen ausgewählt werden. Die zentrale Frage dabei ist allerdings, ob seitens der Dienste-Anbieter ein Recht zur Geheimhaltung der Algorithmen-Codes besteht.



Das die Politik sich dem Thema annimmt, liegt für die Parlamentsjuristen auf der Hand. „Dies lässt sich mit der herausragenden Relevanz derartiger Plattformen begründen“, heißt es in der Expertise. Suchmaschinen stellten für den Internetnutzer die zentralen Zugangs-Vermittler von Web-Inhalten dar, während der Newsfeed sozialer Netzwerke für viele Nutzer eine der wichtigsten Quellen zur kulturellen und politischen Meinungsbildung sei. „Das Beeinflussungs- und Missbrauchspotential ist bei den dort verwendeten Algorithmen dementsprechend am größten, woraus sich auch das große Transparenzsinteresse der Internetnutzer in diesem Bereich ergibt.“

Nach derzeitiger Rechtslage stünden die Nutzer solcher Plattformen zwar „nicht schutzlos“ da, schreiben die Experten in ihrem Gutachten unter Hinweis auf das Telemediengesetz sowie das Wettbewerbsrecht. Beides könne „in gewissen Konstellationen auf algorithmen-gesteuerten Plattformen Anwendung“ finden. „Dennoch besteht Bedarf an weiterführenden Regelungen im Bereich der Algorithmenkontrolle“, betonen die Juristen. Insbesondere dann, wie es in dem Gutachten weiter heißt, „wenn wettbewerbliche Marktmechanismen nicht zu einem angemessenen Angebot von Diensten mit hinreichend transparenten Selektionskriterien führen“. Bei den gegebenen Markverhältnissen sei das derzeit offenbar der Fall.



Künast fordert klare Regeln gegen Diskriminierungseffekte

Die europarechtlichen Möglichkeiten für eine Regulierung halten die Experten für nicht weitgehend genug. Die im nächsten Jahr in Kraft tretende EU-Datenschutzgrundverordnung habe zwar „grundsätzlich das Potential, für mehr Transparenz im Umgang mit Algorithmen im Internet zu sorgen“, schreiben sie. Allerdings habe das Gutachten gezeigt, „dass bei der Erreichung des Ziels, das Wissens- und Machtungleichgewicht zwischen Nutzer und Dienste-Anbieter aufzulösen und gleichzeitig mehr Transparenz und Nutzerautonomie zu schaffen, algorithmen-spezifische Gesetzgebung ebenfalls ein gangbarer Weg sein kann“.

Angesichts des Befunds fordert Künast Konsequenzen. "Gegen Diskriminierungseffekte braucht es klare Regeln. Online-Plattformen sollten die ergebnisrelevanten Kriterien und ihre Gewichtung offenlegen", sagte die Vorsitzende des Rechtsausschusses im Bundestag dem Handelsblatt. Künast erinnerte daran, dass die europäische Datenschutzgrundverordnung ab Mai 2018 vorschreibt, dass Verbraucher nicht alleinigen automatisierten Entscheidungen unterliegen dürften. "Eine neue Bundesregierung darf hier unseren Schutz bei der Umsetzung in das nationale Recht nicht schwächen", betonte sie.

Zu einem Mindestmaß an Transparenz zählt für die Verfasser des Gutachtens etwa, dass sich die Online-Plattformen auf eine "eindeutige Trennung" von eigenen und gesponserten Ergebnissen zu verpflichten. Auch Künast hält es für notwendig, dass Werbung immer als solche zu erkennen sein müsse. Allerdings nicht nur im Fall für algorithmengesteuerter Ergebnisse. Künast geht hier noch weiter und fordert dieselbe Transverpflichtung auch für Social Bots. Das sind Programme, die automatisch Einträge produzieren, dabei aber so tun, als wären sie echte Menschen.



Künast hält es überdies für erforderlich, dass Verbraucher "unkompliziert" zwischen Anbietern und Plattformen wechseln und kommunizieren können. "Ich unterstütze die Empfehlung der Gutachter einer Verpflichtung großer Internet-Anbieter zu Interoperabilität und Portabilität, damit Nutzer einfach zwischen Diensten wechseln können", sagte die Grünen-Politikerin. "Netzwerkeffekte und Meinungsmonopole müssen wir verhindern, echte Wahlfreiheit schaffen."

Die Nutzer von Online-Angeboten sollten aus Sicht Künasts zudem für den Umgang mit Internetangeboten besser sensibilisiert werden. "Techniken der Digitalisierung – vom Programmieren bis zum kritischen Umgang mit digitalen Geräten und Prozessen – gehören in den Stundenplan der Schule", sagte sie. Künast regte an, dass sich der neue Bundestag in einer Enquete-Kommission "gründlich" mit den Themen rund um die Digitalisierung und die Macht der Algorithmen auseinandersetzen solle.



Maas fordert Antidiskriminierungsgesetz für Algorithmen

Justizminister Maas bekräftigte indes seine Forderung nach einem Antidiskriminierungsgesetz für Algorithmen. „Technischer Fortschritt darf nicht zu gesellschaftlichem Rückschritt führen, und deshalb brauchen wir einen rechtlichen Ordnungsrahmen, der viel Raum für Innovationen bietet, aber den Einsatz von diskriminierenden Algorithmen verhindert“, sagte Maas dem Handelsblatt. Nötig sei zudem ein Transparenzgebot für Algorithmen. „Nutzerinnen und Nutzer müssen verlässlich einschätzen können, ob das Netz versucht, sie zu beeinflussen, und sie müssen selbstbestimmt entscheiden können, welche Filter und Personalisierungen sie in der digitalen Welt akzeptieren wollen und welche nicht.“

Auch der SPD-Netzpolitiker Lars Klingbeil betonte, kein Mensch dürfe zum Objekt eines Algorithmus werden. „Deswegen brauchen wir verpflichtende Vorgaben zur Transparenz, wie Plattformen Inhalte selektieren und gewichten“, sagte der Bundestagsabgeordnete dem Handelsblatt.

Die Datenschutz-Grundverordnung schreibe zwar grundsätzlich das Recht fest, dass man keiner Entscheidung unterworfen werde, die auf automatisierten Entscheidungen wie etwa Algorithmen beruhen. Auch die Betroffenenrechte seien gestärkt worden. Aber, so Klingbeil: „Angesichts der Dominanz und Marktmacht von Google, Facebook und Co. sowie angesichts ihres Einflusses auf öffentliche Meinungsbildung brauchen wir über das Wettbewerbs- und Datenschutzrecht hinausgehende Verpflichtungen zur Transparenz.“ Gütesiegel, wie etwa ein Algorithmen-TÜV, könnten hierbei eine wichtige Ergänzung sein.

Die Union lehnt eine derartige Regulierung ab. „Ich bin kein großer Freund davon, eine Art Algorithmen-TÜV einzuführen“, sagte der CDU-Digitalexperte Thomas Jarzombek dem Handelsblatt. „Der Abgasskandal zeigt, dass es kaum möglich ist, selbst bei relativ einfachen Systemen die Algorithmen ernsthaft zu kontrollieren“. Jarzombek riet zu einer sachlichen Debatte. Dazu müsse zunächst die Erwartung an Algorithmen definiert werden. „Was will man also: Die Filterblase infiltrieren, Gewünschtes nach vorne ranken?“, fragte er CDU-Politiker. Und wer solle soll das am Ende entscheiden, und wie gehe das mit der Staatsferne von Medien zusammen? „Wer also den Wunsch hat“, so Jarzombek, „in Algorithmen einzugreifen, muss zuerst seine Ziele klar benennen. Darüber sollte es dann als erstes eine Diskussion geben.“

Neu ist die Idee einer staatlichen Überprüfung einer Internetdienstleistung in Form eines Algorithmen-TÜVs ohnehin nicht. Bei Partnerbörsen im Internet werden derartige Prüfsiegel bereits seit 2005 vergeben, geben die Bundestagsjuristen zu bedenken. Das Ergebnis sei mehr Vertrauen der Nutzer in die Dienste des Plattformbetreibers. „Anhand eines auf Testergebnissen beruhenden Gütesiegels könnten sich zum einen die Nutzer besser orientieren, zum anderen würde lauter am Markt agierenden Unternehmen die Möglichkeit gegeben, sich besser zu profilieren und von unseriösen Konkurrenten abgrenzen zu können“, urteilen die Experten.

In der neuen Legislaturperiode könnte das Algorithmen-Thema wieder auf die Tagesordnung kommen. Zumal sich auch schon Kanzlerin Angela Merkel (CDU) offen dafür gezeigt hat, Algorithmen kritisch in den Blick zu nehmen. „Ich persönlich bin auch der Meinung, dass Algorithmen transparenter sein müssen, sodass interessierten Bürgern auch bewusst ist, was eigentlich mit ihrem Medienverhalten und dem anderer passiert“, hatte Merkel im vergangenen Jahr auf den Medientagen in München gesagt.

KONTEXT

Wichtigste Erfolge aus Verbraucherschutzsicht

Wechsel des Verbraucherschutzes in das Justizministerium

Der Wechsel des Verbraucherschutzes vom Landwirtschaftsministerium in das Bundesministerium der Justiz und für Verbraucherschutz (BMJV) bringt große Vorteile - zum Beispiel mit dem Initiativrecht des BMJV, Gesetzesentwürfe einzubringen.

Quelle: Bilanz der Legislaturperiode 2013-2017 des Verbraucherzentrale Bundesverbands (VZBV)

Quelle: Bilanz der Legislaturperiode 2013-2017 des Verbraucherzentrale Bundesverbands (VZBV)

Reform der Finanzmarktaufsicht (BaFin)

Die BaFin sollte sich um schwarze Schafe im Finanzbereich kümmern, forderte der vzbv. Durch das Kleinanlegerschutzgesetz, das im Juli 2015 in Kraft trat, ist der kollektive Verbraucherschutz als gleichberechtigtes Aufsichtsziel in der BaFin formal abgesichert.

Verbandsklagebefugnisse im Bereich Datenschutz

Seit Anfang des Jahres 2016 können Verbraucherverbände gegen Datenschutzverstöße vorgehen. Jetzt kann der vzbv die Rechte der Verbraucher in der digitalen Welt besser durchsetzen.

Zwei Marktwächter: Finanzen und Digitale Welt

Die beiden Marktwächter liefern empirische Erkenntnisse für Politik und Entscheidungsträger. Sie tragen zu einer fundierten Verbraucherpolitik bei, indem sie Märkte aus Verbrauchersicht analysieren und Beschwerden auswerten. Ein dritter Marktwächter zum Thema Energie ist im Aufbau.

Neuer Pflegebedürftigkeitsbegriff: ein gerechteres System

Der neue Pflegebedürftigkeitsbegriff ermöglicht erstmals allen Pflegebedürftigen, auch solchen mit kognitiven Beeinträchtigungen, gleichberechtigten Zugang zu Leistungen der Pflegeversicherung. Der vzbv hatte dies viele Jahre lang gefordert.

KONTEXT

Größte Versäumnisse beim Verbraucherschutz

Energiewende: Umsetzung zweifelhaft

Durch die EEG-Umlage steigen die Kosten für den deutschen Durchschnittshaushalt um bis zu sieben Euro im Jahr. Damit zahlen die Verbraucher weiterhin einen großen Teil der Rechnung für die Energiewende. Die Große Koalition hat ihr Versprechen nicht eingehalten, nur energie- und handelsintensiven Unternehmen Vergünstigungen bei der EEG-Umlage zu gewähren.

Quelle: Bilanz der Legislaturperiode 2013-2017 des Verbraucherzentrale Bundesverbands (VZBV)

Quelle: Bilanz der Legislaturperiode 2013-2017 des Verbraucherzentrale Bundesverbands (VZBV)

VW-Skandal: Politik und VW machen keine gute Figur

Mangelhafte Informationen, eine schleppende Rückrufaktion sowie bislang keine Entschädigung für betroffene Verbraucher - das schadet nicht nur dem Verbraucher, sondern auch der Umwelt und Gesundheit. Denn die meisten Autos sind weiterhin mit erhöhten Abgaswerten unterwegs.

GKV-Beitragsreform ungerecht für Verbraucher

Die Einfrierung des Arbeitgeberanteils auf 7,3 Prozent bedeutet für Verbraucher, dass sie weitere Kostensteigerungen alleine tragen müssen.

Nur Empfehlungen der Lebensmittelbuchkommission verbessert

Von den Vorschlägen der Großen Koalition im Bereich Lebensmittel wurde viel zu wenig umgesetzt. Sie hatte Verbesserungen der Lebensmittelüberwachung, eine Änderung des Lebens- und Futtermittelgesetzbuches (LFGB) und die verpflichtende Kennzeichnung von Herkunft und Produktionsort versprochen.

Musterfeststellungsklage: noch kein Gesetz

Es gibt immer noch kein Gesetz zur Musterfeststellungsklage. Das ist ärgerlich für Verbraucher, die aufgrund des Aufwands von eigenen Klagen gegen Unternehmen absehen und damit auf ihrem Schaden sitzen bleiben. Angesichts des Diesel-Skandals hätte die Politik hier ein Zeichen setzen können.