Introduction
Introduction Statistics Contact Development Disclaimer Help
# taz.de -- Die Macht der Algorithmen: Heiko Maas will das Internet bändigen
> Algorithmen beeinflussen Menschen im Netz. Der Justizminister will diesen
> Einfluss per Gesetz einschränken. Sein Nutzen ist umstritten.
Bild: Alles friedlich in der Bubble. „Filter-Blasen“ sorgen dafür, „dass…
Heiko Maas hat eine Mission: Der Bundesjustizminister will das Internet
unter Kontrolle bringen, in dem Algorithmen regieren und Fake News
gedeihen. Den Anfang machte er mit dem Netzwerkdurchsetzungsgesetz. Nun
nimmt der Minister sich der Algorithmen an. Am vergangenen Montag erklärte
Maas in einer [1][Rede auf einer Konferenz zu digitalem Leben], wie er
diese komplexen Systeme in den Griff bekommen will. Was genau schlägt Maas
vor – und ist das sinnvoll?
Ob wir den Job bekommen oder nicht, wie viel unser Flugticket kostet oder
ob wir als kreditwürdig gelten, darüber entscheidet in Zukunft vielleicht
nur noch ein Algorithmus. Diskriminierung ist dabei nicht ausgeschlossen.
In den USA beispielsweise fallen die automatisiert erstellten
Strafrückfälligkeitsprognosen für Schwarze oft negativer aus als für Weiße
– fälschlicherweise, wie eine [2][Recherche des Non-Profit-Projekts Pro
Publica] zeigte. Maas schlägt deswegen ein „digitales
Antidiskriminierungsgesetz“ vor, ergänzend zum bereits geltenden
Allgemeinen Gleichbehandlungsgesetz (AGG).
Man sollte doch annehmen, dass das existierende AGG immer dann greift, wenn
ein Mensch diskriminiert wird; sei das nun in der analogen oder in der
digitalen Welt. Wer eine verbotene Waffe im Netz kauft, macht sich ja auch
genauso strafbar, wie wenn er sie in einem dunklen Hinterhof persönlich in
Empfang nimmt.
„Der eigentlich wichtige Schritt wäre, das AGG entsprechend zu erweitern“,
sagt Lena Ulbricht vom Wissenschaftszentrum Berlin (WZB). Forderungen dazu
gebe es schon länger. „Das Antidiskriminierunsgegesetz ist relativ
eingeschränkt und fokussiert vor allem auf den Arbeitsmarkt“, sagt
Ulbricht. Diskriminierung auf Plattformen etwa werde bisher ebenso wenig
erfasst wie die Bewertung von Kaufkraft. „Das ist aber ein unheimlich
politisiertes Thema und würde ein großes Reformunterfangen bedeuten“, sagt
Ulbricht. „Der Vorschlag eines ergänzenden Gesetzes ist da natürlich
weniger brisant.“
## Rückschluss auf Gemütszustand durch Instagram
Entscheidungen, die nur auf Basis automatisierter Auswertung
personenbezogener Daten fallen und für den Betroffenen eine rechtliche
Folge nach sich ziehen oder ihn erheblich beeinträchtigen, sind in
Deutschland [3][laut Bundesdatenschutzgesetz ohnehin reglementiert].
„Wir wissen zwar, dass im Internet unzählige persönliche Daten
transportiert werden, dass man sie vernetzen und auswerten kann, aber die
Einzelheiten bleiben oft völlig unsichtbar“, sagte Maas laut offiziellem
Redemanuskript. Wer wisse denn schon, welche Daten das eigene Smartphone
täglich mit wem austausche und dass Fotos auf Instagram zur Kalkulation
unseres Gemütszustands ausgewertet werden könnten?
„Echokammern“ und „Filter-Blasen“ sorgen dafür, „dass wir oftmals nu…
auf Positionen treffen, die uns in der eigenen Meinung bestärken“. Maas hat
einen Vorschlag, um diesem Problem beizukommen: ein Transparenzgebot für
Algorithmen. Nutzerinnen und Nutzer sollten selbst einschätzen können, ob
das Netz versuche, sie zu beeinflussen – um dann entscheiden zu können,
welche Filter und Personalisierungen sie akzeptieren wollen und welche
nicht.
Doch selbst wenn ein Unternehmen wie Google seinen Algorithmus offenlegen
würde: Die allermeisten Verbraucher könnten damit nur wenig anfangen. Und
das dürfe man auch nicht von ihnen erwarten, sagt Matthias Spielkamp von
Algorithm Watch. Zwar fordert die Initiative selbst, dass Prozesse
algorithmischer Entscheidungsfindung (ADM) nachvollziehbar sein müssen –
aber nicht unbedingt für den Einzelnen. „Wenn ich mir die Inhaltsstoffe
eines Medikaments ansehe, verstehe ich ja auch kein Wort“, sagt Spielkamp.
„Ich muss mich doch darauf verlassen können, dass eine Zulassungsstelle
geprüft hat, dass ich nicht sterbe, wenn ich ein Medikament nehme.“
## Forderung nach Digital-Agentur
Hätten die Unternehmen mit der Offenlegung von im Zweifel unverständlichem
Code ihre Schuldigkeit getan, wäre niemandem geholfen. Auch mit Blick auf
die Wettbewerbsfähigkeit und das Betriebsgeheimnis der Unternehmen sei es
der falsche Weg, diese pauschal zur Veröffentlichung ihrer Algorithmen zu
zwingen.
Die nächste Regierung solle eine „Digital-Agentur“ gründen, schlägt Maas
vor. Die Frage, was genau diese tun und können soll, beantwortet er im
Detail aber nicht. Spiegel Online hatte vorab berichtet, sie solle die
„behördliche Kontrolle“ übernehmen, „um die Funktionsweise, Grundlagen …
Folgen von Algorithmen überprüfen zu können“. Im tatsächlichen
Redemanuskript ist aber lediglich die Rede davon, „im Austausch mit
Wissenschaft, Wirtschaft und Verbrauchern mehr Expertise zu erlangen.“
Allerdings mahnt er „Rechtsdurchsetzung, Aufsicht und die Kontrolle von
Transparenz“ an.
Mit der Forderung nach mehr Expertise macht Maas einen wichtigen Punkt.
Eine [4][Studie der Bertelsmannstiftung] kam im Juni dieses Jahres zu dem
Schluss, dass es sinnvoll wäre, die externe Evaluation von ADM-Systemen zu
fördern. Aktuell sei es sehr schwierig, die Funktionsweise der Algorithmen
zu analysieren und extern zu kontrollieren. In der Studie heißt es, „der
Zugriff auf dafür notwendige Daten, die den Betreibern selbst in gewaltiger
Zahl vorliegen“, sei für externe Wissenschaftler oder Regulierungsbehörden
„mühselig bis unmöglich“.
Ein groß angelegtes Forschungsprojekt zur Funktionsweise und vor allem zu
den Auswirkungen von Algorithmen wäre also durchaus angebracht – eine
Digital-Agentur braucht es dafür aber nicht. Und statt dem Justizminister
wäre wohl eher das Bundesministerium für Wissenschaft und Forschung
zuständig.
## Zu wenig Grundlagenforschung
Bisher mangele es an Grundlagenforschung, sagt Spielkamp von Algorithm
Watch. Die Vorwürfe der Diskriminierung oder des Missbrauchs beruhten
bisher fast ausschließlich auf Indizien. „Bevor man anfängt, Dinge zu
regulieren, braucht man doch erst mal eine belastbare Datenbasis“, sagt
Spielkamp.
Algorithm Watch selbst startete am Donnerstag mit sechs
Landesmedienanstalten ein Projekt zu Googles Umgang mit der Bundestagswahl:
Nutzer sollen ein Plugin für ihren Browser installieren. Dieses sucht dann
alle vier Stunden auf Google nach einer festen Liste von etwa 15 Partei-
und Politikernamen.
Algorithm Watch erhofft sich, durch die so erhobenen Daten etwas über die
automatisierte Sortierung und Gewichtung der Ergebnisse durch Google zu
erfahren. Zugriff auf die internen Daten des Unternehmens braucht es dafür
nicht unbedingt. „Staatliche Regulierung sollte immer die Ultima Ratio
sein“, sagt Spielkamp.
Der erste Schritt sei es, viel mehr solcher Projekte anzustoßen. „Zur
Freigabe der Daten können wir Unternehmen immer noch zwingen, wenn wir
merken, dass wir sonst nicht weiterkommen.“
## Sicherheitslücken
Sei es Wannacry oder Ransomware: Cyberattacken funktionieren, weil Systeme
Sicherheitslücken aufweisen. Die Risiken sind dem Durchschnittsverbraucher
oft nicht bewusst. „Deshalb ist es nicht fair, wenn die Folgen solcher
Sicherheitslücken einseitig auf den Verbraucher abgewälzt werden“, so Maas.
Auch um „europaweit geltende Vorschriften zu IT-Sicherheit, die
verpflichtende Mindestanforderungen definieren“, werde man nicht
herumkommen.
Das ist schön zu hören – passt aber so gar nicht zu dem, was die
Bundesregierung jüngst beschlossen hat. Ende Juni verabschiedete der
Bundestag ein weitreichendes Überwachungsgesetz. Ermittlungsbehörden dürfen
demnach in bestimmten Fällen Schadsoftware auf private Computer,
Smartphones oder Tablets spielen, um diese zu überwachen: den sogenannten
Staatstrojaner. Dafür nutzen sie: Sicherheitslücken. Um dieses Instrument
nutzen zu können, nehmen die Behörden also die Existenz von
Sicherheitslücken wissentlich in Kauf, statt den Hersteller zum Handeln
aufzufordern.
Und auch mit der Forderung nach Transparenz war es in dem Fall nicht weit
her: Das Gesetz wurde gut versteckt als Teil eines Gesetzgebungsverfahrens
beschlossen, in dem es unter anderem um Führerscheinentzug als Strafe ging.
8 Jul 2017
## LINKS
[1] http://www.bmjv.de/SharedDocs/Reden/DE/2017/07032017_digitales_Leben.html?n…
[2] https://www.propublica.org/article/machine-bias-risk-assessments-in-crimina…
[3] https://dejure.org/gesetze/BDSG/6a.html
[4] https://www.bertelsmann-stiftung.de/fileadmin/files/BSt/Publikationen/Graue…
## AUTOREN
Dinah Riese
## TAGS
Algorithmen
Netzpolitik
Datenschutzgrundverordnung
Heiko Maas
Fake News
Cyberattacke
Lesestück Recherche und Reportage
Staatstrojaner
Netzsicherheit
Fake News
Schwerpunkt Überwachung
Schwerpunkt Überwachung
Schwerpunkt Meta
## ARTIKEL ZUM THEMA
Hajo Seppelt über Staatstrojaner-Gesetz: „Wir müssen Informanten schützen�…
Seit knapp einem Jahr gibt es das Staatstrojaner-Gesetz. Hajo Seppelt
unterstützt die Verfassungsbeschwerde gegen den Einsatz der
Spionage-Software.
Informatikprofessorin über Algorithmen: Kabelbündel fürs Grobe
Für das Überprüfen unerwünschter Inhalte wollen Firmen künstliche
Intelligenz einsetzen. Informatikprofessorin Joanna Bryson erklärt, warum
das gut ist.
Fake-Inhalte im Wahlkampf: Dem Gegner in den Mund gelegt
Die Grünen twittern unter #lindnersprueche erfundene FDP-Wahlplakate. Die
Junge Union Bayern verwirrt mit einem vermeintlichen Schulz-Tweet.
Überwachung beim Shoppen: Kuckuck! Hier oben!
In einigen Real-Supermärkten analysieren Kameras die Gesichter der Kunden
in der Warteschlange. Und jetzt regen wir uns auf – oder was?
Gesetz gegen Hate Speech im Netz: Ein Minister macht sich Feinde
Facebook, Journalisten und Netzaktivisten vereinen sich zum Widerstand
gegen Heiko Maas. Dem könnte diese Melange zum Verhängnis werden.
Internes Dokument geleaked: Facebook wird gefühlig
Facebook kann den Gefühlszustand seiner Nutzer erkennen. Das behauptet der
Konzern jedenfalls gegenüber seinen Kunden.
You are viewing proxied material from taz.de. The copyright of proxied material belongs to its original authors. Any comments or complaints in relation to proxied material should be directed to the original authors of the content concerned. Please see the disclaimer for more details.