# taz.de -- Die Macht der Algorithmen: Heiko Maas will das Internet bändigen | |
> Algorithmen beeinflussen Menschen im Netz. Der Justizminister will diesen | |
> Einfluss per Gesetz einschränken. Sein Nutzen ist umstritten. | |
Bild: Alles friedlich in der Bubble. „Filter-Blasen“ sorgen dafür, „dass… | |
Heiko Maas hat eine Mission: Der Bundesjustizminister will das Internet | |
unter Kontrolle bringen, in dem Algorithmen regieren und Fake News | |
gedeihen. Den Anfang machte er mit dem Netzwerkdurchsetzungsgesetz. Nun | |
nimmt der Minister sich der Algorithmen an. Am vergangenen Montag erklärte | |
Maas in einer [1][Rede auf einer Konferenz zu digitalem Leben], wie er | |
diese komplexen Systeme in den Griff bekommen will. Was genau schlägt Maas | |
vor – und ist das sinnvoll? | |
Ob wir den Job bekommen oder nicht, wie viel unser Flugticket kostet oder | |
ob wir als kreditwürdig gelten, darüber entscheidet in Zukunft vielleicht | |
nur noch ein Algorithmus. Diskriminierung ist dabei nicht ausgeschlossen. | |
In den USA beispielsweise fallen die automatisiert erstellten | |
Strafrückfälligkeitsprognosen für Schwarze oft negativer aus als für Weiße | |
– fälschlicherweise, wie eine [2][Recherche des Non-Profit-Projekts Pro | |
Publica] zeigte. Maas schlägt deswegen ein „digitales | |
Antidiskriminierungsgesetz“ vor, ergänzend zum bereits geltenden | |
Allgemeinen Gleichbehandlungsgesetz (AGG). | |
Man sollte doch annehmen, dass das existierende AGG immer dann greift, wenn | |
ein Mensch diskriminiert wird; sei das nun in der analogen oder in der | |
digitalen Welt. Wer eine verbotene Waffe im Netz kauft, macht sich ja auch | |
genauso strafbar, wie wenn er sie in einem dunklen Hinterhof persönlich in | |
Empfang nimmt. | |
„Der eigentlich wichtige Schritt wäre, das AGG entsprechend zu erweitern“, | |
sagt Lena Ulbricht vom Wissenschaftszentrum Berlin (WZB). Forderungen dazu | |
gebe es schon länger. „Das Antidiskriminierunsgegesetz ist relativ | |
eingeschränkt und fokussiert vor allem auf den Arbeitsmarkt“, sagt | |
Ulbricht. Diskriminierung auf Plattformen etwa werde bisher ebenso wenig | |
erfasst wie die Bewertung von Kaufkraft. „Das ist aber ein unheimlich | |
politisiertes Thema und würde ein großes Reformunterfangen bedeuten“, sagt | |
Ulbricht. „Der Vorschlag eines ergänzenden Gesetzes ist da natürlich | |
weniger brisant.“ | |
## Rückschluss auf Gemütszustand durch Instagram | |
Entscheidungen, die nur auf Basis automatisierter Auswertung | |
personenbezogener Daten fallen und für den Betroffenen eine rechtliche | |
Folge nach sich ziehen oder ihn erheblich beeinträchtigen, sind in | |
Deutschland [3][laut Bundesdatenschutzgesetz ohnehin reglementiert]. | |
„Wir wissen zwar, dass im Internet unzählige persönliche Daten | |
transportiert werden, dass man sie vernetzen und auswerten kann, aber die | |
Einzelheiten bleiben oft völlig unsichtbar“, sagte Maas laut offiziellem | |
Redemanuskript. Wer wisse denn schon, welche Daten das eigene Smartphone | |
täglich mit wem austausche und dass Fotos auf Instagram zur Kalkulation | |
unseres Gemütszustands ausgewertet werden könnten? | |
„Echokammern“ und „Filter-Blasen“ sorgen dafür, „dass wir oftmals nu… | |
auf Positionen treffen, die uns in der eigenen Meinung bestärken“. Maas hat | |
einen Vorschlag, um diesem Problem beizukommen: ein Transparenzgebot für | |
Algorithmen. Nutzerinnen und Nutzer sollten selbst einschätzen können, ob | |
das Netz versuche, sie zu beeinflussen – um dann entscheiden zu können, | |
welche Filter und Personalisierungen sie akzeptieren wollen und welche | |
nicht. | |
Doch selbst wenn ein Unternehmen wie Google seinen Algorithmus offenlegen | |
würde: Die allermeisten Verbraucher könnten damit nur wenig anfangen. Und | |
das dürfe man auch nicht von ihnen erwarten, sagt Matthias Spielkamp von | |
Algorithm Watch. Zwar fordert die Initiative selbst, dass Prozesse | |
algorithmischer Entscheidungsfindung (ADM) nachvollziehbar sein müssen – | |
aber nicht unbedingt für den Einzelnen. „Wenn ich mir die Inhaltsstoffe | |
eines Medikaments ansehe, verstehe ich ja auch kein Wort“, sagt Spielkamp. | |
„Ich muss mich doch darauf verlassen können, dass eine Zulassungsstelle | |
geprüft hat, dass ich nicht sterbe, wenn ich ein Medikament nehme.“ | |
## Forderung nach Digital-Agentur | |
Hätten die Unternehmen mit der Offenlegung von im Zweifel unverständlichem | |
Code ihre Schuldigkeit getan, wäre niemandem geholfen. Auch mit Blick auf | |
die Wettbewerbsfähigkeit und das Betriebsgeheimnis der Unternehmen sei es | |
der falsche Weg, diese pauschal zur Veröffentlichung ihrer Algorithmen zu | |
zwingen. | |
Die nächste Regierung solle eine „Digital-Agentur“ gründen, schlägt Maas | |
vor. Die Frage, was genau diese tun und können soll, beantwortet er im | |
Detail aber nicht. Spiegel Online hatte vorab berichtet, sie solle die | |
„behördliche Kontrolle“ übernehmen, „um die Funktionsweise, Grundlagen … | |
Folgen von Algorithmen überprüfen zu können“. Im tatsächlichen | |
Redemanuskript ist aber lediglich die Rede davon, „im Austausch mit | |
Wissenschaft, Wirtschaft und Verbrauchern mehr Expertise zu erlangen.“ | |
Allerdings mahnt er „Rechtsdurchsetzung, Aufsicht und die Kontrolle von | |
Transparenz“ an. | |
Mit der Forderung nach mehr Expertise macht Maas einen wichtigen Punkt. | |
Eine [4][Studie der Bertelsmannstiftung] kam im Juni dieses Jahres zu dem | |
Schluss, dass es sinnvoll wäre, die externe Evaluation von ADM-Systemen zu | |
fördern. Aktuell sei es sehr schwierig, die Funktionsweise der Algorithmen | |
zu analysieren und extern zu kontrollieren. In der Studie heißt es, „der | |
Zugriff auf dafür notwendige Daten, die den Betreibern selbst in gewaltiger | |
Zahl vorliegen“, sei für externe Wissenschaftler oder Regulierungsbehörden | |
„mühselig bis unmöglich“. | |
Ein groß angelegtes Forschungsprojekt zur Funktionsweise und vor allem zu | |
den Auswirkungen von Algorithmen wäre also durchaus angebracht – eine | |
Digital-Agentur braucht es dafür aber nicht. Und statt dem Justizminister | |
wäre wohl eher das Bundesministerium für Wissenschaft und Forschung | |
zuständig. | |
## Zu wenig Grundlagenforschung | |
Bisher mangele es an Grundlagenforschung, sagt Spielkamp von Algorithm | |
Watch. Die Vorwürfe der Diskriminierung oder des Missbrauchs beruhten | |
bisher fast ausschließlich auf Indizien. „Bevor man anfängt, Dinge zu | |
regulieren, braucht man doch erst mal eine belastbare Datenbasis“, sagt | |
Spielkamp. | |
Algorithm Watch selbst startete am Donnerstag mit sechs | |
Landesmedienanstalten ein Projekt zu Googles Umgang mit der Bundestagswahl: | |
Nutzer sollen ein Plugin für ihren Browser installieren. Dieses sucht dann | |
alle vier Stunden auf Google nach einer festen Liste von etwa 15 Partei- | |
und Politikernamen. | |
Algorithm Watch erhofft sich, durch die so erhobenen Daten etwas über die | |
automatisierte Sortierung und Gewichtung der Ergebnisse durch Google zu | |
erfahren. Zugriff auf die internen Daten des Unternehmens braucht es dafür | |
nicht unbedingt. „Staatliche Regulierung sollte immer die Ultima Ratio | |
sein“, sagt Spielkamp. | |
Der erste Schritt sei es, viel mehr solcher Projekte anzustoßen. „Zur | |
Freigabe der Daten können wir Unternehmen immer noch zwingen, wenn wir | |
merken, dass wir sonst nicht weiterkommen.“ | |
## Sicherheitslücken | |
Sei es Wannacry oder Ransomware: Cyberattacken funktionieren, weil Systeme | |
Sicherheitslücken aufweisen. Die Risiken sind dem Durchschnittsverbraucher | |
oft nicht bewusst. „Deshalb ist es nicht fair, wenn die Folgen solcher | |
Sicherheitslücken einseitig auf den Verbraucher abgewälzt werden“, so Maas. | |
Auch um „europaweit geltende Vorschriften zu IT-Sicherheit, die | |
verpflichtende Mindestanforderungen definieren“, werde man nicht | |
herumkommen. | |
Das ist schön zu hören – passt aber so gar nicht zu dem, was die | |
Bundesregierung jüngst beschlossen hat. Ende Juni verabschiedete der | |
Bundestag ein weitreichendes Überwachungsgesetz. Ermittlungsbehörden dürfen | |
demnach in bestimmten Fällen Schadsoftware auf private Computer, | |
Smartphones oder Tablets spielen, um diese zu überwachen: den sogenannten | |
Staatstrojaner. Dafür nutzen sie: Sicherheitslücken. Um dieses Instrument | |
nutzen zu können, nehmen die Behörden also die Existenz von | |
Sicherheitslücken wissentlich in Kauf, statt den Hersteller zum Handeln | |
aufzufordern. | |
Und auch mit der Forderung nach Transparenz war es in dem Fall nicht weit | |
her: Das Gesetz wurde gut versteckt als Teil eines Gesetzgebungsverfahrens | |
beschlossen, in dem es unter anderem um Führerscheinentzug als Strafe ging. | |
8 Jul 2017 | |
## LINKS | |
[1] http://www.bmjv.de/SharedDocs/Reden/DE/2017/07032017_digitales_Leben.html?n… | |
[2] https://www.propublica.org/article/machine-bias-risk-assessments-in-crimina… | |
[3] https://dejure.org/gesetze/BDSG/6a.html | |
[4] https://www.bertelsmann-stiftung.de/fileadmin/files/BSt/Publikationen/Graue… | |
## AUTOREN | |
Dinah Riese | |
## TAGS | |
Algorithmen | |
Netzpolitik | |
Datenschutzgrundverordnung | |
Heiko Maas | |
Fake News | |
Cyberattacke | |
Lesestück Recherche und Reportage | |
Staatstrojaner | |
künstliche Intelligenz | |
Grüne | |
Schwerpunkt Überwachung | |
Schwerpunkt Überwachung | |
Schwerpunkt Facebook | |
## ARTIKEL ZUM THEMA | |
Hajo Seppelt über Staatstrojaner-Gesetz: „Wir müssen Informanten schützen�… | |
Seit knapp einem Jahr gibt es das Staatstrojaner-Gesetz. Hajo Seppelt | |
unterstützt die Verfassungsbeschwerde gegen den Einsatz der | |
Spionage-Software. | |
Informatikprofessorin über Algorithmen: Kabelbündel fürs Grobe | |
Für das Überprüfen unerwünschter Inhalte wollen Firmen künstliche | |
Intelligenz einsetzen. Informatikprofessorin Joanna Bryson erklärt, warum | |
das gut ist. | |
Fake-Inhalte im Wahlkampf: Dem Gegner in den Mund gelegt | |
Die Grünen twittern unter #lindnersprueche erfundene FDP-Wahlplakate. Die | |
Junge Union Bayern verwirrt mit einem vermeintlichen Schulz-Tweet. | |
Überwachung beim Shoppen: Kuckuck! Hier oben! | |
In einigen Real-Supermärkten analysieren Kameras die Gesichter der Kunden | |
in der Warteschlange. Und jetzt regen wir uns auf – oder was? | |
Gesetz gegen Hate Speech im Netz: Ein Minister macht sich Feinde | |
Facebook, Journalisten und Netzaktivisten vereinen sich zum Widerstand | |
gegen Heiko Maas. Dem könnte diese Melange zum Verhängnis werden. | |
Internes Dokument geleaked: Facebook wird gefühlig | |
Facebook kann den Gefühlszustand seiner Nutzer erkennen. Das behauptet der | |
Konzern jedenfalls gegenüber seinen Kunden. |