# taz.de -- Ethikerin über Daten und KI: „Der Markt muss reformiert werden“ | |
> Datenwirtschaft dient bisher zu wenig dem Gemeinwohl. Christiane Woopen | |
> will sie nach den Prinzipien der sozialen Marktwirtschaft regulieren. | |
Bild: Digitale Überwachung in China: Lebenschancen nach dem Scoring-System ver… | |
taz: Frau Woopen, warum brauchen wir eine Datenethikkommission? | |
Christiane Woopen: Das Leben der einzelnen Menschen und der Gesellschaft | |
wird von Daten und technologischer Steuerung in allen Bereichen geprägt. | |
Das führt einerseits dazu, dass wir effizientere Prozesse und innovative | |
Produkte haben, es führt aber auch dazu, dass sich bestimmte Dinge | |
paradigmatisch ändern – da müssen wir die rechtlichen Regelungen | |
weiterentwickeln, um unsere grundlegenden Werte wie Freiheit und | |
Gerechtigkeit zu erhalten und zu befördern. | |
Was bedeutet das? | |
Es werden im Hintergrund Daten aus Bereichen zusammengeführt, die zuvor | |
getrennt waren. Soll der Preis, den ich für eine Hotelübernachtung bezahle, | |
von meinem Wohnort oder der Marke meines Computers abhängig sein, von dem | |
aus ich das Hotel buche? Oder: Wenn Sie früher einen Hosenanzug kaufen | |
wollten, haben Sie sich auf den Weg gemacht und ihn in unterschiedlichen | |
Geschäften gesucht. Heute werden Sie auf Ihrem Bildschirm von dem | |
Hosenanzug gefunden, während Sie eigentlich Zeitung lesen, weil Unternehmen | |
aus Daten, deren Herkunft und Bewertung Sie nicht überschauen, [1][ein | |
persönliches Profil von Ihnen erstellt haben] und dies für ihre | |
kommerziellen Zwecke nutzen. Derselbe Mechanismus kann, wie wir es bei | |
Wahlen gesehen haben, zu manipulativen Zwecken genutzt werden. | |
Was bedeutet die Digitalisierung für unseren Alltag? | |
Sie hat etwa Auswirkungen darauf, wie jeder Einzelne sein Leben und wie die | |
Gesellschaft Debatten führt. Zum Beispiel in den sozialen Medien. Man kann | |
sich problemlos anonym äußern, also [2][ohne dafür Verantwortung zu | |
übernehmen]. Akteure können massenweise Nachrichten verschicken, die von | |
Chatbots kommen. Bei Telefonanrufen kann man sich nicht mehr sicher sein, | |
ob man mit einem automatisierten System spricht oder einem Menschen. Wir | |
brauchen mehr Transparenz, Kontrollierbarkeit und Selbstbestimmung, um den | |
Einzelnen zu schützen. | |
Im Netz hinterlässt jeder Datenspuren. Macht Ihnen das Angst? | |
Früher, in der Feudalgesellschaft, lag die Macht bei denen, die über | |
Ländereien verfügten, in der Industriegesellschaft bei denen, die die | |
Produktionsmittel besaßen. Und jetzt manifestiert sich in der | |
Kapitalgesellschaft ein Machtwechsel hin zu denen, die über Daten und | |
Technologien verfügen. Das führt zu einer Monopolisierung und damit zu | |
einer vermeintlichen Deutungshoheit einiger weniger Akteure über das, was | |
für unser aller Leben wünschenswert ist. Wir brauchen dringend eine | |
Auseinandersetzung mit der Frage, wer in welchem Ausmaß von den Gewinnen | |
aus der Verwertung von Daten profitieren sollte. Die derzeitigen | |
Geschäftsmodelle scheinen mir nicht ausreichend dem Gemeinwohl und dem | |
gesellschaftlichen Zusammenhalt zu dienen. | |
Solche Technologien vereinfachen aber unser Leben. | |
Die Chancen, die eine wissenschaftlich fundierte Auswertung qualitativ | |
guter Daten bietet, sind großartig. Ich sehe vielfältige Ansatzpunkte. Aber | |
wir müssen darauf achten, dass wir den Fortschritt zum Beispiel in der | |
Arbeitswelt so gestalten, dass wir Menschen Arbeitsplätze bieten, wo | |
Technik und Mensch sinnvoll zusammenarbeiten können. | |
Ist die Digitalisierung nicht eine wunderbare Chance, allen Menschen echte | |
Teilhabe zu ermöglichen? | |
Man kann bei Youtube Vorlesungen hören. Wir können Menschen in entlegenen | |
Landstrichen Zugang zu medizinischer Versorgung gewährleisten, wenn sie | |
sich online in die Sprechstunde beim Arzt einwählen, ohne das Haus zu | |
verlassen. Über digitale Medien können wir Menschen, die vorher am | |
Arbeitsmarkt keine Chance hatten, Möglichkeiten eröffnen. Das alles kann | |
das Leben vereinfachen und Perspektiven eröffnen. | |
Aber? | |
Wir müssen etwa die Menschen, die in der Plattformökonomie arbeiten, | |
schützen – zum Beispiel was ihren Zugang zu sozialen Sicherungssystemen | |
angeht. Die Institutionen unseres Arbeitsmarkts zur Sicherung der | |
Arbeitsrechte funktionieren hier zu einem erheblichen Teil nicht und müssen | |
weiterentwickelt werden. Es muss auch klar sein, wer die Verantwortung beim | |
Einsatz automatisierter Systeme wie den selbstfahrenden Autos trägt. | |
Der digitale Markt wird von wenigen – vor allem US-amerikanischen – Firmen | |
beherrscht. Für wie bedrohlich halten Sie das? | |
Der Markt muss dringend neugestaltet werden, und zwar nach den Prinzipien | |
der sozialen Marktwirtschaft. Es darf beispielsweise nicht sein, dass | |
einige wenige durch die Programmierung der Suchmaschine und unter dem | |
Diktat werbegesteuerter Geschäftsmodelle darüber entscheiden, welche | |
Informationen wir unmittelbar bekommen, und welche nicht oder allenfalls | |
mühsam. In einer Demokratie muss Vielfalt gewährleistet sein. Sie darf | |
nicht von einigen wenigen Daten- und Technologiemonopolen ausgebremst | |
werden. | |
Das Geschäftsmodell dieser Konzerne ist der gläserne Mensch. Und die | |
Nutzer*innen lassen sich darauf ein. | |
Das stimmt, aber gleichzeitig wächst das Unbehagen darüber und das lähmende | |
Gefühl der Machtlosigkeit. In unserem Kulturkreis besteht immerhin das | |
starke Bewusstsein über die Bedeutung von Freiheit, Selbstbestimmung, | |
Gerechtigkeit und Privatsphäre. Das ist hoffentlich ein Treiber für mehr | |
Technologieentwicklung und Angebote auf dem Markt, die Datensouveränität | |
unterstützen. Große Sorgen aber machen mir die Entwicklungen in China. | |
[3][Dort will der Staat Bürger anhand eines Scoring-Systems bewerten] und | |
ihnen gemäß dem Score Lebenschancen zuteilen, also etwa die Möglichkeit zu | |
reisen, den gewünschten Job zu bekommen, Versicherungen abzuschließen oder | |
aber auch die Kinder auf eine bestimmte Schule schicken zu können. Eine | |
Gegenbewegung aus der Mitte der Gesellschaft heraus scheint es dort nicht | |
zu geben. Die Datenethikkommission befürwortet technologischen Fortschritt | |
und Innovation mit dem Ziel, die individuellen Entfaltungsmöglichkeiten, | |
den gesellschaftlichen Wohlstand sowie die Solidarität im Rahmen einer | |
freiheitlich demokratischen Grundordnung zu fördern. | |
5 Oct 2018 | |
## LINKS | |
[1] /Berechnung-des-Alltags/!5243063 | |
[2] /Kommentar-Hatespeech-auf-Facebook/!5392817 | |
[3] /Social-Scoring-in-China/!5480926 | |
## AUTOREN | |
Tanja Tricarico | |
## TAGS | |
Daten | |
Algorithmen | |
Ethik | |
Schwerpunkt Künstliche Intelligenz | |
Lesestück Recherche und Reportage | |
Algorithmen | |
Suchmaschine | |
Schwerpunkt Meta | |
Schwerpunkt Künstliche Intelligenz | |
Bundesregierung | |
## ARTIKEL ZUM THEMA | |
Essenslieferdienste in der Corona-Krise: Alles frei Haus, bitte | |
Essenslieferdienste sind gerade beliebt wie nie. Die Branche ist bekannt | |
für prekäre Arbeitsbedingungen. Ein Kollektiv will nun vieles anders | |
machen. | |
Automatisierung im Alltag: Rettet Künstliche Intelligenz die Welt? | |
Die Bundesregierung hat sich zur Künstlichen Intelligenz viel vorgenommen. | |
Nun startet der Digitalgipfel. | |
Kommentar Anonymes Surfen: Keine Ausreden mehr | |
Seine Daten im Netz auch eigenverantwortlich zu schützen ist heute viel | |
einfacher als früher. Hilfsmittel gibt es genug. | |
Debatte Datenschutzpanne bei Facebook: Gefährlich praktisch | |
Facebook kreiert immer neue Datenskandale, Besserung ist nicht in Sicht. Im | |
Zweifel können sie einem das Leben ruinieren. Was tun? Gehen oder bleiben? | |
Debatte über Künstliche Intelligenz: Fatale Schlagseite | |
Die Gesellschaft muss sich beim Thema KI stärker einmischen. Vor allem beim | |
Gestalten der sich jetzt bildenden Anwendungsstrukturen. | |
Kommentar KI-Strategie der Regierung: Ratlose Intelligenz | |
Die Bundesregierung will ganz vorne sein bei der Entwicklung der | |
Künstlichen Intelligenz. Der Schutz privater Daten kümmert sie wenig. |