Introduction
Introduction Statistics Contact Development Disclaimer Help
# taz.de -- Ethikerin über Daten und KI: „Der Markt muss reformiert werden“
> Datenwirtschaft dient bisher zu wenig dem Gemeinwohl. Christiane Woopen
> will sie nach den Prinzipien der sozialen Marktwirtschaft regulieren.
Bild: Digitale Überwachung in China: Lebenschancen nach dem Scoring-System ver…
taz: Frau Woopen, warum brauchen wir eine Datenethikkommission?
Christiane Woopen: Das Leben der einzelnen Menschen und der Gesellschaft
wird von Daten und technologischer Steuerung in allen Bereichen geprägt.
Das führt einerseits dazu, dass wir effizientere Prozesse und innovative
Produkte haben, es führt aber auch dazu, dass sich bestimmte Dinge
paradigmatisch ändern – da müssen wir die rechtlichen Regelungen
weiterentwickeln, um unsere grundlegenden Werte wie Freiheit und
Gerechtigkeit zu erhalten und zu befördern.
Was bedeutet das?
Es werden im Hintergrund Daten aus Bereichen zusammengeführt, die zuvor
getrennt waren. Soll der Preis, den ich für eine Hotelübernachtung bezahle,
von meinem Wohnort oder der Marke meines Computers abhängig sein, von dem
aus ich das Hotel buche? Oder: Wenn Sie früher einen Hosenanzug kaufen
wollten, haben Sie sich auf den Weg gemacht und ihn in unterschiedlichen
Geschäften gesucht. Heute werden Sie auf Ihrem Bildschirm von dem
Hosenanzug gefunden, während Sie eigentlich Zeitung lesen, weil Unternehmen
aus Daten, deren Herkunft und Bewertung Sie nicht überschauen, [1][ein
persönliches Profil von Ihnen erstellt haben] und dies für ihre
kommerziellen Zwecke nutzen. Derselbe Mechanismus kann, wie wir es bei
Wahlen gesehen haben, zu manipulativen Zwecken genutzt werden.
Was bedeutet die Digitalisierung für unseren Alltag?
Sie hat etwa Auswirkungen darauf, wie jeder Einzelne sein Leben und wie die
Gesellschaft Debatten führt. Zum Beispiel in den sozialen Medien. Man kann
sich problemlos anonym äußern, also [2][ohne dafür Verantwortung zu
übernehmen]. Akteure können massenweise Nachrichten verschicken, die von
Chatbots kommen. Bei Telefonanrufen kann man sich nicht mehr sicher sein,
ob man mit einem automatisierten System spricht oder einem Menschen. Wir
brauchen mehr Transparenz, Kontrollierbarkeit und Selbstbestimmung, um den
Einzelnen zu schützen.
Im Netz hinterlässt jeder Datenspuren. Macht Ihnen das Angst?
Früher, in der Feudalgesellschaft, lag die Macht bei denen, die über
Ländereien verfügten, in der Industriegesellschaft bei denen, die die
Produktionsmittel besaßen. Und jetzt manifestiert sich in der
Kapitalgesellschaft ein Machtwechsel hin zu denen, die über Daten und
Technologien verfügen. Das führt zu einer Monopolisierung und damit zu
einer vermeintlichen Deutungshoheit einiger weniger Akteure über das, was
für unser aller Leben wünschenswert ist. Wir brauchen dringend eine
Auseinandersetzung mit der Frage, wer in welchem Ausmaß von den Gewinnen
aus der Verwertung von Daten profitieren sollte. Die derzeitigen
Geschäftsmodelle scheinen mir nicht ausreichend dem Gemeinwohl und dem
gesellschaftlichen Zusammenhalt zu dienen.
Solche Technologien vereinfachen aber unser Leben.
Die Chancen, die eine wissenschaftlich fundierte Auswertung qualitativ
guter Daten bietet, sind großartig. Ich sehe vielfältige Ansatzpunkte. Aber
wir müssen darauf achten, dass wir den Fortschritt zum Beispiel in der
Arbeitswelt so gestalten, dass wir Menschen Arbeitsplätze bieten, wo
Technik und Mensch sinnvoll zusammenarbeiten können.
Ist die Digitalisierung nicht eine wunderbare Chance, allen Menschen echte
Teilhabe zu ermöglichen?
Man kann bei Youtube Vorlesungen hören. Wir können Menschen in entlegenen
Landstrichen Zugang zu medizinischer Versorgung gewährleisten, wenn sie
sich online in die Sprechstunde beim Arzt einwählen, ohne das Haus zu
verlassen. Über digitale Medien können wir Menschen, die vorher am
Arbeitsmarkt keine Chance hatten, Möglichkeiten eröffnen. Das alles kann
das Leben vereinfachen und Perspektiven eröffnen.
Aber?
Wir müssen etwa die Menschen, die in der Plattformökonomie arbeiten,
schützen – zum Beispiel was ihren Zugang zu sozialen Sicherungssystemen
angeht. Die Institutionen unseres Arbeitsmarkts zur Sicherung der
Arbeitsrechte funktionieren hier zu einem erheblichen Teil nicht und müssen
weiterentwickelt werden. Es muss auch klar sein, wer die Verantwortung beim
Einsatz automatisierter Systeme wie den selbstfahrenden Autos trägt.
Der digitale Markt wird von wenigen – vor allem US-amerikanischen – Firmen
beherrscht. Für wie bedrohlich halten Sie das?
Der Markt muss dringend neugestaltet werden, und zwar nach den Prinzipien
der sozialen Marktwirtschaft. Es darf beispielsweise nicht sein, dass
einige wenige durch die Programmierung der Suchmaschine und unter dem
Diktat werbegesteuerter Geschäftsmodelle darüber entscheiden, welche
Informationen wir unmittelbar bekommen, und welche nicht oder allenfalls
mühsam. In einer Demokratie muss Vielfalt gewährleistet sein. Sie darf
nicht von einigen wenigen Daten- und Technologiemonopolen ausgebremst
werden.
Das Geschäftsmodell dieser Konzerne ist der gläserne Mensch. Und die
Nutzer*innen lassen sich darauf ein.
Das stimmt, aber gleichzeitig wächst das Unbehagen darüber und das lähmende
Gefühl der Machtlosigkeit. In unserem Kulturkreis besteht immerhin das
starke Bewusstsein über die Bedeutung von Freiheit, Selbstbestimmung,
Gerechtigkeit und Privatsphäre. Das ist hoffentlich ein Treiber für mehr
Technologieentwicklung und Angebote auf dem Markt, die Datensouveränität
unterstützen. Große Sorgen aber machen mir die Entwicklungen in China.
[3][Dort will der Staat Bürger anhand eines Scoring-Systems bewerten] und
ihnen gemäß dem Score Lebenschancen zuteilen, also etwa die Möglichkeit zu
reisen, den gewünschten Job zu bekommen, Versicherungen abzuschließen oder
aber auch die Kinder auf eine bestimmte Schule schicken zu können. Eine
Gegenbewegung aus der Mitte der Gesellschaft heraus scheint es dort nicht
zu geben. Die Datenethikkommission befürwortet technologischen Fortschritt
und Innovation mit dem Ziel, die individuellen Entfaltungsmöglichkeiten,
den gesellschaftlichen Wohlstand sowie die Solidarität im Rahmen einer
freiheitlich demokratischen Grundordnung zu fördern.
5 Oct 2018
## LINKS
[1] /Berechnung-des-Alltags/!5243063
[2] /Kommentar-Hatespeech-auf-Facebook/!5392817
[3] /Social-Scoring-in-China/!5480926
## AUTOREN
Tanja Tricarico
## TAGS
Daten
Algorithmen
Ethik
Schwerpunkt Künstliche Intelligenz
Lesestück Recherche und Reportage
Algorithmen
Suchmaschine
Schwerpunkt Meta
Schwerpunkt Künstliche Intelligenz
Bundesregierung
## ARTIKEL ZUM THEMA
Essenslieferdienste in der Corona-Krise: Alles frei Haus, bitte
Essenslieferdienste sind gerade beliebt wie nie. Die Branche ist bekannt
für prekäre Arbeitsbedingungen. Ein Kollektiv will nun vieles anders
machen.
Automatisierung im Alltag: Rettet Künstliche Intelligenz die Welt?
Die Bundesregierung hat sich zur Künstlichen Intelligenz viel vorgenommen.
Nun startet der Digitalgipfel.
Kommentar Anonymes Surfen: Keine Ausreden mehr
Seine Daten im Netz auch eigenverantwortlich zu schützen ist heute viel
einfacher als früher. Hilfsmittel gibt es genug.
Debatte Datenschutzpanne bei Facebook: Gefährlich praktisch
Facebook kreiert immer neue Datenskandale, Besserung ist nicht in Sicht. Im
Zweifel können sie einem das Leben ruinieren. Was tun? Gehen oder bleiben?
Debatte über Künstliche Intelligenz: Fatale Schlagseite
Die Gesellschaft muss sich beim Thema KI stärker einmischen. Vor allem beim
Gestalten der sich jetzt bildenden Anwendungsstrukturen.
Kommentar KI-Strategie der Regierung: Ratlose Intelligenz
Die Bundesregierung will ganz vorne sein bei der Entwicklung der
Künstlichen Intelligenz. Der Schutz privater Daten kümmert sie wenig.
You are viewing proxied material from taz.de. The copyright of proxied material belongs to its original authors. Any comments or complaints in relation to proxied material should be directed to the original authors of the content concerned. Please see the disclaimer for more details.