Introduction
Introduction Statistics Contact Development Disclaimer Help
# taz.de -- Ausbeutung in der Tech-Branche: Giga-Geschäft außer Kontrolle
> Unternehmen wie Google brauchen billige Arbeitskräfte, die ihre
> KI-Programme trainieren. Im Netz hat sich dafür ein riesiger Schwarzmarkt
> gebildet.
Ein Post in einer Facebook-Gruppe, es geht um das Training von KI-Modellen
für Batteriemanagement-Systeme. Das Versprechen, das der Text gibt:
Schnelles Geld, von zu Hause aus verdient.
„Make over $1000 weekely working on remote jobs … Learn how to Get ready to
tasks accounts, different profiles, BMS, extensions, free training, proxies
… Guarantee earning … “
Solche Anzeigen sind typisch für die Gig Economy, in der kleine Aufträge
kurzfristig an Freelancer („Gigworker“) vermittelt werden. Die
milliardenschweren Konzerne, meistens aus den USA, rekrutieren auf
diesem Weg weltweit Arbeitskräfte. Die Anzeigen tauchen in
LinkedIn-Nachrichten oder Social-Media-Feeds auf und locken mit flexiblen
Arbeitszeiten, maximalen Freiheiten, kostenlosen Schulungen, garantierter
Bezahlung und der Chance, im KI-Sektor einen Fuß in die Tür zu bekommen.
Das Jobangebot aus der Facebook-Gruppe ist nachlässig formuliert, es
enthält zum Beispiel den Rechtschreibfehler „weekely“ statt „weekly“.
Seriöse Stellenanzeigen sehen normalerweise anders aus. Die Anzeige enthält
außerdem ein Bild, auf dem ein Screenshot von einem Outlier-Konto zu sehen
ist. Outlier ist im Silicon Valley ansässig und Teil des 13,8 Milliarden
Dollar schweren Unternehmens Scale AI, das sich auf Datenannotierung und
KI-Training spezialisiert hat.
Zu den Kunden von Scale AI gehören in Europa ansässige Firmen wie die
Unternehmensberatungsriesen Accenture, SAP und Deloitte, die
[1][US-Tech-Giganten Meta, OpenAI, Anthropic und Microsoft] sowie das Weiße
Haus und die US-Armee. Outlier selbst verrät nicht, wer zu seinen Kunden
gehört, aber aus Dokumenten geht hervor, dass Google und Meta darunter
sind. Durch das Bild lässt die Anzeige vermuten, dass Outlier eines der
Unternehmen ist, für das Interessenten arbeiten können.
Bei einem näheren Blick auf ähnliche Posts mit Jobangeboten in Feeds und
Gruppen bestätigt sich der Eindruck: Die Beiträge stammen nicht von
Personalvermittler*innen. Hinter den Posts verbirgt sich ein Handel mit
Gigwork-Konten, mit denen Datenannotations- und KI-Training-Aufträge
akquiriert werden können. Gehandelt wird nicht nur mit Outlier-Konten,
sondern auch mit Konten von ähnlichen Unternehmen wie CrowdGen, Echolabs
und Prolific.
Wir sind der Spur dieser Anzeigen gefolgt, um herauszufinden, wer hinter
ihnen steckt. Dabei haben wir einen ganzen Schwarzmarkt entdeckt.
Damit Menschen sich mit Chat-Bots über beliebige Themen unterhalten
können, müssen die entsprechenden KI-Modelle erst mit Daten gefüttert
werden, zum Beispiel mit Texten oder mit Aufforderungen, die Gigworker
erstellt haben. Hunderttausende von diesen Arbeitskräften erledigen
manuell kleine Aufgaben zum [2][„Training“ von KI-Anwendungen bei großen
Tech-Unternehmen].
Die Nachfrage nach diesen Arbeitskräften ist so groß, dass Unternehmen wie
Outlier auf der ganzen Welt nach ihnen suchen. Sie zahlen dann die
landesüblichen Honorare. Die Unterschiede zwischen der Bezahlung von
Auftragnehmern aus dem Globalen Süden und denjenigen aus Europa oder den
USA sind enorm.
Zum Personalmanagement setzen KI-Unternehmen automatisierte Verfahren ein,
denen die Arbeitnehmer*innen folgen müssen, um auf deren Plattformen
Konten anlegen und Geld verdienen zu können. Sie geben ihren Namen, ihre
Adresse und ihre Telefonnummer an und verifizieren die Nummer über einen
Bestätigungslink. Dann werden die Personalausweis- und Steuernummern
verlangt, und schließlich legen die Gigworker die Zahlungsmethode fest,
meistens PayPal. Sobald ein Konto verifiziert ist, sind die
Arbeiter*innen „einsatzbereit“.
Durch dieses Anmeldeverfahren können Menschen in Ländern mit niedrigem
Einkommen das System überlisten, indem sie sich ein Konto beschaffen, das
mit einem Land mit einem höheren Einkommen verknüpft ist. Dazu benötigen
sie nur die persönlichen Daten zum Beispiel von Europäer*innen.
Dieses Schlupfloch machen sich wiederum Menschen zunutze, die auf Facebook
mit Konten handeln. Auf der einen Seite können Menschen aus dem Globalen
Süden, aus Indien oder von den Philippinen, Konten aus Europa oder den USA
kaufen und ein westliches Honorar erhalten. Auf der anderen Seite können
Kontoinhaber*innen in den USA oder Europa Gigworker aus dem Globalen
Süden damit beauftragen, ihre Arbeit zu erledigen. Sie teilen sich dann das
Geld.
Der oben zitierte Facebook-Post enthielt einen WhatsApp-Link, der in
verschiedenen Profilen und unterschiedlichen Gruppen auftauchte, dazu einen
Screenshot mit dem angeblichen Verdienst und dem Kommentar: „Das nenne ich
pures Glück.“ Der Link führte zu einer WhatsApp-Gruppe namens „Remotask
Accounts“, benannt nach einem Schwesterunternehmen von Outlier, das ein
Teil von Scale AI ist und sich auf Datenannotierung spezialisiert hat. Die
Gruppe steht nicht offiziell mit Remotasks in Verbindung.
Ein Mann mit einer kenianischen Telefonnummer ist der Administrator der
Messaging-Gruppe. Er behauptet, verifizierte und einsatzbereite
Outlier-Konten anbieten zu können, die mit den USA, Kanada und den
Philippinen verknüpft sind.
Wir interagierten in der Gruppe unter dem spanischen Pseudonym „Bartolome“
und verwendeten eine spanische Telefonnummer. Bartolome wurde direkt von
einem „Felix“ kontaktiert, der ebenfalls eine kenianische Nummer hat. Felix
war auf der Suche nach einer Person in Spanien, die ihm ein Outlier-Konto
einrichtet, das er nutzen (oder vielleicht weiterverkaufen) kann.
Unternehmen wie Outlier sind verpflichtet, für sie tätige
Arbeitnehmer*innen einer „Know Your Customer“-Prüfung (KYC) zu
unterziehen. Nach demselben Prinzip überprüfen Banken riskante Kund*innen,
um Betrug vorzubeugen. Normalerweise verknüpfen die Unternehmen bei der KYC
Konten mit lokalen Telefonnummern, Adressen und Personalausweis- und
Steuernummern.
Felix brauchte jemanden mit einer spanischen Telefonnummer und einem
spanischen Ausweis, um ein Konto für ihn zu eröffnen. Bartolome hatte so
einen Ausweis und einen spanischen Wohnsitz. Felix fragte ihn nach
persönlichen Daten wie der Adresse und Telefonnummer. Zwar ist Felix
physisch in Kenia ansässig, aber um sich für das Outlier-Konto anzumelden,
braucht er einen spanischen Wohnsitz-Proxy („residential proxy“).
Ein Wohnsitz-Proxy ist eine Alternative zu einem virtuellen privaten
Netzwerk (VPN). VPNs werden verwendet, um reale Standorte im Internet zu
verbergen, zum Beispiel um auf regional gesperrte Inhalte von
Streaming-Diensten zugreifen zu können. Der Datenverkehr wird dann über
IP-Adressen abgewickelt, die einem VPN-Dienstanbieter gehören. Da solche
Adressen aber inzwischen bekannt sind, lassen sich VPNs leicht
identifizieren. Online-Arbeitsplattformen sind verpflichtet, Identitäten
und Standorte zu überprüfen. Wenn die Kontoinhaber*innen
kommerzielle VPNs verwenden und entdeckt werden, werden sie gesperrt, um
Betrug zu verhindern.
Eine Alternative zu VPNs sind Wohnsitz-Proxys, die wie VPNs funktionieren,
aber zusätzlich mit einer Wohnadresse verknüpft sind. Felix wollte die
Anti-Betrug-Systeme von Outlier austricksen, die speziell nach VPNs suchen,
und dazu sein neues Outlier-Konto mit dem spanischen Wohnsitz und der
Telefonnummer von Bartolome eröffnen.
Bartolome erhielt vom Outlier-Verifizierungssystem eine SMS mit einer
Anmeldebestätigung. Er sollte seinen Personalausweis hochladen. An dieser
Stelle brachen wir das Experiment und den Kontakt zu Felix ab.
Der Trick, Outlier-Konten mit fremden europäischen Telefonnummern und
Ausweisen zu eröffnen, scheint sich herumgesprochen zu haben. Felix
behauptete, täglich zehn gefälschte Konten zu verifizieren. Die Gruppe, in
der er Bartolome gefunden hat, bestand aus etwa 1.000 Mitgliedern. Einige
Mitglieder solcher WhatsApp-Gruppen gehören wahrscheinlich zu kriminellen
Netzwerken.
Unser Alter Ego Bartolome wechselte die Rolle und versuchte, sich ein
Outlier-Konto zu beschaffen, mit dem andere für ihn arbeiten würden. So
traf er auf „Rehan“.
Auch Rehan hat eine kenianische Nummer und bietet in Indonesien und auf den
Philippinen Outlier-Konten mit EU-Daten an. Er wollte ein Konto verkaufen,
das angeblich 35 Dollar pro Arbeitsstunde abwirft und schon mit einem
Wohnsitz-Proxy verifiziert sei. Outlier sei derzeit die beste Plattform.
Bartolome zeigte sich interessiert. Rehan verlangte für die Zugangsdaten 70
Dollar, zu zahlen über die Kryptobörse Binance oder den Dienst AirTM.
Auf Binance zahlte Bartolome 70 Dollar auf Rehans Konto „Escobar Crypto“
ein. Dann fragte er Rehan nach den Kontodaten. Rehan weigerte sich, sie
herauszugeben, und meinte, Bartolome brauche noch ein Plug-in gegen Betrug,
das er ihm für weitere 30 Dollar geben könne. Bartolome überwies die 30
Dollar auf Binance. Aber Rehan wollte nochmal 50 Dollar. Es kam zu einem
Streit, der übersetzt ungefähr so ablief:
Rehan: Wenn ich die 50 Dollar habe, ist es ein Deal, Mann.
Bartolome: Ich hab schon gezahlt, was wir vereinbart hatten.
Rehan: Ja Mann, ich werd auch liefern. Warum bist du so unhöflich, Mann.
Bartolome: Ich bin weder unhöflich noch wütend. Ich will nur die Daten
bekommen.
Rehan: Du weißt doch, wie viel das Konto wert ist, Mann. Mach’s nicht so
schwierig.
Bartolome: Wenn du mir die Daten nicht gibst oder mir das Geld
zurückzahlst, hast du mich abgezockt. Ich würde jetzt gern bekommen, wofür
ich bezahlt habe.
Rehan: So macht man keine Geschäfte, Mann.
Bartolome: Ich will nur, dass du dich an unsere Vereinbarung hältst, das
ist alles.
Rehan: Ich warte aber noch auf das Geld, Mann.
Bist du noch da, Mann?
Willst du die Kontodaten noch haben?
Bartolome war nicht gewillt, die 50 Dollar an Escobar Crypto zu überweisen,
und beließ es dabei. Da aber plötzlich in der WhatsApp-Gruppe bekannt war,
dass Bartolome eine spanische Nummer und einen spanischen Ausweis hat,
fragte ihn ein anderes Mitglied, ob er sich nicht an einem
Kreditkartenbetrug beteiligen wolle – das Ziel sei eine spanische
Supermarktkette.
Gigworker, vor allem aus Europa und Nordamerika, erhalten immer wieder
E-Mail-Anfragen von Gigworkern aus dem Globalen Süden: Sie schlagen ihnen
vor, Arbeit über deren Konten abzurechnen und ihnen dafür einen Teil ihres
besseren Honorars zu überlassen. Es ist ein koloniales Modell im digitalen
Zeitalter: Europäische Bürger*innen können ihren Status und Wohnsitz
nutzen, um fürs Nichtstun bezahlt zu werden, während
Auftragnehmer*innen im Globalen Süden für die ganze Arbeit nur einen
Bruchteil erhalten. Der Schwarzmarkt spiegelt bloß ein legales
Geschäftsmodell wider: In den USA ansässige Unternehmen beuten weltweit die
Arbeitskraft billiger Arbeiter*innen aus, um KI-Modelle zu trainieren.
Wir führten ein zweites Experiment durch. Unter dem rumänischen Pseudonym
„Tudor“ veröffentlichten wir in einer Facebook-Gruppe eine Anzeige für
Outlier-Gigworker, da Outlier in den Gruppen am häufigsten erwähnt wird.
Tudor versprach Interessenten, ihnen 40 Prozent von den Honoraren zu
überlassen. Mitglieder der Facebook-Gruppe schrieben daraufhin Nachrichten.
Sanjib aus Indien hatte kein Interesse an der Arbeit, sondern bot Tudor für
25 Dollar Zugang zu einem indischen Outlier-Konto an. Kaum jemand ist an
indischen Konten interessiert, da die Bezahlung zu schlecht ist, aber
Sanjib wollte es trotzdem versuchen.
Tudor schrieb noch mit sechs anderen Interessenten, alle waren aus Kenia.
Viele Outlier-Gigworker kommen aus dem ostafrikanischen Land, was daran
liegen könnte, dass die Outlier-Schwesterfirma Remotasks dort sehr
umtriebig gewesen war, bis sie im März 2024 alle Geschäfte in Kenia
einstellte. Viele Menschen dort arbeiteten auf diesen Plattformen. Alle,
mit denen Tudor Kontakt hatte, sagten, dass sie die regionalen Sperren der
Plattform durch einen Wohnsitz-Proxy umgehen würden.
Victor sagte, dass er über englischsprachige Outlier-Konten große
Sprachmodelle trainiere. Seine Spezialgebiete seien Mathematik, Chemie,
Biologie „und mehr“. Außerdem sei er sehr erfahren. Als Tudor nach Beweisen
fragte, verwies Victor auf ein Konto aus Kanada, mit dem er schon
gearbeitet habe. Jetzt kämen aber keine Aufträge mehr rein. Als Tudor ihn
fragte, wie es ihm gelungen sei, die regionalen Sperren zu umgehen,
erklärte Victor, dass minderwertige Arbeitsergebnisse zu gesperrten Konten
führen würden, seine Arbeit aber einwandfrei sei. VPNs verwende er nicht,
sondern einen Proxy. Das Angebot von Tudor fand er nicht schlecht, für die
Arbeit über das kanadische Konto erhalte er aber 50 Prozent.
Jonathan aus Nairobi beschrieb sich als Experten für mathematische
Problemlösungen. Auch er arbeite hauptsächlich für Outlier, zuletzt über
ein italienisches Konto. Als Beweis schickte er Bilder, die Daten,
Projektnamen und die IP-Adresse des italienischen Proxys enthielten, die er
für den Kontozugang verwendet hatte.
Mugo aus Kenia behauptete, „Projektleiter/Koordinator“ bei Remotasks zu
sein, was unwahrscheinlich ist, da das Unternehmen ja seine Präsenz in
Kenia eingestellt hat. Mugo sagt, er leite ein Team von Gigworkern, habe
aber immer wieder Probleme, weil Outlier seine Konten als betrügerisch
einstufe.
Mugo: Du suchst nach Leuten, die für Outlier arbeiten? Ich hab ein sehr
fähiges Team an der Hand.
Tudor: Was können sie übernehmen und wo wohnen sie?
Mugo: Alles Mögliche: Mathe, Physik, Chemie oder KI-Training. Sie sind in
Kenia, ich hab mit ihnen schon für Outlier gearbeitet, aber mir fehlen
gerade Konten.
Tudor: Wo ist das Problem? Wird es schwieriger, für Outlier zu arbeiten?
Mugo: Ja, weiß nicht genau, warum sie ständig meine Konten sperren. 40
Konten von mir haben sie gesperrt.
Tudor: Kann’s an den Proxys liegen?
Mugo: Nein, da bin ich mir sicher. Du hast also Arbeit?
Tudor: Ich muss mal schauen.
Mugo: Wenn du Arbeit hast, immer her damit.
Gigworker in Europa haben eine Veränderung bei Outlier bemerkt. Ein
amerikanischer Student in Deutschland, der für Outlier arbeitet, berichtet,
dass das Unternehmen verdächtige Konten schneller zu sperren scheint. Es
untersuche auch aktiv die Betrugsfälle auf Facebook.
Wir haben Outlier um eine Stellungnahme dazu gebeten, wie das Unternehmen
sicherstellt, dass Aufträge wirklich von Personen bearbeitet werden, die
sich auf der Plattform angemeldet haben. Außerdem haben wir gefragt, ob das
Unternehmen Maßnahmen dagegen ergreift, dass Clickworker im Zuge ihrer
Arbeit mit mutmaßlichen Kriminellen in Kontakt geraten, die auf sensibles
Material zugreifen könnten.
Outlier hat nicht direkt auf unsere Fragen geantwortet. Ein Sprecher lässt
in einer Erklärung mitteilen, dass auf der Plattform ein „vielschichtiges“
und „zuverlässiges“ System strenger technischer Schutzmaßnahmen Betrug
vorbeuge. Alle Mitwirkenden müssten ihre Identität verifizieren, bevor sie
Aufträge annehmen können. Konten, auf denen verdächtige Aktivitäten
festgestellt werden, würden umgehend geprüft und nötigenfalls gesperrt. Die
Schutzmaßnahmen entsprächen den Branchenstandards und würden kontinuierlich
geprüft und verbessert, um rechtzeitig auf etwaige Risiken zu reagieren.
Doch das scheint nicht ausreichend zu sein. Diese Recherche zeigt: Wenn
KI-Unternehmen wie Meta oder Google das Training von großen Sprachmodellen
an Unternehmen wie Outlier auslagern, weitet das die Lieferkette aus, ein
potenzieller Schwarzmarkt entsteht.
In der Gig Economy war eine gemeinsame Kontonutzung auf der ganzen Welt
schon immer üblich. Mehrere Familienmitglieder können über ein einziges
Konto arbeiten und so ihren Beitrag zum gemeinsamen Haushaltseinkommen
leisten. Ein ganzer Trupp an Arbeitskräften kann zu einem einzigen Konto
gehören.
Manche Lebensmittelkuriere und Uber-Fahrer*innen vermieten ihre Konten. Ein
Gigwork-Experte, der anonym bleiben möchte, sagt dazu: „Das hilft vor allem
Migrant*innen ohne Papiere, da sie keine legale Arbeit bekommen können.
Teilweise machen die Kontoinhaber*innen damit Geld, manchmal ist es
aber ein Zeichen der Solidarität und niemand muss dafür bezahlen. Vor allem
im Vereinigten Königreich scheint das unter Kurieren weit verbreitet zu
sein.“
In Südamerika ist das Teilen von Konten gängige Praxis, sagt ein anderer
Insider. Solche Konten können sogar als eine Art Währung funktionieren:
Plattformnutzer*innen geben manchmal ein wertvolles Konto ab, um
Schulden zu begleichen.
Dieses Prinzip haben sich weltweit Gruppen zu eigen gemacht, die damit
Geschäfte machen. Unsere Recherchen legen nahe, dass das Outsourcing von
KI-Training direkt kriminellen Netzwerken in die Hände spielen könnte. Die
Unternehmen wissen schlicht nicht mehr, wer an ihren Projekten arbeitet.
22 May 2025
## LINKS
[1] /Tech-Milliardaere-in-den-USA/!6084660
[2] /Facebook-und-Instagram/!6087923
## AUTOREN
Michael Bird
Nathan Schepers
## TAGS
Schwerpunkt Künstliche Intelligenz
Big Tech
Ausbeutung
Lohndumping
GNS
Lesestück Recherche und Reportage
Neue Bundesregierung
Datenschutz
Schwerpunkt Meta
Software
Kenia
## ARTIKEL ZUM THEMA
Kulturstaatsminister zu Google und Meta: Weimer will Internetkonzerne mit Abgab…
Der Kulturstaatsminister wirft den großen Plattformen aus den USA
Steuervermeidung in Europa vor. Die Medienvielfalt sei in Gefahr.
Neues KI-Training von Meta: Ein Tool, sie zu knechten
Meta darf die Daten von Millionen Nutzer*innen zum Training von
KI-Modellen verwenden. Der Profit bleibt beim Unternehmen. Doch man kann
widersprechen.
Mark Zuckerbergs Chatbot-Pläne: Das Geschäft mit der Einsamkeit
Meta-Chef Mark Zuckerberg will von der Vereinzelung der Menschen
profitieren – mit KI-Chatbots. Dabei hat sein Netzwerk Facebook selbst zur
Einsamkeit beigetragen.
Palantir in Deutschland: Peter Thiel is watching you
Der Bundesrat fordert den Einsatz der Überwachungssoftware Palantir des
US-Techoligarchen und Antidemokraten Peter Thiel. Kritiker sind empört.
Digitaler Protest in Kenia und Nigeria: KI steht für Revolution
In Kenia nutzt die Gen Z künstliche Intelligenz im Kampf für Gerechtigkeit.
Auch in Nigeria wird mit den gleichen Mitteln gekämpft.
You are viewing proxied material from taz.de. The copyright of proxied material belongs to its original authors. Any comments or complaints in relation to proxied material should be directed to the original authors of the content concerned. Please see the disclaimer for more details.