Informatik-Box

Digitaler Überwachungskapitalismus

Foto von Julio Lopez: https://www.pexels.com/de-de/foto/hand-smartphone-technologie-app-17614479/
Foto von Julio Lopez

Ab dem 27. Mai 2025 will Meta damit beginnen, EU-Nutzerdaten für das KI-Training zu verwenden. Dies Betrifft vor allem Nutzer der Plattformen Facebook und Instagram. Nutzer können der Verwendung ihrer Daten zum Training der Meta KIs widersprechen, aber wenn sie dies bis zum 26. Mai nicht tun, wird die Zustimmung vorausgesetzt. Diese Praxis stößt auf Kritik von Datenschützern. Sie gehen davon aus, dass Meta das Einverständnis der Nutzer einholen müsste und nicht deren Widerspruch.1

📝 Arbeitsauftrag

Teilt euch in zwei Gruppen und recherchiert jeweils auf einer der beiden folgenden Webseiten zu folgenden Fragen:

  • Welche Daten möchte Meta für seine KI nutzen und wozu sollen diese verwendet werden?
  • Welche Risiken gibt es hinsichtlich der Datenverwendung?
  • Wie kann der Datennutzung konkret widersprochen werden?
  • Welche rechtlichen Probleme und / oder Grauzonen gibt es in diesem Fall?

Verfügbare Websiten:

  1. Mimikama.org: FAQ: Wie Meta (Facebook und Instagram) deine Daten für KI-Training nutzt
  2. Verbraucherzentrale.de: "Meta AI" bei Facebook, Instagram und WhatsApp – so widersprechen Sie
📝 Arbeitsauftrag

Unten ist ein Auszug aus dem Text Surveillance Capitalism – Überwachungskapitalismus – Essay von Shoshana Zuboff abgedruckt, der 2019 von der Bundeszentrale für politische Bildung veröffentlicht wurde.

Lest zunächst alleine den folgenden Text und bearbeitet dann in Partnerarbeit die folgenden Aufgaben:

  1. Erläutert den Begriff "behavioral surplus" und nennt Beispiele dafür aus eurem Alltag.
  2. Beschreibt in eigenen Worten kurz die Ursprünge des Überwachungskapitalismus nach Zuboff.
  3. Zum Schluss schreibt Zuboff: "Der Überwachungskapitalismus ist keineswegs unvermeidbar." Diskutiert diese Aussage unter Verweis auf konkrete Handlungsschritte schriftlich.

Auszug aus dem Text "Surveillance Capitalism – Überwachungskapitalismus - Essay"

Ich wende mich hier und heute nicht nur als Denkerin, Wissenschaftlerin und Autorin an Sie, sondern auch als Staatsbürgerin und – nicht zuletzt – auch als Mutter. Über die vergangenen beiden Jahrzehnte habe ich die Entstehung und Ausbreitung einer beispiellosen Mutation des Kapitalismus beobachtet, die ich als "Überwachungskapitalismus" bezeichne. [...]

Was ist Überwachungskapitalismus?

Ist menschliche Erfahrung erst einmal für den Markt beansprucht, wird sie zur Berechnung in Verhaltensdaten übertragen und analysiert. Und auch wenn ein Teil dieser Daten der Verbesserung von Produkten oder Dienstleistungen dienen mag, der Rest wird zum proprietären "Verhaltensüberschuss" (behavioral surplus) erklärt. Dieser Überschuss umfasst Daten von erheblichem Vorhersagewert, die weit über alles hinausgehen, was man zur Verbesserung eines Produkts oder einer Dienstleistung braucht. Seien Sie sich darüber im Klaren: Wenn von aus menschlicher Erfahrung extrahiertem Verhaltensüberschuss die Rede ist, bleibt nichts ausgenommen. Ihren Ursprung hatten diese Operationen in dem Verhaltensüberschuss, der aus unserem Online-Verhalten – Browsing, Suche, Social Media – gewonnen wurde, sie erfassen heute jedoch jede Bewegung, jedes Gespräch, jeden Gesichtsausdruck, jeden Laut, jeden Text, jedes Bild, das der ubiquitären, rund um die Uhr arbeitenden Extraktionsarchitektur zugänglich ist oder künftig zugänglich sein wird. [...] In dieser digitalen Umklammerung wird jedes "smarte" Gerät, jedes Interface, jeder Touchpoint zum Knotenpunkt eines unermesslichen Nachschubnetzes, das einzig dem Aufspüren, Verfolgen, Herbeiführen und Extrahieren von weiterem Verhaltensüberschuss dient. Triebfeder dieser Jagd ist ein ganz neues, vom Wettbewerb bestimmtes Ringen. In einer Welt allzeit verfügbarer Produkte und Dienstleistungen wenden sich heute Unternehmen dem Verhaltensüberschuss als lang ersehnte Erfolgsroute zu höheren Gewinnen zu. Ergebnis dieser Entwicklung sind ganze Ökosysteme von Verhaltensüberschusslieferanten, da Unternehmen aller Sektoren Mittel und Wege suchen, von dieser universellen Enteignung privater Erfahrung zu profitieren. [...]

Ursprünge

Der Überwachungskapitalismus ist Menschenwerk; er lebt im historischen Kontext; er ist keine technologische Unvermeidbarkeit. Der Überwachungskapitalismus wurde im Trial-and-Error-Verfahren bei Google erprobt und entwickelt [...]. Ersonnen hat man ihn als Lösung für Googles finanzielle Notlage nach dem Platzen der Dotcom-Blase 2000, als das Vertrauen der Investoren in das junge Unternehmen zu schwinden begann. Unter dem wachsendem Druck der Geldgeber entschloss sich die Google-Führung seinerzeit, zur Steigerung der Werbeeinnahmen den exklusiven Zugang zu den Datenlogs seiner Nutzerinnen und Nutzer in Kombination mit der damals schon erheblichen Rechenleistung und den analytischen Fähigkeiten zu nutzen, um daraus Vorhersagen über Klickraten zu erstellen, aus denen sich die Relevanz eingeblendeter Werbung erschließt. Operativ bedeutete dies, dass Google seinen wachsenden Bestand an Verhaltensdaten als behavioral surplus einer neuen Verwendung zuführte und gleichzeitig Methoden entwickelte, sich aggressiv nach neuen Quellen für Verhaltensüberschuss umzusehen. Googles eigenen Wissenschaftlern zufolge entwickelte das Unternehmen neue Methoden der Überschussgewinnung, durch die sich Daten aufspüren lassen, die Nutzer eigentlich bewusst für sich behalten wollen und die darüber hinaus weitreichende Schlüsse auf persönliche Informationen ermöglichen, die Nutzer – bewusst oder unbewusst – nicht zur Verfügung stellen. Dieser zusätzliche Überschuss wird anschließend auf vorhersagekräftige Muster analysiert, wodurch sich bestimmte Werbung bestimmten Nutzern zuordnen lässt. Ersonnen und erstmals eingesetzt wurden diese neuen Methoden zwischen 2001 und 2004, und das unter strengster Geheimhaltung. Erst als Google 2004 an die Börse ging, erfuhr die Welt, dass die Einkünfte des Konzerns während dieses Zeitraums um 3590 Prozent gestiegen waren. Heute ist klar, dass dieser neue Einsatz von Verhaltensdaten ein historischer Wendepunkt war. Das behavioral surplus hat sich in seiner Eigenschaft als kostenloser Aktivposten, der sich über die Verbesserung der Dienstleistung hinaus selbst zum Austausch auf dem Markt einsetzen lässt, als bahnbrechend erwiesen. Es geht dabei freilich nicht um einen Austausch mit dem Nutzer, sondern vielmehr mit anderen Unternehmen, die dahintergekommen sind, wie mit der nahezu risikolosen Wette auf das künftige Verhalten eines Nutzers Geld zu verdienen ist. Mit der Managerin Sheryl Sandberg migrierte der Überwachungskapitalismus von Google zu Facebook und entwickelte sich danach rasch zum Standardmodell des Informationskapitalismus für nahezu jedes Internetunternehmen, jedes Startup, ja jede App. Wie eine invasive Spezies ohne natürliche Feinde bemächtigte er sich kraft seiner finanziellen Tüchtigkeit der vernetzten Sphäre und entstellte damit den Traum von der digitalen Technologie als befähigende, emanzipatorische Kraft aufs Entsetzlichste. [...]

Überwachungskapitalismus ist Menschenwerk

Der Überwachungskapitalismus ist keineswegs unvermeidbar. Er ist ein Menschenwerk, das sich wie schon so viele andere von Menschenhand geschaffene Ungerechtigkeiten im Trojanischen Pferd eines technologischen Determinismus zu verstecken versucht. Es ist entsprechend wichtig, sich vor Augen zu halten, dass jede Unvermeidlichkeitsdoktrin einen waffenfähigen Virus birgt: einen moralischen Nihilismus, der darauf programmiert ist, menschliches Handeln vorherzubestimmen und jeglichen Widerstand ebenso wie jegliche Kreativität aus dem Text menschlicher Möglichkeiten zu löschen. [...]

Quelle: https://www.bpb.de/shop/zeitschriften/apuz/292337/surveillance-capitalismueberwachungskapitalismus-essay/

Cambridge Analytica

TikTok

Fußnoten

  1. https://www.heise.de/news/Meta-nutzt-EU-Nutzerdaten-fuer-KI-Datenschuetzer-drohen-mit-Unterlassungsklage-10385858.html

Teilbare URL erstellen

Abschnitte auswählen