Mehr denn je werden Massendaten für Wahlkämpfe genutzt. Die US-Mathematikerin Cathy O’Neil warnt im DW-Interview vor den Folgen. In ihrem neusten Buch beschreibt sie, wie Algorithmen die Demokratie unterwandern.
Immer größere Datenmengen werden für die Vorbereitung von Wahlkampagnen ausgewertet. Die US-amerikanische Mathematikerin und Kritikerin der Finanzbranche Cathy O’Neil sieht dabei die Demokratie in Gefahr.
DW: Sie waren schon immer eine begeisterte Mathematikerin, und haben als solche Karriere gemacht. Aber in Ihrem Buch “Angriff der Algorithmen. Wie sie Wahlen manipulieren, Berufschancen zerstören und unsere Gesundheit gefährden” (Originaltitel: “Weapons of Math Destruction”) argumentieren Sie, dass Mathematik, und vor allem Big Data, als Waffe eingesetzt werden können. Wann hatten sie das Gefühl, dieses Buch unbedingt schreiben müssen?
O’Neil: In der Tat liebe ich die Mathematik, und mein Eindruck war, dass sie missbraucht wird. Ich wollte dieses Buch vor allen Dingen schreiben, damit die Menschen erfahren, dass dieser Missbrauch stattfindet, und zum anderen, um die Ehre der Mathematik zu verteidigen.
Aber Big Data sind doch nichts Neues, oder?
Die Verwendung von Big Data, um Dinge vorherzusagen, ist nichts Neues. Aber bislang wurden sie auf direktem Wege und vorsichtig von Statistikern durch Umfragen oder an Arbeitsplätzen gesammelt. Es wurden Meinungsumfragen zu bestimmten Themen durchgeführt. Aber heutzutage haben wir keine direkten Daten mehr. Wir recyceln Daten darüber, was Menschen auf Webseiten anklicken, was sie kaufen, was sie twittern und wer ihre Facebookfreunde sind, um daraus Schlüsse über Dinge zu ziehen, an denen wir interessiert sind. Große Datensammlungen versprechen uns, dass wir anhand dieser indirekten Informationen mit größerer Genauigkeit Dinge erfahren, die uns wichtig sind.
Das Buch von Cathy O’Neil erscheint zur richtigen Zeit – vor den Bundestagswahlen 2017
Die Befürworter von Big Data argumentieren, dass sie uns helfen könnten, Systeme zu verbessern und Informationen präziser zu machen. Oder sie argumentieren, dass man aus mehr Informationen nützlichere Schlüsse ziehen könne. Aber Sie scheinen das eher andersherum zu sehen.
Ich möchte klar stellen, dass ich keinesfalls behaupte, dass diese Dinge [Algorithmen] völlig ungenau seien. Manchmal sind sie akkurat – und auch das stellt ein Problem dar! Was ich sage, ist, dass sie sehr viel Macht ausüben, und von den meisten Menschen blind als “korrekt” akzeptiert werden. Ich möchte ganz klar zwischen akkurat und korrekt unterscheiden. Denn das verwirrt viele Menschen. Sobald sie erfahren, dass ein Algorithmus akkurat ist, hören sie auf, Fragen zu stellen.
Ich mache mir Sorgen über Algorithmen, die zwar zutreffend sind, aber trotzdem zerstörerisch und geheim. Zum Beispiel jene Algorithmen, die für das politische “Mikro-Targeting” benutzt werden. Politiker und Kampagnen in den USA werden immer besser darin, herauszufinden, wer was worüber denkt. Zum Schluss wissen sie mehr über die Wähler als die Wähler über die Politiker. Außerdem werden die Botschaften, mit denen die Kampagnen auf die Wähler abzielen, weniger informativ und zunehmend propagandistisch. Und das ist, ihrer Genauigkeit zum Trotz, ein destruktives Modell, weil es die Demokratie untergräbt.
Sie haben Mikro-Targeting erwähnt, d.h. den Gebrauch von Big Data, um bestimmte Wähler und Wählergruppen mit Botschaften anzusprechen, die auf sie zugeschnitten sind. In Ihrem Buch vergleichen Sie diese Methode mit der Art und Weise, wie ein Supermarkt seine Kunden anwirbt. Können Sie uns erklären, wie das funktioniert?
Ich denke, wir sollten begreifen, dass politische Kampagnen die Menschen in Marketing-Schubladen pressen. Sie stecken 30 bis 40 Personen in Schubladen und definieren diese so, wie sie ihnen von Datenmärkten verkauft wurden. Oder diese Schubladen basieren auf den Likes, die diese Personen auf Facebook gemacht haben. Dann erfragen sie die politischen Meinungen dieser Personen. Was sie auf diese Weise herausgefunden haben ist, dass die politischen Ansichten der Menschen in einer bestimmten Marketing-Schublade relativ stabil sind. Das bedeutet, sie müssen gar nicht mehr die politischen Ansichten der Menschen kennen, sondern nur noch wissen, in welche Schublade sie gesteckt wurden. Das ist genau die gleiche Vorgehensweise, mit der Supermärkte oder Unternehmen wie Amazon oder Walmart vorgehen. Sie haben jeweils Behälter für verschiedene Kosumententypen.
In ihrem Buch beschreibt O’Neil auch, wie Algorithmen im Gesundheitswesen und am Arbeitsplatz eingesetzt werden
Politiker mussten sich den Wählern schon immer verkaufen. Was macht der Gebrauch von Big Data so gefährlich, dass diese Daten sogar die Demokratie gefährden?
Ich denke, dass es heutzutage zwei große Unterschiede gibt, die das Ausmaß und die Undurchsichtigkeit betreffen. Es war schon immer so, dass Politiker verschiedenen Wählern verschiedene Dinge sagten. Aber da haben Journalisten nachgehakt, und sie haben darüber geschrieben, wenn sie auf Widersprüche bei politischen Versprechen stießen. Das ist heutzutage nicht mehr möglich, da die Politiker ihre unterschiedlichen Botschaften jetzt über Facebook verbreiten, und bestimmte Journalisten haben ja nur ihren eigenen Facebook-Zugang. Sie bekommen die Texte, die andere Menschen mit anderen Profilen empfangen, gar nicht zu sehen.
Wer genau gezielte Werbung versenden will, muss zunächst persönliche Daten haben. In den USA sind solche Daten verfügbar und können genutzt werden. Deutschland hingegen hat wesentlich strengere Datenschutzgesetze – hier ist es verboten, persönliche Daten zu sammeln, zu verarbeiten und zu analysieren, ohne Angabe, wie diese Daten genutzt werden sollen und wer sie nutzen will. Außerdem benötigt man noch eine explizite Zustimmung. Stellt der deutsche Datenschutz einen gewissen Schutz dar, verhindert er, dass diese Art von Mikro-Targeting in deutschen Wahlkampagnen stattfinden kann?
Ich würde sagen, ja – und nein. Das, was sich in dieser Beziehung in den USA abspielt, ist sicherlich viel extremer als das, was hier in Deutschland passiert. Bei uns in den USA gibt es zum Beispiel E-Mail-Listen von Individuen, die als wahrscheinliche Wähler und Spender der Demokraten ausgemacht worden sind. Diese Listen werden herumgereicht, und sie sind sehr wertvoll. Außerdem gestattet Facebook Werbeträgern, Werbung an spezifische E-Mailadressen zu schicken.
Die deutschen Datenschutzgesetze können Mikro-Targeting nicht vollständig ausschließen. Die digitale Strategie geht hierzulande allerdings nicht so weit wie bei den US-Präsidentschaftswahlen von 2016.
Ich glaube nicht, dass so etwas in Deutschland vorkommen kann. Dennoch denke ich, dass deutsche Werbeträger Menschen je nach deren Interessen auch gezielt adressieren dürfen. Falls das so ist, bedeutet das, dass sie bestimmte Gruppen einkreisen, um herauszufinden, welche Interessen mit welchen politischen Ansichten korrelieren. Sie werden zwar nicht ihre politische Werbung über E-Mail-Listen senden oder an bekannte Listen mit Namen, aber sie werden Menschen mit bestimmten Interessen adressieren, von denen sie annehmen, dass diese mit gewissen politischen Ansichten korrelieren. Da geschieht nicht auf einer persönlichen Ebene. Aber die allgemeine Verbindung zwischen Marketing-Schubladen und politischen Ansichten wird wohl in Deutschland genauso zutreffend sein wie in den USA. Die Frage ist, wie ausgefeilt dieses Verständnis von deutschen Konsumenten ist.
Die Verwendung von Big Data wird sicherlich nicht so schnell wieder aufhören. Welche Konsequenzen sehen Sie voraus, wenn Big Data weiterhin – wie sie in ihrem Buch schreiben – als Waffen verwendet werden?
Ich sehe eine Zunahme von Propaganda in einem solchen Maße, dass sie das Konzept einer informierten Bürgerschaft bedroht, einer Bürgerschaft, die wählt, nachdem sie wohl überlegt alle Optionen betrachtet hat. Man kann schlecht kluge Überlegungen anstellen, wenn man nicht zuvor echte Informationen bekommen hat – und in dieser politischen Werbung ist keine echte Information enthalten. Für mich ist da kein Ende in Sicht, solange wir die Regeln nicht ändern.
Wie könnten wir denn die Regeln ändern, um die Situation zu verbessern?
Ich denke, ein Schritt in die richtige Richtung wäre, Facebook dazu zu bringen, einen Platz einzurichten, wo Journalisten und interessierte Bürger alle politischen Botschaften einsehen können, die auf dieser Plattform gezeigt werden – und zwar alle Werbetexte, da nämlich einige der politischen Werbetexte auf den ersten Blick gar nicht politisch aussehen. Eine solche Maßnahme würde viel bewirken.
Glauben Sie, dass wir von der Position, die wir bereits erreicht haben – also diese soziale und politische Spaltung – wieder zurückgehen können?
Ich denke, das müssen wir! Ich glaube, dass die Konsequenzen dieser Situation immer klarer hervortreten. Ich glaube, das alles ist in einem bestimmten Sinne sogar eine existentielle Bedrohung.
Eine existentielle Bedrohung für wen oder was?
Für das Konzept von Nachweisbarkeit, für das Konzept einer gemeinsam erlebten Wirklichkeit.
Das Interview führte Cristina Burack.
Cathy O’Neil ist die Autorin von “Angriff der Algorithmen. Wie sie Wahlen manipulieren, Berufschancen zerstören und unsere Gesundheit gefährden” (Originaltitel: “Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy”). Das von Karsten Petersen aus dem Englischen übersetzte Buch erscheint am 21. August 2017 im Hanser Verlag. O’Neil gründete vor kurzem ein Dienstleistungsunternehmen, dass Kunden eine Überprüfung von Algorithmen anbietet. Ihren Blog können Sie unter mathbabe.org finden.
Hanser Verlag, 352 Seiten, fester Einband
ISBN 978-3-446-25668-2
ePUB-Format
ISBN 978-3-446-25778-8
https://www.hanser-literaturverlage.de/buch/angriff-der-algorithmen/978-3-446-25668-2/