Categories
Sachbuch

Felix Stalder – Kultur der Digitalisierung

In diesem Buch analysiert Felix Stalder, Professor für Digitale Kultur an der Zürcher Hochschule der Künste, gesellschafliche Veränderungen, die ihren Ursprung in einer Erweiterung des kulturellen Lebens auf der Basis technologischer Veränderungen haben. Eine Folge der Digitalisierung ist eine Vervielfältigung der kulturellen Möglichkeiten. Immer mehr Menschen haben nun die Möglichkeiten, sich an kulturellen Prozessen zu beteiligen; dadurch erweitert sich auch das Themenspektrum, das in kulturellen Auseinandersetzungen verhandelt wird.

Als Kultur werden im Folgenden all jene Prozesse bezeichnet, in denen soziale Bedeutung, also die normative Definition der Existenz, durch singuläre und kollektive Handlungen explizit oder implizit verhandelt und realisiert wird.

Kultur ist heterogen, hybrid und nicht statisch. Kultur ist kein symbolisches Beiwerk, sondern handlungsleitend und gesellschaftsformend. Sie gibt uns einen Referenzrahmen, an dem sich unser Handeln orientiert. Dieser Referenzrahmen ist einerseits historisch gewachsen und andererseits wandelbar. Veränderungen, die sich aufgrund wachsender technologischer Möglichkeiten in kulturellen Prozessen entwickeln, sind das Thema dieses Buchs. Als wesentliche Ausdrucksformen der Kultur der Digitalität nennt der Autor Referentialität, Gemeinschaftlichkeit und Algorithmizität.

Referentialität beschreibt die vielfältigen Verbindungen, die im digitalen Raum zwischen unterschiedlichen Inhalten gezogen werden. Digitale Güter können kopiert und verändert werden ohne das Original dadurch zu entwerten oder zu zerstören. Dadurch ergeben sich neue Möglichkeiten, kulturelle Güter zu erschaffen und zu verändern.

Bedeutung wie auch Handlungsfähigkeit können nur im Austausch mit anderen stehen, sich festigen und wandeln.

Unter dem Begriff Gemeinschaftlichkeit werden viele Formen der Kommunikation verstanden, die erst durch technologische Unterstützung möglich werden. Die Kultur der Digitalität manifestiert sich zu einem wesentlichen Teil in digitaler Kommunikation. Kommunikation ist ein konstitutives Element der sozialen Existenz. Bedeutung kann von einzelnen Personen zwar behauptet werden; damit sie aber Kultur werden kann, muss sie von anderen bestätigt werden. Als Paradebeispiel wird die Enzyklopädie Wikipedia genannt. Das gemeinschaftliche Arbeiten an einem Projekt dieser Größenordnung ist erst durch die weltweite Vernetzung mittels Internet möglich geworden. Der Autor sieht aber auch eine Gemeinsamkeit der Kultur der Digitalität mit der traditionellen Volkskultur:

Die aktive Teilnahme verlangt zwar eine gewisse Fertigkeit, ein gewisses Interesse und Engagement, meist aber kein außergewöhnliches Talent.

Algorithmizität beschreibt die Tatsache, dass viele dieser kulturellen Prozesse überhaupt nur möglich werden, weil Daten durch Algorithmen analysiert werden. Menschen sind dazu entweder nicht in der Lage oder es würde viel zu lange dauern, die wesentlichen Informationen aus den angehäuften Datenbergen zu extrahieren. Die Rolle der Algorithmen hat eine helle und eine dunkle Seite (und ein unendliches Spektrum an Grautönen dazwischen). Algorithmen helfen uns, wesentliche Informationen zu extrahieren und diese weiterzuverarbeiten; sie können aber auch zu Benachteiligungen führen, die kaum noch nachvollziehbar sind (Einen interessanten Talk dazu gab es bei der Privacyweek 2018: Bias in Algorithmen von pascoda).

Für jede Person wird eine andere Ordnung erstellt und nicht mehr nur ein Ausschnitt einer vorgängig bestehenden Ordnung angezeigt.

Als Beispiel dafür wird im Buch der Google-Suchalgorithmus und seine Veränderungen seit der Entwicklung besprochen. Der aktuelle Suchalgorithmus stützt sich auf die analysierten Präferenzen der Nutzer*innen, die aus vorherigen Suchanfragen abgespeichert wurden. Das „verbessert“ einerseits subjektiv gesehen die Ergebnisse, schließt aber andererseits Ergebnisse aus, die ebenfalls interessant sein könnten, aber nicht zu den bisher gesuchten Dingen passen. Daraus entsteht ein Tunnelblick, der die Nutzer*innen in ihrer eigenen Welt einsperrt und den Blick über den Tellerrand unmöglich macht. Für jede*n individuelle*n Nutzer*in wird eine eigene, singulare Welt erschaffen.

Die Welt wird nicht mehr repräsentiert; sie wird für jeden User eigens generiert und anschließend präsentiert.

Dieses Phänomen bezeichnet Stalder als „Daten-Behaviorismus“. Algorithmen erfassen Menschen rein aufgrund ihrer messbaren Reiz-Reaktions-Beziehungen (damit ist das Online-Verhalten gemeint). Der Mensch selbst ist dabei eine Black Box im Sinne des klassischen Behaviorismus. Bewusstsein, Wahrnehmung oder Intention spielen für Algorithmen keine Rolle. Diese Theorie lässt sich auch auf die gesamte Gesellschaft ausweiten, die somit zu einer „Black-Box-Gesellschaft“ wird:

Immer mehr soziale Prozesse werden mithilfe von Algorithmen gesteuert, deren Funktionsweise nicht nachvollziehbar ist, weil sie systematisch von der Außenwelt und damit von demokratischer Kontrolle abgeschirmt werden.

Einerseits können wir also zunehmend von den vielfältigen Möglichkeiten der digitalen Kultur profitieren. Andererseits sollten wir uns aber nicht von der Netzwerkmacht dazu zwingen lassen, Dinge zu tun, die wir eigentlich nicht tun wollen. Die Open-Source-Bewegungen gehen dabei seit Langem ihren eigenen Weg. Nur wenn Algorithmen öffentlich einsehbar sind, können sie auch einer demokratischen Kontrolle unterzogen werden. Einen wichtigen Beitrag leisten auch die Open-Access-Angebote. Nur, wenn wir auch Zugriff auf Daten und Informationen haben, können wir informierte Entscheidungen treffen und uns als mündige Menschen in der Kultur der Digitalität bewegen:

[…] der freie Zugang zu Daten ist eine notwendige Bedingung für autonomes Handeln in der Kultur der Digitalität.

Fun Fact: Ich hätte das aus meinem Erststudium wissen können, kann mich aber nicht erinnern, vorher jemals gehört oder gelesen zu haben, woher der Begriff „Algorithmus“ stammt:

Der Begriff »Algorithmus« geht auf den im heutigen Usbekistan geborenen Mathematiker, Astronomen und Geografen Muhammad Ibn-Mūsā al Ḥwārizmī zurück. Sein um 825 in Bagdad verfasstes Lehrbuch Über das Rechnen mit indischen Ziffern wurde in lateinischen Übersetzungen im Mittelalter breit rezipiert […]. Das Buch beginnt mit der Formel dixit algorizmi … (»Algorismi hat gesagt …«). Im Mittelalter wurde algorizmi oder algorithmi bald zu einem allgemeinen Begriff für avancierte Rechenoperationen.

Categories
Sachbuch

Hannah Fry – Hello World

Understanding our own flaws and weaknesses – as well as those of the machine – is the key to remaining in control.

Dieses Buch sammelt den aktuellen Stand der algorithmischen Technik und Forschung. An unzähligen Beispielen aus verschiedenen Bereichen erklärt die Autorin, wie Algorithmen funktionieren, wo sie gute Resultate liefern können, woran sie in der Vergangenheit gescheitert sind und woran sie in der Zukunft vermutlich auch noch scheitern werden. Eines der wichtigsten Themen ist jedoch das Verhältnis zwischen Mensch und Computer. Die Ergebnisse, die uns ein Computer (und der dahinterstehende Algorithmus) liefert, werden von Menschen kaum hinterfragt. Zitiert werden dazu etwa Forschungsergebnisse, die zeigen, wie durch gezielte Anordnung von Suchmaschinenergebnissen Wahlentscheidungen beeinflusst werden konnten.

It’s just this bias we all have for computerized results – we don’t question them.

Die erste Supermarkt-Kundenkarte hat Tesco erfunden. Damals wurde nicht gesammelt, WAS die Kunden einkaufen, sondern nur wann sie einkaufen und wieviel Geld sie dabei ausgeben. Allein daraus konnte Tesco schon so viele Schlüsse ziehen, dass sie mit gezielter Werbung ihre Kunden dazu verleiten konnten, noch mehr Geld auszugeben. Kein Wunder, dass heutzutage keine Einzelhandelskette mehr ohne Kundenkarte auskommen will.

Look carefully enough at someone’s shopping habits and they’ll often reveal all kinds of detail about who they are as a person.

Auch das Surfverhalten von Personen wird von unzähligen Trackern überwacht und aufgezeichnet (um dem entgegenzuwirken empfehlen sich Ad- und Tracking-Blocker wie zum Beispiel Ghostery). Die Autorin erklärt an einem sehr anschaulichen Beispiel, dass Surfverhalten und Browser Histories sehr einfach de-anonymisiert werden können. Es reicht eine einzige Webseite mit einem Login in einer Browser History, um die gesamte History einer Person zuordnen zu können.

That was the deal that we made. Free technology in return for our data and the ability to use it to influence and profit from you.

Ausführlich erklärt wird auch eine Studie, in der Forscher*innen aus einer Kombination von (freiwilligen) Persönlichkeitstests auf Facebook und der Auswertung von Likes ein Modell entwickelt haben, indem sie aus den Facebook-Likes auf die Persönlichkeit einer Person schließen können. Eine ausreichend große initiale Menge von Personen (Stichprobe), die ihre Daten freiwillig hergeben, genügt, um daraus Regeln abzuleiten und Schlüsse auf andere Personen, die ihre Daten nicht in dieser Form freigegeben haben, ziehen zu können.

The entire history and practice of modern medicine is built on the finding of patterns in data.

Im medizinischen Bereich werden Algorithmen schon seit Längerem genutzt, um etwa Zellbiopsien auf krankhafte Veränderungen zu untersuchen. Die Debatte um selbstfahrende Autos und wie diese entscheiden (sollen), wenn es darum geht, welche Menschenleben gerettet werden sollen, wurde in den Medien vergleichsweise ausführlich geführt. Und auch im Bereich der Verbrechensprävention werden Algorithmen eingesetzt. Die ursprüngliche Idee bestand darin, Verbrechen auf Karten zu vermerken und dadurch Orte zu finden, an denen sich Verbrechen häufen. Dort können dann durch stärkere Polizeipräsenz entweder Verbrechen verhindert werden oder durch schnelle Reaktion die Täter gefasst werden. Im Podcast Reply All wurde darüber auch in einer Doppelfolge berichtet.

How good is good enough? Once you’ve built a flawed algorithm that can calculate something, should you let it?

Bei all diesen Anwendungsbereichen stellt sich jedoch die Frage: wie gut kann und muss ein Algorithmus sein, um bessere Entscheidungen zu treffen, als Menschen sie treffen würden? Wieviel Fehler ist akzeptabel? Was sind die Konsequenzen? Wie viele unnötige Mastektomien werden gemacht, weil ein Algorithmus Krebszellen diagnostiziert hat, die eigentlich gesund waren? Welche Folgen ergeben sich daraus, dass Menschen sich auf den Autopilot ihres Fahrzeugs verlassen? Wie viele unschuldige Leben sind es wert, dass mehr Schuldige gefasst werden?

What about innocent until proven guilty?

Alle diese Fragen werden aktuell zu wenig bedacht, es wird geforscht und umgesetzt, was technisch möglich ist und womit sich Geld verdienen lässt. Die Entscheidung, welche Daten wir preisgeben, kann nicht allein den Konsumenten überlassen werden. So lange Algorithmen als Betriebsgeheimnis gelten und nicht nachvollzogen werden kann, wie Algorithmen tatsächlich Daten verarbeiten und Entscheidungen treffen, ist eine informierte Entscheidung von Einzelpersonen gar nicht möglich. Wir brauchen gesetzliche Regulierungen und Kontrollmechanismen, die den Missbrauch von Daten verhindern (und damit meine ich nicht etwas so Lästiges und Ineffektives wie Cookie-Warnungen). Vor allem aber brauchen wir das Bewusstsein, dass Computer und Algorithmen nicht allmächtig sind, dass sie fehlerhaft sind und dass ihre Entscheidungen daher auch fehlerhaft sein können.

But how do you decide on that trade-off between privacy and protection, fairness and safety? […] Is that a price we’re willing to pay to reduce crime?

Einen interessanten Vortrag zum Thema Bias in Algorithmen gab es von pascoda im Rahmen der PrivacyWeek 2018.