Categories
Roman

Jeanette Winterson – Frankissstein

Progress is a series of accidents, of mistakes made in a hurry, of unforeseen consequences.

In diesem Buch fließen mehrere Zeitebenen ineinander, die die Frage nach dem Ursprung des Lebens und gleichzeitig dem Leben nach dem Tod aus unterschiedlichen Perspektiven beleuchten. Dieses Ineinanderfließen spiegelt schon der Titel wider, in dem der bekannte Name Frankenstein durch einen Kiss unterbrochen und gleichzeitig verknüpft wird.

Frankenstein was a vision of how life might by created – the first non-human intelligence.

Eine Zeitebene folgt der Autorin Mary Shelley und ihren Gedanken, die zur Erfindung von Dr. Frankenstein und seinem Monster führten. Die historisch bekannten Fakten scheinen im Buch richtig wiedergegeben, im Vordergrund stehen jedoch die Fragen, die auch im Buch Frankenstein behandelt werden: was ist Leben? Die Kreatur, das von Victor Frankenstein erschaffene Monster, ist das Leben? Wenn es Leben ist, dann drängt sich als nächste Frage eine Wertigkeit in den Vordergrund: ist das Leben dieses Monsters gleich viel wert wie das Leben eines Menschen?

In weiterer Folge wird die Frage auch mit der Art und Weise verbunden, wie Menschen traditionell Leben erschaffen: Mary verliert mehrere Kinder an diverse Krankheiten und auch daraus lässt sich die Frage konstruieren, ob Menschen überhaupt Leben erschaffen sollten, wenn doch der Tod immer schon programmiert ist.

Only the human mind can accomplish the leap of thought that is a leap of genius.

Auf einer heutigen Zeitebene folgen wir Ry auf eine Konferenz, auf der die Zukunft der künstlichen Intelligenz und Robotik im Vordergrund steht. Es folgt eine (möglicherweise zu ausführliche) Erörterung des Themas Sexroboter. Die Frage, ob Roboter ein Bewusstsein haben könnten oder sollten, stellt sich bei den Gefährtinnen, die Hersteller Ron hier anpreist, (vorerst) kaum: sie sprechen 200 Worte und sind als moderne Sklavinnen programmiert. Aber wie wird es sich auf unsere Gesellschaft auswirken, wenn wir die Gesellschaft von servilen Robotern der anderer Menschen vorziehen? Werden gesellschaftliche Umgangsformen überholt, weil Roboter keinen Wert darauf legen? Werden ganze Wirtschaftszweige unnötig und stattdessen neue entstehen?

Randnotiz: Zum Thema Roboter und freier Wille kann ich die Serie Westworld sehr empfehlen. Es sei allerdings die Warnung ausgesprochen, dass es einige wirklich sehr brutale Szenen gibt.

If data is the input and the rest is processing, then humans aren’t so special after all. 

Auf der oben genannten Konferenz spricht auch der Wissenschaftler Victor Stein, der in einem geheimen Labor in einem ehemals militärischen Komplex in Tunneln unter der Stadt Manchester daran arbeitet, das menschliche Bewusstsein zu konservieren. Die Idee der Kryokonservierung ist nicht neu, die erste Konservierung wurde vor über 50 Jahren durchgeführt. Bis jetzt ist jedoch unklar, wie das Bewusstsein nach dem Auftauen wiederbelebt werden kann. Victor Stein argumentiert als Wissenschaftler gegen die Notwendigkeit eines Körpers an sich. Wenn das Bewusstsein vom Erhalt eines Körpers, vom Befriedigen der elementaren Bedürfnisse befreit wäre, wären dann nicht größere geistige Leistungen möglich? Wie würde das Leben für ein derartiges körperloses Bewusstsein aussehen? Oder sich anfühlen? Unser Bewusstsein ist an das Gefühl der Körperlichkeit gewöhnt. Müssten wir ein Körperlichkeitsgefühl künstlich erzeugen, damit das Bewusstsein die Körperlosigkeit überhaupt aushält? Stein transportiert ein mechanistisches Welt- und Menschenbild, Emotionen und Motivationen sind ihm im behavioristischen Sinne egal.

That’s not what I meant. I meant that we are freaks according to the behaviour of the world.

Als Transmann stellt Ry (Ry als Abkürzung von Mary) ein menschliches Brückenglied dar. Einerseits finde ich es sehr begrüßenswert, eine Transperson als Charakter im Buch zu haben, andererseits bin ich unsicher, ob die Darstellung der mit dem Trans-sein verbundenen Gefühle authentisch sein kann. Die sich entwickelnde Liebesgeschichte zwischen Ry und Victor Stein hat für mich einen Unterton, ein Gefühl, als ob Ry in seiner Transheit objektiviert würde. Vielleicht ist das aber auch ein überzogener Anspruch, die Authentizität der Darstellung einer erfundenen Person überhaupt beurteilen zu wollen.

He will steal life from the gods. At what cost?

Ethische oder religiöse Bedenken schweben auf einer Metaebene durch das ganze Buch. Was sollen Menschen tun dürfen, wo werden Grenzen gesetzt und wo müssen/dürfen/sollen sie durchbrochen werden? Technikfolgenabschätzung als Bremse der Wissenschaft, welchen Wert hat Fortschritt an sich?

Das Buch wirft auf eine sehr unterschwellige Art mehr Fragen auf als es Antworten gibt. In den Dialogen zeichnet sich deutlich ab, dass die Autorin intensiv recherchiert hat und durch ihre Charaktere verschiedene Perspektiven zum Thema sprechen lässt.

Schließen möchte ich mit dem folgenden Zitat, weil es in so starkem Kontrast steht zum Gotteskonzept, das Octavia E. Butler in Parable of the Sower und Parable of the Talents zum Leben erweckt. Ist Gott tatsächlich unveränderlich oder Veränderung? Ist beides gleichzeitig möglich?

Everything changes, said Claire. I change. You change. God changes not.

Categories
Sachbuch

Hannah Fry – Hello World

Understanding our own flaws and weaknesses – as well as those of the machine – is the key to remaining in control.

Dieses Buch sammelt den aktuellen Stand der algorithmischen Technik und Forschung. An unzähligen Beispielen aus verschiedenen Bereichen erklärt die Autorin, wie Algorithmen funktionieren, wo sie gute Resultate liefern können, woran sie in der Vergangenheit gescheitert sind und woran sie in der Zukunft vermutlich auch noch scheitern werden. Eines der wichtigsten Themen ist jedoch das Verhältnis zwischen Mensch und Computer. Die Ergebnisse, die uns ein Computer (und der dahinterstehende Algorithmus) liefert, werden von Menschen kaum hinterfragt. Zitiert werden dazu etwa Forschungsergebnisse, die zeigen, wie durch gezielte Anordnung von Suchmaschinenergebnissen Wahlentscheidungen beeinflusst werden konnten.

It’s just this bias we all have for computerized results – we don’t question them.

Die erste Supermarkt-Kundenkarte hat Tesco erfunden. Damals wurde nicht gesammelt, WAS die Kunden einkaufen, sondern nur wann sie einkaufen und wieviel Geld sie dabei ausgeben. Allein daraus konnte Tesco schon so viele Schlüsse ziehen, dass sie mit gezielter Werbung ihre Kunden dazu verleiten konnten, noch mehr Geld auszugeben. Kein Wunder, dass heutzutage keine Einzelhandelskette mehr ohne Kundenkarte auskommen will.

Look carefully enough at someone’s shopping habits and they’ll often reveal all kinds of detail about who they are as a person.

Auch das Surfverhalten von Personen wird von unzähligen Trackern überwacht und aufgezeichnet (um dem entgegenzuwirken empfehlen sich Ad- und Tracking-Blocker wie zum Beispiel Ghostery). Die Autorin erklärt an einem sehr anschaulichen Beispiel, dass Surfverhalten und Browser Histories sehr einfach de-anonymisiert werden können. Es reicht eine einzige Webseite mit einem Login in einer Browser History, um die gesamte History einer Person zuordnen zu können.

That was the deal that we made. Free technology in return for our data and the ability to use it to influence and profit from you.

Ausführlich erklärt wird auch eine Studie, in der Forscher*innen aus einer Kombination von (freiwilligen) Persönlichkeitstests auf Facebook und der Auswertung von Likes ein Modell entwickelt haben, indem sie aus den Facebook-Likes auf die Persönlichkeit einer Person schließen können. Eine ausreichend große initiale Menge von Personen (Stichprobe), die ihre Daten freiwillig hergeben, genügt, um daraus Regeln abzuleiten und Schlüsse auf andere Personen, die ihre Daten nicht in dieser Form freigegeben haben, ziehen zu können.

The entire history and practice of modern medicine is built on the finding of patterns in data.

Im medizinischen Bereich werden Algorithmen schon seit Längerem genutzt, um etwa Zellbiopsien auf krankhafte Veränderungen zu untersuchen. Die Debatte um selbstfahrende Autos und wie diese entscheiden (sollen), wenn es darum geht, welche Menschenleben gerettet werden sollen, wurde in den Medien vergleichsweise ausführlich geführt. Und auch im Bereich der Verbrechensprävention werden Algorithmen eingesetzt. Die ursprüngliche Idee bestand darin, Verbrechen auf Karten zu vermerken und dadurch Orte zu finden, an denen sich Verbrechen häufen. Dort können dann durch stärkere Polizeipräsenz entweder Verbrechen verhindert werden oder durch schnelle Reaktion die Täter gefasst werden. Im Podcast Reply All wurde darüber auch in einer Doppelfolge berichtet.

How good is good enough? Once you’ve built a flawed algorithm that can calculate something, should you let it?

Bei all diesen Anwendungsbereichen stellt sich jedoch die Frage: wie gut kann und muss ein Algorithmus sein, um bessere Entscheidungen zu treffen, als Menschen sie treffen würden? Wieviel Fehler ist akzeptabel? Was sind die Konsequenzen? Wie viele unnötige Mastektomien werden gemacht, weil ein Algorithmus Krebszellen diagnostiziert hat, die eigentlich gesund waren? Welche Folgen ergeben sich daraus, dass Menschen sich auf den Autopilot ihres Fahrzeugs verlassen? Wie viele unschuldige Leben sind es wert, dass mehr Schuldige gefasst werden?

What about innocent until proven guilty?

Alle diese Fragen werden aktuell zu wenig bedacht, es wird geforscht und umgesetzt, was technisch möglich ist und womit sich Geld verdienen lässt. Die Entscheidung, welche Daten wir preisgeben, kann nicht allein den Konsumenten überlassen werden. So lange Algorithmen als Betriebsgeheimnis gelten und nicht nachvollzogen werden kann, wie Algorithmen tatsächlich Daten verarbeiten und Entscheidungen treffen, ist eine informierte Entscheidung von Einzelpersonen gar nicht möglich. Wir brauchen gesetzliche Regulierungen und Kontrollmechanismen, die den Missbrauch von Daten verhindern (und damit meine ich nicht etwas so Lästiges und Ineffektives wie Cookie-Warnungen). Vor allem aber brauchen wir das Bewusstsein, dass Computer und Algorithmen nicht allmächtig sind, dass sie fehlerhaft sind und dass ihre Entscheidungen daher auch fehlerhaft sein können.

But how do you decide on that trade-off between privacy and protection, fairness and safety? […] Is that a price we’re willing to pay to reduce crime?

Einen interessanten Vortrag zum Thema Bias in Algorithmen gab es von pascoda im Rahmen der PrivacyWeek 2018.