Categories
English Roman

Liz Moore – The Unseen World

CN dieses Buch: Demenz
CN dieser Post: Demenz


Dieses Buch verflechtet so viele Aspekte, dass ich nicht recht weiß, wo ich anfangen soll, um zu beschreiben, wie großartig diese Geschichte ist. In unterschiedlichen Zeitebenen erfahren wir die Geschichte von Ada (benannt nach der britischen Mathematikerin Ada Lovelace) und David. Ada wächst in einem alternativen, aber sehr förderlichen Familienumfeld mit ihrem Vater David und dessen Arbeitskolleg*innen auf. In ihrem Teenageralter zerbricht diese heile Welt, als Davids Erkrankung an Alzheimer offensichtlich wird. Ada geht zum ersten Mal in ihrem Leben in eine öffentliche Schule und wird konfrontiert mit dem, was David und sie selbst von ihrer Altersgruppe unterscheidet. Das große Thema der Zugehörigkeit (belonging) und der Ausschließlichkeit verschiedener Gruppen wird auf einer Ebene behandelt, die über übliche Identitätsfindungsprozesse im Teenageralter hinausgeht.

But although she was indeed grateful to have it, this token that indicated in some fundamental way that she belonged among her peers, she also sensed the loss of something. Her father’s difference. Her own.

Davids Krankheit verändert Adas Leben auch in einem anderen Bereich. Er hinterlässt ein Rätsel über seine Vergangenheit und seine Identität, das Ada fundamental an sich selbst zweifeln lässt. Gerade im schwierigen Teenageralter muss Ada zwischen mehreren Welten navigieren und ihre eigene bekannte Identität hinterfragen.

[…] she often felt as if there was something fundamentally incorrect about her, as if she were caught between two worlds, a citizen of neither.

Neben dieser Persönlichkeits- und Familienebene behandelt das Buch viele interessante Aspekte aus dem Bereich künstliche Intelligenz. Das Sprachlernprogramm ELIXIR spielt eine wesentliche Rolle in der Enthüllung von Davids Geheimnissen. Aber auch die fundamentale Frage danach, was ein selbstlernendes Computersystem eigentlich vom Menschen unterscheidet, wird gestellt. Diese philosophischen Fragen um künstliche Intelligenz und virtuelle Realität bleiben aber immer eingebettet in Adas Erleben, sie überlagern nicht die menschlichen Fragen sondern erweitern sie auf eine Art und Weise, die charakteristisch dafür ist, wie Computer unser Leben ergänzen können.

Virtual reality, she thought, was the unseen world. Or had the capacity to be. In fact, it could be said that all computer systems were such: universes that operated outside the realm of human experience, planets that spun continuously in some unseeable alternate stratosphere, present but undiscovered.

Das Ende überrascht auf mehreren Ebenen. Die Auflösung habe ich in keinster Weise kommen sehen (ich hoffte natürlich auf eine Lösung des Rätsels und wurde nicht enttäuscht), sie geht sogar noch einen Schritt weiter. Ein großartiger Roman.


Jahresrückblick

Insgesamt habe ich in diesem Jahr 80 Blog Posts verfasst. Das ist deutlich mehr als der Schnitt von etwa einem Buch pro Woche der vergangenen Jahre. Aufgrund der aktuellen Situation kombiniert mit einigen Veränderungen in meinem persönlichen Umfeld hatte ich deutlich mehr Zeit und vielleicht auch Bedarf an Realitätsflucht. Zusätzlich zu diesen 80 neuen Büchern habe ich auch noch 16 Bücher als Re-Reads zu verzeichnen. Womit fast eine Verdoppelung der normalen Zahlen erreicht ist.

Schon beim Blick auf den Januar wird mir klar, dass es kaum möglich sein wird, die Favoriten einzugrenzen. Octavia E. Butlers Parable of the Sower und Parable of the Talents sind jedoch auf jeden Fall dabei. Im April beschloss ich, dass jetzt die Zeit für Harry Potter gekommen wäre. Im Sommer folgte Ransom Riggs Serie um die Peculiar Children. Im Herbst habe ich schließlich mit Game of Thrones begonnen.

Im Bereich Romane möchte ich uneingeschränkte Empfehlungen aussprechen für V.E. Schwab – The Invisible Life of Addie LaRue und Madeline Miller – Circe. Im Non-Fiction-Bereich haben mich persönlich Reshma Saujani – Brave, not perfect und Paul Kalanithi – When Breath Becomes Air am meisten berührt. Auf die letzte Nennung bin ich durch den 3 Books Podcast von Neil Pasricha gestoßen, den ich noch immer sehr gerne höre.

Wie geht’s weiter?

Das wüssten wir wohl alle gerne. Zumindest in den nächsten drei noch eher kühleren Monaten gehe ich davon aus, dass die Lesefrequenz weiter hoch bleiben wird. Sobald es wärmer wird, hoffe ich auf mehr und ausgedehntere Outdoor-Aktivitäten. Beim Durchscrollen der Bücher des Jahres 2020 ist mir auch eine deutliche Tendenz zu Romanen aufgefallen, Fachliteratur bzw. anspruchsvolle Non-Fiction kam kaum vor. Dafür war vielleicht auch einfach die Konzentration nicht da, ich hoffe, dass sich das demnächst wieder einpendelt. Das Einpendeln generell scheint die Hoffnung für dieses Jahr zu sein. Zurück zur Normalität ist mir allein schon von der Begrifflichkeit zuwider und scheint mir auch nicht der richtige Weg zu sein. Jedoch einpendeln von Tag zu Tag, Nachjustieren von Woche zu Woche, Anpassen von Monat zu Monat, das scheint mir ein möglicher Pfad durch diese schwierige Zeit zu sein.

Be patient if you feel anger, fear, grief, or frustration. All things change.

Categories
Roman

Jeanette Winterson – Frankissstein

Progress is a series of accidents, of mistakes made in a hurry, of unforeseen consequences.

In diesem Buch fließen mehrere Zeitebenen ineinander, die die Frage nach dem Ursprung des Lebens und gleichzeitig dem Leben nach dem Tod aus unterschiedlichen Perspektiven beleuchten. Dieses Ineinanderfließen spiegelt schon der Titel wider, in dem der bekannte Name Frankenstein durch einen Kiss unterbrochen und gleichzeitig verknüpft wird.

Frankenstein was a vision of how life might by created – the first non-human intelligence.

Eine Zeitebene folgt der Autorin Mary Shelley und ihren Gedanken, die zur Erfindung von Dr. Frankenstein und seinem Monster führten. Die historisch bekannten Fakten scheinen im Buch richtig wiedergegeben, im Vordergrund stehen jedoch die Fragen, die auch im Buch Frankenstein behandelt werden: was ist Leben? Die Kreatur, das von Victor Frankenstein erschaffene Monster, ist das Leben? Wenn es Leben ist, dann drängt sich als nächste Frage eine Wertigkeit in den Vordergrund: ist das Leben dieses Monsters gleich viel wert wie das Leben eines Menschen?

In weiterer Folge wird die Frage auch mit der Art und Weise verbunden, wie Menschen traditionell Leben erschaffen: Mary verliert mehrere Kinder an diverse Krankheiten und auch daraus lässt sich die Frage konstruieren, ob Menschen überhaupt Leben erschaffen sollten, wenn doch der Tod immer schon programmiert ist.

Only the human mind can accomplish the leap of thought that is a leap of genius.

Auf einer heutigen Zeitebene folgen wir Ry auf eine Konferenz, auf der die Zukunft der künstlichen Intelligenz und Robotik im Vordergrund steht. Es folgt eine (möglicherweise zu ausführliche) Erörterung des Themas Sexroboter. Die Frage, ob Roboter ein Bewusstsein haben könnten oder sollten, stellt sich bei den Gefährtinnen, die Hersteller Ron hier anpreist, (vorerst) kaum: sie sprechen 200 Worte und sind als moderne Sklavinnen programmiert. Aber wie wird es sich auf unsere Gesellschaft auswirken, wenn wir die Gesellschaft von servilen Robotern der anderer Menschen vorziehen? Werden gesellschaftliche Umgangsformen überholt, weil Roboter keinen Wert darauf legen? Werden ganze Wirtschaftszweige unnötig und stattdessen neue entstehen?

Randnotiz: Zum Thema Roboter und freier Wille kann ich die Serie Westworld sehr empfehlen. Es sei allerdings die Warnung ausgesprochen, dass es einige wirklich sehr brutale Szenen gibt.

If data is the input and the rest is processing, then humans aren’t so special after all. 

Auf der oben genannten Konferenz spricht auch der Wissenschaftler Victor Stein, der in einem geheimen Labor in einem ehemals militärischen Komplex in Tunneln unter der Stadt Manchester daran arbeitet, das menschliche Bewusstsein zu konservieren. Die Idee der Kryokonservierung ist nicht neu, die erste Konservierung wurde vor über 50 Jahren durchgeführt. Bis jetzt ist jedoch unklar, wie das Bewusstsein nach dem Auftauen wiederbelebt werden kann. Victor Stein argumentiert als Wissenschaftler gegen die Notwendigkeit eines Körpers an sich. Wenn das Bewusstsein vom Erhalt eines Körpers, vom Befriedigen der elementaren Bedürfnisse befreit wäre, wären dann nicht größere geistige Leistungen möglich? Wie würde das Leben für ein derartiges körperloses Bewusstsein aussehen? Oder sich anfühlen? Unser Bewusstsein ist an das Gefühl der Körperlichkeit gewöhnt. Müssten wir ein Körperlichkeitsgefühl künstlich erzeugen, damit das Bewusstsein die Körperlosigkeit überhaupt aushält? Stein transportiert ein mechanistisches Welt- und Menschenbild, Emotionen und Motivationen sind ihm im behavioristischen Sinne egal.

That’s not what I meant. I meant that we are freaks according to the behaviour of the world.

Als Transmann stellt Ry (Ry als Abkürzung von Mary) ein menschliches Brückenglied dar. Einerseits finde ich es sehr begrüßenswert, eine Transperson als Charakter im Buch zu haben, andererseits bin ich unsicher, ob die Darstellung der mit dem Trans-sein verbundenen Gefühle authentisch sein kann. Die sich entwickelnde Liebesgeschichte zwischen Ry und Victor Stein hat für mich einen Unterton, ein Gefühl, als ob Ry in seiner Transheit objektiviert würde. Vielleicht ist das aber auch ein überzogener Anspruch, die Authentizität der Darstellung einer erfundenen Person überhaupt beurteilen zu wollen.

He will steal life from the gods. At what cost?

Ethische oder religiöse Bedenken schweben auf einer Metaebene durch das ganze Buch. Was sollen Menschen tun dürfen, wo werden Grenzen gesetzt und wo müssen/dürfen/sollen sie durchbrochen werden? Technikfolgenabschätzung als Bremse der Wissenschaft, welchen Wert hat Fortschritt an sich?

Das Buch wirft auf eine sehr unterschwellige Art mehr Fragen auf als es Antworten gibt. In den Dialogen zeichnet sich deutlich ab, dass die Autorin intensiv recherchiert hat und durch ihre Charaktere verschiedene Perspektiven zum Thema sprechen lässt.

Schließen möchte ich mit dem folgenden Zitat, weil es in so starkem Kontrast steht zum Gotteskonzept, das Octavia E. Butler in Parable of the Sower und Parable of the Talents zum Leben erweckt. Ist Gott tatsächlich unveränderlich oder Veränderung? Ist beides gleichzeitig möglich?

Everything changes, said Claire. I change. You change. God changes not.

Categories
Sachbuch

Hannah Fry – Hello World

Understanding our own flaws and weaknesses – as well as those of the machine – is the key to remaining in control.

Dieses Buch sammelt den aktuellen Stand der algorithmischen Technik und Forschung. An unzähligen Beispielen aus verschiedenen Bereichen erklärt die Autorin, wie Algorithmen funktionieren, wo sie gute Resultate liefern können, woran sie in der Vergangenheit gescheitert sind und woran sie in der Zukunft vermutlich auch noch scheitern werden. Eines der wichtigsten Themen ist jedoch das Verhältnis zwischen Mensch und Computer. Die Ergebnisse, die uns ein Computer (und der dahinterstehende Algorithmus) liefert, werden von Menschen kaum hinterfragt. Zitiert werden dazu etwa Forschungsergebnisse, die zeigen, wie durch gezielte Anordnung von Suchmaschinenergebnissen Wahlentscheidungen beeinflusst werden konnten.

It’s just this bias we all have for computerized results – we don’t question them.

Die erste Supermarkt-Kundenkarte hat Tesco erfunden. Damals wurde nicht gesammelt, WAS die Kunden einkaufen, sondern nur wann sie einkaufen und wieviel Geld sie dabei ausgeben. Allein daraus konnte Tesco schon so viele Schlüsse ziehen, dass sie mit gezielter Werbung ihre Kunden dazu verleiten konnten, noch mehr Geld auszugeben. Kein Wunder, dass heutzutage keine Einzelhandelskette mehr ohne Kundenkarte auskommen will.

Look carefully enough at someone’s shopping habits and they’ll often reveal all kinds of detail about who they are as a person.

Auch das Surfverhalten von Personen wird von unzähligen Trackern überwacht und aufgezeichnet (um dem entgegenzuwirken empfehlen sich Ad- und Tracking-Blocker wie zum Beispiel Ghostery). Die Autorin erklärt an einem sehr anschaulichen Beispiel, dass Surfverhalten und Browser Histories sehr einfach de-anonymisiert werden können. Es reicht eine einzige Webseite mit einem Login in einer Browser History, um die gesamte History einer Person zuordnen zu können.

That was the deal that we made. Free technology in return for our data and the ability to use it to influence and profit from you.

Ausführlich erklärt wird auch eine Studie, in der Forscher*innen aus einer Kombination von (freiwilligen) Persönlichkeitstests auf Facebook und der Auswertung von Likes ein Modell entwickelt haben, indem sie aus den Facebook-Likes auf die Persönlichkeit einer Person schließen können. Eine ausreichend große initiale Menge von Personen (Stichprobe), die ihre Daten freiwillig hergeben, genügt, um daraus Regeln abzuleiten und Schlüsse auf andere Personen, die ihre Daten nicht in dieser Form freigegeben haben, ziehen zu können.

The entire history and practice of modern medicine is built on the finding of patterns in data.

Im medizinischen Bereich werden Algorithmen schon seit Längerem genutzt, um etwa Zellbiopsien auf krankhafte Veränderungen zu untersuchen. Die Debatte um selbstfahrende Autos und wie diese entscheiden (sollen), wenn es darum geht, welche Menschenleben gerettet werden sollen, wurde in den Medien vergleichsweise ausführlich geführt. Und auch im Bereich der Verbrechensprävention werden Algorithmen eingesetzt. Die ursprüngliche Idee bestand darin, Verbrechen auf Karten zu vermerken und dadurch Orte zu finden, an denen sich Verbrechen häufen. Dort können dann durch stärkere Polizeipräsenz entweder Verbrechen verhindert werden oder durch schnelle Reaktion die Täter gefasst werden. Im Podcast Reply All wurde darüber auch in einer Doppelfolge berichtet.

How good is good enough? Once you’ve built a flawed algorithm that can calculate something, should you let it?

Bei all diesen Anwendungsbereichen stellt sich jedoch die Frage: wie gut kann und muss ein Algorithmus sein, um bessere Entscheidungen zu treffen, als Menschen sie treffen würden? Wieviel Fehler ist akzeptabel? Was sind die Konsequenzen? Wie viele unnötige Mastektomien werden gemacht, weil ein Algorithmus Krebszellen diagnostiziert hat, die eigentlich gesund waren? Welche Folgen ergeben sich daraus, dass Menschen sich auf den Autopilot ihres Fahrzeugs verlassen? Wie viele unschuldige Leben sind es wert, dass mehr Schuldige gefasst werden?

What about innocent until proven guilty?

Alle diese Fragen werden aktuell zu wenig bedacht, es wird geforscht und umgesetzt, was technisch möglich ist und womit sich Geld verdienen lässt. Die Entscheidung, welche Daten wir preisgeben, kann nicht allein den Konsumenten überlassen werden. So lange Algorithmen als Betriebsgeheimnis gelten und nicht nachvollzogen werden kann, wie Algorithmen tatsächlich Daten verarbeiten und Entscheidungen treffen, ist eine informierte Entscheidung von Einzelpersonen gar nicht möglich. Wir brauchen gesetzliche Regulierungen und Kontrollmechanismen, die den Missbrauch von Daten verhindern (und damit meine ich nicht etwas so Lästiges und Ineffektives wie Cookie-Warnungen). Vor allem aber brauchen wir das Bewusstsein, dass Computer und Algorithmen nicht allmächtig sind, dass sie fehlerhaft sind und dass ihre Entscheidungen daher auch fehlerhaft sein können.

But how do you decide on that trade-off between privacy and protection, fairness and safety? […] Is that a price we’re willing to pay to reduce crime?

Einen interessanten Vortrag zum Thema Bias in Algorithmen gab es von pascoda im Rahmen der PrivacyWeek 2018.