Tag: künstliche Intelligenz

Categories
Fantasy Roman Science Fiction

skye gänseblum – Die Träume sind kaputt

CN: Depression, Krankheit, Erwähnung von ableistischen Diskriminierungen, sexuellem Missbrauch und Gewalt, Mord

Ich habe keine Ahnung, seit wann meine Träume nicht mehr meine waren. Vielleicht war es schon immer so und ich hab es erst später gemerkt, aber ehrlich gesagt kommt es mir nicht so vor.

Also zuerst möchte ich sagen, dass das ein ganz besonderes Buch ist. Eine kurze Beschreibung ist aus meiner Sicht nicht möglich oder zumindest nicht aussagekräftig. Ich werde versuchen, auf die Inhalte einzugehen, die mir besonders herausragend erscheinen, möchte aber trotzdem die Kurzbeschreibung zitieren, die der nichtbinäre Autor skye gänseblum selbst seinem Buch gegeben hat:

Es ist Cripplepunk Science Fantasy mit Umgangssprache und Neopronomen. Chronisch kranke Hauptcharaktere, Queerness, Behinderung, Freundschaft und Abenteuer.

Im Zentrum stehen die Protagonist:innen Tuniriam [sier] und Otogo [sie], die sich erst im Verlauf der Geschichte kennenlernen. Aus ihren beiden Perspektiven wird erzählt, wie sie und ihre Freund:innen dem Spuk um die kaputten Träume auf die Spur kommen. Denn Tuniriam und Otogo leiden unter derselben chronischen Krankheit: Schlafen bringt ihnen keine Erholung, da sie im Schlaf in der Traumwelt herumwandeln und dabei auch in die Träume anderer Menschen eindringen können. Im Wachzustand müssen sie sich vom Schlaf erholen und im Schlaf vom Wachzustand. Das führt dazu, dass sie ständig müde sind und im Alltag Unterstützung benötigen.

Tuniriam erhält diese Unterstützung von der Familie, oder zumindest von Teilen dieser Familie. Tuniriams Mutter hingegen verkörpert einen sehr ableistischen Charakter, sie hält Tuniriam ständig vor, dass sier ja nichts zum Haushalt beiträgt und sich doch einfach mal zusammenreißen soll.

Otogo ist bei Pflegeeltern aufgewachsen und schließlich in einem Heim gelandet, wo ihre Traumerkrankung durch die vielen Alpträume der anderen Bewohner:innen noch verschlimmert wird. Erst als sie vom Investigativjournalisten Rob aus dem Heim entführt (bzw. gerettet) wird, bekommt sie die Chance, ihren Schlaf-Wach-Rhythmus selbst zu regulieren und so eine Art Pacing (Energiemanagement wie zB als Therapie für ME/CFS) hinzubekommen, das ihr das Leben erleichtert bzw. in gewisser Weise erst ermöglicht.

Die Erkenntnis, dass beide dieselbe Krankheit haben, die ihnen einerseits ermöglicht, in den Träumen anderer Menschen auch Dinge zu verändern, aber eben dazu führt, dass sie ständig müde sind, verändert einiges für die beiden. Stück für Stück finden sie durch Unterhaltungen miteinander und mit anderen Traumwesen mehr über sich und ihre Situation heraus. Diese Traumwesen sind zumeist nicht das, was sie zu sein scheinen, das müssen Otogo und Tuniriam aber erst auf die harte Tour herausfinden.

All dies geschieht in einer Welt, die von unserer fast soweit entfernt ist, wie die Traumwelt, in der Tuniriam und Otogo ihre Abenteuer erleben. Es werden aber auch immer wieder die gesellschaftlichen Parallelen aufgezeigt. Es handelt sich um eine Gesellschaft, in der das Leistungsprinzip eine Rolle spielt, in der Menschen, die aufgrund ihrer körperlichen Gegebenheiten nicht so viel leisten können, als weniger wertvoll betrachtet werden.

Einfach nur krank sein und weiterleben war für ihn nicht okay, weil dann belastet man ja die Gesellschaft oder so.

Auch das Streben nach größtmöglicher Normalität, das in unserer heutigen Gesellschaft vielen Menschen das Leben so schwer macht, spielt eine Rolle. Menschen, die in das Schema nicht reinpassen, werden versteckt bzw. es wird ihnen unmöglich gemacht, am öffentlichen Leben teilzunehmen.

Die ganze Idee dahinter ist, dass die Unterschiede zwischen den Leuten weggelöscht werden sollen, damit alle perfekt sind. Es gibt so einen Bereich, der als normal angesehen wird, und wer da nicht reinpasst, wird halt trotzdem reingequetscht.

Es werden viele Aspekte angesprochen, die im Leben von behinderten Menschen allgegenwärtig sind. Das geschieht allerdings nicht mit dem Holzhammer oder dem erhobenen Zeigefinger. Es wird einfach erzählt, wie es den behinderten Charakteren im Alltag ergeht, was ihnen das Leben schwer macht und wie sie versuchen, damit umzugehen. Wie zum Beispiel die Tatsache, dass Reisen an entfernte Orte für manche Menschen allein aufgrund ihrer gesundheitlichen Situation undenkbar sind:

Diese Bekanntschaften pflegte ich allerdings nur halbherzig, da es mich zu sehr deprimierte, dass ich niemals die Gesundheit oder das Geld für eine Reise an einen anderen Ort haben würde.

Einen einzigen Kritikpunkt kann ich nicht verschweigen: Das Ende des bösen Traumgeists geht mit einer sehr gewaltvollen Szene einher, wobei eine Person, die bislang nur am Rande aufgetreten ist, aus reinem Pech in die (buchstäbliche) Schusslinie gerät. Als Auflösung der Geschichte finde ich es gerechtfertigt, ich kann nur nicht ganz nachvollziehen, warum es dermaßen gewaltvoll geschehen musste. Gerade in einem Buch, das vor der Thematisierung von Gewalt und Missbrauch nicht zurückschreckt, aber diesen zuvor niemals im Detail graphisch beschrieben hat, hat mich diese Szene einfach sehr überrascht und ich finde sie passt nicht ganz zum Rest.

Im Ganzen möchte ich dieses Buch sehr herzlich empfehlen. Es bietet die Möglichkeit, Einblicke in eine Lebenswelt zu bekommen, die den meisten Menschen verschlossen ist und auch viel zu oft gar nicht gesehen werden will. Die Charaktere repräsentieren Persönlichkeiten und Eigenschaften, die in der Literatur noch immer wenig vertreten sind. Ich würde mir wünschen, dass dieses Buch viel Aufmerksamkeit bekommt und hoffentlich bei dem einen oder der anderen Leser:in einen Denkprozess auslöst. Das Buch ist bei BOD und auch auf anderen Plattformen erhältlich.

Disclaimer: Ich habe dieses Buch vor der Veröffentlichung als Rezensionsexemplar erhalten. Es ist kein Geld geflossen und wie immer lest ihr hier ausschließlich meine persönliche Meinung zum Buch. 

Categories
English Krimi Roman Thriller

Daniel Suarez – Change Agent

CN dieses Buch: Mord, Totschlag, Gewalt, Folter
CN dieser Post: –

I’m arguing that what can happen will happen, but that it’s better that the research take place in the light of day rather than in the dark corners of the world.

Daniel Suarez schreibt ganz ausgezeichnete Technologiethriller (bisher gelesen: Daemon, FreedomTM, Kill Decision, Influx). Es ist erstaunlich, wie er sich immer wieder etwas ausdenkt, das einerseits gerade noch nicht möglich ist, aber andererseits mit aktuellen Thematiken dermaßen verknüpft ist, dass sich viele moralische und ethische Fragen zwischen den Zeilen verstecken lassen. Die Basis-Prämisse dieser Geschichte ist die Entdeckung einer Substanz, die die DNA von erwachsenen, lebenden Menschen verändern kann. Somit besteht die Möglichkeit, mit dem DNA-Profil einer anderen Person einen optischen und genetischen Klon zu erstellen. Was in erster Linie die Frage aufwirft, was eine Person eigentlich ausmacht. Kann die Veränderung von DNA und Physiognomie zu verändertem Verhalten führen? Oder ist es die extreme Situation, die den Protagonisten Kenneth Durand zu Handlungen treibt, die ihm vor seiner DNA-Veränderung vollkommen unmöglich erschienen?

He suddenly wondered what Kenneth Durand was doing here. […] The Kenneth Durand he’d thought he was would never have considered this.

Womit wir bei der Technologie wären: wenn von einer Technologie, von der du denkst, dass es sie eigentlich gar nicht geben dürfte, dein eigenes Leben abhängt, was wirst du dann tun? Kenneth Durand bekämpft Verbrechen im Bereich der illegalen Genetik. Als er durch die neuartige Substanz genetisch und optisch in einen anderen Menschen verwandelt wird, gibt es für ihn jedoch keine Möglichkeit, sein altes Ich zurückzubekommen, ohne selbst diese Technologie zu nutzen und dadurch seine Werte in Frage zu stellen.

Beaming imagery directly onto a viewer’s retinas instead of spraying photons all over the place had many advantages – authentic augmented reality being one. Environmental sustainability another. Privacy another still.

Neuartige Technologien beamen nun Informationen direkt in die Retina der Menschen, die Datenbrille hat ausgedient. Sehr interessant fand ich auch die Nennung von Privatsphäre als Aspekt hier. Wenn dir die Inhalte direkt in die Augen gebeamt werden, kann dir auch niemand mehr über die Schulter schauen, wenn du zum Beispiel auf deiner Tastatur ein Passwort eintippst. Bei konkreterem Nachdenken würden uns vermutlich auch dabei Sicherheitslücken auf- bzw. einfallen, die unsere Privatsphäre wiederum gefährden.

Frey smirked. “You know what they say: when privacy is criminalized, only criminals will have privacy.”

Das obige Zitat beschreibt ein oft thematisiertes Problem bei der Einschränkung von Privatsphäre. Werden beispielsweise sichere Messenger verboten und somit kriminalisiert, schadet das allen. Menschen, die tatsächlich nichts Kriminelles vorhaben, werden nun anlasslos überwacht. Menschen, die Kriminelles vorhaben, werden Wege finden, die Überwachungskanäle zu umgehen.

Privatsphäre wird auch noch in einem anderen Zusammenhang genannt. In einer Welt, in der wir bei jedem Schritt überwacht werden, in der jeder Informationsabruf irgendwo gespeichert und zu Geld gemacht wird, wer würde da nicht eine neue Identität annehmen wollen? Wenn du morgen ein anderer Mensch werden kannst, ist es dann egal, was du heute tust?

DNA is DNA. Merely information. Which means that human beings are merely information. And there is a long-established legal precedent that information can be owned.

Firmen wie 23andme haben in den letzten Jahren bereits unzählige genetische Profile gesammelt. Der Nutzen für die Kund*innen wird mit einer genetischen Analyse beschrieben. Kund*innen erhalten Informationen über ihre genetischen Risiken für besondere Krankheiten und können unbekannte genetische Verwandtschaften finden. Dafür bezahlen sie den Konzern. Wodurch dieser aber eigentlich profitiert, sind die gesammelten genetischen Daten, die ausgewertet und verkauft werden. Dieser Artikel in Scientific American beschreibt diesen Prozess und die Problematik dahinter sehr ausführlich.

“Does one’s identity come from within our hearts or our DNA?”
Durand murmured, “Within our hearts.”
“And what is DNA?”
“Data.”

Ein anderes Buch, das sich ebenfalls in Krimiform mit dem Thema Genmanipulation auseinandersetzt, ist Helix von Marc Elsberg.

Categories
Roman Science Fiction

Philip K. Dick – Blade Runner

CN dieses Buch: Mord, Gewalt gegen Menschen und Tiere, Depression
CN dieser Post: Depression

Empathie existierte offenbar nur in der menschlichen Rasse, während man Intelligenz bis zu einem gewissen Grad bei jeder Art und jedem Stamm von Lebewesen bis hinunter zu den Spinnen antraf.

Meine Erinnerung an die Verfilmung mit Harrison Ford und Rutger Hauer aus dem Jahr 1982 ist mangelhaft. Mehr in Erinnerung ist mir der Blog Post von Typeset in the future, der sich intensiv mit der verwendeten Typographie, aber auch mit einigen anderen Unklarheiten des Films befasst.

Das Buch selbst befasst sich im Prinzip mit der Frage, was einen Menschen eigentlich menschlich macht. Androiden, also humanoide Roboter, werden einem Empathietest unterzogen. Sie sollen als moderne Sklaven dienen; wenn sie entkommen, werden sie von Prämienjägern gejagt. Der Empathietest ist neben einer Knochenmarksanalyse die einzige Methode, um mit relativer Sicherheit einen Androiden von einem Menschen unterscheiden zu können. Der Empathietest beinhaltet hauptsächlich Fragen zu Tieren, die rar und teuer sind in dieser Zukunftswelt, die durch Kriege gezeichnet sind. Was unterscheidet den Menschen vom Tier? Was unterscheidet den humanoiden Roboter vom Menschen? Ist ein Mensch, der seine Gefühlswelt von einer Einswerdungsbox (der unklar ausgearbeitete religiöse Teil scheint in der Verfilmung nicht vorzukommen, jedenfalls kommt die Person Mercer in der Cast-Liste nicht vor) oder einer Stimmungsorgel steuern lässt, tatsächlich noch menschlicher als ein Roboter?

Bis jetzt hatte er noch nie über die Ähnlichkeit zwischen einem elektrischen Schaf und einem Androiden nachgedacht. Das elektrische Tier, überlegte er, konnte als unterentwickelte Form des andern betrachtet werden, als eine Art minderwertiger Roboter.

Das Ende des Buchs betrachtend kann ich mir nicht vorstellen, dass in der Verfilmung nicht einiges geändert wurde. In dieser Form, die ich hier gelesen habe, scheint das Buch eher komplett unverfilmbar zu sein. Vielleicht werde ich mir den Film bei Gelegenheit nochmal ansehen.

Vielleicht könnte daraus eine Depression werden wie bei dir. Ich kann verstehen, wie du unter dem Gefühl leidest. Ich habe immer geglaubt, das mache dir Spaß, und du könntest dieses Gefühl nach Belieben abstellen, wenn schon nicht aus eigener Kraft, dann doch zumindest mit Hilfe der Stimmungsorgel. Aber wenn man so bedrückt ist, dann wird einem alles gleichgültig, weil man keinen Wertmaßstab mehr hat.

Nochmal kurz zurück zum Thema Stimmungsorgel und mentale/psychische Gesundheit: Nein, ein Depressionsgefühl lässt sich nicht beliebig abstellen. Nein, es macht keinen Spaß. Es ist nicht mal ein richtiges Gefühl, das sich beschrieben ließe, es ist mehr wie Eifersucht, die sich in unterschiedlichen Gefühlen (Verlustangst, Ärger, Minderwertigkeit, etc.) äußern kann. Die Gleichgültigkeit, dieses Gefühl, nichts zu wollen und nichts zu können, lässt sich nicht abstellen, Betroffene sind mehr oder weniger hilflos. Wer sich darüber informieren möchte, der*dem empfehle ich das Buch Der Schwarze Hund von Matthew Johnstone.

Categories
English Roman

Liz Moore – The Unseen World

CN dieses Buch: Demenz
CN dieser Post: Demenz

Dieses Buch verflechtet so viele Aspekte, dass ich nicht recht weiß, wo ich anfangen soll, um zu beschreiben, wie großartig diese Geschichte ist. In unterschiedlichen Zeitebenen erfahren wir die Geschichte von Ada (benannt nach der britischen Mathematikerin Ada Lovelace) und David. Ada wächst in einem alternativen, aber sehr förderlichen Familienumfeld mit ihrem Vater David und dessen Arbeitskolleg*innen auf. In ihrem Teenageralter zerbricht diese heile Welt, als Davids Erkrankung an Alzheimer offensichtlich wird. Ada geht zum ersten Mal in ihrem Leben in eine öffentliche Schule und wird konfrontiert mit dem, was David und sie selbst von ihrer Altersgruppe unterscheidet. Das große Thema der Zugehörigkeit (belonging) und der Ausschließlichkeit verschiedener Gruppen wird auf einer Ebene behandelt, die über übliche Identitätsfindungsprozesse im Teenageralter hinausgeht.

But although she was indeed grateful to have it, this token that indicated in some fundamental way that she belonged among her peers, she also sensed the loss of something. Her father’s difference. Her own.

Davids Krankheit verändert Adas Leben auch in einem anderen Bereich. Er hinterlässt ein Rätsel über seine Vergangenheit und seine Identität, das Ada fundamental an sich selbst zweifeln lässt. Gerade im schwierigen Teenageralter muss Ada zwischen mehreren Welten navigieren und ihre eigene bekannte Identität hinterfragen.

[…] she often felt as if there was something fundamentally incorrect about her, as if she were caught between two worlds, a citizen of neither.

Neben dieser Persönlichkeits- und Familienebene behandelt das Buch viele interessante Aspekte aus dem Bereich künstliche Intelligenz. Das Sprachlernprogramm ELIXIR spielt eine wesentliche Rolle in der Enthüllung von Davids Geheimnissen. Aber auch die fundamentale Frage danach, was ein selbstlernendes Computersystem eigentlich vom Menschen unterscheidet, wird gestellt. Diese philosophischen Fragen um künstliche Intelligenz und virtuelle Realität bleiben aber immer eingebettet in Adas Erleben, sie überlagern nicht die menschlichen Fragen sondern erweitern sie auf eine Art und Weise, die charakteristisch dafür ist, wie Computer unser Leben ergänzen können.

Virtual reality, she thought, was the unseen world. Or had the capacity to be. In fact, it could be said that all computer systems were such: universes that operated outside the realm of human experience, planets that spun continuously in some unseeable alternate stratosphere, present but undiscovered.

Das Ende überrascht auf mehreren Ebenen. Die Auflösung habe ich in keinster Weise kommen sehen (ich hoffte natürlich auf eine Lösung des Rätsels und wurde nicht enttäuscht), sie geht sogar noch einen Schritt weiter. Ein großartiger Roman.

Jahresrückblick

Insgesamt habe ich in diesem Jahr 80 Blog Posts verfasst. Das ist deutlich mehr als der Schnitt von etwa einem Buch pro Woche der vergangenen Jahre. Aufgrund der aktuellen Situation kombiniert mit einigen Veränderungen in meinem persönlichen Umfeld hatte ich deutlich mehr Zeit und vielleicht auch Bedarf an Realitätsflucht. Zusätzlich zu diesen 80 neuen Büchern habe ich auch noch 16 Bücher als Re-Reads zu verzeichnen. Womit fast eine Verdoppelung der normalen Zahlen erreicht ist.

Schon beim Blick auf den Januar wird mir klar, dass es kaum möglich sein wird, die Favoriten einzugrenzen. Octavia E. Butlers Parable of the Sower und Parable of the Talents sind jedoch auf jeden Fall dabei. Im April beschloss ich, dass jetzt die Zeit für Harry Potter gekommen wäre. Im Sommer folgte Ransom Riggs Serie um die Peculiar Children. Im Herbst habe ich schließlich mit Game of Thrones begonnen.

Im Bereich Romane möchte ich uneingeschränkte Empfehlungen aussprechen für V.E. Schwab – The Invisible Life of Addie LaRue und Madeline Miller – Circe. Im Non-Fiction-Bereich haben mich persönlich Reshma Saujani – Brave, not perfect und Paul Kalanithi – When Breath Becomes Air am meisten berührt. Auf die letzte Nennung bin ich durch den 3 Books Podcast von Neil Pasricha gestoßen, den ich noch immer sehr gerne höre.

Wie geht’s weiter?

Das wüssten wir wohl alle gerne. Zumindest in den nächsten drei noch eher kühleren Monaten gehe ich davon aus, dass die Lesefrequenz weiter hoch bleiben wird. Sobald es wärmer wird, hoffe ich auf mehr und ausgedehntere Outdoor-Aktivitäten. Beim Durchscrollen der Bücher des Jahres 2020 ist mir auch eine deutliche Tendenz zu Romanen aufgefallen, Fachliteratur bzw. anspruchsvolle Non-Fiction kam kaum vor. Dafür war vielleicht auch einfach die Konzentration nicht da, ich hoffe, dass sich das demnächst wieder einpendelt. Das Einpendeln generell scheint die Hoffnung für dieses Jahr zu sein. Zurück zur Normalität ist mir allein schon von der Begrifflichkeit zuwider und scheint mir auch nicht der richtige Weg zu sein. Jedoch einpendeln von Tag zu Tag, Nachjustieren von Woche zu Woche, Anpassen von Monat zu Monat, das scheint mir ein möglicher Pfad durch diese schwierige Zeit zu sein.

Be patient if you feel anger, fear, grief, or frustration. All things change.

Categories
Roman

Jeanette Winterson – Frankissstein

Progress is a series of accidents, of mistakes made in a hurry, of unforeseen consequences.

In diesem Buch fließen mehrere Zeitebenen ineinander, die die Frage nach dem Ursprung des Lebens und gleichzeitig dem Leben nach dem Tod aus unterschiedlichen Perspektiven beleuchten. Dieses Ineinanderfließen spiegelt schon der Titel wider, in dem der bekannte Name Frankenstein durch einen Kiss unterbrochen und gleichzeitig verknüpft wird.

Frankenstein was a vision of how life might by created – the first non-human intelligence.

Eine Zeitebene folgt der Autorin Mary Shelley und ihren Gedanken, die zur Erfindung von Dr. Frankenstein und seinem Monster führten. Die historisch bekannten Fakten scheinen im Buch richtig wiedergegeben, im Vordergrund stehen jedoch die Fragen, die auch im Buch Frankenstein behandelt werden: was ist Leben? Die Kreatur, das von Victor Frankenstein erschaffene Monster, ist das Leben? Wenn es Leben ist, dann drängt sich als nächste Frage eine Wertigkeit in den Vordergrund: ist das Leben dieses Monsters gleich viel wert wie das Leben eines Menschen?

In weiterer Folge wird die Frage auch mit der Art und Weise verbunden, wie Menschen traditionell Leben erschaffen: Mary verliert mehrere Kinder an diverse Krankheiten und auch daraus lässt sich die Frage konstruieren, ob Menschen überhaupt Leben erschaffen sollten, wenn doch der Tod immer schon programmiert ist.

Only the human mind can accomplish the leap of thought that is a leap of genius.

Auf einer heutigen Zeitebene folgen wir Ry auf eine Konferenz, auf der die Zukunft der künstlichen Intelligenz und Robotik im Vordergrund steht. Es folgt eine (möglicherweise zu ausführliche) Erörterung des Themas Sexroboter. Die Frage, ob Roboter ein Bewusstsein haben könnten oder sollten, stellt sich bei den Gefährtinnen, die Hersteller Ron hier anpreist, (vorerst) kaum: sie sprechen 200 Worte und sind als moderne Sklavinnen programmiert. Aber wie wird es sich auf unsere Gesellschaft auswirken, wenn wir die Gesellschaft von servilen Robotern der anderer Menschen vorziehen? Werden gesellschaftliche Umgangsformen überholt, weil Roboter keinen Wert darauf legen? Werden ganze Wirtschaftszweige unnötig und stattdessen neue entstehen?

Randnotiz: Zum Thema Roboter und freier Wille kann ich die Serie Westworld sehr empfehlen. Es sei allerdings die Warnung ausgesprochen, dass es einige wirklich sehr brutale Szenen gibt.

If data is the input and the rest is processing, then humans aren’t so special after all. 

Auf der oben genannten Konferenz spricht auch der Wissenschaftler Victor Stein, der in einem geheimen Labor in einem ehemals militärischen Komplex in Tunneln unter der Stadt Manchester daran arbeitet, das menschliche Bewusstsein zu konservieren. Die Idee der Kryokonservierung ist nicht neu, die erste Konservierung wurde vor über 50 Jahren durchgeführt. Bis jetzt ist jedoch unklar, wie das Bewusstsein nach dem Auftauen wiederbelebt werden kann. Victor Stein argumentiert als Wissenschaftler gegen die Notwendigkeit eines Körpers an sich. Wenn das Bewusstsein vom Erhalt eines Körpers, vom Befriedigen der elementaren Bedürfnisse befreit wäre, wären dann nicht größere geistige Leistungen möglich? Wie würde das Leben für ein derartiges körperloses Bewusstsein aussehen? Oder sich anfühlen? Unser Bewusstsein ist an das Gefühl der Körperlichkeit gewöhnt. Müssten wir ein Körperlichkeitsgefühl künstlich erzeugen, damit das Bewusstsein die Körperlosigkeit überhaupt aushält? Stein transportiert ein mechanistisches Welt- und Menschenbild, Emotionen und Motivationen sind ihm im behavioristischen Sinne egal.

That’s not what I meant. I meant that we are freaks according to the behaviour of the world.

Als Transmann stellt Ry (Ry als Abkürzung von Mary) ein menschliches Brückenglied dar. Einerseits finde ich es sehr begrüßenswert, eine Transperson als Charakter im Buch zu haben, andererseits bin ich unsicher, ob die Darstellung der mit dem Trans-sein verbundenen Gefühle authentisch sein kann. Die sich entwickelnde Liebesgeschichte zwischen Ry und Victor Stein hat für mich einen Unterton, ein Gefühl, als ob Ry in seiner Transheit objektiviert würde. Vielleicht ist das aber auch ein überzogener Anspruch, die Authentizität der Darstellung einer erfundenen Person überhaupt beurteilen zu wollen.

He will steal life from the gods. At what cost?

Ethische oder religiöse Bedenken schweben auf einer Metaebene durch das ganze Buch. Was sollen Menschen tun dürfen, wo werden Grenzen gesetzt und wo müssen/dürfen/sollen sie durchbrochen werden? Technikfolgenabschätzung als Bremse der Wissenschaft, welchen Wert hat Fortschritt an sich?

Das Buch wirft auf eine sehr unterschwellige Art mehr Fragen auf als es Antworten gibt. In den Dialogen zeichnet sich deutlich ab, dass die Autorin intensiv recherchiert hat und durch ihre Charaktere verschiedene Perspektiven zum Thema sprechen lässt.

Schließen möchte ich mit dem folgenden Zitat, weil es in so starkem Kontrast steht zum Gotteskonzept, das Octavia E. Butler in Parable of the Sower und Parable of the Talents zum Leben erweckt. Ist Gott tatsächlich unveränderlich oder Veränderung? Ist beides gleichzeitig möglich?

Everything changes, said Claire. I change. You change. God changes not.

Categories
Sachbuch

Hannah Fry – Hello World

Understanding our own flaws and weaknesses – as well as those of the machine – is the key to remaining in control.

Dieses Buch sammelt den aktuellen Stand der algorithmischen Technik und Forschung. An unzähligen Beispielen aus verschiedenen Bereichen erklärt die Autorin, wie Algorithmen funktionieren, wo sie gute Resultate liefern können, woran sie in der Vergangenheit gescheitert sind und woran sie in der Zukunft vermutlich auch noch scheitern werden. Eines der wichtigsten Themen ist jedoch das Verhältnis zwischen Mensch und Computer. Die Ergebnisse, die uns ein Computer (und der dahinterstehende Algorithmus) liefert, werden von Menschen kaum hinterfragt. Zitiert werden dazu etwa Forschungsergebnisse, die zeigen, wie durch gezielte Anordnung von Suchmaschinenergebnissen Wahlentscheidungen beeinflusst werden konnten.

It’s just this bias we all have for computerized results – we don’t question them.

Die erste Supermarkt-Kundenkarte hat Tesco erfunden. Damals wurde nicht gesammelt, WAS die Kunden einkaufen, sondern nur wann sie einkaufen und wieviel Geld sie dabei ausgeben. Allein daraus konnte Tesco schon so viele Schlüsse ziehen, dass sie mit gezielter Werbung ihre Kunden dazu verleiten konnten, noch mehr Geld auszugeben. Kein Wunder, dass heutzutage keine Einzelhandelskette mehr ohne Kundenkarte auskommen will.

Look carefully enough at someone’s shopping habits and they’ll often reveal all kinds of detail about who they are as a person.

Auch das Surfverhalten von Personen wird von unzähligen Trackern überwacht und aufgezeichnet (um dem entgegenzuwirken empfehlen sich Ad- und Tracking-Blocker wie zum Beispiel Ghostery). Die Autorin erklärt an einem sehr anschaulichen Beispiel, dass Surfverhalten und Browser Histories sehr einfach de-anonymisiert werden können. Es reicht eine einzige Webseite mit einem Login in einer Browser History, um die gesamte History einer Person zuordnen zu können.

That was the deal that we made. Free technology in return for our data and the ability to use it to influence and profit from you.

Ausführlich erklärt wird auch eine Studie, in der Forscher*innen aus einer Kombination von (freiwilligen) Persönlichkeitstests auf Facebook und der Auswertung von Likes ein Modell entwickelt haben, indem sie aus den Facebook-Likes auf die Persönlichkeit einer Person schließen können. Eine ausreichend große initiale Menge von Personen (Stichprobe), die ihre Daten freiwillig hergeben, genügt, um daraus Regeln abzuleiten und Schlüsse auf andere Personen, die ihre Daten nicht in dieser Form freigegeben haben, ziehen zu können.

The entire history and practice of modern medicine is built on the finding of patterns in data.

Im medizinischen Bereich werden Algorithmen schon seit Längerem genutzt, um etwa Zellbiopsien auf krankhafte Veränderungen zu untersuchen. Die Debatte um selbstfahrende Autos und wie diese entscheiden (sollen), wenn es darum geht, welche Menschenleben gerettet werden sollen, wurde in den Medien vergleichsweise ausführlich geführt. Und auch im Bereich der Verbrechensprävention werden Algorithmen eingesetzt. Die ursprüngliche Idee bestand darin, Verbrechen auf Karten zu vermerken und dadurch Orte zu finden, an denen sich Verbrechen häufen. Dort können dann durch stärkere Polizeipräsenz entweder Verbrechen verhindert werden oder durch schnelle Reaktion die Täter gefasst werden. Im Podcast Reply All wurde darüber auch in einer Doppelfolge berichtet.

How good is good enough? Once you’ve built a flawed algorithm that can calculate something, should you let it?

Bei all diesen Anwendungsbereichen stellt sich jedoch die Frage: wie gut kann und muss ein Algorithmus sein, um bessere Entscheidungen zu treffen, als Menschen sie treffen würden? Wieviel Fehler ist akzeptabel? Was sind die Konsequenzen? Wie viele unnötige Mastektomien werden gemacht, weil ein Algorithmus Krebszellen diagnostiziert hat, die eigentlich gesund waren? Welche Folgen ergeben sich daraus, dass Menschen sich auf den Autopilot ihres Fahrzeugs verlassen? Wie viele unschuldige Leben sind es wert, dass mehr Schuldige gefasst werden?

What about innocent until proven guilty?

Alle diese Fragen werden aktuell zu wenig bedacht, es wird geforscht und umgesetzt, was technisch möglich ist und womit sich Geld verdienen lässt. Die Entscheidung, welche Daten wir preisgeben, kann nicht allein den Konsumenten überlassen werden. So lange Algorithmen als Betriebsgeheimnis gelten und nicht nachvollzogen werden kann, wie Algorithmen tatsächlich Daten verarbeiten und Entscheidungen treffen, ist eine informierte Entscheidung von Einzelpersonen gar nicht möglich. Wir brauchen gesetzliche Regulierungen und Kontrollmechanismen, die den Missbrauch von Daten verhindern (und damit meine ich nicht etwas so Lästiges und Ineffektives wie Cookie-Warnungen). Vor allem aber brauchen wir das Bewusstsein, dass Computer und Algorithmen nicht allmächtig sind, dass sie fehlerhaft sind und dass ihre Entscheidungen daher auch fehlerhaft sein können.

But how do you decide on that trade-off between privacy and protection, fairness and safety? […] Is that a price we’re willing to pay to reduce crime?

Einen interessanten Vortrag zum Thema Bias in Algorithmen gab es von pascoda im Rahmen der PrivacyWeek 2018.