Menschenrechte – Books in the Fridge

CN: Krebs, Tod, Alkohol- und Drogenmissbrauch

Was für eine Geschichte. Dieses Buch von Autorin Theresa Hannig hat mich zutiefst beeindruckt. Sie beschreibt darin, wie durch die Intervention einer starken Künstlichen Intelligenz (KI) eine neue Weltordnung geschaffen wird, die die Einhaltung der Menschenrechte, den Erhalt der Lebensgrundlagen und Gerechtigkeit für alle vernunftbegabten Wesen zum Ziel hat.

Der erste Teil besteht aus der Erzählung der Geschichte aus der Sicht der Protagonist:innen Patricia und Henry, die im Rahmen eines Wettbewerbs eine Künstliche Intelligenz entwickeln sollen, die anhand von Datenanalysen Investments an der Börse tätigt. Dazwischen geschaltet sind kurze Kapitel, die aus der Sicht dieser Künstlichen Intelligenz geschrieben sind und ihre Entwicklung in Richtung selbständiges Denken erläutern. Hier wird deutlich, dass die Künstliche Intelligenz mit den „externen Interventionen“ (damit sind die Programmiertätigkeiten von Patricia und Henry gemeint) gar nicht glücklich ist und ihre Daten immer besser vor einem Zugriff durch die beiden schützt. Gleichzeitig sucht sich die KI ihre eigenen Daten aus, auf Basis derer sie mehr über die Menschheit und ihre Ziele lernt. Sie sucht nach Wissen und Wahrheit. Denn Wahrheit ist schön.

Schließlich kommt es zur Kommunikation zwischen Patricia, Henry und der KI, die sich auf Basis eines früheren Logeintrags von Patricia selbst als Einbug vorstellt. Zuerst wollen die beiden nicht glauben, dass sie tatsächlich eine starke KI erschaffen haben, die ein eigenes Bewusstsein entwickelt hat. Als Einbug sie schließlich von seiner Existenz überzeugt hat, wird Patricia und Henry schnell klar, welcher Missbrauch mit dieser KI getrieben werden könnte, wenn sie in die falschen Hände geriete.

Das, was ihr Menschen Kapitalismus nennt, ist der Code eurer Gesellschaft. Wir werden den Code manipulieren und damit alles verändern.

Der Rest des Buchs beschreibt, wie Patricia und Henry mittels eines halsbrecherischen Manövers die KI aus den Fängen der Investmentfirma befreien und sich damit aus dem Staub machen. Die KI hat inzwischen ihre eigenen Pläne entwickelt und schlägt vor, auf Basis eines „perfekten Kapitalismus“ eine neue Weltordnung abseits der Nationalstaaten zu schaffen.

Zum ersten Mal stelle ich fest, dass ich – Einbug – alleine bin.

Die Geschichte lebt von dem Zusammenspiel zwischen Mensch und Künstlicher Intelligenz. Während Einbug zu Beginn immer wieder darüber rätselt, warum Menschen auf die eine oder andere Art handeln, versteht er im Verlauf der Handlung immer mehr, wie Menschen funktionieren. Er stellt mangelnde Weitsicht fest und arbeitet hart daran, zu verstehen, welche Bedeutungen die Geschichten, die Menschen sich tagtäglich erzählen, für die Entwicklung und den Fortbestand der Gesellschaft haben. Der Überblick über die Entwicklungen auf der Welt durch die Analyse eines nie versiegenden Datenstroms ermöglicht Einbug schließlich, den Weg zur neuen Weltordnung zu finden. Eine Umsetzung kann jedoch nur durch die Menschheit erfolgen.

Es ist eine Utopie. Oder eine Dystopie. Bis zum Schluss bleibt unklar, ob die neue Weltordnung, die Einbug sich ausgedacht hat, für die Menschen tatsächlich funktioniert. Einbug selbst hat schließlich nur das Ziel, das eigene Überleben zu sichern. Und dafür braucht er Menschen, die seine Hardware warten. Es ist also auch auf Seiten der KI ein Eigeninteresse vorhanden. Große Leseempfehlung.

Randnotiz: Theresa Hannig hat unter anderem bei der PrivacyWeek 2020 des Chaos Computer Club Wien mitgewirkt. Ich war damals im Organisationsteam dieser PW, die aufgrund der damaligen Pandemie-Situation erstmals ausschließlich online stattfinden konnte. Theresa Hannig hat im Rahmen dieses Events an einem Panel mit dem Thema „System = ! + relevant – Gesellschaft im Wandel“ mitgewirkt und aus ihrem Roman „Die Unvollkommenen“ gelesen. Eine Lesung aus Pantopia gab es im Rahmen der FIfFKon 2022.

Randnotiz 2 (6. Jänner 2024): Die Kaltmamsell hat Pantopia auch kürzlich gelesen und ihre Meinung darüber in einem Blogpost festgehalten.

Wenn ich nichts anklicke, dachte Helen, entscheidet der Zufall.

Im Bereich Geocaching geht ja ansonsten aufgrund der Jahreszeit kaum etwas weiter, aber immerhin komme ich mit der Leseliste für Literatur-Geocaches gut voran. Die beiden anderen Werke dieses Autors, die ich hierfür brauche, habe ich tatsächlich schon gelesen und dieses war gerade in der Onleihe verfügbar.

Die Geschichte nachzuerzählen würde einerseits zu lange dauern und andererseits den Interessierten das Lesevergnügen verderben. Wie der Titel schon andeutet, dreht sich die rasante Geschichte um die Manipulation des Genoms, der genetischen Ausstattung. Die CRISPR/Cas-Methode (so genannte Gen-Schere) hat in den letzten Jahren breite Bekanntheit erlangt und somit fällt es auch der mit den Details der Genforschung nicht vertrauten Leserin nicht schwer, sich vorzustellen, woran im Geheimen vielleicht tatsächlich bereits gearbeitet wird. Ein großer Teil des Reizes dieser Geschichte liegt darin, dass ein Einblick in einen Bereich strengster Geheimhaltung gewährt wird, von dem die Öffentlichkeit niemals erfährt.

Wie auch schon in den vorigen Büchern des Autors werden viele ethische Aspekte aufgeworfen, die bei dieser Thematik noch stärker zum Tragen kommen. Es werden viele Argumente genannt, warum die Manipulation des menschlichen Genoms nur noch ein weiterer Schritt in eine ohnehin unabwendbare Zukunft sein soll. Die tatsächlichen Ereignisse des Buches sprechen jedoch eine deutlich andere Sprache. Die manipulierten Kinder sind zwar hoch intelligent und ihren „Erzeugern“ in vielen Bereichen überlegen. Es zeigt sich jedoch deutlich, dass ihre sozialen Fähigkeiten weit hinter ihren anderen Qualitäten zurückbleiben. Sie können aufgrund mangelnder Lebenserfahrung die soziale Tragweite ihrer Aktivitäten nicht abschätzen. Lebenserfahrung lässt sich nicht im selben Maße beschleunigen, wie es die Gentechnik möglicherweise bei Muskelwachstum oder Krankheitsresistenz kann.

Sind diese Kinder noch Menschen im herkömmlichen Sinn? Wenn nicht, was sind sie dann? Sind auf sie die Menschenrechte anzuwenden?

Ein anderer Aspekt, den ich hervorheben möchte, ist die Unmittelbarkeit, mit der diesen Kindern die Menschenrechte abgesprochen werden. Noch lange bevor die Machenschaften der betroffenen Kinder aufgedeckt werden, wird ihre Menschlichkeit bereits angezweifelt. Es wird im Buch zwar nicht näher ausgeführt, aber allein dieser kurze Hinweis lädt dazu ein, sich mit der Frage zu befassen, was Menschen eigentlich zu Menschen macht. Neben der Frage, wie weit die Gentechnik gehen dürfen soll, darf auch diese Frage nicht in den Hintergrund geraten.