Categories
Sachbuch

Hannah Fry – Hello World

Understanding our own flaws and weaknesses – as well as those of the machine – is the key to remaining in control.

Dieses Buch sammelt den aktuellen Stand der algorithmischen Technik und Forschung. An unzähligen Beispielen aus verschiedenen Bereichen erklärt die Autorin, wie Algorithmen funktionieren, wo sie gute Resultate liefern können, woran sie in der Vergangenheit gescheitert sind und woran sie in der Zukunft vermutlich auch noch scheitern werden. Eines der wichtigsten Themen ist jedoch das Verhältnis zwischen Mensch und Computer. Die Ergebnisse, die uns ein Computer (und der dahinterstehende Algorithmus) liefert, werden von Menschen kaum hinterfragt. Zitiert werden dazu etwa Forschungsergebnisse, die zeigen, wie durch gezielte Anordnung von Suchmaschinenergebnissen Wahlentscheidungen beeinflusst werden konnten.

It’s just this bias we all have for computerized results – we don’t question them.

Die erste Supermarkt-Kundenkarte hat Tesco erfunden. Damals wurde nicht gesammelt, WAS die Kunden einkaufen, sondern nur wann sie einkaufen und wieviel Geld sie dabei ausgeben. Allein daraus konnte Tesco schon so viele Schlüsse ziehen, dass sie mit gezielter Werbung ihre Kunden dazu verleiten konnten, noch mehr Geld auszugeben. Kein Wunder, dass heutzutage keine Einzelhandelskette mehr ohne Kundenkarte auskommen will.

Look carefully enough at someone’s shopping habits and they’ll often reveal all kinds of detail about who they are as a person.

Auch das Surfverhalten von Personen wird von unzähligen Trackern überwacht und aufgezeichnet (um dem entgegenzuwirken empfehlen sich Ad- und Tracking-Blocker wie zum Beispiel Ghostery). Die Autorin erklärt an einem sehr anschaulichen Beispiel, dass Surfverhalten und Browser Histories sehr einfach de-anonymisiert werden können. Es reicht eine einzige Webseite mit einem Login in einer Browser History, um die gesamte History einer Person zuordnen zu können.

That was the deal that we made. Free technology in return for our data and the ability to use it to influence and profit from you.

Ausführlich erklärt wird auch eine Studie, in der Forscher*innen aus einer Kombination von (freiwilligen) Persönlichkeitstests auf Facebook und der Auswertung von Likes ein Modell entwickelt haben, indem sie aus den Facebook-Likes auf die Persönlichkeit einer Person schließen können. Eine ausreichend große initiale Menge von Personen (Stichprobe), die ihre Daten freiwillig hergeben, genügt, um daraus Regeln abzuleiten und Schlüsse auf andere Personen, die ihre Daten nicht in dieser Form freigegeben haben, ziehen zu können.

The entire history and practice of modern medicine is built on the finding of patterns in data.

Im medizinischen Bereich werden Algorithmen schon seit Längerem genutzt, um etwa Zellbiopsien auf krankhafte Veränderungen zu untersuchen. Die Debatte um selbstfahrende Autos und wie diese entscheiden (sollen), wenn es darum geht, welche Menschenleben gerettet werden sollen, wurde in den Medien vergleichsweise ausführlich geführt. Und auch im Bereich der Verbrechensprävention werden Algorithmen eingesetzt. Die ursprüngliche Idee bestand darin, Verbrechen auf Karten zu vermerken und dadurch Orte zu finden, an denen sich Verbrechen häufen. Dort können dann durch stärkere Polizeipräsenz entweder Verbrechen verhindert werden oder durch schnelle Reaktion die Täter gefasst werden. Im Podcast Reply All wurde darüber auch in einer Doppelfolge berichtet.

How good is good enough? Once you’ve built a flawed algorithm that can calculate something, should you let it?

Bei all diesen Anwendungsbereichen stellt sich jedoch die Frage: wie gut kann und muss ein Algorithmus sein, um bessere Entscheidungen zu treffen, als Menschen sie treffen würden? Wieviel Fehler ist akzeptabel? Was sind die Konsequenzen? Wie viele unnötige Mastektomien werden gemacht, weil ein Algorithmus Krebszellen diagnostiziert hat, die eigentlich gesund waren? Welche Folgen ergeben sich daraus, dass Menschen sich auf den Autopilot ihres Fahrzeugs verlassen? Wie viele unschuldige Leben sind es wert, dass mehr Schuldige gefasst werden?

What about innocent until proven guilty?

Alle diese Fragen werden aktuell zu wenig bedacht, es wird geforscht und umgesetzt, was technisch möglich ist und womit sich Geld verdienen lässt. Die Entscheidung, welche Daten wir preisgeben, kann nicht allein den Konsumenten überlassen werden. So lange Algorithmen als Betriebsgeheimnis gelten und nicht nachvollzogen werden kann, wie Algorithmen tatsächlich Daten verarbeiten und Entscheidungen treffen, ist eine informierte Entscheidung von Einzelpersonen gar nicht möglich. Wir brauchen gesetzliche Regulierungen und Kontrollmechanismen, die den Missbrauch von Daten verhindern (und damit meine ich nicht etwas so Lästiges und Ineffektives wie Cookie-Warnungen). Vor allem aber brauchen wir das Bewusstsein, dass Computer und Algorithmen nicht allmächtig sind, dass sie fehlerhaft sind und dass ihre Entscheidungen daher auch fehlerhaft sein können.

But how do you decide on that trade-off between privacy and protection, fairness and safety? […] Is that a price we’re willing to pay to reduce crime?

Einen interessanten Vortrag zum Thema Bias in Algorithmen gab es von pascoda im Rahmen der PrivacyWeek 2018.

 

 

Categories
Kurzgeschichten

Barbara Wimmer, Günther Friesinger (Hg.) – Smart Lies – Alles smart?

Diese Kurzgeschichtensammlung habe ich nun seit Weihnachten herumliegen. Die ersten Geschichten hatte ich bald gelesen, aber wie so oft habe ich an Kurzgeschichten, die vollkommen unzusammenhängend sind, irgendwann das Interesse verloren.

Die Herausgeber Barbara Wimmer und Günther Friesinger haben in diesem Sammelband Geschichten zum Thema smarte Technologie versammelt. Die Beiträge beschäftigen sich mit virtuellen Realitäten, Assistenzsystemen wie Amazon Alexa, Überwachungstechnologien und der Frage, ob wirklich jedes Gerät über das Internet fernsteuerbar sein sollte. Besonders gefallen hat mir die Geschichte über den Gefühlszwist eines Roboters, die sich mit Asimovs Gesetzen der Robotik auseinandersetzt.

Dieser Artikel auf Lithub beschäftigt sich mit der Wertigkeit und Schwierigkeit der Zusammenstellung von Kurzgeschichtensammlungen, das folgende Zitat ist mir dabei besonders ins Auge gefallen:

A good anthology becomes more than the sum of its parts. The stories talk to each other: augment and contradict each other. As the editor, you try to curate the contents in ways that will allow for such conversations to occur. 

Der überspannende Bogen ist hier natürlich die Technologie und die Gefahren, die mit ihrer nahezu grenzenlosen Nutzung verbunden sind. Die Herausgeber schreiben in ihrer Einleitung, dass neue Technologien an sich nicht schlecht sind, dass es jedoch jeder Person selbst überlassen bleibt, wie sie oder er damit umgeht. In meinen Augen darf die Verantwortung jedoch nicht vollständig auf den Konsumenten abgewälzt werden. Die Herstellerfirmen sind in die Pflicht zu nehmen, ihre Produkte so zu gestalten, dass sie möglichst wenig Sicherheitslücken haben und dass diese auch durch Updates behoben werden können, sollte dies notwendig sein. In vielen Bereichen (zB digitale Kommunikation über Smartphone) ist die Entscheidungsfreiheit der NutzerInnen und Nutzer nämlich bereits eingeschränkt. Natürlich können wir uns entscheiden, Facebook oder Whatsapp (oder jeglichen anderen Dienst) nicht zu nutzen. Wenn dieser Dienst jedoch eine Marktmacht erreicht, kann die Nicht-Nutzung durchaus zum faktischen Ausschluss aus bestimmten sozialen Zirkeln führt. Wer ein Smartphone benutzen möchte, kann sich im Großen und Ganzen zwischen zwei Betriebssystemen entscheiden (förderungswerte Alternativen wie zum Beispiel Fairphone erreichen leider bis heute noch keine ausreichende Massenkompatibilität). Damit ist auch die Entscheidung verbunden, welchem Konzern wir unsere Daten anvertrauen wollen. Der Umgang mit neuen Technologien kann also nicht von der Einzelnen allein für sich selbst gelöst werden, sondern erfordert strukturelle Veränderungen, die für alle Menschen bessere Voraussetzungen für sicheren Umgang mit Technologie ermöglichen.

Disclaimer: Ich bin mit der Herausgeberin und mehreren Autorinnen bekannt bzw. befreundet und habe das Buch geschenkt bekommen. Dass meine Meinung davon komplett unbeeinflusst bleibt, kann ich nicht garantieren. Wie meine anderen Posts ist dies jedoch keine Werbung, sondern meine subjektive in Worte gefasste Meinung.

Categories
Roman Science Fiction

Vernor Vinge – Das Ende des Regenbogens

Die Empfehlung für dieses Buch stammt aus einem Artikel, der sich mit dem Erfolg von Pokémon Go und den dabei relevanten Faktoren zwischen Spiel und Realität auseinandersetzt. Aus dieser Quelle habe ich bereits Cory Doctorows For the Win gelesen.

In Das Ende des Regenbogens entwirft der Autor eine veränderte Welt im Jahr 2025. Die Medizin hat immense Fortschritte gemacht, viele bislang als unheilbar geltende Krankheiten können nun therapiert werden. Zumindest bei den Menschen, die auf die jeweilige Therapie ansprechen. Die Interaktion zwischen den Menschen und Institutionen ist aber trotz der vielen technologischen Entwicklungen kaum verändert. Kurznachrichten können nun direkt „telepathisch“ verschickt werden und werden von den intelligenten Kontaktlinsen den Empfängern direkt im Blickfeld angezeigt. Interessant ist auch die Beschreibung des Verkehrskonzepts: Niemand besitzt ein eigenes Auto, auf den Straßen fahren Autos herum, die bei Bedarf gerufen werden können und den Nutzer ohne dessen Mitwirkung an seinen Bestimmungsort bringen.

Der Autor konzentriert sich sehr auf die Perspektive der „Technologieverlierer“. Der Protagonist Robert Gu kann nach etwa 20 Jahren Demenz von Alzheimer geheilt werden, die Therapie verjüngt auch seinen Körper und gibt ihm das Aussehen eines Teenagers. Was Robert Gu allerdings verloren hat, ist seine Fähigkeit, Poesie zu erschaffen, und dieser Fähigkeit trauert er dermaßen nach, dass er beinahe alles tun würde, um sie wieder zu erlangen. Seine Ex-Frau Lena gehört zu den Verlierern der modernen Medizin. Sie sitzt von Osteoporose gebeugt im Rollstuhl, hat sich jedoch den modernen technologischen Möglichkeiten angepasst und nimmt per Wearable am Geschehen teil. Auch junge Menschen kommen nicht vollständig mit den modernen Technologien klar, obwohl sie damit aufwachsen. Je nach Begabung gibt es auch unter ihnen Technologieverlierer, die die höheren Ebenen der Technik nicht zu meistern imstande sind.

Besonders gut gefallen hat mir, dass in dieser Utopie oder Dystopie (nach meiner Meinung ist das hier und in vielen anderen Zukunftsromanen nicht ganz klar) alle Protagonisten keinen Überblick über die Lage haben. Jeder sieht nur seinen eigenen Ausschnitt der Welt, und versucht, sich darauf einen Reim zu machen. Selbst der teilweise allmächtig erscheinende Rabbit – eine Figur, die immer nur als virtuelle Präsenz in der Gestalt eines Kaninchens auftritt –, stellt schließlich fest, dass er nicht alle seine Marionetten steuern kann, denn jeder von ihnen hat seine eigene Agenda.

Der Einstieg gestaltet sich wie so oft bei zukünftigen Welten etwas schwierig, aber nach den ersten 100 Seiten hat sich auch der Leser in der modernen Welt zurecht gefunden. Das Buch stammt aus dem Jahr 2007, viele der vom Autor damals visualisierten technologischen Entwicklungen haben inzwischen deutliche Fortschritte erreicht. Er beschreibt unter anderem eine große Demonstration, in der zwei verfeindete Lager in einer virtuellen Überlagerung gegeneinander um die Herrschaft über die Zukunft einer Bibliothek (und das Überleben der echten Bücher!) kämpfen. Der Kampf findet rein virtuell statt, vergleichbar mit einer World of Warcraft-Schlacht, ohne Netzwerkausfälle müsste dabei niemand zu Schaden kommen. Gleichzeitig ist jedoch der amerikanische Geheimdienst mit seiner Masse an Analysten bereit, jederzeit eine Nuklearwaffe auf die Demonstranten zu richten, sollte die Lage außer Kontrolle geraten.

Zum Abschluss noch ein motivierendes Zitat, das in jeder Zeit und Lebenslage gelten kann:

Es gibt immer einen Weg. Ihr, jeder Einzelne von euch, habt irgendwelche besonderen Joker. Nutzt sie. Findet heraus, was euch von den anderen unterscheidet und euch besser macht. Sobald ihr das tut, könnt ihr anderen helfen, und andere werden bereit sein, im Gegenzug euch zu helfen. Kurz gesagt, künstliche Glücksfälle entstehen nicht einfach. Verdammt, ihr müsst sie erschaffen.

Categories
Essays Sachbuch

Jaron Lanier – Wenn Träume erwachsen werden

Jaron Lanier gilt laut Wikipedia als Vater des Begriffs Virtuelle Realität. Von 1984 bis 1990 betrieb er das Unternehmen VPL Research und beschäftigte sich intensiv mit den damaligen Möglichkeiten der Virtual Reality. In diesem Sammelband sind Texte und Interviews von damals bis zur Verleihung des Friedenspreis des Deutschen Buchhandels im Oktober 2014 an ihn vereint. Als Einleitung dient seine Dankesrede zu diesem Anlass, in der er unterschiedliche Punkte anspricht und auch versucht, eine Lanze für das Buch zu brechen (man muss sich nach seinem Publikum richten):

Im Internet gibt es ebenso viele Kommentare über das Internet wie Pornografie und Katzenfotos, aber in Wirklichkeit können nur Medien außerhalb des Internets – insbesondere Bücher – Perspektiven und Synthesen aufzeigen. Das ist einer der Gründe, warum das Internet nicht zur einzigen Plattform der Kommunikation werden darf.

In meinen Augen zeigt sich hier ein Widerspruch: warum sollte das Internet nicht geeignet sein, um Perspektiven und Synthesen aufzuzeigen? Wenn wir zurückgehen in die Zeit vor der weltweiten Verbreitung des Internets und denselben Schluss auf den Buchmarkt anwenden, kommen wir wohl kaum zum selben Ergebnis. Nur Medien außerhalb des Buchs können Perspektiven und Synthesen für das Buch aufzeigen? Wohl kaum. In der Hauptbücherei Wien habe ich zwei Regale gefunden, die nur mit Büchern über Bücher oder Büchern über das Lesen gefüllt sind. Seinem daraus gezogenen Schluss stimme ich wiederum zu: Das Internet sollte nicht die einzige Plattform der Kommunikation werden. Es zeigt sich bereits jetzt, dass Menschen, die nicht auf Facebook sind, den Anschluss an Freundeskreise verlieren, weil Einladungen nur mehr dort ausgesprochen werden und auf Abweichler einfach vergessen wird. Das ist nur ein Anfang der Auswirkungen dieser unberechenbaren gesellschaftlichen Entwicklungen.

Ich glaube, wir wissen heute einfach noch nicht genug, um Lösungen für das langfristige Puzzle Frieden zu finden. Das mag negativ klingen, aber eigentlich ist es eine ganz klar optimistische Aussage, denn ich glaube, dass wir immer mehr über den Frieden lernen.

In derselben Rede kommt Lanier über einige weit geschwungene rhetorische Bögen auch auf das Thema Frieden zu sprechen (Friedenspreis, siehe oben). Er kritisiert das Rudelgefühl, den Frieden unter Clans, da diese Rudel stets in Konkurrenz zueinander stehen und so niemals ein langfristiger Frieden für alle entstehen kann.

In einem Interview aus dem Jahr 1987 hat Lanier gewissermaßen Pokémon Go vorhergesagt, obwohl er sich als Kommunikationsgerät eine Art Sonnenbrille vorstellte. Das Konzept der Datenbrille konnte sich bekanntlich bisher nicht durchsetzen.

In den frühen Versionen wird man die virtuelle Realität nur sehen können, wenn man sich darin befindet. Später wird es raffiniertere Versionen geben, bei denen man virtuelle und reale Objekte miteinander verbinden kann. Man könnte dann eine Zeit lang in einer gemischten Realität leben und würde seine reale Umgebung wahrnehmen, als ob man eine Sonnenbrille tragen würde, hätte aber auch virtuelle Elemente, die in die reale Welt hineingemischt würden.

In einem der Essays macht sich der Autor Gedanken darüber, wie man als Besucher einer virtuellen Welt mit dieser interagieren kann. Er formuliert dabei sehr schön, warum Sprache dafür ungeeignet ist:

Sprache ist sehr beschränkt. Sprache ist ein sehr enger Strom durch die Ebene der Realität. Sie lässt vieles aus. Oder eigentlich lässt sie gar nichts aus, aber sie ist ein Strom aus kleinen, eigenständigen Symbolen, und die Welt besteht aus Kontinuität und Gesten. Sprache kann Dinge über die Welt andeuten, aber kein Gemälde ließe sich je nur mit Worten beschreiben, und so verhält es sich auch mit der Realität.

Dies lässt sich in bemerkenswerter Weise darauf ummünzen, warum unsere heutigen Sprachassistenten wie Siri oder Cortana nur in sehr eingeschränktem Rahmen nützlich sind. Von den Datenschutz- und Überwachungsbedenken möchte ich an dieser Stelle gar nicht erst anfangen. Diese Bedenken vertrat Lanier zwar auch schon im letzten Jahrtausend, allerdings zeigt er sich in vielen Texten davon überzeugt, dass Daten (zum Beispiel über Gewohnheiten von Personen, wie Facebook sie sammelt) zwar verfügbar sein sollten, aber die einzelnen Personen dafür einen Preis festlegen sollen können. Zum Thema Privatsphäre hält er in einem späteren Text fest:

Das Problem mit Gesetzen zum Schutz der Privatsphäre ist, dass sie höchstwahrscheinlich nicht befolgt werden. Die Statistik mit großen Datenmengen ist wie eine Sucht, und Vorschriften zum Schutz der Privatsphäre sind so wirkungsvoll wie Alkohol- oder Drogenverbote.

Diese Behauptung hat sich leider in den vergangenen Jahren immer wieder bestätigt. Das Thema Privatsphäre wird in Wien übrigens im Rahmen der Privacy Week des Chaos Computer Club Wien vom 24. bis 30. Oktober 2016 in vielen Veranstaltungen an unterschiedlichen Standorten von allen Seiten beleuchtet.

Bereits 2003 spricht Lanier in einem Interview darüber, was die Entstehung eines Massenmediums mit der jüngeren Generation anstellt. Die Folgen daraus zeigten sich etwa im Arabischen Frühling 2011 in Ägypten sowie in der türkischen Revolution um den Gezi-Park und den Taksim-Platz 2013.

Wenn sich in einer Gesellschaft zum ersten Mal ein Massenmedium entwickelt, dreht die Propaganda durch. Europa, Japan und Amerika haben diese Entwicklung in der ersten Hälfte des 20. Jahrhunderts vollzogen und dabei zwei Weltkriege ausgetragen. China machte diesen Prozess während der Kulturrevolution durch. Die muslimische und die afrikanische Welt sind gerade mittendrin. Sie erleben derzeit die volle Wucht moderner Propaganda. Die Leute drehen einfach durch, und es dauert eine Generation, bis sie sich daran gewöhnt haben, bis sie desensibilisiert sind. … Darauf kann man nur mit Technologie reagieren. Das ist die einzig erdenkliche Möglichkeit, mehrere Millionen Menschen rasch einzubeziehen und ihnen Bildung zu vermitteln.

Einen interessanten Beitrag zur chinesischen Kulturrevolution gab es kürzlich bei WRINT.

Wenn man Lanier Texte im Zeitverlauf liest, spürt man deutlich, wie auf die hoffnungsfrohen Jahre der Technologieüberzeugung im Ende des letzten Jahrhunderts eine Ernüchterung folgt. Einerseits konnten durch Computer auf einmal viele Menschen neue Dinge tun, allerdings fielen unzählige Arbeitsplätze weg. Speziell die Musikindustrie hat einen deutlichen Umbruch erlebt, die Buchindustrie befindet sich jetzt noch darin. Großkonzerne kontrollieren unsere Daten und generieren daraus Milliardengewinne. Und doch hat uns die künstliche Intelligenz noch lange nicht unterworfen und jeden Tag geht die Sonne auf. Das digitale Zeitalter wird uns auch weiterhin mit Veränderungen und Herausforderungen konfrontieren, die jede Entwicklung mit sich bringt.

Categories
Sachbuch

Claude Cadoz – Die virtuelle Realität

Eine absolute Repräsentation, die garantiert, daß die Darstellung und das Dargestellte vollkommen identisch sind, ist im Übrigen unmöglich. Erstens gibt es keine Garantie dafür, daß wir nicht einen versteckten Unterschied übersehen haben, wenn wir ein Objekt für ein anderes halten. Die einzige absolute Repräsentation eines Objekts ist das Objekt selbst. Zweitens gibt es keine Sicherheit – wenn wir uns für ein Objekt interessieren, noch bevor wir seine Darstellung in Betracht ziehen und wir seine Grenzen festlegen, also entscheiden, was zu gehört und was nicht –, daß wir nicht eine wichtige Komponente ausgeschlossen haben, die für unsere aktuellen Erfahrungen unzugänglich, aber dennoch von entscheidender Bedeutung ist. Jedes Teilchen des Universums dehnt sich zusammen mit dem Universum aus, und daraus folgt, daß das einzige absolute Objekt im Universum, das man in Betracht ziehen kann, das Universum selbst – uns inbegriffen – ist. Wenn wir tatsächlich eine Repräsentation des gesamten Universums erstellen wollten mit einem ebenso mächtigen Computer, müßte man das Material für den Rechner irgendwo dem Universum entnehmen. Wenn wir eine Hälfte des Universums nehmen würden, um die andere Hälfte darzustellen, würden wir nur eine Hälfte des Universums repräsentieren. Und würden wir nicht außerdem nur die Tatsache darstellen, daß wir dabei sind, es zu tun? Daraus folgt, daß die einzig mögliche vollständige Repräsentation die des gesamten Universums durch sich selbst ist.

Hoch philosophische Abhandlung zum Thema virtuelle Realität. Es werden die zugrundeliegenden Mechanismen technisch aufs Wesentliche runtergebrochen (wenn man sich ein bißchen damit auskennt, erkennt man Dinge wieder), aber im Großen und Ganzen eignet sich das Ganze eher als Basis einer philosophischen Betrachtung (darf man das überhaupt (die Welt vervirtualisieren)? – siehe oben).