BUCH-TIPP: Nexus

Nexus – Eine kurze Geschichte der Informationsnetzwerke von der Steinzeit bis zur künstlichen Intelligenz

Yuval Noah Harari hat in den letzten Jahren einige Bestseller verfasst, darunter „Eine kurze Geschichte der Menschheit“, „Sapiens“ oder nun „Nexus“.

Informationsbegriff

Zu Beginn des Buches führt der Autor eine Definition des Begriffes Information, der sich zwischen Wahrheit, Ordnung, Weisheit und Macht bewegt.

Die erste große Informationstechnologie ist das Gespräch (Sprache), die zweite Informationstechnologie das geschriebene Dokument (Schrift). Neue Informationstechnologien führten in der Historie stets zu neuen Verbindungen, was letztendlich im Begriff Informationsnetzwerk mündete.

Politische Systeme als Informationsnetzwerke

Politische Systeme wie die Demokratie und der Totalitarismus können als unterschiedliche Arten von Informationsnetzwerken aufgefasst werden. Technologie schaffte über die Jahrhunderte neue Möglichkeiten und es liegt an uns zu entscheiden, welche wir davon in der Zukunft nutzen wollen.

Totalitäre Regime nutzen die moderne Informationstechnologie, um den Informationsfluss zu zentralisieren und die Wahrheit zu unterdrücken, mit dem Ziel, die Ordnung aufrechtzuerhalten. […] Demokratische Systeme nutzen die Informationstechnologie dagegen, um den Informationsfluss auf mehr Institutionen und Menschen zu verteilen und die freie Suche nach Wahrheit zu fördern.

Neue Informationsnetzwerke hatten in der Vergangenheit oft positive wie negative Auswirkungen.

Zu den unmittelbaren Folgen der Revolution des Buchdrucks gehörten neben wissenschaftlichen Entdeckungen auch Hexenjagden und Religionskriege, während Zeitungen und Radio sowohl von totalitären Regimen als auch von Demokratien genutzt wurden. Die Anpassung der Industriellen Revolution ging mit katastrophalen Experimenten wie dem Imperialismus und dem Nationalsozialismus einher.

Der Autor stellt die berechtigte Frage, zu welchen Auswirkungen die KI-Revolution führen wird. Den oft zitierten Chancen stehen zahlreiche historische Beispiele gegenüber, die das Pendel auch in die andere Richtung ausschlagen lassen könnten.

Informationsnetzwerke haben im Laufe der Geschichte oftmals die Ordnung über die Wahrheit gestellt und viel Macht aber oft wenig Weisheit hervorgebracht. Wird KI dieses Muster durchbrechen und die Wahrheit und Weisheit begünstigen?

Je mächtiger ein Netzwerk wird, desto wichtiger werden seine Selbstkorrekturmechanismen.

Selbstkorrekturmechanismen

Während in Demokratien Selbstkorrekturmechanismen weitgehend gut ausgeprägt sind, kann die Beseitigung dieser in totalitären Systemen durchaus eine gewinnbringende Strategie sein.

Der Autor appeliert an die Verantwortung, ausgewogene Informationsnetzwerke zu schaffen, die ihre eigene Macht in Schach halten:

Um weisere Netzwerke zu schaffen, müssen wir vielmehr sowohl das naive als auch das populistische Informationsverständnis aufgeben, unsere Unfehlbarkeitsfantasien ablegen und uns der harten und eher profanen Arbeit des Aufbaus von Institutionen mit starken Selbstkorrekturmechanismen widmen. Das ist vielleicht die wichtigste Erkenntnis, die dieses Buch zu bieten hat.

Selbstkorrekturmechanismen sind deswegen so wichtig, weil es leider unmöglich ist, sich im Vorhinein auf die endgültigen Ziele eines Computernetzwerks zu einigen.

Im Falle menschlicher Netzwerke verlassen wir uns auf Selbstkorrekturmechanismen, um unsere Ziele regelmäßig zu überprüfen und zu revidieren, sodass ein falsches Ziel nicht das Ende der Welt bedeutet. Da sich das Computernetzwerk jedoch unserer Kontrolle entziehen könnte, wäre es im Fall einer falschen Zielvorgabe möglich, dass wir unseren Fehler erst entdecken, wenn wir ihn nicht mehr korrigieren können. Manch einer mag hoffen, dass wir durch einen sorgsamen Abwägungsprozess die richtigen Ziele für das Computernetzwerk im Voraus festlegen können. Das ist freilich eine höchst gefährliche Illusion.

Das neue Computernetzwerk der Künstlichen Intelligenz ist nicht zwangsläufig gut oder schlecht.

Mit Sicherheit wissen wir lediglich, dass es andersartig und fehlbar sein wird. Wir müssen deshalb Institutionen schaffen, die nicht nur bekannte menschliche Schwächen wie Gier und Hass, sondern auch radikal andersartige Fehler im Zaum halten können. Für dieses Problem gibt es keine technische Lösung. Vielmehr handelt es sich um eine politische Herausforderung.

Regulierung von Big-Tech

Der Autor führt aus, dass immer mehr Dinge in Form von Information bewertet werden, während sie in punkto Geld „umsonst“ sind.

Derartige Geschäfte mit Information gegen Information sind bereits heute allgegenwärtig. Jeden Tag wickeln Milliarden von uns zahlreiche Transaktionen mit den Tech-Giganten ab, aber auf unseren Bankkonten könnte man das nie nachverfolgen, denn es wird kaum Geld bewegt. Wir erhalten Information von den Tech-Giganten, und wir bezahlen sie mit Information.

Daraus lässt sich die politische Forderung einer Digitalsteuer ableiten – dort wo Information generiert und letztendlich in Wert umgewandelt wird, muss auch eine Wertschöpfung verbleiben.

Staaten haben seit Jahrtausenden Erfahrung mit der Besteuerung von Geld. Aber sie wissen nicht, wie man Information besteuert – zumindest noch nicht. Wenn wir tatsächlich von einer Geldwirtschaft zu einer Informationswirtschaft übergehen, wie sollten die Staaten dann reagieren?

Die Zukunft der Demokratie ist von einer vernünftigen Reglementierung der neuen Technologie abhängig!

Historisch betrachtet war eine Massendemokratie die meiste Zeit unmöglich, weil die Informationstechnologie nicht weit genug ausgereift war, um eine politische Diskussion im großen Maßstab zu führen. Millionen von Menschen, die über Zehntausende von Quadratkilometern verteilt waren, verfügten nicht über die Mittel, um in Echtzeit über öffentliche Angelegenheiten zu debattieren. Jetzt könnte sich die Demokratie ironischerweise als unmöglich erweisen, weil die Informationstechnologie zu weit entwickelt ist. Wenn undurchschaubare Algorithmen den Diskurs übernehmen und vor allem, wenn sie begründete Argumente unterdrücken und Hass und Verwirrung schüren, lässt sich die öffentliche Diskussion nicht aufrechterhalten. Wenn Demokratien jedoch tatsächlich untergehen sollten, dann wahrscheinlich nicht aufgrund einer technischen Zwangsläufigkeit, sondern aufgrund des menschlichen Versagens bei der vernünftigen Reglementierung der neuen Technologie.

Bots verbieten

Auf linux-bildung.at haben wir bereits öfters ausgeführt, dass die Big-Tech Machenschaften die Demokratie gefährden.

Im Angesicht der Bedrohung, die Algorithmen für den demokratischen Diskurs darstellen, sind die Demokratien keineswegs hilflos. Sie können und sollten Maßnahmen ergreifen, um die KI zu reglementieren und zu verhindern, dass sie unsere Infosphäre mit Fake News von Fake-Menschen verschmutzt.

So wie Staaten es bis jetzt geschafft haben, Geldfälschung erfolgreich einzudämmen, müssen sie auch Wege finden um Menschenfälschung in Form von Bots zu verhindern.

Wenn Regierungen entschiedene Maßnahmen ergriffen haben, um das Vertrauen ins Geld zu schützen, ist es sinnvoll, ebenso entschiedene Maßnahmen zu ergreifen, um das Vertrauen in Menschen zu schützen. Vor dem Aufkommen der künstlichen Intelligenz konnte sich ein Mensch für einen anderen ausgeben, und die Gesellschaft bestrafte solche Betrügereien. Aber die Gesellschaft hat sich nicht die Mühe gemacht, Menschenfälschungen zu verbieten, da es die Technologie dazu nicht gab. Jetzt, da sich die KI als Mensch ausgeben kann, droht sie das Vertrauen zwischen Menschen zu zerstören und das gesellschaftliche Gefüge aufzulösen.

Es geht hierbei aber nicht darum, sämtliche Bots, AI-Algorithmen und KIs von der Teilnahme an Diskussionen auszuschließen sondern jenen Teil, der vorgibt Mensch zu sein. Ein KI-Arzt muss beispielsweise von einem menschlichen Arzt unterscheidbar sein.

KI-Vorherrschaft

Das Rennen um die KI-Vorherrschaft führen derzeit die USA und China. Wirtschaftsembargos konterkarieren die Errungenschaften der Globalisierung und führen letztendlich dazu, dass in Zukunft US-Software auf US-Hardware und chinesische Software auf chinesischer Hardware laufen wird.

Das Bilden großer rivalisierender Machtblöcke führt in Folge zu einer reduzierten Zusammenarbeit, um die ökologische Krise zu bewältigen oder die künstliche Intelligenz und andere disruptive Technologien wie das Bioengineering zu regulieren.