Was waren die Gründe dafür? Nun, die selbst ernannten Strippenzieher konnten die langfristigen Folgen ihrer Maßnahmen nicht voraussehen. Sie unterschätzten, dass es für jede scheinbar »richtige« Entscheidung eine Reihe von unbekannten kurz-, mittel- und langfristigen Folgen gab. Und sie unterschätzten die netzwerkartige Verbundenheit aller Elemente in Tanaland. Denn alles war mit allem verbunden. Ein Beispiel: Um die Landwirtschaft zu schützen, beschlossen Dörners Studenten, kleine Parasiten wie Ratten und Mäuse mit Gift und Fallen zu dezimieren. Mit der Entscheidung: »Rottet Ratten und Mäuse aus«, sollte das Problem eines möglichen landwirtschaftlichen Schadens gelöst werden. Doch die reale Welt ist kein lineares System. So kam es, wie es kommen musste. Weniger Ratten und Mäuse bedeuteten eine Zunahme jener schädlichen Insekten, die Ersteren zuvor als Nahrung dienten. Die Insektenbrut konnte sich nun unkontrolliert vermehren und fügte der Landwirtschaft am Ende des Tages einen deutlich höheren Schaden zu.

Der bereits zitierte Biologe Alberto Gandolfi beschreibt dieses grundlegende Merkmal von Komplexität so: »Nur selten ist es möglich, den mittel- und langfristigen Zustand des Systems durch unser Einwirken auf eines oder mehrere Elemente global vorherzusehen.« Anders ausgedrückt: Per Knopfdruck lässt sich ein komplexes System nicht steuern. Im Gegenteil: Es ist unvorhersehbar, nicht linear und damit nicht kontrollierbar. In einem Wort: Es ist ein grandioser Wirrwarr. Tausende von Elementen sind durch Wechselwirkungen miteinander verbunden, behindern und verstärken einander, überlappen und heben sich auf. Neudeutsch nennt man das ein Netzwerk. Ganz neudeutsch heißt es Ökosystem.

Ändert aber nichts am Prinzip: Zahlreiche Rückkoppelungen erhöhen die Komplexität. Sie basieren auf dem Prinzip: Das Ergebnis beeinflusst den Anfang. Und zwar auf zweierlei Weise: negativ und positiv. Ein Thermostat beispielsweise funktioniert negativ rückgekoppelt: Je niedriger die Außentemperatur, desto mehr heißes Wasser strömt in den Heizkörper. Ganz anders verhält es sich auf einer leeren Tanzfläche in einer vollen Diskothek. Das Ereignis ist positiv rückgekoppelt. Niemand tanzt, weil die Tanzfläche leer ist. Und da niemand sie betritt, bleibt sie leer. Der Output des Systems »leere Tanzfläche« verstärkt sich selbst. Fazit: Jedes komplexe System wird von Rückkoppelungen entweder gepeinigt oder gefördert.

Bereits diese Fahndungsbilder von Komplexität machen Menschen Angst. Deswegen rücken sie ihnen mit Planung und Kontrolle zu Leibe. Sie versuchen, prophylaktisch Fehler zu vermeiden, Probleme zu lösen und Rückkoppelungen zu vereinnahmen. Das System beherrschbar zu machen. Das Problem: Diese übertriebene Vorsicht produziert immer mehr Überwachung. Die Wachposten errichten immer höhere Zäune und Türme, um die wertvollen Inhalte nach außen abzusichern. Nichts darf mehr, nichts kann mehr passieren. Der Höhepunkt des linearen Herrschaftsdenkens! Aber zugleich auch ihr Ende, denn die Fehleranfälligkeit wird dadurch nicht gelindert. Als in einem heißen Sommer vor Jahren das US-Telefonnetz plötzlich zusammenbrach, fand man sehr schnell den Grund: Von den zwei Millionen Programmzeilen der Software, die das Netz am Laufen hielt, waren drei falsch. Der kleine Fehlerteufel sitzt eben überall. Es gibt kein Entrinnen.

Womit wir mitten in der Petersilie stehen: Je mehr fehlerfreie Technologie, in ein paar Jahren werden wir sie künstliche Intelligenz nennen (KI), produziert wird, desto komplizierter ist diese – und damit umso anfälliger für jeden noch so kleinen Planungs- und Konstruktionsfehler. Anders ausgedrückt: Je mehr Überblick wir anstreben, desto weniger Durchblick haben wir. Die Strukturen werden so kompliziert, dass ein einziger kleiner Fehler zum Chaos führen kann. Das macht Großtechnologien so verwundbar. Vor diesem Chaos fürchten sich technokratische, politische und ökonomische Allmachtsfantasten wie der Teufel vor dem Weihwasser. Chaos ist in dieser Lesart das Ergebnis jener vermeidbaren Fehler, die es systemisch nicht geben darf. Chaos ist die höchste Demütigung der herrschenden stabilen Verhältnisse. Die korrespondierende Null-Fehler-Kultur ist jedoch die Kehrseite des totalen Überblicks. Beide tragen den Keim der Selbstzerstörung in sich. Denn sie verwechseln Komplexität mit Kompliziertheit. Und fürchten sich vor allen Formen der Unruhe. Quod erat demonstrandum!