Shifting Baselines

Bei mässiger Motivation lümmelte die Frage im Hinterkopf herum – bis mir @Gerald Lembke einen Flo ins Ohr gesetzt hat …; also gut. Hörbücher zitieren sich mühsam; ein günstiges Exemplar von rebuy würde helfen. Das hab ich dann gelesen. Durch! Von Anfang bis Ende. 

Der zweite Eindruck machte die Sache nicht besser. Während der Lektüre wuchsen meine Notizen ins Unzumutbare: sechs Anfänge, 74 Zitate, über 9.000 Wörter, das will doch keiner lesen. Hab dann alles in die Tonne getreten und nochmal von vorn angefangen. Das ist jetzt also die „Kurzfassung“.

Warum suchen Sie nach Menschen?
Um Euch zu befreien.
Befreien?
Einst haben die Menschen den Maschinen
das Denken übertragen, in der Hoffnung,
dass sie das befreien würde.
Doch statt dessen ermöglichte es nur
anderen Menschen mit Maschinen, sie
zu versklaven. 
„Du sollst keine Maschine nach dem Bild 
des Geistes eines Menschen fertigen“,
zitierte Paul. Die Alte nickte. 

Frank Herbert, Der Wüstenplanet, (1965)
München 1978

I.
Manchmal schmerzt der Blick in den Spiegel: Irgendjemand tut etwas, und plötzlich erkennst Du Deine eigenen Schwächen, sozusagen am Beispiel. Mein Problem mit Precht: derisjawieich! Zu unseren Gunsten sollten wir annehmen, er würde sich dagegen verwahren!

Nothing is written. 
Das ist Prechts Credo. „Wir“ können „es“ ändern, auch wenn „es“ unabänderlich ausschaut. Nun ja, … das ist die Frage! Ich möcht das schon glauben, komme aber immer wieder zu einem anderen Ergebnis! Mein Denken ist vom „Research“ geleitet: ich lese Studien, Statistiken und Prognosen(!), analysiere die Kräfte oder Trägheiten, die daraus resultieren. Erst im zweiten Schritt, für das Gesamtbild, ziehe ich „intellektuelle Quellen“ zurate, Philosophen, Soziologen, den Zeitgeist, vor allem jüngere Denker. Precht dagegen hat sich durch die gesamte Philosophie gefräst. Da steht er nun, der arme Tor, und illustriert er seine Zeitdiagnose mit gut abgehangenen Weisheiten. Ich werde das weder anschwärzen noch diskreditieren, sage jedoch, dass mein Vorgehen eher „aus der Zukunft zurück“ blickt und seines eher „aus der Vergangenheit voran“. 

Jetzt also geht es um die Künstliche Intelligenz (KI). Auch hier: Precht weiss Bescheid, kennt die „üblichen Verdächtigen“. Er ist kein Schmalspurphilosoph! Sein Horizont ist breit aufgespannt, seine Bildung ist auch klug, und, übrigens, weltanschaulich – Ökologie, Kapitalkritik, Weltumbau etc. – finde ich mich meistens … in seiner Nähe. Precht ist … ein Volkspädagog, ein Ideologe, vielleicht ein liberaler Linker, zumindest ein Linksliberaler. Wir kommen zurecht … solange wir einer Meinung sind. In Sachen KI sind wir es nicht.

II.
Das Buch – ist ein publizistischer Lückenfüller. Wer den Autor verfolgt, weiss, dass er sich auf der Zielgeraden seines Magnus Opus befindet, einer fleissig ausladenden Philosophiegeschichte [qtip:(1)| Teile daraus, etwa die Passage über Bentham (Teil III, S. 140ff), hat er übernommen, streckenweise wörtlich; … man muss ja das Rad …]; der Historie letzter Teil, „Mache die Welt“, soll erst in einem Jahr erscheinen; das dauert noch! Anfrage vom Verlag (so stell ich mir das vor): Und der Umsatz? (Precht ist schon eine sichere Bank!) Auch Frau E. drängelt, persönlich, den Autor zieht es halb, halb sinkt er nieder. Steile These, klar. Erklärt aber vielleicht das Ärgernis, intellektuell und auch in editorischer Sicht. Dafür spricht 

1. es steht wieder einmal wochenlang in der Spiegel Bestsellerliste. Vor allem aber
2. das schlampige, gleichsam gehetzte Format des Werkes – es liest sich wie aus geistigem Stehsatz diktiert. „Das Buch wurde in den viel zu warmen Wintertagen dieses Jahres geschrieben, und es war noch nicht beendet, als das Coronavirus die Welt stillzustellen schien, …“ (6; Hervorhebungen von mir); fertig Ende März. Also 3, 4 Seiten am Tag, ohne einen zweiten Durchgang kann man das schaffen. Bereits am 15. Juni ist es im Handel – ein Schweinsgalopp, Parole Cash Flow. Nicht einmal für ein Inhaltsverzeichnis fand sich die Zeit – das, kleiner Leserservice, anbei (Dank an M.B.!). Und sachlich? Den mitunter jugendlichen Umgang mit Argumenten und Adjektiven, etwa, wenn es um die dunklen Täter des Silicon Valley geht, hätte ein ordentlicher Lektor vermutlich mässigend bearbeitet, wenn … man ihn denn gelassen hätte. Dem oder der wäre dann sicher auch aufgefallen, dass Kubricks Odyssee zum Jupiter ging, nicht zum Mars; aber gut, sind wir nicht kleinlich.

Einerseits, andererseits; Precht macht es mir schwer. Das war schon bei „Jäger, Hirten, Kritiker“ so. Ich freu mich, wenn ein Grosskopferter wie Precht meiner Meinung ist – weltanschaulich –, doch Zeilen später frag ich mich, ob der wohl noch alle Tassen sortiert hat; in Sachen KI stehn mir die Haare mitunter bergauf. 

III.
Beispiel: Vehement wettert Precht gegen die Selbstverzweckung des Menschen als eine Art Krankheit, ein Virus – dessen Verbreitung er seinen Lieblingsfeinden anlastet, den Post- und Transhumanisten (kurz: x-Humanisten). Es geht ihm um einen Ordnungsrahmen für den Einzelnen und das Wesentliche einer (individuellen) Existenz, die er – mit Kierkegaard – nicht im Vorgefundenen, sondern im Erfundenen verortet. „Aber dieses Erfinden kann niemals ein technisches sein …“. Seitenlang: sich selbst als Teil der Spezies Mensch technisch verbessern zu wollen, bliebe immer „äusserlich und engt meine subjektive Wahlfreiheit empfindlich ein. 
Wer Menschen durch Human Enhancement optimieren will, nötigt sie im Zweifelsfall sogar dazu, freiwillig etwas zu wollen, was niemanden dauerhaft glücklich macht.“ (S.85)

Was Partytalk! Auch mir unterlaufen schon mal solche Klöpse, aber will ich sie gedruckt sehen?
Lies es noch mal: Da ist also so ein x-Humanist, der etwas will. Durch diesen Willen werden jetzt Menschen genötigt? – Wie geht das? [qtip:(2)| Ich, zum Beispiel, will im Lotto gewinnen … wen könnte ich nötigen? Weiss Precht Rat?] Und worin oder woraus genau bestünde nun die auf den Genötigten ausgeübte Kraft, die diesen zum Aufgenötigten hin beeinflusst? Ich will ja nicht störrisch tun: vermutlich meint er peergroup pressure. [qtip:(3)| Unter umgekehrten Vorzeichen kennen wir die Diskussion, Stichwort: die „Abgehängten“ des digital divide.] Aber! Dieses Aufgenötigte wollen sie, die Menschen, dann freiwillig? Da komm ich jetzt schon ins Stolpern. Worin läge in dem Fall der nötigende Teil des Vorgangs, wenn dieser doch intrinsischen Impulsen folgt? Abenteuerlich! Und zu allem Elend macht das so umständlich Herbeigewollte nun auch noch „niemanden dauerhaft glücklich“; „dauerhaft“: ein bisschen also schon?, zwischendurch vielleicht? Und woher weiss Precht, was an Dauer erst eine fernere Zukunft belegen könnte? Und jenseits der sprachlichen Artistik die inhaltliche Frage, ein No-Brainer, eigentlich. Lass mich mein Kopfschütteln mal persönlich machen:
• Ich bin ein locked-In Patient. 
• Ich habe Muskelschwund.
• Ich habe Seheintrübung, Hörverlust, Konzentrationsabbruch.
• Mein Knie, meine Hüfte, ich habe Alter und einen Sack voll Zipperleins. 
Und all die Insuffizienzen zu behalten machte mich glücklich? Dauerhafter, als den Scheiss – und sei es technisch – abzuschalten? Ich kenne nur einen Fall, in dem eine solche cognitive oder organische Hypothek tatsächlich auf Dauer glücklicher macht, als jede Form des Enhancements: 
• Ich habe Dummheit.

Derlei argumentative Stammtischleistungen finden sich überall – ganz besonders aber in dem so polemischen wie ignoranten Umgang mit den inkriminierten x-Humanisten, denen er mehrere intellektuelle Blindstellen vorhält, darunter die ökologische. 

„Doch was die komplexen gesellschaftlichen Wechselwirkungen und Gefahren anbelangt, sind die Trans- und Posthumanisten der Gegenwart Old School. Als linientreue Kinder und Enkel der fortschrittsgläubigen Technik-Enthusiasten der Fünfziger- und Sechzigerjahre, der Zeit, aus der viele ihrer Gedanken stammen, denken sie unbeirrbar und unbelehrbar in alten Schablonen. Dazu gehört nicht nur der Tunnelblick auf Technik, sondern auch das Schema des unbegrenzten Wachstums und der unbegrenzten Ressourcen. Die dritte Scheuklappe, bereits am Anfang dieses Buchs skizziert, ist damit erneut benannt. Trans- und Posthumanisten kennen keine ökologischen Probleme, Tiere spielen nur als kognitive Mängelwesen eine Rolle, und die Umwelt ist schlicht »Ressource«.“ (S. 89)

Die Breitseite ignoriert, dass viele der so in die Ecke Gestellten die Potentiale des zweiten Maschinenzeitalters in grosser Sorge diskutieren und die Menschheit vor möglichen Gefahren maschineller Autonomie bewahren wollen. Es sind Wissenschaftler, die, immerhin, nicht „erst mal was erfinden", um dann zu merken, was sie angerichtet haben. Precht ist der Meinung, dass sie sich die „falschen“ Sorgen machen. Aber bitte – Kritik ist immer zulässig! Der pauschal unterstellte Tunnelblick mag auf einige zutreffen, … auf andere nicht. Nick Bostrom z.B., auf dem Precht besonders gerne heftig herumhackt, verweist im Kapitel „Collective Superintelligence“ explizit auf eben diese vermeintliche ökologische Blindstelle. Zeitgleich mit Prechts Buch erschien von Bostrom „Die verwundbare Welt“ [qtip:(4)| Nick Bostrom, "Die verwundbare Welt", Berlin 2020]. Dort spricht er nicht über Emissionen oder Wachstum, er verortet die Ökologie auf der Ebene der Verhaltenstreiber: „Die globale Erwärmung wäre kein Problem, wenn nur ein kleiner Teil derjenigen, die Autos fahren oder viele Bäume fällen können, dies auch täten. Das Problem entsteht nur, weil viele Akteure diese Entscheidungen treffen, und damit das geschieht, müssen die Entscheidungen auf starken, breitenwirksamen Anreizen (wie Geld, Status oder Komfort) beruhen.“ (S. 37). Precht konnte das nicht kennen; ich will nur zeigen, dass Bostrom anders denkt, jedoch nicht die Probleme leugnet.

Ebenso gern beschimpft: Ray Kurzweil. Das Suchwort „ecology“ zeigt auf dem Singularity hub (mitbegründet von Ray Kurzweil) 75, das Suchwort „climate change“ 164 Fundstellen. Viel ist das nicht! – aber es ist auch kein Zeichen von „Verschweigen“ oder Scheuklappen. Bei Elon Musk, dem „Fantasten“ mit den vollmundigen Versprechungen, steht die Ökologie [qtip:(5)| siehe das Interview mit Kara Swisher – youtube sM9RyZT0Rrg] sehr wohl an der Spitze seiner Agenda. „We need a revolte against the fossil fuel industry!“ – DESwegen Tesla und SolarCity! – nur fürchtet er eine katastrophale Entwicklung auf der Erde: DESwegen will er zum Mars.

Man könnte auch akademisch argumentieren, dass jemand, der sich das Thema „Superintelligence“ oder „Singularity“ vornimmt, nicht notwendig auch zu den Themen Gender, BLM, Populismus oder zu anderen Problemen des Weltgeschehens – Ökologie eben – Stellung beziehen muss – oder möchte. Precht äussert sich gern in aller Breite; andere, die sich selbst vielleicht eine nur schmalere Kernkompetenz zubilligen, bleiben, und sei es aus Selbstschutz, vielleicht lieber „bei ihrem Leisten“. Unabhängig von dieser formalen Sicht, bin ich, wie Precht, der Meinung, dass es Probleme erster Ordnung – und dazu zähle ich die Ökologie – und Probleme n-ter Ordnung gibt, und das jeder Citoyen, der eine Stimme hat, zu den Problemen erster Ordnung Position beziehen sollte.
Mindestens muss ich auch dann zur Kenntnis nehmen, dass viele „fortschrittsgläubige Technik-Enthusiasten“ glauben, dass, und zwar aus Gründen der anthropologischen Unzulänglichkeiten (–> Trump, QAnon, Wachstumsfetisch etc …) nur Technik die genannten Probleme lösen kann – oder „sowieso“ lösen wird. In genau diese Richtung argumentiert Kurzweil. Solche realitivierenden Statements sind alle nur ein paar Klicks entfernt, aber Precht liegt nicht an einer gerechteren Darstellung; lieber haut er mit der Kapitalismus-Klatsche auf die x-Humanisten.

IV.
An Precht scheiden sich die Geister. Das liegt vor allem daran, dass er einer der klügsten Populisten dieser Republik ist. Einerseits verfügt er über alle Werkzeuge der Kritik – andererseits bringt er sie mal mehr und hier weniger konzentriert zum Einsatz. Nochmals am Beispiel:

„Zwischen unserem Gehirn und unserem übrigen Leib spielen sich allerfeinste Prozesse ab, ohne die wir gar nicht denken können. Die alte Vorstellung des französischen Barockphilosophen Rene Descartes, wonach unser Geist eine Art Gespenst in der Maschine des Körpers ist, ist definitiv falsch. Das eigene Bewusstsein in eine Maschine übertragen zu können bleibt deshalb ein Irrtum. Jenseits seines Körpers ist Homo sapiens kein Leben möglich, und der komplette Austausch von Leib und Maschine bleibt auf ewig Fiktion. Das hat ohne Zweifel etwas Beruhigendes.“ (S. 71; Hervorhebungen von mir)

WEIL es falsch ist, ist es ein Irrtum, und zwar auf ewig. Himmel hilf! Das Zitat ist aus dem Zusammenhang gerissen, jaja; nur steht weder vorher noch nachher ein Beleg für seine „falsch–>Irrtum–>ewig – Kausalität“.
Ich selbst weiss nicht, ob es diesen Austausch oder Upload geben wird und will es also auch nicht behaupten. Was mir aber immer eingeleuchtet hat, ist das Gesetz vom Steigenden Ertragszuwachs: The more you get the more you get. Wir leben noch immer am Beginn der technolitischen Explosion: Was möglich wird, ist durchaus unerkennbar. Deswegen tu ich mich schwer, wenn mir jemand mit Glaubenslehren und Zirkelschlüssen kommt. Und es sind nicht nur flache Sätze oder schwache Argumente, die mir das Buch verleiden, es sind auch fundamentale Unzulänglichkeiten.

„Der Mensch, wie wir ihn heute kennen, ist kein Problem, das auf eine Lösung wartet; auch nicht auf eine Erlösung. Würde man Menschen dramatisch verändern, so hätten sie wahrscheinlich weit mehr zu verlieren, als zu gewinnen. Denn jede trans- oder posthumanistische Revolution verringert offensichtlich genau das, was den Menschen ausmacht: seine Humanität.“ 

Ist das so? Woher weiss er das? Könnte es nicht sein, dass der von seinen Insuffizienzkomplexen und existentiellen Nöten befreite Cyborg eine sehr viel höhere Humanität entwickelt?
Und wenn es anders wäre: welcher Anthropozentrismus legitimiert denn die Humanität als eine höherwertige, „übergeordnete“ Kategorie? Precht weiter: 

„Perfektion, unbestechliche Rationalität und rasante Verarbeitung ungeheurer Datenmengen mögen beeindruckende Dinge sein, dass sie Menschen grundsätzlich glücklich machen und ihrem Leben Sinn verleihen, ist, vorsichtig gesagt, äußerst unwahrscheinlich. Und dass es das Ziel sein soll, selbst mehr und mehr zu einer Maschine zu werden, ist nur befremdlichen Menschen eingängig.“  (S. 73 – Hervorhebung von mir)

Von denen es aber offenbar eine ziemlich grosse Anzahl gibt, wenn sie nicht gar in der Mehrheit sind [qtip:(6)| 60 Seiten später (138) konstatiert Precht das Offensichtliche selbst: „Und der kommerzielle und verinnerlichte Imperativ, nach dem Optimum zu streben, sorgt dafür, dass die Probleme nicht weniger werden.“ – Hervorhebung von mir]. Umgekehrt nämlich: in der Leistungsorientierung fast aller Gesellschaften, mindestens aber ihrer Mittelschichten(!), erkennen wir die stete Optimierung, Standardisierung, Maschinisierung als ein subkutanes Ideal – das in vielen distinkten Formen auftritt: 

• sei es als Erlebnis, mit der Maschine zu verschmelzen (Radsport, Formel 1, Fliegen, Gaming …), 
• sei es, in dem Menschen maschinenähnlich Leistungen reproduzieren (Fliessband, Tennis-Aufschläge, den Gartenzaun streichen …) oder 
• sei es, in dem Menschen zur besseren oder sogar optimierten Leistungserbringung Maschinenattribute in sich aufnehmen (Herz- oder Hirn-Schrittmacher, Retina- oder Cochlea-Implantate, Endo-Exo-Prothesen und sogar Chips …). 

Und vielleicht wollen wir „nur spielen“? Aber Spass beiseite: Die oder wenigstens eine Sollbruchstelle in Prechts Argumentation ist die Zuweisung der falschen Motive. Menschen wollen nicht ob des Maschinellen zur Maschine transzendieren. Das eigentliche Motiv ist ein Schwäche- oder Verletzlichkeitsgefühl. Mehrheitlich wollen sie „nur“ solche Schwächen vermeiden oder abstellen, die ihnen (vermeintliche? - kann sein) Überlebens-, Reproduktions- oder auch nur Wettbewerbsnachteile einbringen. Das mag man als Ausfluss kapitalistischen Utilitarismus brandmarken, vielleicht, aber eben nicht als (versagende oder fehlgeleitete) Sinn- oder Glückssuche. Auch wenn sich in der Optimierung oder im Enhancement tatsächlich nicht „der Lebenssinn“ erfüllte, es fiele mir schwer, ihn in einer resignierenden Akzeptanz der eigenen Unzulänglichkeiten zu erkennen. 

V.
Precht’s Widerspruch ist nicht bloss am Technischen und einer etwaigen Cyborgisierung des Menschen orientiert, er verteidigt eine insgesamt schon überraschende Human-Romantik. Letztlich stemmt er sich gegen das Technozän!

„Wenn die wahre Bestimmung des Menschen stets in einer imaginären Zukunft liegt, bleibt die Gegenwart stets beschädigt zurück. Sie ist nur eine Vor- oder Zwischenstufe zu etwas Besserem und damit per se unvollständig, verbesserungsbedürftig und defizitär. Menschen, die ihre Welt so mögen, wie sie ist, nicht irgendwie höher kommen wollen und sich nicht auf künftige Supertechnik freuen, sind rückständig und nicht zukunftstauglich. Für Trans- und Posthumanisten halten sie mit ihrer Zufriedenheit im Hier und Jetzt den Fortschritt der Menschheit auf.“ (S. 82, Hervorhebung von mir)

Ein schwaches Argument: jedes Streben überwindet die Gegenwart – das Bessere ist der Feind des Guten. Das hat ja mit KI, technischer Entwicklung oder x-Humanismus nichts zu tun, denn der Vektor heraus aus der Gegenwart treibt den Menschen solange er hofft! Precht beklagt den Hang, den Trend, den Zwang schliesslich, zur Selbstverzweckung. „Wer zufrieden ist, verweigert diesen vorgezeichneten Fortschritt, den Menschen wie Kurzweil, Musk, Bostrom und Wozniak ihm einbläuen wollen.“ (S. 82) 

Bleibt als Frage, wo wohl der Sinn des Lebens zu liegen käme, wenn die Zwecke ausscheiden? Es ist ja umgekehrt gerade die Lebenskunst des Einzelnen, der Leere des Seins und der Abwesenheit einer Bestimmung mit Geist und Spucke einen Sinn, ein Ziel, einen Zweck einzuhauchen. Dass der tatsächlich oder gar ausschliesslich in einer kapitalen Verwertungslogik zu finden wäre, das will ich (mit Precht) gern bestreiten, aber in welche andere Logik – eines besseren, guten, solidarischen oder intelligenteren Lebens – sich ein Ziel einreiht, die Frage muss dann schon noch beantwortet werden. Back2Nature etwa? Selbstverständlich bestreite auch ich die krankhaften Auswüchse von „Fremdbestimmungen“, wenn Kindern Ritalin verabreicht wird, oder Japaner sich zu Tode arbeiten, aber wer oder was der Treiber und wer oder was der Getriebene ist, wenn es um die Optimierung von Leistung und Fähigkeiten geht –, da wäre ich mit einer pauschalen Zuweisung zögerlich – und würde jedenfalls nicht die x-Humanisten dafür an die Wand nageln.

VI. 
Wie ich nun weder Lektor noch ein ausgewogener Kritiker des Precht’schen Werkes sein muss, entscheide ich mich dafür, dem Autor im Grundsätzlichen zu widersprechen und ihm all seine nachrangigen Polemiken, vielfältigen Argumentationsschwächen und sonstigen Nickeligkeiten nur pauschal anzukreiden. Vieles ist unter seinem Niveau. Wirklich ärgerlich ist der Themenverbrauch. Precht verfügt über eine exponierte, zugleich breitenwirksame Stellung in jenem Teil der Öffentlichkeit, in dem das Nachdenken vor der Parole stattfindet. Der wird er nicht gerecht. 

… Grundsätzlich … also widerspreche ich Precht in seinem MindSet und in seiner Perspektive, seiner technologischen aber auch der respektiven politischen Haltung. 

Das MindSet fasse ich einmal so zusammen: Precht unterstellt ein demokratisches Gemeinwesen, das, so es denn im Kant’schen Sinne „seine selbst verschuldete Unmündigkeit“ überwände und sich der versammelten eigenen Urteilskraft bediente, zu regeln und einzugrenzen in der Lage wäre, was an Risiken erkennbar sei.

Technologisch widerspreche ich seiner Haltung, nicht weil ich besser wüsste, was er bestreitet, sondern weil ich für möglich halte, was denkbar ist. Mehr noch, weil ich glaube, dass alles, was denkbar ist, nicht notwendig, aber zwangsläufig – nämlich aus Gründen des Eigensinns und des Wettbewerbs, des Ehrgeizes und der Ruchlosigkeit – auch angestrebt wird.

Seine Perspektive dabei ist national; nirgendwo in seinen Überlegungen trägt er der Tatsache Rechnung, dass alle Entwicklungen, die er behandelt, transnational, global, vernetzt und verschränkt sind. Als würde eine – im Sinne seines MindSets – regulierte nationale Entwicklung „das Problem“ auflösen.

Und politisch schliesslich widerspreche ich ihm, weil mir der rational gutwillige, auf Vernunft hoffende, romantische Humanismus – die (vor allem ölologisch erzwungene) Rückbesinnung des Menschen auf seine naturgebundenen Voraussetzungen und  Umstände – untauglich erscheint, um die bereits freigesetzten Kräfte zu domestizieren.

MindSet
„Wir“ können das Ruder noch herumreissen – ja, da würde ich ihm schon, eigentlich, gerne zustimmen. So ein nacktes Wünschen hilft jedoch wenig! Um zu den notwendig radikalen Änderungen vorzudringen, muss uns etwas anderes einfallen, als auf eine aufgeklärte Intervention des Volkes zu hoffen. Das fängt schon mit dem „Rumreissen“ an: wohin? Nimm Corona: Es ging „irgendwie ganz gut“, als die Regierung ohne viel Federlesen und mit Sondervollmacht den Weg wies; dann kamen die Experten, dann die Medien, dann die Ministerpräsidenten, dann die Demos, dann die Parties – und dann die zweite Welle! Im Palaver der Interessen reiben sich die Sachzwänge die Hände. Entropie: je länger wir diskutieren, desto weniger erreichen wir. „Wir sind das Volk.“ Na gut, aber viel mehr weiss das Volk nicht. Und wenn schon Precht nur ungefähr versteht, was in der KI-Entwicklung vonstatten geht, auf welche demokratische Meinungsbildung wollte man dann hoffen?

Der kardinale Fehler der Precht’schen Haltung aber liegt darin, dass er blauäugig von einer Position aus argumentiert, von der aus mit den Mitteln des Diskurses etwas zu vermeiden wäre: Nothing is written. Das ignoriert die obwaltenden Kräfte. 

Technologisch
Im Jahr 2011 haben die Stanfordprofessoren Sebastian Thrun und Peter Norvig ihre Vorlesungsreihe „Introduction to Artificial Intelligence“ erstmals online abgehalten: Mehr als 160.000 Hörer aus 209 Ländern hatten sich dazu angemeldet. 20.000 von ihnen beendeten das Seminar erfolgreich! Das ist knapp 10 Jahre her: wieviele Studenten werden wohl seither vergleichbare und vor allem auch vertiefende Inhalte inhaliert haben? Wieviele bauen darauf ihre Zukunft? Wieviele Forscherteams oder Unternehmensgründungen sind seither entstanden? Und diese Skills und Ambitionen bekommen alle Mittel, die sie brauchen!

Precht ignoriert, dass seit 2015 in das Themenfeld KI ca. 80 Mrd Dollar in F+E, in Startups und Unternehmen investiert worden sind. Mit weiteren Abermilliarden finanzieren die USA, China, die EU, Israel – und wer noch – jährlich die Grundlagenforschung. pwc erwartet, dass „AI could contribute up to $15.7 trillion to the global economy in 2030,“ die den KI-Themenfeldern Qualitätsverbesserung (25%), Personalisierung (20%) und Arbeitsproduktivität (55%) zuzuordnen sind. 

Angesichts dieser regelrecht grobgewaltigen Entwicklungen erscheint Precht mit seinen ungezügelten Polemiken und pastoralen Deduktionen eher wie ein Vertreter Roms, um dessen Welt noch immer die Sonne kreist. Vor allem aber bellt er zum falschen Mond! Es sind nicht die vermeintlichen Visionäre oder x-Humanisten, die die Entwicklungen treiben, sondern ökonomische Interessen und deren Berater (McKinsey verortet 69% aller AI-Investments Unternehmens-intern und 23% in spekulativen Engagements/VC). 

Was hier wie Bildungs- und Investitionstrends ausschaut, sind tatsächlich Ursachen von Wirkungen: Meine These ist, dass die in der Öffentlichkeit diskutierte KI mehr mit Vorstellungen zu tun hat, die über die letzten 40 Jahre entstanden sind, als mit den Ergebnissen, die bereits jetzt kontinuierlich in die Ökonomie diffundieren. Deswegen ist es regelrecht sträflich, dass Precht mögliche Risiken, die aus einem „sich verselbständigenden Maschinenwillen“ entstehen könnten, schlicht für unsinnig erklärt: Maschinen hätten keinen und bekämen auch keinen Willen. Ich ahne, dass Precht sich dessen auch nicht so sicher ist; er will aber, peace in our times, den Gedanken gar nicht erst zulassen. Mit ausladenden Argumenten widerspricht er jedem Versuch einer „ethischen“ Programmierung, streitet vehement gegen autonome Fahrzeuge (ohne mich!) und Waffen (bin dabei!) und verteufelt die Kommissionen und Ratgeber, die mit soliden Sowohl-Als-Auchs ihre Konferenzsessel festhalten (SEHR einverstanden).
Doch die Hunde bellen, die Karawane zieht weiter.

Perspektivisch
Nach eigenen Angaben verfügt Google weltweit über 21 Rechenzentren plus 12, die im Bau sind. Nach älteren Spekulationen waren es (2011) über 1.000.000 Rechner, die in diesen Zentren arbeiten; zehn Jahre später werden es nicht weniger geworden sein! Kaum knapper dimensioniert ist die Infrastruktur von Amazon: 23 Rechenzentren plus drei im Bau. Weltweit gibt es vermutlich 15.000 Rechenzentren, die geschätzte 25 qKM Fläche überdecken und grob gepeilt 500 bis 1.000 Millionen Rechner beherbergen. Im Franfurter DeCix-Knoten werden 2020 erstmals 9 Terabit/s verarbeitet …   

Ich halte die Idee, Daten mit demokratischen Mitteln einhegen zu wollen, für naiv; ohne einen lückenlosen Zugriff auf die Netz-Infrastruktur ist der Begriff Kontrolle eine Worthülse. Ansätze davon lassen sich allenfalls dort beobachten, wo mindestens autokratische Systeme herrschen. Angesichts der systematischen Deregulierung – zumindest im Westen – müssen wir davon ausgehen, dass entwickelt wird, was denkbar ist; unabhängig von Regeln, Gesetzen oder sonstigen staatichen Vorgaben. Analog zur Genforschung [qtip:(7)| mit Verweis auf den Fall He Jiankui und das erste Gen-manipulierte Baby der Welt] müssen wir annehmen, dass „avanciertere“ Entwicklungen eben dort stattfinden, wo sie nicht kontrolliert oder „behindert“ werden. Die unregulierte Verbreitung von Daten ist Bedingung der Möglichkeit eines „KI-Unfalls“, also einer – noch fiktiven – Entwicklung, in der von „irgendeinem“ Zugriffsrechner ein fehlerhafter/krimineller/herostratischer/kriegerischer Zugriff auf globale Datenstrukturen erfolgen könnte. Derzeit verhindern Firewalls solche Unfälle – glauben wir. Ob sie stattfinden, wissen wir nicht. Was aber auf irgendeinem Zugriffsrechner an Spezifikationen und/oder Algorithmen entwickelt wird, entzieht sich jeder Kontrolle. Käme es zu einem „KI-Unfall“, so würde er sich mit der Lichtgeschindigkeit des Netzes ausbreiten. Jede philosophische Vorstellung davon, dass nationale, demokratisch herbeigeführte Regelungen dem vorbeugen könnten, sind … uninformiert. 

Politisch
Precht hat die Frage falsch gestellt: Nicht die Künstliche Intelligenz und „der Sinn des Lebens“ wären zu diskutieren; bereits im Titel kristallisiert die falsche Weichenstellung. Der dem Thema angemessene Titel hiesse vielleicht „Künstliche Intelligenz und das Dilemma der Politik“. Prechts Denken ist nicht auf der Höhe des Notwendigen. Er behandelt das Thema vom Katheder herab gleichsam abschliessend, dabei hat die respektive Entwicklung kaum begonnen. Er reproduziert und legitimiert eine affektive Abwehr von wichtigen und weitreichenden Fragestellungen. Das ist umso unverständlicher, als er – scheinbar – zugleich um die Risiken seiner Position weiss.

„Auf die Frage »Ist die Erde noch zu retten?« hatte ich geantwortet, ich sähe zwei große übergeordnete Tendenzen, ja, man könne sagen evolutionäre Bewegungen. Die eine sei der Versuch, aus dem gnadenlosen Prozess des Wachstums auszubrechen und die be-lebte Natur wiederzuentdecken, statt sie allein als Ressource zu betrachten. Diese Be-wegung dränge über kurz oder lang auf die Überwindung des Kapitalismus. Wer dies nicht wolle, der müsse sich wohl oder übel auf die Alternative, die Überwindung des Menschen, einlassen; dass sich Homo sapiens von den Fesseln seiner Biologie löst, »posthuman « wird und seine persönliche wie seine Gattungszukunft »postbiotisch« auf alternativen Datenträgern sucht; verbunden mit dem Versprechen von Unsterblichkeit.“ (S. 9)

Am Kreuzweg „Zukunft der Menschheit“ argumentiere ich selbst häufig mit einem Entweder-Oder: Ökologie oder Untergang. Weil ich so rede, weiss ich um die Schwächen dieser Alternative: denn wahrscheinlicher als ein Ende mit Schrecken ist ein Schrecken ohne Ende: nämlich eine toxische Mischung! Es ist ja nicht so, als würden Risiken grundsätzlich geleugnet oder verdrängt; nur eben grad genug, dass es die Geschäfte nicht stört. Was auf der einen Seite der verantwortungslose Kompromiss, das ist auf der andere Seite die pädagogische Hysterie. Da kommt uns so ein tipping point gerade recht, jenseits dessen „Eigendynamik“ das Kommando übernimmt. 

Erst im Verlauf der länglichen Auseinandersetzung mit Precht wurde mir klar, dass mein Unwille nicht eigentlich von seinem Pfarrerston – und nur auch von der Enttäuschung herrührt, sondern von dem dahinter liegenden politischen Dilemma genährt wird: Im Angesicht der dramatischen Probleme wünschen wir uns eine Tischvorlage in Schwarz-Weiss. Pro. Contra. Entscheidung. Fertig. Zugleich wissen wir, dass hell-, mittel- und dunkelgraue Wahrscheinlichkeit die Realität bestimmt – und am Ende, on top, und da beginnt so etwas wie Verzweiflung mit einem Fluchtpunkt im Irrationalen, wissen wir auch, dass weder polare Klarheit noch interessierte Kompromisse helfen werden. Wir sehen das uns bekannte politische Vokabular erschöpft! Rechts rum ist falsch und links rum auch, und in Gefahr und grosser Not bringt der Mittelweg den Tod.

VII.
Ich meine, in diesen vier Punkten die zentralen Schwächen des Precht’schen Denkens zumindest am Wickel zu haben. Daraus allein ist aber nicht ohne Umstände ableitbar, was denn eine den Problemen angemessene Haltung wäre (und es wäre eine Überfoderung dieser Buchkritik, das hier zu versuchen). Ich will aber wenigstens in die Richtung weisen, die, nach meiner Meinung, Precht hätte einschlagen müssen. 

Die prospektiven Probleme – KI&Robotik, Klima&Ökologie, Finanzen&Ökonomie – treten im Plural auf (so auch bei Precht). Gemeinsam jedoch ist diesen grossen Themenclustern, dass sie globale Wirkungen erzeugen (eine davon, die Migration, ist ebenfalls ein globales Problem). Precht ignoriert diesen Aspekt. Wenn es darum geht, globale Probleme zu diskutieren, zu adressieren, kontrollieren zu wollen, so geht es primär nicht mehr um ihre „fachliche“ Behandlung (… sekundär schon!). Noch die erfolgversprechendsten Massnahmen bleiben aber kosmetisch ohne eine strukturelle, globale Administration: die Bedingungen der Möglichkeit konsistenten, kohärenten und holistischen Handelns. Seit einiger Zeit und jetzt verstärkt durch Corona, so heisst es in Fachkreisen, sei die Globalisierung rückläufig, mindestens stagnierend. Mag sein; für Klima-, Finanz- oder Datenströme gilt das nicht. Hier evozieren nationale Regulierungsanstrengungen lediglich Problemmigration, und es ist eine natürliche Folge des Wettbewerbs, dass sich zu jedem zu regulierenden Sachverhalt stets auch Schlepper und Fluchthelfer finden.
Die Forderung nach einer Verlagerung der politischen Ebene auf ein transnationales Niveau – platt gesagt: in Richung UN –, ist dann nur logisch (auch wenn klar ist, dass die UN in ihrer gegebenen Verfassung dafür kein brauchbarer Adressat wäre). Natürlich: eine solche „Forderung“ entbehrte heute jeder realistischen Fundierung.

„Statt über einen Co-Existenzialismus mit Maschinen nachzudenken, sollten wir es mit dem Co-Existenzialismus mit Pflanzen und Tieren tun.“ (S. 241) 

Prechts Haltung dagegen ist in ihrem Realismusverlust rückwärtsgewandt. Wer mit „man müsste“ oder „wir sollten“ argumentiert, hat seine politische Position an die Hoffnung delegiert. Nun ist es nicht so, dass ich dafür kein Verständnis hätte! Aber wenn ich oder wir schon nicht darum herum kommen, weil sich die Realität, wie immer, als hartleibig erweist, dann doch wenigstens mit Bezug auf zukunftstaugliche Ziele: die Notwendigkeit globalen Handelns! Auch das hat seine Tücken und Fallstricke, denn als konsekutive Konsequenz ist mit diesem Transfer ein radikal verändertes Verständnis von Partizipation verbunden: unsere traditionellen politisch-demokratischen, wie auch die kommunikativen Instrumente wären den globalen Skalen nicht gewachsen. 

VIII.
Precht weiss um die Lücken seiner Argumentation: „Niemand wird die mit Milliardenkosten entwickelten selbstfahrenden Autos wieder vom Markt nehmen, weil sich die Einschätzung des Schadenspotentials geändert hat …“ Das gilt am Ende doch für alles und jedes! Et kütt wie et kütt! „Von der ehemaligen Kraft einer philosophisch begründeten Haltung bleibt nur noch ein Gefilz von Einzelproblemen übrig, das nirgendwo einen passenden Ort findet, um sichtbar ein Stoppschild aufzustellen.“ (S. 160) 

Folgt man einer der zentralen Thesen von Armin Nassehi [qtip:(8)| Armin Nassehi, "Muster", München 2019], so hat nur Bestand, was in der Gesellschaft einen Bedarf deckt. Das ist natürlich eine reichlich reaktionäre Haltung: Nach den Interessen, danach, wessen Bedarf gedeckt wird oder ob der gerechtfertigt ist, fragt sie nicht! Dennoch beantwortet sie die Frage des Stoppschildes: Nein! Es wird nicht nur keines geben, es bleibt auch keines gewollt. Da kann Precht noch so sehr mit dem Füsschen aufstampfen und mit dem Zeigefinger wedeln.