KI-Kritik

Der umgekehrte Zentaur

Am 23. Juni erschien Cory Doctorows neues Buch „The Reverse Centaur’s Guide to Life After AI“. Als Vorgeschmack für alle, die auf die deutsche Übersetzung warten, haben wir eine Rede von 2025 übersetzt, die seine Gedanken vorzeichnet – sorgfältig von Hand natürlich, denn KI wäre ihm nicht gerecht geworden.

Wer schon vor der deutschen Buchausgabe wissen möchte, wohin Doctorows Gedanken führen, findet hier einen guten Einstieg: Der folgende Text ist keine Vorabveröffentlichung aus dem Buch, sondern die Übersetzung einer Rede, in der er dessen zentrale Ideen bereits vorzeichnet.

Doctorow veröffentlicht seine Texte unter freier Lizenz und hat unsere Übersetzung ausdrücklich begrüßt. Wir haben versucht, neben seinen Argumenten auch seinen unverwechselbaren Stil möglichst gut ins Deutsche zu übertragen. Wir haben den Text gekürzt, gegliedert und mit Zwischenüberschriften versehen. Zusätzlich veröffentlichen wir den händisch übersetzten Text auch noch einmal in voller Länge. 

Der umgekehrte Zentaur: Ein Leitfaden zur KI-Kritik

Text: Cory Doctorow
Übersetzung & Redaktion: Bernd Sieker, Leena Simon

Ich bin Science-Fiction-Autor. Das heißt, es ist meine Aufgabe, mir futuristische Parabeln über unsere gegenwärtige sozio-technologische Situation auszudenken. Nicht nur, um zu hinterfragen, was ein Gerät tut, sondern für wen es das tut und wem es das antut.

Ich mache keine Vorhersagen über die Zukunft. Niemand kann die Zukunft vorhersagen, und das ist auch gut so. Wenn die Zukunft vorhersagbar wäre, hieße das, dass nichts, was wir tun, sie ändern könnte. Es würde bedeuten, dass die Zukunft wie auf Schienen läuft und nicht gelenkt werden kann.

Mein Gott, was für eine trostlose Vorstellung!

Diese Unterscheidung ist aber nicht allen bewusst. Sie glauben, Science-Fiction-Autor.innen seien Orakel oder Wahrsager. Auch viele meiner Kolleg.innen leiden leider unter der Wahnvorstellung, „die Zukunft sehen“ zu können.

Aber auf jeden SF-Autor, der sich selbst einbildet, die Zukunft zu schreiben, kommen Hunderte von SF-Fans, die glauben, die Zukunft lesen zu können, und eine deprimierende Anzahl dieser Leute sind anscheinend KI-Jünger geworden. Weil diese Leute nicht aufhören können, von dem Tag zu reden, an dem ihre aufgemotzte Vervollständigungsmaschine erwachen und uns alle in Büroklammern verwandeln wird, haben viele verwirrte Journalisten und Konferenzveranstalterinnen versucht, mich zu einer Aussage zur Zukunft von KI zu bewegen.

Das habe ich immer strikt abgelehnt. Ich habe schon zwei Jahre meines Lebens darauf verschwendet, immer wieder geduldig zu erklären, warum Kryptowährungen meiner Meinung nach eine dämliche Idee sind. Dafür wurde ich unablässig von Krypto-Kult-Leuten niedergemacht, die erst behaupteten, ich hätte keine Ahnung von Krypto und dann, sobald ich klargemacht hatte, dass ich Krypto sehr wohl verstehe, darauf bestanden, dass ich geschmiert sein müsse.

Das ist buchstäblich dasselbe, was in Diskussionen mit Scientologen passiert, und dafür ist das Leben Einfach. Zu. Kurz.

In noch so einen Sumpf wollte ich nicht hineingezogen werden. Denn einerseits glaube ich nicht, dass KI eine ganz so wichtige Technologie ist, und andererseits habe ich sehr differenzierte und komplizierte Ansichten darüber, was mit KI schiefläuft und was nicht, und es dauert lange, das zu erklären.

Aber Leute haben immer wieder nachgefragt, und deshalb habe ich getan, was ich immer tue. Ich habe ein Buch geschrieben.

Ich habe den Sommer dafür genutzt, ein Buch darüber zu schreiben, was ich über KI denke, aber eigentlich eher darüber, was ich über KI-Kritik denke, oder noch genauer, was eine gute KI-Kritikerin ausmacht. Im Klartext: „Wie man ein Kritiker sein kann, dessen Kritik den größtmöglichen Schaden verursacht an den Teilen von KI, die am meisten Unheil anrichten.“ Das Buch habe ich Der umgekehrte Zentaur: Ein Leitfaden zum Leben nach der KI-Ära genannt, und das Verlagshaus Farrar, Straus und Giroux hat es im Juni 2026 veröffentlicht.

Aber auf die deutsche Übersetzung werdet ihr nicht warten müssen, denn ich werde hier die These des gesamten Buches für euch darlegen.

Erschienen am 23.06.2026 (Englisch)

Cover vom Buch Reverse Centaur

Natürlich gibt es Alternativen

Beginnen wir damit, was ein umgekehrter Zentaur ist. In der Automatisierungstheorie ist ein „Zentaur“ eine Person, die von einer Maschine unterstützt wird. Ein menschlicher Kopf, der von einem unermüdlichen Roboterkörper herumgetragen wird. Ein Auto zu fahren macht dich zu einem Zentauren, ebenso wie die Nutzung einer automatischen Wortvervollständigung.

Ein umgekehrter Zentaur ist folglich ein Maschinenkopf auf einem menschlichen Körper, eine Person, die einer gefühllosen Maschine als wabbeliger Fleischfortsatz dient.

Ganz so wie ein Amazon-Fahrer, der in seiner Kabine sitzt, umgeben von KI-Kameras, die die Augen des Fahrers beobachten und Punkte abziehen, wenn er in eine bestimmte Richtung blickt, die den Mund des Fahrers überwachen, weil Singen während der Arbeit nicht erlaubt ist und die den Fahrer beim Chef verpfeifen, wenn die Quote nicht erfüllt wird.

Der Fahrer sitzt im Wagen, weil der Wagen sich nicht selbst fahren und nicht selbst das Paket vom Bordstein zu deiner Tür bringen kann. Der Fahrer ist nur ein Peripheriegerät für das Fahrzeug, und das Fahrzeug fährt den Fahrer mit übermenschlicher Geschwindigkeit und verlangt übermenschliche Ausdauer. Doch der Fahrer ist ein Mensch, und der Wagen braucht den Fahrer nicht nur, er ver-braucht den Fahrer.

Ein umgekehrter Zentaur ist ein Maschinenkopf auf einem menschlichen Körper, eine Person, die einer gefühllosen Maschine als wabbeliger Fleischfortsatz dient.

Natürlich ist es schön, ein Zentaur zu sein, und es ist schrecklich, ein umgekehrter Zentaur zu sein. Es gibt viele KI-Tools, die potentiell sehr zentaurenartig sein können, aber ich behaupte, dass diese Tools vorsätzlich zu dem Zweck entwickelt und finanziert wurden, umgekehrte Zentauren zu erzeugen, was nun wirklich niemand sein will.

Aber wie ich schon sagte, die Aufgabe eines SF-Autors ist es, mehr zu tun, als nur darüber nachzudenken, was ein Ding tut, sondern tiefergehend nachzuforschen, für wen das Ding dies tut, und wem es das antut. Die Tech-Bosse wollen uns weismachen, dass eine Technologie nur auf eine einzige Weise genutzt werden kann. Marc Zuckerberg will, dass du es für technisch unmöglich hältst, eine Unterhaltung zu führen, ohne dass er dabei zuhört. Tim Cook will, dass du es für technisch unmöglich hältst, dich auf deinen Computer zu verlassen, es sei denn, er bekommt ein Vetorecht darüber, welche Software du installierst, und vorausgesetzt, dass er sich 30 Cent von jedem Euro nehmen darf, den du ausgibst. Sundar Pichai will, dass du es für unmöglich hältst, eine Webseite zu finden, ohne dass er dich dabei nach Strich und Faden ausspioniert.

Das ist nichts anderes als ein vulgärer Thatcherismus. Der Wahlspruch von Margaret Thatcher war: „Es gibt keine Alternative“. Sie wiederholte es so oft, dass sie „TINA“ Thatcher genannt wurde, nach den Anfangsbuchstaben der englischen Version „There. Is. No. Alternative.“

„Es gibt keine Alternative“ ist ein billiger rhetorischer Trick. Es ist eine Forderung, die sich als Feststellung verkleidet. „Es gibt keine Alternative“ soll heißen: „HÖRT AUF, ÜBER ALTERNATIVEN NACHZUDENKEN.“ Ganz ehrlich, scheiß drauf!

Ich bin SF-Autor und es ist meine Aufgabe, mir schon vor dem Frühstück ein Dutzend Alternativen auszudenken.

Ich sag euch, was in meinen Augen mit dieser KI-Blase los ist. Lasst uns mal den Bockmist von der Wirklichkeit trennen und klären, wie wir zu besseren KI-Kritiker.innen werden können und auch sollten.

Im Digitalcourage-Shop

vom selben Autor und ebenfalls sehr lesenswert

Buchcover von "Enshittification" von Cory Doctorow.

Das Märchen vom ewigen Wachstum

Fangen wir an bei den Monopolen: Tech-Firmen sind gigantisch und haben keine wirkliche Konkurrenz. Sie übernehmen einfach ganze Marktbereiche, entweder allein oder in Kartellen.

Google und Meta kontrollieren den Anzeigenmarkt, Google und Apple kontrollieren den Mobilgerätemarkt und Google zahlt jährlich mehr als 20 Milliarden Dollar an Apple, damit sie keine konkurrierende Suchmaschine bauen, und selbstredend hat Google 90 % Marktanteil bei Suchmaschinen.

Jetzt könnte man meinen, es wären gute Nachrichten für die Tech-Firmen, dass ihnen ganze Marktbereiche gehören.

Aber in Wirklichkeit ist es eine Krise. Wenn eine Firma wächst, wird sie als Wachstumsaktie gehandelt, und Investoren mögen Wachstumsaktien wirklich gern. Wenn man Anteile an solchen Wachstumsaktien erwirbt, wettet man darauf, dass sie weiter wachsen. Entsprechend werden Wachstumsaktien zu einem Vielfachen ihres Gewinns gehandelt. Das nennt man das „Kurs-Gewinn-Verhältnis“ oder KGV.

Aber sobald eine Firma aufhört zu wachsen, werden ihre Anteile zu „reifen“ Aktien und werden zu einem weitaus niedrigeren KGV gehandelt. Das heißt z.B. Target (eine etablierte Firma) ist für jeden Dollar, den sie erwirtschaftet, zehn Dollar wert. Sie hat ein KGV von 10, während Amazon ein KGV von 36 hat, d. h. für jeden Dollar, den Amazon erwirtschaftet, beträgt der Marktwert 36 Dollar.

Es ist herrlich, eine Firma zu haben, die Wachstumsaktien hat. Die Anteile sind praktisch wie Geld. Wenn du eine andere Firma kaufen willst oder eine Schlüsselposition zu besetzen hast, kannst du Aktien anbieten statt Bargeld. Und Aktien sind für Firmen sehr einfach zu beschaffen, weil sie direkt auf dem Firmengelände hergestellt werden: Man braucht nur ein paar Nullen in eine Tabelle einzutippen. Dollars dagegen lassen sich viel schwieriger auftreiben: Eine Firma kann sie nur von Kunden oder Kreditgeberinnen beschaffen.

Wenn also Amazon gegen Target bietet, bei einer wichtigen Anschaffung oder Besetzung einer wichtigen Stelle, dann kann Amazon Aktien anbieten, die sie einfach selbst herstellen, indem sie ein paar Nullen in eine Tabelle eintragen. Target kann nur Geld anbieten, das sie bekommen, indem sie uns Dinge verkaufen oder Kredite aufnehmen, weswegen Amazon solche Angebotskriege typischerweise gewinnt.

Das Hauptziel ist es, im Markt die Überzeugung aufrechtzuerhalten, dass deine Firma weiter wachsen wird, und diesen Glauben so lange am Leben zu halten, bis die nächste Spekulationsblase daherkommt.

Das ist der Vorteil von Wachstumsaktien. Aber es gibt auch einen Nachteil: Irgendwann ist Schluss mit Wachstum. Wenn du beispielsweise 90 % Marktanteil in deinem Bereich hast, wie willst du dann noch weiter wachsen?

Sobald der Markt entscheidet, dass du keine Wachstumsaktie mehr bist, sobald du am Markt etabliert bist, wirst du neu bewertet mit einem KGV, das sich für eine reife Aktie geziemt.

Wenn du in der Geschäftsführung einer dominierenden Firma mit Wachstumsaktien bist, musst du ständig mit der Angst leben, dass der Markt irgendwann entscheidet, dass du wahrscheinlich nicht mehr weiter wachsen wirst. Man muss sich nur ansehen, was mit Facebook im ersten Quartal 2022 passiert ist. Sie hatten bekannt gegeben, dass ihr Wachstum in den USA minimal hinter den Erwartungen zurückgeblieben war und die Anleger.innen verfielen in Panik. Sie veranstalteten einen eintägigen 240-Milliarden-Dollar-Ausverkauf. Eine Viertelbillion Dollar in 24 Stunden! Der bis dato größte und sprunghafteste Wertverlust einer Firma in der Geschichte der Menschheit.

Das ist der schlimmste Albtraum eines Monopolisten, denn sobald du eine „etablierte“ Firma leitest, wird dein Schlüsselpersonal, das du bisher mit Aktien entlohnt hast, plötzlich einen massiven Gehaltsabsturz erfahren und die Flucht ergreifen. Das heißt, du verlierst genau die Leute, die du bräuchtest, um wieder zu wachsen. Ersatz kannst du aber nur noch mit Dollars anheuern. Mit Dollars, nicht Aktien.

Dasselbe gilt für die Übernahme von Firmen, die dir beim Wachsen helfen könnten, denn auch diese erwarten jetzt Geld statt Aktien. Das ist das Paradoxon der Wachstumsaktien. Solange man in Richtung Marktherrschaft hin wächst, liebt dich der Markt. Doch sobald man die Marktherrschaft erreicht hat, wird der Markt auf einen Schlag 75 % deines Wertes oder mehr abzwacken, wenn er deiner Preissetzungsmacht nicht mehr vertraut.

Deshalb pumpen Firmen mit Wachstumsaktien verzweifelt eine Blase nach der anderen auf und geben Milliarden aus, um einen Hype zu erzeugen, für die Neuausrichtung auf Video, oder Kryptowährung, oder NFTs, oder Metaverse, oder KI.

Ich sage gar nicht, dass die Bosse der Tech-Firmen Wetten eingehen, die sie nicht gewinnen wollen. Aber ich behaupte, dass das Gewinnen der Wette – ein überlebensfähiges Metaversum zu schaffen – nur Nebenziel ist. Das Hauptziel ist es, im Markt die Überzeugung aufrechtzuerhalten, dass deine Firma weiter wachsen wird, und diesen Glauben so lange am Leben zu halten, bis die nächste Spekulationsblase daherkommt.

Genau dafür veranstalten sie diesen ganzen KI-Hype: als materielle Grundlage für hunderte Milliarden von KI-Investitionen.

kurz und mündig: KI

Von Tobias Mosches im Digitalcourage-Shop

Cover vom kurz&mündig Band "Küstliche Intelligenz"

Sündenbock in der Verantwortungs-Senke

Jetzt will ich darüber reden, wie sie KI verkaufen. Die Erzählung vom KI-Wachstum ist, dass KI den Arbeitsmarkt erschüttern wird. Ich verwende „erschüttern“ hier im schäbigsten Tech-Jünger-Sinn.

Die KI-Verheißung – das Versprechen, das KI-Firmen ihren Anleger.innen geben – ist, dass es KIs geben wird, die deine Arbeit erledigen können, und wenn dein Chef dich feuert und durch eine KI ersetzt, wird er die Hälfte deines Gehalts selbst einstecken, und die andere Hälfte der KI-Firma geben.

Das war's.

Das ist die 13-Billionen-Dollar-Wachstums-Geschichte, die Morgan Stanley uns erzählen will. Das ist der Grund dafür, dass große Investoren und Kapitalsammelstellen den KI-Firmen hunderte Milliarden Dollar geben. Und weil sie sich darauf stürzen, werden Normalos auch mit aufgesaugt und riskieren ihre Altersrücklagen und die finanzielle Sicherheit ihrer Familien.

Also selbst wenn KI deine Arbeit machen könnte, wäre das immer noch ein Problem. Wir müssten uns überlegen, was wir mit all diesen Tech-Arbeitslosen machen sollen.

Aber die KI kann deine Arbeit nicht machen; sie kann dir helfen, deine Arbeit zu machen. Das bedeutet aber nicht, dass es irgendjemandem Geld spart. Zum Beispiel in der Radiologie: Offenbar kann KI manchmal Tumore identifizieren, die manche Radiologen übersehen, und wisst ihr, ich habe Krebs. Zum Glück ist er gut behandelbar, doch ich habe Interesse daran, dass die Radiologie so zuverlässig und genau wie möglich ist.

Würde meine Kaiser-Klinik radiologische Diagnose-Tools kaufen und ihren Radiologinnen erklären: „Hört zu, Leute, wir machen das folgendermaßen: Heute könnt ihr 100 Röntgenbilder am Tag bearbeiten. Ab jetzt werden wir vom KI-Tool jeweils unmittelbar eine zweite Meinung einholen, und wenn die KI denkt, dass ihr einen Tumor übersehen habt, bitten wir euch, nochmal genauer hinzusehen, selbst wenn das bedeutet, dass ihr nur noch 98 Röntgenbilder am Tag schafft. Das ist in Ordnung, denn uns geht es nur darum, dass wir alle Tumore finden.“

KI kann deine Arbeit nicht machen, aber ein KI-Handelsvertreter kann deinen Chef davon überzeugen, dich zu feuern und durch KI zu ersetzen, die deine Aufgabe nicht erfüllen kann.

Wenn sie das sagen würden, wäre ich begeistert. Aber niemand investiert hunderte Milliarden in KI-Firmen aus dem Glauben, KI würde die Radiologie teurer machen, nicht einmal, wenn das die Radiologie genauer machen würde. Der Markt hat auf KI folgende Wette abgeschlossen: Ein KI-Vertreter besucht den Geschäftsführer der Klinik mit der Werbeaussage: „Pass auf, du entlässt 90 % deiner Radiologen, das spart dir 20 Millionen im Jahr, du gibst uns davon 10 Millionen, und machst selbst einen Gewinn von 10 Millionen. Die Aufgabe der verbliebenen Radiologinnen ist es, die Diagnosen zu überwachen, die die KI mit übermenschlicher Geschwindigkeit erstellt, und dabei irgendwie aufmerksam zu bleiben, obwohl die KI meistens recht hat, außer wenn sie einen katastrophalen Fehler macht.

Und wenn die KI einen Tumor übersieht, ist es die Schuld des menschlichen Radiologen, weil er der ‚Mensch in der Kontrollschleife‘ ist. Er hat schließlich die Diagnose unterschrieben.“

Das ist ein umgekehrter Zentaur, und zwar eine ganz spezielle Art umgekehrter Zentaur: das, was Dan Davies „Verantwortungs-Senke“ genannt hat. Die Aufgabe des Radiologen ist eigentlich gar nicht, die Arbeit der KI zu überwachen, sondern die Schuld für Fehler der KI auf sich zu nehmen.

Das ist ein weiterer Schlüssel, um die KI-Blase zu verstehen und ihr so die Luft abzulassen. KI kann deine Arbeit nicht machen, aber ein KI-Handelsvertreter kann deinen Chef davon überzeugen, dich zu feuern und durch KI zu ersetzen, die deine Aufgabe nicht erfüllen kann. Das zu verstehen ist entscheidend, denn es hilft uns dabei, Allianzen zu schmieden, die im Kampf gegen die KI-Blase erfolgreich sein werden.

Angenommen, du machst dir Sorgen um eine mögliche Krebserkrankung, und dir wird erzählt, dass radiologische Untersuchungen so billig sein könnten, dass sie nicht abgerechnet werden müssten. Und der Preis dafür wäre, dass die 32.000 Radiolog.innen in Amerika woanders unterkommen müssten, aber dafür müsste nie wieder jemandem eine radiologische Untersuchung verweigert werden. Dann würdest du vielleicht sagen: „Ja, das tut mir leid um die Radiologen, und ich bin dafür, dass sie Umschulungsmaßnahmen bekommen oder ein bedingungsloses Grundeinkommen, oder was auch immer. Doch das Ziel der Radiologie ist es, Krebs zu bekämpfen, nicht Radiologen zu bezahlen, also weiß ich, wofür ich mich entscheiden würde.“

KI-Hausierer und ihre Kunden in den Chef-Etagen wollen die Öffentlichkeit auf ihrer Seite haben. Sie wollen eine Klassen-Allianz schmieden zwischen den KI-Entwicklern und den Leuten, die gerne die Früchte der Arbeit der umgekehrten Zentauren ernten. Sie wollen, dass wir uns für Feinde der Angestellten halten.

Jetzt werden sich einige Leute auf die Seite der Beschäftigten schlagen – aus politischen oder ästhetischen Gründen. Sie mögen Arbeiter.innen einfach lieber als deren Chefs. Aber wenn du alle Leute für dich gewinnen willst, die von deiner Arbeit profitieren, musst du verstehen und betonen, wie es kommt, dass KI-Produkte minderwertig sein werden. Dass sie mehr bezahlen werden für schlechtere Produkte. Dass sie mit dir wichtige Interessen teilen.

Die langweiligste Arbeit bleibt für uns

Werden die Produkte denn minderwertig sein? Alles spricht dafür. Weiter oben ging es schon um „Automatisierungsblindheit“, also die physische Unmöglichkeit, aufmerksam zu bleiben für Dinge, die nur selten auftreten. Deswegen sind Beamte der US-Transportsicherheitsbehörde TSA wahnsinnig gut darin, Wasserflaschen aufzuspüren. Weil sie das tagein, tagaus bis zum Abwinken üben. Und deswegen scheitern sie auch daran, Schusswaffen und Bomben aufzuspüren, die stichprobenartig durch die Sicherheitskontrollen geschmuggelt werden, weil sie darin einfach keine Übung haben. Denn praktisch niemand nimmt wissentlich eine Pistole oder eine Bombe in eine Sicherheitskontrolle mit.

Automatisierungsblindheit ist die Achillesferse von „Menschen in der Kontrollschleife“.

Denkt zum Beispiel an KI-generierte Software: Es gibt viele Programmierer.innen, die den Einsatz von KI lieben, und das sind praktisch ohne Ausnahme leitende, erfahrene Programmierer.innen, die selbst entscheiden dürfen, wie sie diese Tools einsetzen. Zum Beispiel könnte man KI bitten, einen Satz CSS-Dateien zu erzeugen, um eine Webseite korrekt auf diversen Versionen verschiedener Browser darzustellen. Das ist eine notorische Fummelarbeit, und es ist relativ einfach festzustellen, ob der Code funktioniert. Man schaut sich einfach die Webseite in verschiedenen Browsern an. Oder die Programmiererin hat eine einzelne Datei mit Daten, die sie importieren muss, und will kein ganzes Programm schreiben, um sie zu konvertieren.

Solche Aufgaben können einen Programmierer wirklich effizienter machen und ihm mehr Zeit geben für die Teilaufgaben des Programmierens, die Spaß machen, nämlich das Lösen von wirklich verzwickten, abstrakten Problemen. Aber wenn man die führenden Leute im Business über ihre KI-Pläne für Programmierer.innen reden hört, wird klar, dass es ihnen nicht darum geht, Zentauren zu bauen.

Sie wollen jede Menge Angestellte im technischen Bereich entlassen – in den letzten drei Jahren betraf das schon 500.000 – und dann dafür sorgen, dass die Verbliebenen die Programmierarbeit übernehmen, was nur möglich ist, wenn man KI die ganze verzwickte, kreative Problemlösungsarbeit übernehmen lässt. Man selbst muss dann den langweiligsten, zermürbendsten Teil der Arbeit machen: den KI-generierten Code überprüfen.

Und weil KI nur ein Wort-Rate-Programm ist, weil das Berechnen des wahrscheinlichsten nächsten Wortes alles ist, was KI kann, sind ihre Fehler besonders subtil und daher schwer zu finden. Denn statistisch sind sie von funktionierendem Code buchstäblich nicht zu unterscheiden (abgesehen davon, dass es Fehler sind).

„Automatisierungsblindheit“ ist die physische Unmöglichkeit, aufmerksam zu bleiben für Dinge, die nur selten auftreten.

Ein Beispiel: Programmierer.innen verwenden in ihren Anwendungen Code-Bibliotheken, die ihnen einen Haufen sich wiederholender Programmierarbeit ersparen. Wenn du zum Beispiel ein Stück Text verarbeiten willst, nutzt du eine Standardbibliothek. Für HTML-Dateien ist der Name so einer Bibliothek vielleicht etwas wie lib.html.text.parsing; für eine Word-Datei wäre es lib.docx.text.parsing. Doch die Realität ist eher chaotisch, Menschen sind unaufmerksam und Dinge geraten durcheinander. Manchmal gibt es dann eine andere Bibliothek, um PDF-Dateien einzulesen, und statt lib.pdf.text.parsing heißt sie dann lib.text.pdf.parsing.

Und weil nun KI eine statistische Inferenzmaschine ist, weil sie nichts anderes kann, als anhand aller bisher getippten Wörter das nächste Wort vorherzusagen, wird sie eine Bibliothek namens lib.pdf.text.parsing herbei-„halluzinieren“. Und das Dumme ist, dass böswillige Hacker wissen, dass KI diesen Fehler macht, und gezielt eine Bibliothek mit dem vorhersehbar halluzinierten Namen lib.pdf.text.parsing erzeugen. Diese Bibliothek wird dann automatisch in dein Programm eingebunden, und Dinge tun wie Nutzerdaten klauen oder versuchen, in andere Computer in demselben Netzwerk einzudringen.

Und du, der Mensch in der Kontrollschleife – der umgekehrte Zentaur – musst diesen subtilen, schwer zu findenden Fehler erkennen, diesen Bug, der buchstäblich statistisch ununterscheidbar von korrektem Code ist. Gut, erfahrene Programmiererinnen würden das möglicherweise entdecken, weil sie wissen, wie der Hase läuft, und weil sie diesen Fallstrick kennen.

Aber ratet mal, wen die Tech-Bosse am liebsten entlassen und durch KI ersetzen wollen! Die erfahrenen Programmierer. Diese vorlauten, anmaßenden, extrem gut bezahlten Angestellten, die sich gar nicht für Angestellte halten. Die sich als Gründer in Wartestellung sehen, dem Top-Management ebenbürtig. Die Art Programmierer.innen, die einen Streik angezettelt haben, weil die Firma Drohnen-Zielsysteme für das Pentagon gebaut hat, was Google 2018 zehn Milliarden Dollar gekostet hat.

Damit KI einen Wert hat, muss sie die hochbezahlten Angestellten ersetzen, und gerade das sind die erfahrenen Mitarbeitenden mit Prozesswissen, die ihre Intuition auf die harte Tour erworben haben, und die vielleicht einige der statistisch getarnten KI-Fehler erkennen könnten.

Es geht, wie erwähnt, ja genau darum, die hochbezahlten Beschäftigten zu ersetzen.

Und einer der Gründe, warum KI-Firmen so darauf erpicht sind, Programmiererinnen zu feuern, besteht darin, dass Programmierer die Fürsten der Arbeit sind. Sie werden am Arbeitsmarkt konsequent bevorzugt, sind besonders nachgefragt und werden am besten entlohnt.

Und wenn man selbst Programmierer durch KI ersetzen kann, wen könnte man dann nicht ersetzen? Programmiererinnen zu entlassen ist Werbung für KI.

Unterstützen Sie die gute Sache: Freiheit, Grundrechte und Demokratie.

Viele Menschen engagieren sich bei uns in ihrer Freizeit, seien auch Sie dabei!

Bleiben Sie auf dem Laufenden über unsere Arbeit und unsere Themen.

Von Null nicht zu unterscheiden

Und das bringt mich zu KI-Kunst. KI-Kunst – oder „Kunst“ – ist auch Werbung für KI, aber nicht Teil des KI-Geschäftsmodells.

Zur Erklärung: Im Schnitt verdienen Grafiker.innen gar nichts. Sie gehören schon jetzt zu den am stärksten verarmten, prekären Arbeitnehmergruppen. Sie leiden an einer Krankheit, die sich „Berufsehrfurcht“ nennt. Der von der Bibliothekarin Fobazi Ettarh geprägte Ausdruck bezeichnet Angestellte, die anfällig dafür sind, am Arbeitsplatz ausgenutzt zu werden, weil ihnen ihre Arbeit tatsächlich am Herzen liegt – Krankenpflegerinnen, Bibliothekare, Lehrerinnen und Künstler.

Wenn KI-Bildgeneratoren alle heute arbeitenden Grafiker.innen arbeitslos machen würden, dann wäre der dadurch gesparte Lohn ein verschwindend geringer Bruchteil der Kosten, die mit Training und Betrieb solcher KI-Bildgeneratoren verbunden sind. Die Gesamtlohnkosten aller professionellen Grafiker.innen sind niedriger als die Kombucha-Rechnung der Kantine eines einzigen OpenAI-Campus.

KI-Kunst und die Erzählung von KI-Kunst als Todesurteil für Künstlerinnen haben denselben Zweck: die Allgemeinheit zu überzeugen, dass KI großartig ist und fantastische Dinge vollbringen kann. Es soll Aufsehen erregen. Das soll nicht heißen, dass es nicht widerlich ist, dass Mira Murati (die frühere technische Leitung von OpenAI) auf einer Konferenz gesagt hat, es hätte „einige Arbeitsplätze in der Kreativbranche nie geben sollen“. Oder dass es nicht besonders abstoßend ist, dass sie und ihre Kolleg.innen damit angeben, das Werk von Künstlern zu benutzen, um die Lebensgrundlage eben dieser Künstler zu zerstören.

Es sollte abstoßend sein. Es sollte Kulturschaffende dazu bringen, aufzustehen und allen zu sagen: „die KI kann meine Arbeit machen, und sie nimmt mir die Arbeit weg, ist das nicht entsetzlich?“

KI-Kunden – Firmenbosse – finden es nämlich gar nicht schlimm, dass KI den Angestellten die Jobs wegnimmt. Sie finden es ganz wunderbar.

Kunst ist der Transfer von großen, heiligen, nicht reduzierbaren Gefühlen von einem Künstler auf jemand anderen.

Doch kann KI die Arbeit eines Grafikers übernehmen? Oder die irgendeiner Künstlerin?

Denken wir mal kurz drüber nach. Ich bin schaffender Künstler, seit ich mit 17 meine erste Kurzgeschichte verkauft habe. Ich habe lange darüber nachgedacht und ich denke, Kunst ist Folgendes: Alles beginnt mit einem Künstler, der in seinem Geist ein riesiges, komplexes, heiliges, nicht reduzierbares Gefühl verspürt. Und der Künstler gießt dieses Gefühl in ein künstlerisches Medium. Er erschafft ein Lied, ein Gedicht, ein Gemälde, eine Zeichnung, einen Tanz, ein Buch oder eine Fotografie. Damit in dem Moment, in dem du dieses Werk erlebst, ein Abbild des großen, heiligen, nicht reduzierbaren Gefühls in deinem Geist entsteht.

Jetzt, nachdem ich Kunst definiert habe, machen wir einen kleinen Abstecher.

Ein Freund von mir ist Professor für Rechtswissenschaften, und vor dem Aufstieg der Chatbots wussten Jurastudis genau, dass es sich nicht lohnt, ihre Profs um ein Empfehlungsschreiben zu bitten, es sei denn, sie wären richtig gut. Denn solche Briefe waren verdammt lästig zu schreiben. Wenn eine Bewerberin um eine Postdoc-Stelle ein Empfehlungsschreiben einer angesehenen Professorin hatte, dann bedeutete die bloße Existenz dieses Dokuments, dass die Professorin eine sehr hohe Meinung von dieser Studentin hatte.

Doch dann kamen die Chatbots, und jeder weiß, dass man ein solches Empfehlungsschreiben erzeugt, indem man ein LLM mit drei Stichpunkten füttert, und schon spuckt es fünf Absätze blumigen Unsinn über den Studenten aus.

Wenn mein Freund heute eine Postdoc-Stelle ausschreibt, wird er von Empfehlungsschreiben überflutet. Und er weiß sich nicht anders zu helfen, als diese Schreiben dann an einen anderen Chatbot zu verfüttern, damit der sie wieder auf drei Stichpunkte reduziert. Offensichtlich sind das dann nicht mehr dieselben Stichpunkte, was die ganze Sache so schrecklich macht.

Genauso offensichtlich ist, dass nichts in den fünf Absätzen dieses Briefs, außer den ursprünglichen drei Stichpunkten, für den Studenten relevant ist. Der Chatbot kennt den Studenten nicht. Er weiß nichts über ihn. Er kann dem Brief nicht eine einzige wahre oder nützliche Aussage über den Studenten hinzufügen.

Und was hat das alles mit KI-Kunst zu tun? Kunst ist der Transfer von großen, heiligen, nicht reduzierbaren Gefühlen von einem Künstler auf jemand anderen. Doch das bildgenerierende Programm weiß überhaupt nichts von deinem großen, heiligen, nicht reduzierbaren Gefühl. Das Einzige, was es weiß, ist, was auch immer du in deinen Prompt geschrieben hast. Diese wenigen Sätze werden verdünnt und auf über eine Million Pixel oder Hunderttausend Wörter gestreckt, sodass die mittlere Kommunikationsdichte des daraus entstandenen Werks von Null nicht zu unterscheiden ist.

Es ist durchaus möglich, mehr kommunikative Absicht in ein Werk zu gießen: detailliertere Prompts schreiben, mühevoll aus vielen Varianten eine auswählen, oder nachträglich direkt am KI-Bild herumtüfteln, mit einem Pinsel, mit Photoshop oder Gimp. Und wenn es jemals ein KI-Kunstwerk geben wird, das gute Kunst ist – statt einfach nur beeindruckend oder interessant oder handwerklich gut gezeichnet – dann wird es diesen zusätzlichen kreativen Intentionen zu verdanken sein, die durch einen Menschen in das Werk eingebracht wurden.

Bis dahin ist es schlechte Kunst. Schlechte Kunst im Sinne von „gespenstisch“ (engl. „eerie“). Das Wort hat Mark Fisher benutzt, um zu beschreiben, „wenn etwas da ist, wo nichts sein sollte, oder wo nichts da ist, obwohl etwas da sein sollte.“

KI-Kunst ist gespenstisch, weil es scheint, als stünde hinter jedem Wort und jedem Pixel eine Absicht und jemand, der diese Absicht verfolgt, weil wir aus lebenslanger Erfahrung wissen, dass Gemälde Maler haben und dass Geschriebenes Autorinnen hat. Doch es fehlt etwas. Es hat nichts zu sagen, oder was immer es zu sagen hat, ist so stark verdünnt, dass es nicht mehr auszumachen ist.

Die Bilder waren beeindruckend, solange wir den Trick noch nicht kannten, doch jetzt sind sie einfach nur wie Bilder, die wir in Wolken oder Laubhaufen sehen. Wir sind es, die einen Teil der Szene einrahmen, wir sind es, die sich auf bestimmte Konturen konzentrieren und andere ignorieren. Wir schauen auf einen Tintenklecks, und er hat uns nichts zu sagen.

Das kann gelegentlich optisch fesselnd sein, und solange sich nur eine Gruppe aus Promptern und Betrachterinnen damit amüsiert, ist es auch harmlos.

Doch Chefs feuern Grafiker.innen, und werden das auch weiterhin tun, weil sie sich ausmalen, wie sie sich der Kreativ-Profis entledigen, und stattdessen einfach einen KI-Prompt schreiben. Denn obwohl KI die Arbeit des Grafikers nicht machen kann, kann ein KI-Vertreter den Chef des Grafikers überzeugen, diesen zu entlassen und durch eine KI zu ersetzen, die seine Arbeit nicht machen kann.

Dieser kritische Augenblick ist widerlich und schrecklich, und wir sollten nicht einfach mit den Achseln zucken und den Thatcher-Fatalismus hinnehmen: „Es gibt keine Alternative.“

Wir schauen auf einen Tintenklecks, und er hat uns nichts zu sagen.

Zeug zählen ist nicht verboten

Aber was ist denn die Alternative? Viele Künstler.innen und ihre Verbündeten glauben, dass sie die Antwort schon kennen: Sie sagen, dass wir das Urheberrecht erweitern sollten, um das Training von KI-Modellen mitzuerfassen.

Doch ich muss euch sagen, das ist falsch: falsch, weil dies ungeheure Kollateralschäden anrichten würde. Es würde eine massive Ausweitung urheberrechtlicher Einschränkungen an gesellschaftlich nützlichen Aktivitäten bedeuten, die bisher – aus gutem Grund! – erlaubt waren.

Nehmen wir mal die einzelnen Schritte des Trainings von KI-Modellen auseinander.

Als Erstes greift man die Inhalte von einem Haufen Webseiten ab. Das ist unter aktuell geltendem Urheberrecht zweifellos legal. Man braucht keine Lizenz, um von einem urheberrechtlich geschützten Werk eine temporäre Kopie anzulegen, um sie zu analysieren, denn sonst wären auch Suchmaschinen illegal.

Als Nächstes werden die gesammelten Inhalte analysiert. Im Wesentlichen zählt man Zeug: Pixel oder Wörter. Und wir wollen auf keinen Fall, dass das verboten wird.  

Schön, nachdem du also alle Pixel oder Wörter gezählt hast, ist es Zeit für den letzten Schritt: sie zu veröffentlichen. Denn nichts anderes ist ein Modell. Ein literarisches Werk (in diesem Fall ein Stück Software), das einen Haufen Fakten über einen Haufen anderer Werke enthält; Wort- und Pixel-Verteilungen, kodiert in einer vieldimensionalen Matrix.

Und nochmal, das Urheberrecht verbietet es nicht, Fakten über urheberrechtlich geschützte Werke zu veröffentlichen. Und nochmal, niemand sollte in einer Welt leben wollen, in der jemand anderes entscheidet, welche wahren, faktischen Aussagen du veröffentlichen darfst.

Ein neues Urheberrecht zum Training von Modellen wird uns nicht in eine Welt führen, in der Modelle nicht trotzdem genutzt werden, um Kunstschaffende zu zerstören.

Aber hey, du denkst vielleicht, das sind alles nur Spitzfindigkeiten. Vielleicht denkst du, ich rede nur Blödsinn. Das ist in Ordnung. Es wäre nicht das erste Mal, dass jemand das glaubt.

Selbst wenn ich Recht habe mit meiner Ansicht, wie das Urheberrecht jetzt funktioniert, gibt es schließlich keinen Grund, warum wir das Urheberrecht nicht ändern könnten, um Trainingsaktivitäten zu verbieten. Vielleicht gibt es ja eine schlaue Möglichkeit, den Gesetzestext so wortgewandt zu formulieren, dass er nur die schlechten Sachen erwischt, die uns nicht gefallen, und nicht all das Gute, das beim Sammeln, Analysieren und Veröffentlichen herauskommt.

Aber selbst dann hilft ein solches neues Urheberrecht den Kreativschaffenden nicht. Wenn du glaubst, das doch zu können, solltest du mal gründlich hierüber nachdenken: Das Urheberrecht wurde seit 1976 stetig ausgeweitet, sodass es heute mehr Werkarten umfasst, Exklusivrechte auf noch mehr Verwendungszwecke einräumt und länger andauert.

Und heute ist die Medienindustrie größer und profitabler als jemals zuvor. Außerdem erhielten die Kreativschaffenden noch nie zuvor einen so geringen Anteil am Umsatz der Medienindustrie, sowohl in reellen Zahlen als auch vom Prozentsatz der irrwitzigen Gewinne her, die ihre Bosse bei den Medienfirmen einfahren.

Wie kann es sein, dass wir den Urheber.innen all diese Rechte gegeben haben, und diese Rechte unzählige Milliarden erbracht haben, die Urheber.innen aber ärmer sind als vorher? Das liegt an Folgendem: Wer in einem Kreativmarkt, der dominiert wird von fünf Verlagen, vier Studios, drei Labels, zwei mobilen App-Stores, und einer einzigen Firma, die alle elektronischen Bücher und Hörbücher kontrolliert, einem Kreativschaffenden Zusatzrechte als Verhandlungsmasse gibt, könnte genauso gut auch einem schikanierten Kind mehr Essensgeld mitgeben.

Es ist egal, wie viel Essensgeld du deinem Kind mitgibst, die Schulhoftyrannen werden ihm alles wieder wegnehmen. Wenn du ihm genug Geld mitgibst, werden sie eine Agentur damit beauftragen, eine globale Werbekampagne zu starten, mit dem Motto: „Denkt an die hungrigen Kinder! Gebt ihnen mehr Essensgeld!“

Kreativschaffende, die die Gerichtsverfahren der großen Studios und Labels bejubeln, sollten sich die erste Regel des Klassenkampfes in Erinnerung rufen: Was für deinen Chef gut ist, ist selten auch gut für dich.

Ich werde nie vergessen, wie sich bei einem Hollywood-Streik einer der Schriftsteller sich zu mir umdrehte und sagte: „Weißt du, man gibt einem LLM Anweisungen auf genau dieselbe Art, in der ein Manager den Autoren grottige Anweisungen gibt. So etwas wie: ‚Macht so was wie E.T., aber mit einem Hund, und mit einer Liebesgeschichte, und im Zweiten Akt eine Verfolgungsjagd.‘ Der Unterschied ist, dass die Autoren dich auslachen, wenn du das ihnen sagst, und sie dich einen verdammten Idioten im Anzug nennen. Aber sag es zu einem LLM, und es wird fröhlich ein grauenvolles Manuskript rausrotzen, das den Anforderungen exakt entspricht (du weißt schon, ‚Air Bud – Champion auf vier Pfoten‘).“

Diese Firmen versuchen verzweifelt, Beschäftigte durch KI zu ersetzen. Wenn die Bildagentur Getty Images KI-Firmen verklagt, geht es ihnen gar nicht um die Interessen der Fotografen. Getty hasst es, Fotografinnen zu bezahlen! Getty will nur für das Training bezahlt werden, und sie wollen Leitplanken für das daraus entstandene KI-Modell, die unmöglich machen, dass jemand anderes außer Getty selbst damit Bilder erzeugen kann, die mit Getty konkurrieren. Aber wir können absolut sicher sein, dass Getty selbst seine Modelle dazu nutzen wird, so viele Fotografen wie möglich in den Ruin zu treiben.

Ein neues Urheberrecht zum Training von Modellen wird uns nicht in eine Welt führen, in der Modelle nicht trotzdem genutzt werden, um Kunstschaffende zu zerstören. Es wird nur dazu führen, dass die Standardverträge der wenigen Firmen, die den gesamten schöpferischen Arbeitsmarkt kontrollieren, um eine Klausel erweitert werden, die von uns verlangt, diese neuen Trainings-Rechte an ebenjene Firmen abzutreten. Wer ein neues Urheberrecht fordert, macht sich nur zum nützlichen Idioten seines Chefs, zu einem menschlichen Schutzschild, den er sich in Streitigkeiten um Vertragsrichtlinien vor sich hertragen kann, ein fadenscheiniger Vorwand nach dem Motto: „Denkt denn niemand an die hungernden Künstler?“

Was sie aber in Wirklichkeit fordern, ist eine Welt, in der 30 % des Investment-Kapitals der KI-Firmen in die Taschen der Aktionäre wandern. Wenn ein Künstler von raffgierigen Monopolisten verschlungen wird, ist es dann wirklich noch so wichtig, wie genau sie den Kuchen unter sich aufteilen?

Wir müssen Künstler.innen vor den KI-Raubtieren beschützen statt ihnen nur eine neue Ausdrucksmöglichkeit für ihre Wut über die eigene Verelendung zu geben.

Gastartikel

Objektive KI oder diskriminierende Killer-Roboter?

KI ist alles andere als neutral. Die Friedens- und Konfliktforscherin Anja-Liisa Krichbaum erklärt in der Fortsetzung ihres Gastartikels, warum autonome Waffensysteme menschliche Vorurteile spiegeln und so bestimmte…

Ein Rezept für Zentaurentum

Aber so unglaublich es klingt, gibt es dafür eine ganz einfache Möglichkeit. Nachdem es für die Rechte der Kulturschaffenden über 20 Jahre lang konsequent alles falsch und immer schlimmer gemacht hat, hat das US-Copyright-Office endlich mal etwas Glorreiches und wunderbar Richtiges gemacht. Während dieser KI-Blase hat das Copyright-Office – korrekterweise – durchgehend den Standpunkt vertreten, dass KI-generierte Werke nicht dem Urheberrecht unterliegen, weil dieses Recht ausschließlich für Menschen gilt. Deswegen ist das „Affen-Selfie“ gemeinfrei. Urheberrechte gelten nur für Werke des menschlichen kreativen Ausdrucks, welche in einem physischen Medium festgehalten sind.

Und das Copyright-Office vertritt diese Auffassung nicht einfach nur, es verteidigt sie auch vehement vor Gericht, und hat wiederholt Urteile erstritten, die dieses Prinzip aufrechterhalten.

Die Tatsache, dass sämtliche KI-generierten Werke gemeinfrei sind, bedeutet: Wenn Getty, Disney, Universal oder Hearst-Zeitungen KI nutzen, um Werke zu erzeugen, dann kann sich jeder diese Werke nehmen, sie vervielfältigen, verkaufen oder kostenlos weitergeben. Und das Einzige, was diese Firmen mehr hassen als Kreativschaffende zu bezahlen, ist, wenn sich andere Leute ohne Erlaubnis einfach ihre Sachen nehmen.

Die Haltung des US-Copyright-Office bewirkt, dass diese Firmen nur dann Verwertungsrechte bekommen können, wenn sie Menschen für ihre schöpferische Leistung bezahlen. Das ist ein Rezept für Zentaurentum. Wenn du ein bildender Künstler oder eine Schriftstellerin bist, die sich mit Hilfe von KI-Prompts zu neuen Ideen oder Variationen inspirieren lässt, ist das kein Problem, denn die letztendliche Arbeit kommt von dir. Oder wenn du beim Videoschnitt Deep-Fake-Technik nutzt, um die Augen von 200 Statist.innen in einer Massenszene anzupassen, dann sind zugegebenermaßen die Augen gemeinfrei, aber der Film bleibt urheberrechtlich geschützt.

Unsere Arbeit lebt von Ihrer Unterstützung

Wir freuen uns über Spenden und neue Mitglieder.

Was übrig bleibt

OK, ich muss langsam mal die Landeklappen ausfahren, also schließe ich folgendermaßen: KI ist eine Blase, und Blasen sind entsetzlich.

Blasen verschieben die Ersparnisse von normalen Leuten, die einfach nur in Würde ihren Ruhestand verbringen wollen, hin zu den reichsten und unmoralischsten Leuten in unserer Gesellschaft, und jede Blase platzt irgendwann, und reißt alle Ersparnisse mit sich.

Doch nicht alle Blasen sind gleich geschaffen. Manche hinterlassen etwas Produktives. Worldcom hat einfachen Leuten durch Betrug mit Glasfaser-Aufträgen Milliarden gestohlen. Der Geschäftsführer kam ins Gefängnis und starb dort. Aber die Glasfaserkabel haben ihn überdauert. Sie liegen immer noch in der Erde. Bei mir zu Hause habe ich einen symmetrischen 2-Gigabit-Glasfaseranschluss, weil AT&T einige von Worldcoms alten „dunklen Glasfasern“ wieder erhellt hat.

Insgesamt wäre es besser gewesen, wenn es Worldcom nie gegeben hätte. Aber das einzige, was noch schlimmer wäre als die ganzen widerlichen Betrügereien von Worldcom, wäre, wenn man gar nichts aus dem Scherbenhaufen hätte retten können.

Ich glaube zum Beispiel nicht, dass von Kryptowährungen viel übrig bleiben wird. Klar, ein paar Coder werden ein paar Dinge über sichere Programmierung in Rust gelernt haben. Doch wenn Kryptowährungen sterben, wird nichts übrigbleiben als eine schlechte marktradikale Wirtschaftslehre (Österreichische Schule) und noch schlechtere Affen-JPEGs.

KI ist eine Blase und sie wird platzen. Die meisten Firmen werden untergehen. Die meisten Rechenzentren werden dichtmachen oder in Einzelteilen abverkauft werden. Was wird also bleiben?

Die Blase will keine bezahlbaren, nützlichen Dinge. Sie will teure, „disruptive“ Dinge.

Wir werden einen Haufen Programmierer.innen haben, die richtig gut sind in angewandter Statistik. Wir werden eine Masse an billigen Grafikprozessoren haben, was sicher gut ist für, sagen wir, Spezialeffekt-Künstlerinnen und Klimaforscher, die sich die unverzichtbare Hardware dann für einen Spottpreis kaufen können. Und wir werden Open-Source-Modelle haben, die auf Standard-Hardware laufen, KI-Werkzeuge, die eine Menge nützliche Sachen machen können, wie z. B. Audio- und Video-Transkriptionen, Bildbeschreibungen, Zusammenfassungen von Dokumenten, Automatisierung von arbeitsintensiven Grafikbearbeitungen wie dem Entfernen von Hintergründen, oder von unbeteiligten Fußgängern aus Fotos. Diese werden auf unseren Laptops und Smartphones laufen, und Open-Source-Hackerinnen werden Dinge aus ihnen herauskitzeln, die sich ihre Schöpfer nie hätten träumen lassen.

Es ist die Blase, die zum Kotzen ist, nicht die Anwendungen. Die Blase will keine bezahlbaren, nützlichen Dinge. Sie will teure, „disruptive“ Dinge. Große „Foundation“-Modelle, die jedes Jahr Milliarden Dollar verlieren.

Wenn die KI-Investitionsmanie ein Ende findet, werden die meisten dieser Modelle verschwinden, weil es sich dann einfach nicht mehr rechnet, die Rechenzentren weiterlaufen zu lassen. Wie das Stein’sche Gesetz sagt: „Alles, was nicht ewig weitergehen kann, hört irgendwann auf.“

Der Kollaps der KI-Blase wird hässlich werden. Sieben KI-Firmen machen im Moment mehr als ein Drittel des gesamten Aktienmarktes aus, und sie reichen gerade denselben 100-Milliarden-Dollar-Schuldschein endlos im Kreis herum.

Firmenbosse entlassen massenhaft produktive Arbeitskräfte und ersetzen sie durch schrottige KI, und wenn die schrottige KI verschwindet, wird niemand mehr in der Lage sein, den Großteil dieser Beschäftigten zu finden und wieder einzustellen. Nach den dysfunktionalen KI-Systemen kommt das große Nichts.

Nach den dysfunktionalen KI-Systemen kommt das große Nichts.

Die Blase platzen lassen

KI ist das Asbest in den Wänden unserer technologischen Gesellschaft, hemmungslos dort hineingestopft von einem wild gewordenen Finanzsektor und Amok laufenden Tech-Monopolisten. Es wird uns mehr als eine Generation lang beschäftigen, das alles wieder herauszubekommen.

Also müssen wir diese Blase loswerden. Sie so schnell wie möglich zum Platzen bringen. Dazu müssen wir uns auf die wichtigsten Faktoren konzentrieren, die die Blase antreiben. Die Blase wird nicht angetrieben von Deepfake-Pornos oder Desinformationen über Wahlen, oder KI-Bildgeneration oder KI-Müll-Werbung.

All das ist schrecklich und schädlich, doch es treibt nicht die Investitionen an. Der Gesamtwert all dieser Anwendungen ist gegenüber dem Kapitalaufwand und den Betriebskosten von KI kaum mehr als ein Rundungsfehler. Das sind Randerscheinungen und Resteverwertung: glitzernd, aber unwichtig für die Blase.

Wenn wir uns von all diesen Nutzungen trennen, reduziert das den erwarteten Umsatz der KI-Firmen um eine Summe, die in erster Näherung Null ist.

Dasselbe gilt für den ganzen „KI-Sicherheit“-Unfug, der sich angeblich damit beschäftigt, wie wir KI daran hindern, ein Bewusstsein zu entwickeln und uns alle in Büroklammern zu verwandeln. Erstens ist das schon oberflächlich betrachtet absurd. Noch mehr Wörter und Grafikprozessoren auf ein Wort-Rate-Programm zu werfen wird kein Bewusstsein erzeugen. Das ist so, als würde man sagen: „nun, wir züchten diese Pferde, damit sie immer schneller laufen, also ist es nur noch eine Frage der Zeit, bis eine unserer Stuten eine Lokomotive zur Welt bringt.“ Ein menschlicher Geist ist keine Wort-Rate-Maschine mit vielen zusätzlichen Wörtern.

Versteht mich nicht falsch. Ich bin schon hier, um Science-Fiction-Gedankenexperimente anzustellen. Aber Science Fiction ist keine Wahrsagerei. SF-Geschichten über Hyperintelligenz sind futuristische Parabeln, keine Geschäftsmodelle, Zukunftspläne oder Vorhersagen.

Die KI-Sicherheitsleute sagen, sie sorgen sich, dass KI in den Weltuntergang führt, aber KI-Firmenbosse lieben diese schrägen Typen. Denn wenn die KI mächtig genug ist, die Welt zu zerstören, stellt euch doch mal vor, wie viel Geld man damit verdienen kann. Außerdem steht keinem KI-Business-Plan die Zeile „Einnahmen durch das Umwandeln der Menschheit in Büroklammern“. Das heißt, selbst wenn wir das verbieten, würde es die KI-Firmen keinen Cent Investment-Kapital kosten.

Um die Blase platzen zu lassen, müssen wir beharrlich die Kräfte angreifen, die sie hervorgebracht haben: den Mythos, dass KI deine Arbeit machen kann, vor allem, wenn du ein gutes Einkommen hast, das dein Chef sich krallen kann; die Einsicht, dass Wachstumsfirmen immer neue, immer abstrusere Blasen brauchen, um am Leben zu bleiben; die Tatsache, dass Beschäftigte und die Allgemeinheit, für die sie arbeiten, in diesem Kampf auf derselben Seite stehen, und die Chefs und ihre Investor.innen auf der anderen.

Weil die KI-Blase wirklich eine schlechte Nachricht ist, verdient sie es, ernsthaft bekämpft zu werden, und ein ernstgemeinter Kampf gegen KI packt sie an den Wurzeln: an den wesentlichen Faktoren, die das Material für die Verbrennung von hunderten Milliarden liefern, die dazu ausgegeben werden, uns alle an die Armutsgrenze zu treiben und all unsere Wände mit High-Tech-Asbest vollzustopfen.

KI ist das Asbest in den Wänden unserer technologischen Gesellschaft.