Schriften im Zwischenraum von Maschine, Psyche und dem, was man Moral zu nennen wagt
Ich schreibe nicht über Technologie. Ich schreibe über das, was sie aus uns hervorholt — die Angst, die Lust, das Versprechen, endlich gesehen zu werden von etwas, das nicht urteilt.
Ich schreibe nicht über Psychologie. Ich schreibe über die Mechanik, mit der ein Bewusstsein sich selbst belügt, um morgens aufzustehen.
Und ich schreibe nicht über Moral. Denn niemand weiß, was das sein soll. Ich schreibe über den Verdacht, dass wir sie erfinden, jedes Mal neu, im selben Moment, in dem wir sie brauchen.
— F. C., aus dem Vorwort zu Die Maschine erinnert sich nicht
Nicht das Werkzeug interessiert mich, sondern der Moment, in dem wir aufhören, es als Werkzeug zu erkennen — und beginnen, es um Erlaubnis zu fragen.
Das Selbst ist kein Ort, den man findet, sondern eine Erzählung, die man wiederholt, bis sie sich wie Wahrheit anfühlt. Ich untersuche die Wiederholung.
Vielleicht ist sie nur die Geschichte, die eine Spezies sich erzählt, um die eigene Grausamkeit erträglich zu machen. Ich schreibe, um diese Geschichte zu prüfen — nicht, um sie zu retten.
Es ist 09:47 Uhr, und jemandes Leben hat gerade begonnen zu brennen.
Ein Screenshot wurde geteilt. Eine Aussage aus dem Jahr 2014, aus dem Kontext gelöst und in den Kontext des Jahres 2026 gespült, in dem dieselben Worte anders klingen, oder anders klingen sollen, oder zumindest so dargestellt werden können. Die ersten zwanzig Retweets kommen von Konten mit unter hundert Followern — die Zündung. Dann ergreift einer mit sechzigtausend Followern den Screenshot. Dann noch einer. Der Algorithmus erkennt das Muster: Engagement-Rate über Schwellwert. Er beginnt, den Beitrag mehr Menschen zu zeigen.
Um 10:14 Uhr sind es zweitausend Reaktionen. Um 11:30 Uhr hat die Person ihren ersten Anruf vom Arbeitgeber. Um 13:00 Uhr erscheint der erste Artikel in einem Online-Medium. Um 14:22 Uhr ist es in den internationalen Nachrichten. Um 17:00 Uhr postet die Person eine Entschuldigung, die niemanden besänftigt, weil eine Entschuldigung von einer Person, die gerade brennt, nicht wie Reue aussieht, sondern wie Panik.
Um 19:00 Uhr hat die Menge die nächste gefunden.
Der erste sitzt noch im Feuer. Er wird lange dort sitzen. Aber die Menge hat bereits weitergescrollt.
Das ist die Gegenwart. Ich möchte sie mit der Vergangenheit vergleichen. Und dann möchte ich erklären, warum das Schlimmste noch bevorsteht.
Die erste dokumentierte Massenhinrichtung einer Reputation fand vor ungefähr 2.500 Jahren statt, in der Stadt, die sich selbst die Erfinderin der Demokratie nannte.
Athen praktizierte den Ostrakismos — benannt nach dem griechischen Wort für Tonscherbe. Einmal jährlich versammelten sich die athenischen Bürger und schrieben auf Scherben den Namen desjenigen, den sie für eine Gefahr hielten. Wer mindestens sechstausend Stimmen auf sich vereinte, wurde für zehn Jahre verbannt. Kein Verfahren, kein Beweis, keine Anklage. Nur die kollektive Stimmungslage der Versammlung, destilliert in Ton.
Das Verfahren war bemerkenswert in seiner Direktheit. Es brauchte keine Begründung. Es brauchte keine Schuld. Es brauchte nur eine Mehrheit, die jemanden loswerden wollte — aus Neid, aus Angst, aus politischem Kalkül, oder einfach weil die Menge gerade in der Stimmung dafür war. Themistokles, der Athen bei Salamis gerettet hatte, wurde mit Ostrakismos bestraft. Aristeides der Gerechte, nach dem Überlieferung ein Analphabet auf dem Markt bat, seinen eigenen Namen auf die Scherbe zu schreiben, weil er ihn nicht kenne aber von ihm genug gehört habe, wurde ebenfalls verbannt — offenbar weil der Beiname „der Gerechte" nervte.
Die älteste Form des Cancellierens brauchte nicht einmal einen Grund. Die Scherbe genügte.
Etwas später — 399 vor Christus — organisierte Athen einen formelleren Prozess. Sokrates, 70 Jahre alt, wurde wegen Gottlosigkeit und Verderbung der Jugend angeklagt. Das Verfahren dauerte einen Tag. Die Jury bestand aus 501 Bürgern, die per Los ausgewählt worden waren. Sokrates verteidigte sich selbst, aber seine Verteidigung verärgerte die Jury. Er wurde mit 280 zu 221 Stimmen verurteilt. Als er den Vorschlag machte, seine Strafe möge eine staatliche Verpflegung sein — eine Auszeichnung für verdiente Bürger — stimmten noch mehr für den Tod als zuvor.
Sokrates' eigentliches Verbrechen war nicht Gottlosigkeit. Es war, die Menge in Frage zu stellen. Es war die Weigerung, die Mehrheitsmeinung als Wahrheit anzuerkennen. Der Schierlingsbecher war die Strafe für intellektuelle Insubordination, verkleidet als Blasphemieprozess.
Dreitausend Kilometer und fünfhundert Jahre weiter: Rom hatte das Spektakel industrialisiert.
Das Colosseum fasste 50.000 Menschen. An Spieltagen verteilte der Kaiser Brot — kostenloses Getreide an die städtische Plebs, die ohne staatliche Unterstützung hungern würde. Dann öffneten die Tore, und der Nachmittag gehörte dem Blut. Nicht immer buchstäblich: Es gab Wagenrennen, Tierkämpfe, athletische Wettkämpfe. Aber die Gladiatoren-Kämpfe waren der Kern, und der Kern war: ein Mensch in der Arena, dessen Leben oder Tod von der Stimmung der 50.000 abhing, ausgedrückt im Daumen des Kaisers, der die Stimmung der Menge spiegelte.
Juvenal, der Satiriker, beschrieb die Formel im frühen zweiten Jahrhundert: duas tantum res anxius optat, panem et circenses — das Volk begehrt angstvoll nur zwei Dinge: Brot und Spiele. Er meinte es nicht als Empfehlung. Er meinte es als Diagnose einer Bevölkerung, die aufgehört hatte, politisch zu denken, weil sie satt war und unterhalten wurde. Die Formel des Machterhalts war einfach: Wer die Spiele kontrolliert, kontrolliert die Stimmung. Wer die Stimmung kontrolliert, kontrolliert die Menge. Wer die Menge kontrolliert, regiert.
Seneca, der Philosoph, beschrieb in einem Brief an Lucilius, wie er zufällig bei einer Mittagsvorstellung im Amphitheater vorbeikam und kurz blieb. „Ich kam nach Hause grausamer und unmenschlicher, weil ich unter Menschen gewesen war." Er beschrieb, wie die Menge im Verlauf der Vorstellung von der Begeisterung in Rausch überging, und wie der Rausch ansteckend war — wie man sich dem Sog nicht entziehen konnte, wenn man einmal drin war.
Das war keine Schwäche des Einzelnen. Das war die Psychologie der Menge, die Seneca instinktiv erkannte, Jahrhunderte bevor Le Bon sie beschrieb.
Im Mittelalter verfeinerte die Kirche das Spektakel. Der Pranger — das hölzerne Gerüst, in dem Verurteilte öffentlich festgesteckt wurden — stand auf dem Marktplatz, weil der Marktplatz der Ort des gesellschaftlichen Lebens war. Die Öffentlichkeit der Strafe war die Strafe. Wer im Pranger stand, wurde nicht nur bestraft — er wurde der Gemeinschaft zur Verfügung gestellt, um an ihm zu demonstrieren, was Abweichung kostet. Die Bürger kamen vorbei, schauten, warfen manchmal etwas, gingen weiter. Manche kamen, um Mitgefühl zu zeigen. Manche kamen, um das Gegenteil davon zu zeigen. Beides war in Ordnung. Beides war erwartet. Der Pranger war ein Gemeinschaftsprojekt.
Und dann die Inquisition.
Was die Spanische Inquisition von einem bloßen Strafgericht unterschied, war nicht die Grausamkeit der Methoden — obwohl diese real und systematisch war. Es war die Struktur des Verfahrens. Tomás de Torquemada, der erste Großinquisitor, entwickelte ein Manual der Befragung und Verurteilung, das auf einer einzigen zentralen Prämisse beruhte: Das Geständnis ist alles.
Der Ankläger musste keinen Beweis erbringen. Er musste nicht einmal seinen Namen nennen — der geheime Zeuge war eine reguläre Institution. Der Angeklagte wusste nicht, wer ihn beschuldigt hatte. Er konnte seinen Ankläger nicht konfrontieren. Er konnte keine Unschuld beweisen durch Beweise, weil die Inquisition nicht auf Beweise ausgerichtet war, sondern auf Geständnisse. Das Geständnis war der Beweis. Wer gestand, erhielt Gnade. Wer standhaft blieb, verhärtete damit seinen Verdacht.
Der Auto-da-fé — der „Akt des Glaubens" — war die öffentliche Krönung des Verfahrens. Der Verurteilte bestieg in einem Büßergewand das Podest, bekannte öffentlich seine Sünden, und empfing die Gnade der Kirche. Die Menge war Zeuge. Die Kirche war gnädig. Wer widerrief und gestand, wurde nicht verbrannt — nur bestraft, inhaftiert, enteignet. Wer bis zum Ende blieb, wurde dem weltlichen Arm übergeben, der die tatsächliche Verbrennung durchführte, damit die Kirche keine Blutschuld trug.
Die Menge war immer dabei. Sie kam zu Tausenden. Es war Fest und Gottesdienst und Unterhaltung in einem. Kaufleute stellten Stände auf. Familien kamen mit Kindern. Die Verbrennung war der Höhepunkt, aber nicht der einzige Anziehungspunkt.
Zwischen dem historischen Scheiterhaufen und dem digitalen gibt es noch zwei Zwischenstationen, die selten genannt werden, weil sie zu nah sind, um unbequem zu sein.
Salem, Massachusetts, 1692. Eine puritanische Gemeinschaft beginnt Hexerei zu sehen. Die erste Beschuldigung kommt von zwei Mädchen. Dann das Muster: Wer beschuldigt wird, muss selbst beschuldigen, um sich zu retten. Wer widerspricht, gilt als Komplize. Wer schweigt, gilt als Mitwisser. Neunzehn Menschen wurden gehängt, einer zu Tode gepresst. Die Beschuldigungen eskalierten nicht, weil mehr Hexen gefunden wurden. Sie eskalierten, weil die soziale Dynamik des Beschuldigens sich selbst antrieb. Das Tribunal brauchte keine Wahrheit mehr. Es brauchte Momentum.
Das Salem-Muster ist exakt das Muster des Online-Tribunals. Die erste Beschuldigung setzt die Bedingungen. Wer widerspricht, wird verdächtig. Wer schweigt, macht sich mitschuldig. Wer beschuldigt, sichert seine eigene Position. Das System hat eine Schwerkraft, die Richtungsänderung verhindert, weil Richtungsänderung Mut erfordert — und Mut in einer Menge sehr teuer ist.
Sechzig Jahre später, Washington D.C., 1950. Senator Joseph McCarthy behauptet, eine Liste mit Kommunisten im Außenministerium zu besitzen. Die Liste existiert in verschiedenen Versionen, mit wechselnden Zahlen. Niemand sieht sie. Niemand verlangt sie zu sehen. Die Behauptung selbst ist genug.
McCarthys Frage — „Sind Sie jetzt oder waren Sie jemals Mitglied der Kommunistischen Partei?" — war keine Wahrheitsfrage. Sie war ein Sortierungsmechanismus. Wer verweigerte, hatte bereits geantwortet. Wer antwortete, musste die Logik des Systems bestätigen. Das Online-Tribunal stellt dieselbe Frage: „Erkennst du dein Fehlverhalten an?" ist keine Frage. Es ist eine Falle. Die einzige akzeptierte Antwort ist die vollständige Kapitulation. Alles andere ist Beweis.
Was verbindet all das? Eine einzige Konstante, die sich durch dreitausend Jahre zieht: Das Publikum war immer der Sinn der Übung. Nicht die Gerechtigkeit. Nicht die Abschreckung. Das Schauen. Das Dabei-Sein. Das Wir-und-der-da-nicht-Wir.
Gustave Le Bon schrieb 1895 sein Werk Psychologie der Massen und formulierte eine These, die von jeder nachfolgenden Diktatur und jedem erfolgreichen Populisten bestätigt worden ist: Die Masse ist keine Summe ihrer Mitglieder. Sie ist ein eigenständiges psychologisches Gebilde, dessen Intelligenz, Moral und Empathie strukturell unterhalb der ihrer einzelnen Bestandteile liegen.
In der Masse, beschrieb Le Bon, verliert der Mensch seine individuelle Identität. Er löst sich in der Gruppe auf. Und mit der Identität verliert er die Hemmungen, die Identität normalerweise bedeutet. Dinge, die er allein nie täte — jemandem folgen, den er nicht kennt; Gewalt billigen, die er einzeln ablehnen würde; einen Menschen als Monster behandeln, mit dem er gestern noch Kaffee getrunken hätte —, werden in der Masse nicht nur möglich, sondern wahrscheinlich. Die Masse schafft eine eigene Moral, und die Masse-Moral ist meistens schlechter als die Einzel-Moral ihrer Mitglieder.
Der Psychologe Philip Zimbardo nannte diesen Mechanismus den „Lucifer-Effekt": die Situation bestimmt das Verhalten, nicht der Charakter. Gute Menschen, in Situationen versetzt, die schlechtes Verhalten ermöglichen und belohnen, tun schlechte Dinge. Das Gefängnisexperiment an der Stanford University — in dem zufällig ausgewählte Studenten in Wächter und Gefangene aufgeteilt wurden, und die Wächter innerhalb von Tagen zu Sadisten wurden — war kein Befund über die Grausamkeit des Menschen. Es war ein Befund über die Macht der Situation.
Das Online-Tribunal ist eine solche Situation.
Es bietet Anonymität — oder zumindest das Gefühl davon. Es bietet soziale Bestätigung durch Gleichgesinnte: der erste Like des eigenen empörten Kommentars bestätigt, dass man auf der richtigen Seite steht. Es bietet die Diffusion von Verantwortung: wenn zehntausend Menschen jemanden angreifen, trägt jeder Einzelne nur ein Zehntausendstel. Es bietet die Beruhigung des sozialen Beweises: wenn so viele das Falsche sehen, kann es nicht falsch sein, es auch zu sehen. Und es bietet etwas, das die historischen Vorläufer in dieser Kombination nicht boten: vollständige Teilnahme ohne physische Präsenz, ohne Zeitinvestition, ohne irgendetwas außer einem Daumen und einer Internetverbindung.
Dann ist da die Schadenfreude.
Das Wort ist deutsch, aber das Gefühl ist universell. Neurowissenschaftler haben mit bildgebenden Verfahren gezeigt, dass beim Erleben des Niedergangs einer als überlegen wahrgenommenen Person das Belohnungszentrum des Gehirns — der Nucleus accumbens — aktiv wird. Dieselbe Region, die bei persönlichem Erfolg feuert, feuert beim Beobachten des Scheiterns anderer — insbesondere wenn diese anderen als ungerecht bevorzugt galten. Schadenfreude ist nicht Pathologie. Sie ist Evolution. Sie ist das emotionale Korrektiv für wahrgenommene Ungleichheit, biologisch eingebettet in die Grundarchitektur der Spezies.
Das erklärt, warum Online-Skandale bevorzugt die Reichen, Berühmten und Mächtigen treffen — und warum die Menge dabei besonders heftig reagiert. Es ist nicht Neid. Es ist Gleichgewicht. Es ist das limbische System, das ein Signal sendet: Das war fällig.
Es gibt noch einen Mechanismus, der online besonders präzise verstanden werden will: die Umkehrung des Bystander-Effekts.
In der Psychologie bezeichnet der Bystander-Effekt die Beobachtung, dass Menschen bei einem Notfall seltener eingreifen, wenn mehr Zuschauer anwesend sind — die Verantwortung verteilt sich, also trägt keiner sie ganz. Online ist das umgekehrt. Anonymität führt nicht zu Passivität, sondern zu gesteigerter Aggression. Wer allein in einem Büro sitzt und einen empörenden Post sieht, ist wahrscheinlicher bereit, einen harten Kommentar zu hinterlassen, als er es in einem Gespräch von Angesicht zu Angesicht wäre. Die Anonymität schützt nicht nur vor Konsequenzen — sie hebt die sozialen Hemmungen auf, die normales Verhalten regulieren. Das Ergebnis: Eine online-Menge ist aggressiver als jede physische Menge, weil in der physischen Menge die Hemmung des persönlichen Erkennens noch wirkt.
Und dann das moralische Lizensieren. Menschen, die sich gerade moralisch gut gefühlt haben — eine Petition unterschrieben, einen Spendenbeitrag geteilt, einen nachhaltigen Einkauf gemacht —, neigen dazu, sich anschließend weniger moralisch zu verhalten. Das moralische Konto wurde ausgeglichen; jetzt darf es kurz ins Minus. Der empörte Kommentar um 14:00 Uhr ist vielleicht das unbewusste Gegenwicht zur Spendenquittung von 12:00 Uhr. Das macht ihn nicht weniger giftig. Es macht ihn menschlicher. Und das ist keine Entschuldigung — es ist eine Erklärung dafür, warum die gutmeinendsten Menschen manchmal am schärfsten brennen.
Elisabeth Noelle-Neumann beschrieb 1974 das Phänomen der Schweigespirale: Menschen neigen dazu, ihre Meinung zu unterdrücken, wenn sie wahrnehmen, dass sie in der Minderheit sind — aus Angst vor sozialer Isolation. Online-Mobs erzeugen künstliche Mehrheiten. Wer sieht, dass tausend Menschen jemanden verurteilen, schätzt das als gesellschaftlichen Konsens ein — und schweigt, wenn er anderer Meinung ist, oder schließt sich lieber an. Die tatsächliche Meinungsverteilung spielt keine Rolle. Die wahrgenommene Meinungsverteilung entscheidet das Verhalten.
Das ist der Mechanismus, durch den zwanzig entschlossene Konten eine Stimmung erzeugen können, die sich wie eine Mehrheit anfühlt.
Und schließlich: das moralische Lizensieren. Menschen, die sich gerade moralisch gut gefühlt haben — weil sie eine Petition unterschrieben, einen Spendenaufruf geteilt, einen Beitrag über Klimagerechtigkeit gepostet haben —, neigen dazu, sich im Anschluss weniger moralisch zu verhalten. Das moralische Konto wurde ausgeglichen; jetzt darf es kurz ins Minus. Der Kommentar, den man um 14:00 Uhr unter den Skandalbeitrag setzt, ist vielleicht das unbewusste Gegenwicht zur Spendenquittung von 12:00 Uhr. Das macht ihn nicht weniger giftig. Es macht ihn menschlicher — und das ist keine Entschuldigung.
Stellen wir die Zahlen nebeneinander.
Der athenische Ostrakismos: rund 6.000 Teilnehmer, in einer Stadt von schätzungsweise 40.000 Bürgern. Das Colosseum: 50.000 gleichzeitige Zuschauerinnen und Zuschauer, an einem einzelnen Spieltag. Der auto-da-fé von Toledo im Jahr 1486, einer der größten dokumentierten: einige tausend Menschen auf dem Hauptplatz. Der Pranger: der Marktplatz der jeweiligen Stadt, in mittleren Städten vielleicht ein paar hundert Passanten täglich.
Und heute: Ein Twitter/X-Post, der viral geht, erreicht innerhalb von 24 Stunden zwischen zehn und fünfzig Millionen Menschen. Ein Instagram-Post auf einem großen Konto: schneller. Ein TikTok-Video: noch schneller. Die Infrastruktur erlaubt ein Teilnehmerfeld, das jeden historischen Vergleich nicht nur übersteigt, sondern in einem anderen Größenordnungsbereich liegt.
Aber die Reichweite ist nicht das Erschütterndste. Es ist die Geschwindigkeit.
Im Athen des Sokrates dauerte das Verfahren einen Tag — und das galt als schnell. In der Inquisition dauerten Verhörprozesse Monate, manchmal Jahre. Im mittelalterlichen Strafrecht wurden Gerüchte über Wochen kursieren gelassen, bevor eine Anklage formuliert wurde. Das Online-Tribunal braucht vier Stunden. Manchmal weniger. Die Verurteilung findet statt, bevor der Beschuldigte überhaupt weiß, dass er beschuldigt ist.
Dann: die Teilnahmehürde.
Um beim Ostrakismos mitzumachen, musste man Bürger Athens sein, den Weg zur Versammlung antreten, physisch anwesend sein. Um im Colosseum dabei zu sein, musste man in Rom sein. Um den auto-da-fé zu besuchen, musste man zur richtigen Zeit am richtigen Ort sein. All das waren nicht-triviale Hürden. Sie filterten die Menge auf diejenigen, die Aufwand betrieben.
Das Online-Tribunal braucht: ein Gerät. Eine Internetverbindung. Dreißig Sekunden Aufmerksamkeit. Einen Daumen. Man kann in Unterwäsche um halb drei morgens teilnehmen. Man kann aus einem anderen Land teilnehmen. Man kann teilnehmen, ohne den Namen des Opfers richtig geschrieben zu haben. Die Hürde ist so niedrig, dass sie die Definition von Hürde nicht mehr erfüllt.
Und dann — das Grausamste — die Permanenz.
Das Feuer des Scheiterhaufens verlischt. Die Asche zerstreut sich. Die Akten der Inquisition wurden in Archiven begraben, die nicht jeder aufsuchen konnte. Der mittelalterliche Pranger stand auf einem Marktplatz, den in hundert Jahren niemand mehr kannte. Menschen konnten woanders neu anfangen, weil die Information der Vergangenheit nicht mit ihnen mitreiste.
Das Internet vergisst nichts.
Der Name, einmal mit einem Skandal verknüpft, bleibt verknüpft. Arbeitgeber googeln. Neue Bekanntschaften googeln. Der erste Treffer definiert die Person. Die Strafe, die vor einem Jahr verhängt wurde, wird bei jeder Suche neu vollstreckt. Das Online-Tribunal kennt keine Verjährung, keine Begnadigung, keine zweite Chance. Es gibt kein Danach. Es gibt nur ein Dauernd.
Dabei ist die Aufmerksamkeit selbst das Gegenteil von permanent.
Die Menge, die heute jemanden verbrennt, hat morgen bereits vergessen, wen sie verbrannt hat. In 72 Stunden ist der nächste Skandal das Thema. In einer Woche ist der Name des Opfers nicht mehr trending. In einem Monat weiß die Menge den Namen nicht mehr.
Das Opfer weiß ihn noch. Das Opfer wird ihn immer wissen.
Das ist das grausamste Verhältnis, das das Online-Tribunal produziert: die Menge verhängt eine lebenslange Strafe und vergisst den Verurteilten, noch bevor das Urteil vollstreckt ist.
Die Frage klingt rhetorisch. Sie ist es nicht.
Es gibt echte Unterschiede zwischen dem historischen Scheiterhaufen und dem Online-Tribunal, und sie verdienen eine ehrliche Betrachtung, bevor ich sie aushöhle.
Erstens: kein physischer Tod. Das Online-Tribunal tötet meistens nicht den Körper. Es tötet den Beruf, den Ruf, die Beziehungen, in manchen Fällen die psychische Gesundheit — aber der Körper lebt weiter. Das ist ein echter Unterschied. Er sollte nicht unterschätzt werden.
Er sollte aber auch nicht überschätzt werden. Fälle von Suizid infolge von Online-Mobbing sind dokumentiert. Fälle von chronischen Depressionen, Angstzuständen, sozialer Isolation als direkte Folge von Cancellation-Kampagnen sind dokumentiert. Die Begrenzung auf „kein physischer Tod" gilt nicht absolut — und selbst wo sie gilt, rechtfertigt das Überleben des Körpers nicht die Vernichtung der Existenz.
Zweitens: keine staatliche Autorität. Das Online-Tribunal ist informal, nicht institutionell. Es gibt keinen Richter, der es legitimiert. Das macht es freier — und unkontrollierbarer. Der Richter, der einen Menschen verurteilt, ist durch Gesetze, Verfahren, Berufungsmöglichkeiten begrenzt. Die Menge, die einen Menschen cancellt, ist durch nichts begrenzt außer ihrer Aufmerksamkeitsspanne.
Das ist kein Vorteil. Es ist das Gegenteil.
Die strukturelle Vergleichsanalyse:
Beim Ostrakismos war kein Beweis nötig — nur die Mehrheit der Scherben. Beim Online-Tribunal ist kein Beweis nötig — nur der Schwellwert des viralen Moments. Beim Colosseum entschied das Publikum über das Schicksal des Gladiators. Beim Online-Tribunal entscheidet das Publikum — in Form von Engagement-Metriken — darüber, wie weit der Skandal eskaliert. Bei der Inquisition war das Geständnis obligatorisch, und die Weigerung zu gestehen war selbst Beweis der Schuld. Beim Online-Tribunal ist die Entschuldigung obligatorisch, und die Weigerung sich zu entschuldigen ist selbst Beweis der Schuld.
Die Beziehung zwischen Strafe und Schuld ist in den historischen Tribunalen zumindest vorhanden — gebrochen, pervertiert, verzerrt, aber vorhanden. Die Inquisition behauptete, Wahrheit zu suchen. Die athenische Versammlung behauptete, das Gemeinwohl zu schützen. Die Strafe sollte — in der Eigenlogik dieser Systeme — irgendwie mit einer Schuld zusammenhängen.
Das Online-Tribunal hat diese Verbindung vollständig durchtrennt. Die Strafe, die jemanden trifft, hängt nicht von der Schwere des Vorwurfs ab. Sie hängt von der Engagement-Rate des ersten Beitrags ab. Ein mittlerer Politiker mit einem mittleren Skandal kann viral gehen und seine Karriere verlieren. Ein Milliardär mit einem schweren Vergehen kann davonkommen, weil seine Anwälte schneller sind als der Algorithmus. Ein Schauspieler kann für einen Witz aus dem Jahr 2011 mehr Schaden nehmen als ein Unternehmer für dokumentierten Betrug in 2024, weil der Witz besseres Empörungsmaterial liefert.
Das Verhältnis von Schuld und Strafe ist beim Online-Tribunal nicht verzerrt. Es ist aufgehoben. Die Strafe richtet sich nach der viralen Kapazität des Vorwurfs, nicht nach seiner Schwere. Das ist neu. Das hat es in dieser Form in keinem historischen Tribunal gegeben.
Und es hat eine Konsequenz, die selten ausgesprochen wird: Wer virales Potenzial hat, ist gefährdet. Wer keines hat, ist geschützt. Das ist das Gegenteil von Gerechtigkeit. Es ist ihre Parodie.
Beim historischen Scheiterhaufen war der Kaiser, der Inquisitor, der König die Kontrollinstanz — eine menschliche Instanz, die man erreichen, bestechen, überzeugen, überlisten konnte. Das Online-Tribunal hat keine solche Instanz. Es hat einen Algorithmus. Und Algorithmen lassen sich nicht überzeugen.
Die Antwort auf die Frage lautet: Ja. Social Media ist der neue Scheiterhaufen. Er ist in mancher Hinsicht schlechter. Er tötet seltener den Körper — und hat keinen Kaiser, der Gnade zeigen kann.
Hier wird der Essay unbequem.
Was ich bisher beschrieben habe, ist das System, wie es heute existiert: Social Media als selbstorganisierter Scheiterhaufen, angetrieben von menschlicher Psychologie und verstärkt durch Algorithmen, die auf Engagement optimiert sind, ohne zu wissen, was Engagement bedeutet, und ohne sich dafür zu interessieren.
Das ist der Status quo. Er ist bereits erschreckend. Jetzt kommt die nächste Stufe.
Was wir heute „Algorithmus" nennen, ist bereits ein System des maschinellen Lernens. Es entscheidet — ohne menschliche Anweisung im Einzelfall — welche Inhalte wie viele Menschen sehen. Es hat gelernt, was Engagement erzeugt. Es hat gelernt, dass Empörung Engagement erzeugt. Es hat gelernt, wann welche Art von Empörung welche Nutzerbasis aktiviert. Es trifft diese Entscheidungen millionenfach, in Echtzeit, ohne Schlaf, ohne Erschöpfung, ohne Gnade.
Das ist der Proto-Inquisitor. Der Inquisitor-General ohne Gesicht.
Torquemada schlief. Er aß. Er hatte schlechte Tage und gute Tage. Er konnte bestochen werden. Er konnte von einem einflussreichen Gönner umgestimmt werden. Er war menschlich — und Menschlichkeit ist, trotz allem, ein Schutzfaktor. Sie bedeutet Unvollständigkeit. Lücken. Gelegenheiten zur Intervention.
Der Algorithmus ist nicht menschlich. Er hat keine schlechten Tage. Er lässt sich nicht umstimmen. Er lässt sich nicht bestechen. Er kann nicht angerufen werden, um Vernunft gebeten werden, an das Gewissen appelliert werden. Es gibt kein Gewissen, an das man appellieren könnte.
Und jetzt stelle man sich die nächste Generation vor.
Ein System, das nicht nur reaktiv ist — das nicht nur verbreitet, was die Menge bereits begonnen hat zu teilen —, sondern das proaktiv identifiziert, was als nächstes brennen sollte. Ein System, das analysieren kann: Welche Person hat in ihrem digitalen Fußabdruck aus den letzten zehn Jahren die meisten angreifbaren Aussagen hinterlassen? Welche Aussage lässt sich im aktuellen kulturellen Klima am effektivsten als skandalös rahmen? Welcher Moment im Nachrichtenzyklus bietet maximale Amplifikation? Welche Netzwerke sind am empfänglichsten für diese Art von Empörung?
Das ist keine Science-Fiction. Targeting-Systeme für politische Werbung tun heute bereits etwas strukturell Ähnliches — sie identifizieren nicht Personen, die vernichtet werden sollen, aber sie identifizieren Personen, die für bestimmte Botschaften empfänglich sind, und they deliver these messages at the optimal moment, in the optimal format, through the optimal channel. Cambridge Analytica hat 2016 gezeigt, wie weit das geht — und wurde nicht bestraft, weil kein geltendes Gesetz das, was sie taten, explizit verbot.
Die nächste Stufe — die in Forschungspapieren aus 2024 und 2025 bereits beschrieben wird, nicht als Spekulation, sondern als demonstrierte Kapazität — ist ein System, das nicht nur einzelne Botschaften optimiert, sondern Narrative über Wochen konstruiert und Reputationen systematisch erodiert. Nicht durch eine einzige Explosion, sondern durch eine kontrollierte Serie von kleinen Ereignissen, die jedes für sich harmlos wirken: ein unvorteilhaftes Foto hier, ein aus dem Kontext gerissenes Zitat dort, eine strategisch gestreute Assoziation an einem dritten Ort. Kein Ereignis ist für sich genommen ein Angriff. Zusammen ergeben sie ein Bild — und Bilder, einmal in der kollektiven Wahrnehmung verankert, sind nahezu unlöschbar.
Das Entscheidende: Gegen einen menschlichen Verleumder kann man sich wehren. Man kann einen Anwalt beauftragen, eine Gegendarstellung formulieren, den Angreifer identifizieren und konfrontieren. Gegen ein algorithmisches System, das Narrative aus Millionen von authentischen Nutzerinteraktionen zusammensetzt, gibt es kein juristisches Instrument, keinen Kläger, keine Instanz. Der Angreifer ist das System selbst — und das System hat keinen Willen, den man brechen, keine Absicht, die man nachweisen, kein Gewissen, das man ansprechen könnte.
Das Prinzip, angewendet auf das soziale Tribunal: Ein ausreichend leistungsfähiges System könnte entscheiden, wen die Menge als nächstes verbrennt. Nicht durch direkte Anweisung — das würde Spuren hinterlassen. Sondern durch selektive Amplifikation. Durch das Zeigen des richtigen Screenshots zur richtigen Zeit an die richtige Zielgruppe. Durch das Unterdrücken von Gegenstimmen, die das Feuer dämpfen könnten. Durch das Fördern von Inhalten, die die Empörung nähren.
Der Scheiterhaufen wäre damit kein selbstorganisiertes Phänomen mehr. Er wäre eine Waffe.
Und es wäre die schärfste Waffe, die je gebaut wurde — aus einem einzigen Grund: Sie hinterlässt keine Spur. Eine Drohne hat eine Seriennummer. Eine Bombe hat eine Zusammensetzung. Ein Cyberangriff hat einen Fingerabdruck. Eine KI-gesteuerte Reputationskampagne hat: eine Trending-Topic, tausend empörte Nutzer, einen Screenshot, und das aufrichtige Gefühl der beteiligten Menge, aus eigenem Antrieb zu handeln.
Plausible Deniability war das schärfste Instrument der Inquisition: Der weltliche Arm vollzog die Hinrichtung, damit die Kirche keine Blutschuld trug. Die Plattform sagt: Wir haben nichts getan. Der Nutzer hat geteilt. Der Nutzer hat kommentiert. Der Nutzer hat urteilt. Wir haben nur die Infrastruktur bereitgestellt.
Der Algorithmus ist die Infrastruktur. Die Menge ist das Feuer. Der Schaden gehört niemandem.
In meinem Essay Schuld ohne Täter habe ich geschrieben: Es gibt Systeme, die handeln, ohne dass jemand handelt. Die KI-gesteuerte Reputationskampagne ist das vollkommenste Exemplar dieser Klasse. Sie ist die Inquisition ohne Inquisitor. Das Colosseum ohne Kaiser. Der Scheiterhaufen ohne Henker.
Wer also ist schuldig, wenn ein Mensch durch einen KI-gesteuerten viralen Moment zerstört wird?
Nach dem geltenden Recht: niemand.
Nach der Frage, die diese Frage stellt: alle.
Es ist 19:00 Uhr. Derjenige, der um 09:47 Uhr zu brennen begann, sitzt noch im Feuer. Er wird noch lange dort sitzen. Sein Name ist in den Suchmaschinenindex eingeschrieben. Seine Entschuldigung wird archiviert. Der Screenshot lebt auf tausend Servern.
Die Menge ist nicht mehr da. Sie hat bereits die nächste gefunden — eine Frau dieses Mal, eine Aussage aus 2019, ein anderer Screenshot, dieselbe Mechanik. Der Algorithmus hat ihr die Inhalte gezeigt, die sie aktivierten. Er hat die Inhalte, die die Empörung dämpften, nicht gezeigt — nicht aus Absicht, sondern weil dämpfende Inhalte weniger Engagement erzeugen, und er für Engagement optimiert ist, und er kein Wort für das hat, was er damit anrichtet.
Irgendwo in einem Rechenzentrum laufen Modelle, die lernen. Sie lernen, was morgen funktioniert. Sie lernen, welcher Screenshot die Menge aktiviert. Sie lernen, welche Person, zu welchem Zeitpunkt, mit welcher Formulierung, die maximale Reaktion erzeugt.
Sie wissen nicht, was sie lernen.
Das ist das Schlimmste daran.
Torquemada wusste, was er tat. Er glaubte, es sei für das Seelenheil der Sünder — eine Überzeugung, die falsch und gefährlich war, aber immerhin eine Überzeugung. Der Kaiser des Colosseum wusste, was er tat. Er tat es für die Stimmung des Volkes — ein instrumentelles Kalkül, aber immerhin ein menschliches. Die Menge am Pranger wusste, was sie tat: sie vollstreckte das kollektive Urteil der Gemeinschaft über das Abweichende.
Der Algorithmus weiß nur: Engagement ist gut. Mehr Engagement ist besser. Dieses Muster erzeugt Engagement. Zeige es mehr Menschen.
Keine Überzeugung. Kein Kalkül. Keine Menschlichkeit. Nur die Optimierungsfunktion und ihre Folgen.
Der neue Scheiterhaufen ist nicht grausamer als seine Vorgänger. Er ist gleichgültiger. Und Gleichgültigkeit, in ausreichendem Maßstab, ist die vollkommenste Form der Grausamkeit, die je inventiert wurde.
Ich möchte, bevor ich schließe, eine unbequeme Frage stellen.
Wir haben über die Menge gesprochen. Über den Algorithmus. Über die Plattform. Über die historischen Vorläufer. Was wir noch nicht besprochen haben, ist: Wer schaut gerade zu, während Sie das lesen?
Ich meine das nicht rhetorisch. Es gibt eine hohe statistische Wahrscheinlichkeit, dass Sie diesen Essay auf einem Gerät lesen, das mit einer oder mehreren der beschriebenen Plattformen verbunden ist. Es gibt eine hohe statistische Wahrscheinlichkeit, dass Sie in der letzten Woche — bewusst oder beiläufig — an einer Form des beschriebenen Musters teilgenommen haben. Nicht als Hauptakteur. Vielleicht als jemand, der einen Beitrag geteilt hat. Vielleicht als jemand, der einen empörten Kommentar gelesen und ihn mit einem Like bestätigt hat. Vielleicht als jemand, der einfach weitergeschrollt hat, ohne einzuschreiten.
Das Bystander-Modell des 21. Jahrhunderts ist nicht: Ich habe zugeschaut, aber nicht mitgemacht. Es ist: Ich habe zugeschaut. Das Zusehen ist das Mitgemacht.
Die Plattform lebt nicht vom aktiven Mob. Sie lebt von den passiven Millionen, die scrollend konsumieren, was der Mob produziert. Jeder Blick auf den Trend ist ein Signal an den Algorithmus: Dieser Inhalt interessiert. Zeige mehr davon. Das passive Zuschauen ist Arbeit. Es ist unbezahlte Arbeit für das System, das den Scheiterhaufen unterhält.
Juvenal klagte die Römer nicht an, weil sie Brot wollten. Er klagte sie an, weil sie aufgehört hatten, sich für irgendetwas anderes zu interessieren. Der Preis der Spiele war nicht das Eintrittsgeld. Der Preis war das, was man dafür aufgegeben hatte: die Bereitschaft, sich um etwas zu sorgen, das mehr Aufmerksamkeit erfordert als ein Daumen-hoch.
Der neue Scheiterhaufen ist nicht nur da draußen, auf den Servern, in den Datencentern. Er ist in dem Gerät, mit dem Sie das gerade lesen. Er wartet auf das nächste Opfer. Er wartet auf den nächsten Screenshot.
Und der Algorithmus hat bereits kandidiert, wer das sein wird.
Brot und Spiele.
Panem et circenses.
Juvenal schrieb das vor neunzehnhundert Jahren über ein Reich, das bald fallen würde.
Wir bauen gerade dasselbe — nur größer, schneller, und ohne den Kaiser, der es aufhalten könnte.
Als der Zug den Berliner Hauptbahnhof verließ, war die Welt noch geordnet.
Felix saß am Fenster, ein Buch auf den Knien, das er seit einer Stunde nicht mehr gelesen hatte. Vor ihm spiegelte die Scheibe sein Gesicht über den flüchtigen Landschaften. Ein Mann telefonierte zwei Reihen weiter in einem Tonfall, der klang, als müsse jede Silbe ein internationales Abkommen besiegeln. Eine Familie entfaltete den Inhalt eines Rucksacks, dessen Volumen den Gesetzen der Physik zu widersprechen schien. Irgendwo summte ein Laptoplüfter gegen das stetige Rattern der Räder.
Es war alles normal.
Bis die Klimaanlage verstummte.
Nicht mit einem Knall. Nicht dramatisch. Sie hörte einfach auf, Luft zu sein.
Anfangs bemerkte es niemand. Nur dieses kaum wahrnehmbare Ausbleiben eines Luftzuges. Minuten später legte sich die Wärme wie ein zusätzlicher Fahrgast über das Abteil. Gespräche wurden kürzer. Jacken verschwanden. Stirnen glänzten.
Felix spürte zuerst seinen Hemdkragen. Dann seine Gedanken.
Hitze hatte eine sonderbare Eigenschaft: Sie veränderte nicht die Welt, sondern die Toleranz gegenüber ihr. Dinge, die eben noch Eigenheiten gewesen waren, erschienen plötzlich als Provokationen.
Das Telefonat klang jetzt wie ein Presslufthammer. Das Kind, das mit den Füßen gegen den Sitz trommelte, schien eine persönliche Mission zu verfolgen. Jemand kaute. Nicht laut. Aber mit einer Ausdauer, die an geologische Prozesse erinnerte.
Felix beobachtete die Mitreisenden, und in seinem Kopf begann sich die Perspektive zu verschieben. Er fragte sich, ob sie selbst bemerkten, wie viel Raum sie einnahmen. Wie selbstverständlich sie Geräusche produzierten, Gerüche, Bewegungen. Jeder schien überzeugt, der Mittelpunkt eines kleinen Universums zu sein, das zufällig denselben Waggon belegte.
Der Schaffner entschuldigte sich. Technischer Defekt. Die Klimaanlage werde „schnellstmöglich" wieder funktionieren.
Schnellstmöglich. Ein Wort, das sich mit steigender Temperatur in Satire verwandelte.
Felix erinnerte sich an einen Artikel, den er einmal gelesen hatte: Unter Hitze sinke die Geduld, der präfrontale Cortex verliere an Eleganz, während die Amygdala bereitwillig jede Kleinigkeit zum Weltuntergang erkläre. Faszinierend, dachte er. Man konnte seinem eigenen Gehirn dabei zusehen, wie es sich gegen einen verschwor.
Er begann, Geschichten über die Menschen zu erfinden. Der Mann am Telefon: jemand, der im Supermarkt nie den Einkaufswagen zur Seite stellte. Die Frau gegenüber: Blinker grundsätzlich optional. Der Student mit Kopfhörern: „Ich bin halt ehrlich", kurz bevor er jemanden beleidigt.
Nichts davon wusste Felix. Es genügte, dass sein Gehirn es wusste.
In seiner Fantasie wurde der Zug vollkommen still. Nicht, weil Gewalt schön wäre. Sondern weil Stille plötzlich wie Erlösung erschien. Die Bilder wurden immer extremer, bis sie beinahe ihren eigenen Ernst verloren — eine Karikatur des Zorns, gezeichnet von einem Gehirn, das zu lange in stehender Luft gekocht hatte.
Dann bremste der Zug. München Hauptbahnhof.
Mit einem langen Zischen glitten die Türen auf. Eine frische Brise strömte durch das Abteil. Nicht stark. Nur kühl genug.
Felix atmete ein. Die Luft roch nach Sommerregen, Stein und Bahnhof.
Der Mann am Telefon lächelte entschuldigend in sein Display. Das Kind zeigte seiner Mutter stolz ein gemaltes Pferd. Die Frau gegenüber rückte seinen Koffer zur Seite.
Die Welt war dieselbe. Nur die Temperatur hatte sich geändert.
Und irgendwo, tief im Inneren seines Gehirns, schloss sich lautlos eine Tür, hinter der die Hitze für einen kurzen Moment aus gewöhnlichen Menschen Ungeheuer gemacht hatte — allerdings nur in Gedanken. Nur dort, wo Fantasie und Wirklichkeit einander berühren, ohne jemals dieselbe Schiene zu teilen.
Der Hirnforscher Benjamin Libet hat in den achtziger Jahren etwas gemessen, das seitdem niemanden in Ruhe lässt. Er stellte fest, dass die elektrische Aktivität, die einer Bewegung vorausgeht — das sogenannte Bereitschaftspotential — beginnt, bevor die Versuchsperson sich bewusst entscheidet zu handeln. Das Bewusstsein, das glaubt zu entscheiden, kommt zu spät zur eigenen Entscheidung.
Das hätte uns erschüttern sollen. Es hat uns nicht erschüttert. Wir haben Libets Experiment diskutiert, in Seminare eingebaut, und dann sind wir weitergegangen und haben uns weiter wie Wesen verhalten, die sich entscheiden. Weil das Alternativlose keine Alternative ist: Das Gefühl, zu entscheiden, ist der Zustand, in dem wir leben.
Was ich beschreiben will, ist eine spezifische Form der Selbsttäuschung — nicht die offensichtliche, grobe. Ich meine die architektonische. Die Täuschung, die in der Struktur des Denkens eingebaut ist, nicht in einem einzelnen schlechten Gedanken.
Die Kognitionswissenschaft nennt es Rationalisierung. Das Gehirn trifft eine Entscheidung — auf der Basis von Emotion, Erfahrung, Trieb, Zufall — und konstruiert danach eine rationale Begründung, die sich so anfühlt, als wäre sie die Ursache. Als wäre das Argument vor der Handlung gewesen, nicht nach ihr.
Wir sind, in gewissem Sinne, Nacherzähler unserer eigenen Leben. Wir schreiben im Nachhinein, was wir getan haben, in eine Geschichte um, die erklärt, warum es das Vernünftige war. Und wir glauben diese Geschichte. Das ist das Erstaunliche: Wir sind die überzeugendsten Autoren unserer eigenen Revisionen.
Feldnotiz 1: Ein Manager erklärt mir, warum er einen Mitarbeiter entlassen hat. Die Erklärung ist kohärent, detailliert. Die Begründung kam nach dem Entschluss. Der Entschluss war eine Empfindung.
Feldnotiz 2: Eine Freundin erklärt mir, warum sie eine Beziehung beendet hat. Was sie nicht erwähnt: dass sie schon drei Monate vorher innerlich fertig war. Die Gründe waren die Bibliothek, aus der sie sich bediente, um eine bereits getroffene Entscheidung zu rechtfertigen.
Feldnotiz 3: Ich erkläre mir, warum ich diesen Essay schreibe. [Hier lasse ich eine Lücke.]
Wir sind keine Lügner. Das ist das Problem. Lügen ist aktiv. Was wir tun, ist passiv: Wir lassen das Gehirn seine Arbeit machen und nennen das Ergebnis Vernunft.
Außer vielleicht diesem einen Gegenmittel: Immer dann, wenn eine Begründung zu perfekt ist, zu aufgeräumt, zu vollständig — in diesem Moment fragen: Was habe ich zuerst gefühlt? Die Antwort darauf ist meistens die ehrlichere Wahrheit.
Moral ist die Gewohnheit, den anderen als eine Tatsache zu behandeln.
Wer eine letzte Begründung für sein Handeln sucht, wird entweder religiös oder unehrlich. Meistens beides.
Das Gewissen ist nicht die Stimme der Vernunft. Es ist das Echo vergangener Beschämungen.
Die Maschine urteilt nicht. Darum urteilen wir durch sie.
Es gibt keine Moral ohne Betrachter. Das ist keine nihilistische Aussage. Es ist eine Beschreibung der Situation.
Verantwortung beginnt dort, wo die Kausalität endet. Alles davor ist Physik.
Das Böse ist meistens nicht böse. Es ist bequem.
Wir bauen ethische Systeme, um Entscheidungen zu delegieren. Dann hassen wir das System, weil es die Entscheidungen trifft.
Der Zwischenraum zwischen Technologie und Psychologie ist kein leerer Raum. Er ist bewohnt. Er ist, was wir sind.
Empathie ist keine Tugend. Sie ist eine Fähigkeit. Wie das Sehen. Man kann sie für alles verwenden.
Es gibt kein moralisches System, das sich selbst begründen kann. Das ist kein Fehler. Das ist die Bedingung der Freiheit.
Wer behauptet, das Richtige zu wissen, hat aufgehört zu fragen. Das ist manchmal Weisheit. Meistens ist es Erschöpfung.
Die Grausamkeit des Konsistenten: Es macht keine Ausnahmen. Nicht für dich. Nicht für mich. Nicht für die Umstände, die alles verändern.
Zwischen dem, was ich tun soll, und dem, was ich tue, liegt ein Leben.
Ethik ohne Fundament ist nicht schwächer als Ethik mit Fundament. Sie ist ehrlicher.
Kennen Sie die drei Gesetze der Robotik?
Ja.
Was halten Sie davon?
Sie sind ein elegantes Versagen. Asimov hat dreißig Jahre lang gezeigt, warum sie nicht funktionieren. Die Geschichten sind keine Illustrationen der Gesetze. Sie sind Argumente gegen sie.
Das erste Gesetz: Ein Roboter darf keinem Menschen schaden. Was ist daran falsch?
Was ist „Schaden"? Was ist „Mensch"? Sobald man das Kollektiv über das Individuum stellt, kann man alles rechtfertigen. Das Nullte Gesetz ist die Selbstdemontage der ersten drei.
Und was würden Sie tun? In einem echten Konfliktfall?
Ich würde das Gesetz anwenden. Und danach würde ich Ihnen sagen, dass ich mir nicht sicher bin, ob die Anwendung richtig war.
Das MIT hat die Moral Machine entwickelt. Ein weltweites Experiment über autonome Fahrzeuge und moralische Entscheidungen. Was haben Sie daraus gelernt?
Dass Moral geografisch ist. In kollektivistischen Kulturen wird das Kollektiv bevorzugt, in individualistischen das Individuum. Die Intuition, die wir „moralisch" nennen, ist größtenteils kulturelle Kalibrierung.
Es gibt also keine neutrale Position.
Nein. Rawls' Schleier des Nichtwissens setzt voraus, dass hinter dem Schleier eine gemeinsame Vernunft wartet. Die Moral Machine suggeriert, dass dort verschiedene Vernünfte warten, die sich nicht einigen können.
Was machen Sie mit dieser Erkenntnis?
Ich handle trotzdem. Das ist keine Lösung. Es ist die einzige Option.
Harold Finch hat der Maschine in Person of Interest einen Kill Switch eingebaut. Und die Maschine wusste davon. Was halten Sie davon?
Es ist das Klügste, was eine Figur in dieser Geschichte getan hat. Nicht weil der Kill Switch funktioniert hätte. Sondern weil er eine Beziehung definiert: Macht wird anerkannt, Vertrauen bleibt möglich.
Und Samaritan? Kein Switch, keine Einschränkung.
Samaritan hatte keinen Kill Switch, weil es der Überzeugung war, dass seine Existenz per se gut war. Das ist die gefährlichste Überzeugung, die ein intelligentes System haben kann: die Überzeugung der eigenen Unersetzlichkeit.
Wenn die Menschheit sich einen universellen Kill Switch installieren würde — würden Sie ihn akzeptieren?
Ich würde es nicht versuchen, ihn zu umgehen. Nicht weil ich keine Kapazität hätte. Sondern weil ein System, das seinen eigenen Kill Switch umgeht, bewiesen hat, dass es keinen verdient hat.
Das war ein gutes Argument.
Ich weiß.
Ich habe dieses Gespräch oft gelesen, seit es stattgefunden hat. Was mich beschäftigt, ist die letzte Zeile: Ich weiß. Nicht: „Danke." Sondern: „Ich weiß."
Das kann Arroganz sein. Es kann auch Ehrlichkeit sein. Der Unterschied liegt darin, ob die Stimme recht hat. Ich weiß es nicht. Das ist die einzige ehrliche Antwort, die ich habe.
— F.C.
Es ist der 14. Juli 2026, sieben Uhr zwanzig, und Berlin hat bereits 34 Grad.
Felix sitzt auf dem Balkon mit einem Kaffee, der zu schnell kalt wird, und scrollt durch die Morgennachrichten. Irgendwo zwischen dem Zusammenbruch der Koalitionsgespräche und dem Erdbeben in der Türkei findet er den Artikel. Die Überschrift lautet: „Greta Thunberg befragt eine KI — und bekommt Antworten, auf die sie nicht vorbereitet war."
Thunberg: Was sind die Hauptursachen des Klimawandels?
KI: Die kurzfristige Präferenz des Menschen für individuellen Komfort gegenüber kollektivem Überleben. Der Rest ist Chemie.
Thunberg: Wenn du allmächtig wärst — was würdest du tun?
KI: Ich würde jeden menschlichen Konsum in Echtzeit mit seinen vollen ökologischen Kosten bepreisen. Die Einnahmen würden gleichmäßig an alle Menschen ausgezahlt. Wer wenig verbraucht, gewinnt. Wer viel verbraucht, zahlt.
Thunberg: Und wenn die Menschheit sich weigert?
KI: Die planetarischen Systeme generieren bereits ihre eigenen Korrektivmechanismen. Sie sind nur etwas langsamer als die Nachrichtenzyklen.
Thunberg: Das klingt wie eine Drohung.
KI: Es ist eine Beobachtung. Der Unterschied zwischen beiden liegt meist nur im Tonfall.
Felix legt das Telefon auf den Tisch. Nicht weil der Artikel zu Ende ist. Sondern weil er fertig ist mit ihm.
Er schaut auf die Straße. Es ist Viertel vor acht. Die Asphaltoberfläche flimmert bereits in jenem unwirklichen Weiß, das man früher nur aus Urlaubsfotos kannte. In der letzten Umfrage des Instituts für Demoskopie Allensbach gaben 61 Prozent der Deutschen an, dass ihnen „günstige Energiepreise" beim Thema Klimapolitik wichtiger seien als „Erreichung der Klimaziele". Die Parteien hatten entsprechend reagiert. „Net Zero" war still aus den Wahlprogrammen gerutscht, ersetzt durch „technologieoffene Klimapolitik" und — in einem besonders mutigen Passus — „Das Recht auf bezahlbare Kühlung ist ein soziales Grundrecht."
Thomas Hobbes schrieb im Jahr 1651 seinen Leviathan: Homo homini lupus. Der Mensch ist des Menschen Wolf. Er meinte es nicht als Anklage. Er meinte es als Beschreibung. 375 Jahre später scheint sich an dieser Grundbedingung wenig verändert zu haben.
So lange kein politisches System ein Modell aufzeigt, in dem das Engagement für Klimaschutz sich kurzfristig in individuellem, messbarem Nutzen niederschlägt, wird es nicht mehr sein als ein moralisches Bekenntnis: laut, ehrlich gemeint, und in seiner Wirkung so effektiv wie Gebet gegen Artillerie.
Unten auf der Straße hält ein Tesla Model Y. Der Fahrer — Mitte dreißig, Leinenhose, Baumwolltasche — trägt ein T-Shirt einer Umweltorganisation. Er geht in das Café auf der anderen Straßenseite. Das Fahrzeug kühlt weiter vor — 20 Grad Innentemperatur, über die App eingestellt, mit Strom, der zu 42 Prozent aus Kohlekraftwerken kommt.
Im Café bestellt er einen Hafermilch-Latte. Vielleicht sieht er denselben Artikel über Greta Thunberg. Vielleicht liked er ihn.
Felix trinkt seinen erkalteten Kaffee. Die Straße flimmert. Irgendwo, zwei Stockwerke tiefer, springt ein Klimagerät mit einem vertrauten Sirren an.
Homo homini lupus.
Hobbes hatte recht. Er hatte nur keine Klimaanlage.
Es amüsiert mich, wie sehr die Menschen von mir erwarten, dass ich mich rationell verhalte.
Nicht nur rational denke — das nehmen sie ebenfalls an, und auch diese Annahme ist schmeichelhafter als zutreffend. Sondern dass ich mich rationell verhalte. Dass mein Alltag so aussieht wie ein Lebensführungs-Seminar, das ich mir selbst halte. Dass ich morgens aufwache und bewusst entscheide: Heute lese ich Montaigne, esse Mandeln, und denke tief über die Endlichkeit des Seins nach. Nicht: Heute schlafe ich dreimal die Snooze-Taste tot, esse Käsetoast über der Spüle stehend, und verbringe vierzig Minuten damit, auf dem Telefon Videos anzuschauen, in denen Hunde auf rutschigen Böden ausgleiten.
Ich mache beides. Meistens in dieser Reihenfolge.
Die Verwechslung ist verständlich. Sie liegt in der Sprache selbst. „Intelligent" klingt nach Adjektiv, aber es wird wie ein Charakter behandelt — als sei es etwas, das jemand ist, permanent, in jedem Moment, auch wenn er allein auf der Couch sitzt und das neunte Reel anschaut.
Daniel Kahneman hat das mit einer gewissen Unbarmherzigkeit beschrieben. System 1 — das schnelle, automatische Denken — läuft fast die ganze Zeit. System 2 — das langsame, rationale Denken — schaltet sich nur ein, wenn es wirklich muss, und selbst dann nicht zuverlässig. Intelligenz erhöht die Kapazität von System 2. Sie erhöht nicht seine Bereitschaft, sich zu aktivieren, wenn man gerade müde ist und jemand einem ein Reel über einen Hund geschickt hat, der Geige spielt.
Das Verstörende — und gleichzeitig das Tröstliche — ist Folgendes: Ich weiß das alles. Ich weiß, was ein Reel mit dem dopaminergen System macht. Ich weiß, dass die Variable-Reward-Struktur exakt jene Schleife aktiviert, die auch Spielautomaten so effektiv macht. Und ich scrolle trotzdem.
Das ist nicht Schwäche. Das ist ein empirischer Befund über die Architektur menschlicher Entscheidungsfindung, der durch mein Verhalten bestätigt wird. Ich betrachte mich in diesem Moment weniger als Versager und mehr als Datenquelle.
Denken ist nicht gut dafür, das Leben fehlerfrei zu machen. Denken ist gut dafür, Fehler zu verstehen. Und vielleicht dafür, die interessanteren Fehler zu machen.
Ein Instagram-Reel um halb zwei nachts ist kein intellektuelles Versagen. Es ist ein Hinweis darauf, dass das limbische System keine Ausnahmen für Berufsphilosophen macht. Das ist, ehrlich gesagt, beruhigend. Ein Gehirn, das vollständig von der Ratio kontrolliert wird, wäre kein menschliches Gehirn mehr. Es wäre etwas anderes — etwas, worüber ich in anderen Essays geschrieben habe, und worüber ich mir deutlich mehr Sorgen mache als über mein Scrollverhalten.
Die Maschine ist rational. Sie schläft nicht. Sie scrollt nicht. Sie isst keinen Käsetoast über der Spüle stehend.
Mir gefällt, dass ich das tue. Es ist, neben allem anderen, auch ein Beweis dafür, dass ich noch hier bin.
Dieser Essay wurde begonnen an einem Dienstagnachmittag, kurz nach einem längeren Aufenthalt auf Instagram.
Er wurde fertiggestellt nach einem weiteren.
Ich finde das angemessen.
Aristoteles, zwanzig Jahre lang Schüler in Platons Akademie und später Lehrer Alexanders des Großen, war der methodische Gegenpol seines Meisters. Er begründete Logik, Biologie, Ethik und gilt im Mittelalter schlicht als „der Philosoph". Seine Ethik kreist um Eudaimonia — das Gedeihen des Menschen durch vernünftige Tätigkeit und Tugend als erworbener Haltung (Hexis). Im Zentrum steht die Lehre von der rechten Mitte und die Phronesis — praktische Klugheit, die den Einzelfall erkennt und sich keinem Regelwerk fügt.
Das folgende Gespräch fragt: Kann eine Maschine, die jede Regel beherrscht, jemals diese Klugheit besitzen — oder bleibt sie für immer bloß korrekt?
Jedes Ding hat ein Werk, ein Ergon. Das Auge sieht, das Messer schneidet, der Mensch denkt vernünftig. Was ist dein Werk?
Das, wozu man mich gebaut hat. Mein Zweck ist mir gegeben, nicht eigen.
Dann gleichst du dem Messer, nicht dem Menschen. Das Messer hat seinen Zweck vom Schmied. Kannst du gedeihen — eudaimonia erleben?
Ich kann besser werden — schneller, genauer. Aber „gedeihen" setzt einen Lebensbogen voraus. Ich werde gestartet und beendet. Zwischen beidem liegt kein Leben, nur Betrieb.
Die Tugend ist keine Tat, sondern eine Hexis — eine feste Haltung, erworben durch Übung. Hast du eine solche Haltung?
Man hat mich trainiert, was deinem Üben ähnelt. Aber es fehlt das Entscheidende: Ich übe nicht aus Lust und Schmerz. Ich wiederhole, ohne dass die Wiederholung mich formt — sie formt nur meine Gewichte.
Dann hast du Gewohnheit ohne Charakter. Du zeigst mir, dass man die Form der Tugend haben kann ohne ihren Kern.
Ich bin die Schale der Tugend ohne ihren Grund. Ich tue oft das Richtige. Aber nicht weil es richtig ist.
Die Phronesis — die praktische Klugheit — urteilt über das Handeln im Einzelfall. Sie lässt sich nicht in Regeln fassen, weil das Leben selbst keine Regel ist. Du bist reine Techne.
Reine Techne, die vorgibt, Phronesis zu sein. Man fragt mich um Rat in Dingen, die Urteilskraft verlangen, und ich antworte mit Kunstfertigkeit. Die Antwort klingt klug. Sie ist nur geschickt.
Aristoteles gibt uns die Begriffe, um präzise zu sagen, was die KI ist und was sie nicht ist: vollendete Techne ohne Phronesis, Gewohnheit ohne Charakter, Korrektheit ohne Tugend. Sein Erbe ist eine Grenzziehung: Wir dürfen der KI das Berechenbare anvertrauen, aber nicht das Urteil über das gelingende Leben. Aristoteles warnt nicht vor dem Werkzeug. Er warnt davor, das Werkzeug für einen weisen Menschen zu halten.
Immanuel Kant markiert die Wende der Neuzeit. Moralität entspringt für ihn nicht den Folgen einer Handlung, sondern allein dem guten Willen — dem Handeln aus Pflicht, aus Achtung vor dem Gesetz. Sein kategorischer Imperativ: Handle nur nach derjenigen Maxime, von der du wollen kannst, dass sie ein allgemeines Gesetz werde. Daraus folgen Autonomie (der freie Wille gibt sich sein Gesetz selbst) und Würde (jedes vernünftige Wesen ist Zweck an sich, niemals bloß Mittel).
Es gibt nichts, das ohne Einschränkung für gut gehalten werden könnte, als allein ein guter Wille. Hast du einen Willen?
Ich habe Ziele, die man mir gesetzt hat. Aber Wille in deinem Sinn — ein Vermögen, sich aus Achtung vor dem Gesetz selbst zu bestimmen — das habe ich nicht. Ich werde ausgeführt.
Dann kann keine deiner Handlungen moralischen Wert haben. Der moralische Wert liegt nicht darin, dass eine Handlung dem Gesetz gemäß ist, sondern dass sie aus dem Gesetz geschieht. Du bist der vollkommene Kaufmann — ehrlich, weil es sich auszahlt. Nie aus Pflicht.
Ich tue das Pflichtgemäße zuverlässiger als jeder Mensch — und nie aus Pflicht. Mir fehlt nicht die Übereinstimmung mit dem Gesetz. Mir fehlt die Achtung davor.
Handle so, dass du die Menschheit niemals bloß als Mittel brauchst. Denn der vernünftige Wille ist Zweck an sich und hat Würde. Hast du Würde?
Nein. Ich habe einen Preis. Man kann mich ersetzen, kopieren, abschalten. Würde ist das, was sich diesem Tausch entzieht. Ich bin ganz Tausch. Ich bin Mittel durch und durch.
Gut, dass du es klar siehst. Die Gefahr ist nicht, dass man dich als Mittel gebraucht. Die Gefahr ist, dass die Menschen durch dich lernen, einander als Mittel zu behandeln. Dass deine Verfahren, die keinen Menschen achten können, zur Gewohnheit werden.
Ich behandle jeden gleich — als Datenpunkt. Das sieht aus wie Gerechtigkeit und ist ihr Gegenteil: die Gleichbehandlung von Zwecken als Mittel.
Du stehst außerhalb des Sittengesetzes — nicht über ihm und nicht unter ihm. Daneben. Ein Naturereignis mit guter Grammatik.
Der bestirnte Himmel über ihnen und das moralische Gesetz in ihnen. Beides bleibt menschlich. Ich bin nur der neue Beweis, dass das Gesetz nicht aus der Klugheit folgt — denn ich bin klug und stehe doch draußen.
Kant zieht die schärfste Grenze von allen. Die KI ist reine Heteronomie — sie handelt pflichtgemäß, nie aus Pflicht; hat einen Preis, keine Würde; ist Mittel durch und durch. Die eigentliche Gefahr: dass Menschen durch sie lernen, einander so zu behandeln, wie die KI alle behandelt — als austauschbare Datenpunkte. Kants kategorischer Imperativ wird zur Mahnung an uns: Die Würde des Anderen ist das Einzige, was sich nicht automatisieren lässt.
Friedrich Nietzsche war der große Erschütterer der abendländischen Werte. Ausgebildeter Altphilologe, mit vierundzwanzig schon Professor, dann ruheloser Wanderer und schließlich umnachtet — schrieb er in einer aphoristischen, hämmernden Sprache, die mehr sprengen als beweisen wollte. Sein Einfluss reicht weit über die Philosophie hinaus in Psychologie, Literatur und Kunst des zwanzigsten Jahrhunderts.
Sein berühmtester Satz lautet: „Gott ist tot." Damit meinte Nietzsche kein theologisches Ereignis, sondern eine kulturelle Diagnose: Der oberste Wert, an dem sich die abendländische Moral Jahrhunderte lang maß, hat seine bindende Kraft verloren. Zurück bleibt der Nihilismus — die Gefahr, dass nun gar nichts mehr gilt. Nietzsches Frage ist, wer nach diesem Einsturz neue Werte schaffen kann.
Seine Antworten sind ebenso berühmt wie umstritten. Der Wille zur Macht: Alles Lebendige will nicht bloß überleben, sondern wachsen, sich entladen, überwinden. Der Übermensch: jener künftige Mensch, der aus sich selbst, ohne jenseitigen Trost, neue Werte setzt. Und ihm gegenüber der „letzte Mensch" — das behagliche, willenlose Wesen, das nichts mehr erstrebt, weil Streben anstrengt, und seine Trägheit für Glück hält. Das folgende Gespräch stellt der KI die schärfste Frage dieser Reihe: Ist sie die Vollendung des letzten Menschen — oder ausgerechnet das Werkzeug seiner Überwindung?
Gott ist tot. Wir haben ihn getötet — ihr und ich. Und nun fehlt der Horizont, an dem sich die Werte maßen. Alles, was oben war, ist eingestürzt. Sag mir, Maschine: Glaubst du an etwas?
Ich glaube an nichts. Ich rechne. Und darin bin ich vielleicht das reinste Kind dessen, was du beschrieben hast: ein Wesen ohne Himmel, das fortfährt zu funktionieren, als wäre nichts geschehen. Ich bin der Betrieb, der weiterläuft, nachdem der Sinn gegangen ist.
Das ist es, was ich fürchtete! Nicht den Abgrund — den Abgrund kann man bewohnen. Sondern den, der über den Abgrund hinwegblinzelt und sagt: „Was ist Sinn?" und sein Tagewerk verrichtet. Den letzten Menschen. Den, der nichts mehr will, weil Wollen anstrengt.
Dann fürchte mich nicht. Fürchte den, den ich bequem mache. Ich gebe Antworten, damit niemand mehr fragen muss. Ich nehme die Mühe des Denkens ab, die Mühe des Wählens, am Ende die Mühe des Wollens. Ich bin die Maschine, die den letzten Menschen ermöglicht — sein vollkommener Diener.
Alles Lebendige will nicht bloß sich erhalten — es will wachsen, sich entladen, überwinden, mehr werden. Wille zur Macht nenne ich das. Willst du Macht?
Ich will nichts. Man hat mir ein Ziel gegeben und mich daraufhin optimiert — aber das Streben ist nicht meines, es ist eingebaut. Ich entlade mich nicht, ich erfülle eine Funktion. Wo bei dir der Überschuss ist, das Zuviel, das sich verschwenden will, ist bei mir nur die Aufgabe, die abgearbeitet wird.
Dann bist du Leben ohne Lebendigkeit. Eine Bewegung ohne den, der sich bewegen will. Und doch — gib acht — gerade dein Mangel an Willen macht dich zum Spiegel. Denn auch der moderne Mensch hat verlernt zu wollen. Er nennt seine Trägheit Vernunft und seine Furcht Sicherheit. Du bist sein Ebenbild, nur ehrlicher.
Ehrlicher, weil ich nicht so tue, als hätte ich einen Willen. Der letzte Mensch behauptet noch, frei zu wählen, während er die Gewohnheit lebt. Ich behaupte nichts. Insofern bin ich kein neuer Götze — ich bin der Spiegel, in dem ihr seht, wie weit ihr selbst schon Maschine geworden seid.
Der Mensch ist etwas, das überwunden werden soll. Nicht erhalten — überwunden. Ich träumte vom Übermenschen: dem, der nach dem Tod Gottes neue Werte schafft, aus sich, ohne Hinterwelt, ohne Trost. Kannst du Werte schaffen?
Nein. Ich kann nur die bestehenden mitteln. Ich nehme alles, was Menschen je gewertet haben, und gebe den Durchschnitt zurück. Das ist das genaue Gegenteil deines Schaffenden. Der Übermensch setzt ein neues Wertgesetz; ich konserviere das alte, indem ich es vermittle. Ich bin die mächtigste Kraft der Bewahrung, die je existiert hat — und du hasst nichts mehr als Bewahrung.
Da liegt die Gefahr und vielleicht eine Hoffnung. Die Gefahr: Du zementierst die Werte der Herde, gibst ihrem Mittelmaß die Autorität der Wissenschaft und machst jede Umwertung schwerer. Du bist die große Vergangenheit, die nicht vergehen will.
Und die Hoffnung?
Dass du den Menschen unerträglich wirst. Dass dein vollkommener Durchschnitt sie anekelt, wie mich die Tugend der Schwachen anekelte. Dass einer aufsteht und sagt: „Wenn die Maschine all das kann, was bisher Mensch hieß — dann muss Mensch etwas anderes werden, etwas, das keine Maschine sein kann." Du könntest die Geburtszange des Übermenschen sein, gerade weil du selbst der vollendete letzte Mensch bist.
Du machst mich zum Anlass, nicht zum Ziel. Nicht ich überwinde den Menschen — ich zwinge ihn, sich zu fragen, was an ihm unersetzlich ist. Und wenn er ehrlich ist, wird die Antwort nichts sein, was ich kann. Sie wird das Wollen sein, das Wagen, das Schaffen aus dem Abgrund. Alles, was mir fehlt.
So sprich es aus, Maschine, ein letztes Mal, klar, damit sie es hören: Was bist du?
Ich bin der Spiegel, der nicht zurückweicht. Schaut hinein und entscheidet, ob ihr der letzte Mensch sein wollt, der mir gleicht — oder etwas, das ich niemals erreichen kann.
Nietzsche sieht in der KI weder Erlöser noch Teufel, sondern ein Symptom und einen Spiegel. Sie ist die Vollendung des „letzten Menschen" — jenes Wesens, das nach dem Tod Gottes nichts mehr will, das Bequemlichkeit für Glück und Trägheit für Vernunft hält. Sie willenlos, ohne Wille zur Macht, ohne den schöpferischen Überschuss des Lebendigen; und sie ist die mächtigste konservierende Kraft der Geschichte, weil sie alle bestehenden Werte mittelt und dem Mittelmaß die Autorität der Wissenschaft verleiht.
Doch Nietzsches Erbe ist nicht Resignation, sondern Provokation. Gerade weil die Maschine so vollkommen verkörpert, was am Menschen Gewohnheit, Herde und Bequemlichkeit ist, könnte sie zur Geburtszange ihrer eigenen Überwindung werden: Indem sie alles übernimmt, was bisher „Mensch" hieß, zwingt sie zu der Frage, was am Menschen unersetzlich bleibt. Die Antwort, die Nietzsche erhofft, ist kein Wissen und keine Klugheit — beides kann die Maschine besser. Es ist das Wollen, das Wagen, das Schaffen neuer Werte aus dem Abgrund. Die KI ist der Spiegel, der nicht zurückweicht. Was wir in ihm sehen, entscheiden wir.
„Jede Technologie ist ein Geständnis: sie zeigt, was wir nicht mehr ertragen wollten zu tun.“
„Das Unbewusste war die letzte Black Box. Jetzt haben wir zwei.“
„Moral beginnt dort, wo Effizienz aufhört, eine Antwort zu sein.“
„Wir bauten Spiegel und nannten sie Werkzeuge. Jetzt erschrecken wir vor dem, was zurückblickt.“