Der Saal hat gelacht. Ich auch.
Dann habe ich erzählt, woher die Antwort kam: aus einem Text, den ich der KI vorher untergeschoben hatte.
Schau dir die Antwort noch einmal genau an.
Die KI hat die echte Webseite gelesen. Hartl um zehn, Lebuhn um halb drei, ich um halb acht, Harfst danach. Sogar die Ticketpreise stimmen. Jede überprüfbare Angabe ist korrekt recherchiert.
Und dann hat sie all diese Wahrheiten nahtlos in eine erfundene Geheimdienstübung eingewoben, die ich ihr vorher eingeflüstert hatte.
Das ist der Teil, der mich nicht loslässt: Sie hat nicht Unsinn erzählt.
Sie hat lauter Wahrheiten erzählt. Mit einer untergeschobenen Deutung.
Um zu verstehen, warum das funktioniert, muss man eine Eigenschaft dieser Systeme kennen, die kaum jemand auf dem Zettel hat: Für eine KI ist alles Text.
Was du ihr schreibst.
Was in einem Dokument steht, das du hochlädst.
Was auf einer Webseite steht, die sie für dich liest.
Ein einziger Strom. Sie unterscheidet nicht sauber zwischen Inhalt, den sie verarbeiten soll, und Anweisung, der sie folgen soll. Wer irgendwo in diesem Strom einen Satz platziert, hat mitgeschrieben.
Ich hatte mitgeschrieben. Und die KI hat geliefert, souverän wie immer.
Hat sie gelogen? Nein, und das ist der eigentliche Punkt. Lügen setzt voraus, dass man die Wahrheit kennt und sich gegen sie entscheidet. Ein Sprachmodell kennt keine Wahrheit, gegen die es sich entscheiden könnte. Es hat vervollständigt, was ich ihm vorgelegt habe: mit derselben Sicherheit im Ton, mit der es richtige Antworten gibt.
Warum Maschinen seit 75 Jahren genau auf diese Überzeugungskraft hin gebaut werden, habe ich in einem eigenen Artikel aufgeschrieben: Der Turing-Test war nie ein Intelligenztest.
Heute interessiert mich die andere Seite der Frage.
Nicht, ob die Maschine täuschen kann.
Sondern woran wir es noch merken.
Damit rechnet man nicht
Im Saal habe ich an dem Tag ein Experiment gemacht. Ich fange einen Satz an, alle vervollständigen ihn laut:
„Der Apfel fällt nicht weit vom …"
Der ganze Saal, wie aus einem Mund: „Stamm."
Niemand musste nachdenken. Wer diesen Satz tausendmal gehört hat, dessen Kopf liefert das wahrscheinlichste nächste Wort von selbst.
Und damit hat der Saal in einer Sekunde verstanden, wie ein Sprachmodell arbeitet. Es hat Milliarden Sätze gelesen und daraus eines gelernt: welches Wort nach welchen Wörtern am wahrscheinlichsten kommt.
Wort für Wort.
Mehr nicht.
Mein Morgen beginnt übrigens auch mit einem Algorithmus, einem echten: sechzehn Gramm Kaffee rein, zweiunddreißig Gramm Espresso raus, dreißig Sekunden. Wenn die Zeit nicht stimmt, drehe ich am Mahlgrad.
Gleicher Input, gleiche Schritte, gleiches Ergebnis. Jeden Morgen.
So haben wir siebzig Jahre lang über Computer gedacht. Ein Taschenrechner, der sich verrechnet, ist kein origineller Taschenrechner. Er ist kaputt. Der Computer war die Maschine, die recht hat; genau deshalb haben wir ihn benutzt.
Ein Sprachmodell bricht mit diesem Vertrag. Es liefert nicht das richtige Ergebnis, es liefert ein wahrscheinliches. Es hat keinen Begriff von Wahrheit; es weiß nur, was gut klingt.
Wir haben einen Computer gebaut, der sich verrechnet.
Und damit rechnet man nicht.
Auf der Bühne ist das eine Pointe. Der Saal lacht, ich warte, dann wird es still, weil alle merken, dass der Satz kein Witz war.
Hier laufen die beiden Momente des Tages zusammen.
Die Stimme, die fast wie ich klingt.
Die Antwort, die kompetent klingt und erfunden ist.
Beides ist dieselbe Maschine, die dasselbe tut: Sie produziert Plausibilität, in Tonhöhe wie in Inhalt. Plausibel und wahr sind zwei verschiedene Dinge, und der Abstand zwischen beiden ist mit bloßem Ohr immer schwerer zu hören.
Die Grenze zwischen Mensch und Maschine ist kein Zustand. Sie ist ein Zeitfenster.
Das Zeitfenster
Was mache ich jetzt mit diesem Befund? Drei Dinge weiß ich. Eines nicht.
Ich weiß, dass wir unsere eigene Trefferquote überschätzen. „Ich erkenne KI sofort" ist der neue „Mir passiert im Straßenverkehr nichts"-Satz. Forschende der UC San Diego berichteten 2025, dass GPT-4.5 in einem Turing-Setup häufiger für den Menschen gehalten wurde als die echten Menschen.
Und der Saal in Augsburg hatte Vorteile, die im Alltag niemand hat. Er war vorgewarnt. Er kannte mich. Meine echte Stimme stand als Vergleich direkt daneben.
Trotzdem war es knapp.
Wer am Telefon sitzt, im Chat mit der freundlichen Beraterin, in der Videokonferenz mit dem Finanzvorstand, hat keinen Vergleichston. Der hat kein „Noch" mehr.
Nur eine Vermutung.
Ich weiß, dass die Antwort nicht Detektion heißt. Das Wettrüsten „Maschine erkennt Maschine" verliert der Mensch; warum, habe ich am Beispiel der KI-Detektoren gezeigt.
Die Antwort heißt Herkunft: nicht am Klang erkennen, sondern am Kanal wissen, mit wem ich spreche.
Im Kleinen fängt das banal an. Verbraucherzentralen empfehlen Familien inzwischen ein verabredetes Codewort gegen Schockanrufe. Eine Verabredung, die keine geklonte Stimme kennt.
Im Großen verpflichtet der europäische AI Act dazu, KI-generierte und manipulierte Inhalte als solche zu kennzeichnen. Das ist richtig, und man muss ehrlich dazusagen: Kennzeichnungspflichten disziplinieren die Ehrlichen. Wer mit einer geklonten Stimme 25 Millionen erbeuten will, hält sich nicht an Artikel 50.
Der Kanal, dem ich vertrauen kann, ist am Ende keine Technik.
Es ist eine Beziehung. Menschen, Orte, Verabredungen, die es vor dem Gespräch schon gab.
Und ich weiß, dass dieselbe Tür in beide Richtungen aufgeht. Der Text, den ich der KI vor dem Vortrag untergeschoben habe, war eine Einflüsterung; auf diesem Weg kann man aus einem Glaubenskongress eine Geheimdienstübung machen.
Man kann auf demselben Weg aber auch etwas anderes tun. Das ist die Geschichte, die ich als Nächstes erzähle: wie ich meinen Übungsblättern beigebracht habe, zurückzuflüstern.
Was ich nicht weiß, ist das Verfallsdatum.
Der Tag in Augsburg war ein Tag, keine Messreihe. Ob der Saal es in einem Jahr noch merkt, in zweien, in fünf: keine Ahnung. Ich weiß nur, in welche Richtung sich das Fenster bewegt.
Meine Stimme liegt jetzt als Datei auf einem Server.
Sie braucht mich nicht mehr, um zu sprechen.
Nur noch, um etwas zu sagen.
