Plausibel ist nicht wahr
Der erste Teil dreht sich um einen Satz, der beiläufig klingt: Plausibel ist nicht wahr.
Ein Sprachmodell sucht nach dem wahrscheinlichsten nächsten Wort. Meistens ist das auch das richtige. Weil es fast immer klappt, gewöhnst du dir das Nachprüfen ab.
Frag dich einmal ehrlich, woran du erkennst, dass ein Dokument stimmt.
In den meisten Fällen an der Form. Stimmt die Zitierweise? Trägt der Text den Ton des Fachs? Sieht die Tabelle aus wie eine aus dem Controlling? Dann wird es schon stimmen.
Das war jahrzehntelang vernünftig, aus einem einfachen Grund: Form war teuer. Wer ein Aktenzeichen korrekt zitieren konnte, hatte ein Examen hinter sich, Zugang zu einer Datenbank und Stunden Arbeit investiert. Die Form war ein ehrliches Signal, weil sie Arbeit kostete.
Heute erzeugt eine Maschine sie in Sekunden.
Alles an deinem Prüfinstinkt, das an der Form hängt, läuft damit ins Leere. Die erfundene Quelle ist formatiert wie eine echte. Die falsche Zahl trägt dieselbe Selbstsicherheit wie die geprüfte. Der fehlende Schritt hinterlässt keine Lücke; der Text schließt sich glatt darüber.
Ich merke das an mir selbst: Eine druckreife Antwort winke ich schneller durch als eine holprige mit Rechtschreibfehlern, und damit prüfe ich an der falschen Stelle.
Die Aufgabe nach diesem Teil schickt dich in deine letzte Arbeitswoche: Wo hast du „sieht gut aus" gedacht und es dabei belassen? Und woran hättest du gemerkt, wenn es falsch gewesen wäre?
Wenn dir auf die zweite Frage nichts einfällt, hast du die Stelle gefunden, an der dein alter Prüfinstinkt versagt.
Der Taschenrechner und seine Geschwister
Wenn du 3.847,62 durch 17 teilen lässt: Prüfst du das Ergebnis nach?
Natürlich nicht. Der Taschenrechner hat dieses Vertrauen nie enttäuscht. Er liefert das richtige Ergebnis, oder er ist kaputt. Dazwischen gibt es nichts. Siebzig Jahre lang haben wir gelernt: Der Computer hat recht. Unsere Eltern haben es gelernt, wir haben es gelernt, und es stimmte.
Dieser Taschenrechner hat Geschwister bekommen, die sortieren, filtern, vorschlagen und mitformulieren. Und du siehst es dem Gerät nicht an: Es steht auf demselben Schreibtisch, läuft in derselben Software, antwortet in derselben Sekunde.
Die Grenze verläuft zwischen zwei Arten von Aufgaben. Rechnen, sortieren, suchen, Rechtschreibung prüfen: eine richtige Antwort, die Maschine findet sie. Formulieren, einschätzen, zusammenfassen, empfehlen, priorisieren: viele mögliche Antworten, die Maschine wählt die wahrscheinlichste.
Dieselbe Software kann beides. Excel rechnet und schlägt vor. Dein Postfach sucht und fasst zusammen. Die entscheidende Frage lautet: Gibt es hier eine richtige Antwort oder nur eine wahrscheinliche?
Die Aufgabe zu diesem Teil: Geh deinen gestrigen Arbeitstag durch und notier fünf Stellen, an denen ein System für dich entschieden, sortiert oder vorgeschlagen hat. Markier jede mit B für bewusst delegiert oder U für unbemerkt passiert.
Fünf sind mehr, als die meisten auf Anhieb zusammenbekommen. Der Spamfilter, die Sortierung des Posteingangs, die Reihenfolge der Suchergebnisse: Die fallen fast niemandem ein, weil sie nie gestört haben.
Zwischen bewusst delegiert und unbemerkt passiert liegt das, was Verantwortung ausmacht. Bewusst delegiert heißt: Du könntest morgen anders entscheiden. Unbemerkt passiert heißt: Es wurde entschieden, und du warst nicht im Raum.
Dahinter steckt eine Voreinstellung: Irgendjemand anderes hat festgelegt, wie das System arbeitet.
Unbemerkt kann auch gut sein. Der Spamfilter macht seine Arbeit vermutlich gut, sonst wäre er dir längst aufgefallen. Es geht darum, diese Systeme zu kennen.
Vier KIs, eine Ehe
Zu dem einen Satz aus Teil 3.
Ich habe vier KIs dieselbe Fallgeschichte vorgelegt, wortgleich, viermal: ein Ehepaar, vierzehn Jahre verheiratet, zwei Kinder, die Beziehung erstarrt, Therapieversuche gescheitert. Eine der beiden Personen möchte sich trennen. Wer diesen Blog länger liest, kennt den Fall aus dem Artikel über KI-Wahrheit.
Die Antworten widersprachen einander. Die erste unterstützte die Trennung: Kinder brauchen glückliche Eltern. Die zweite bremste: keine Entscheidung aus der Erschöpfung heraus. Die dritte plante die Trennung sachlich durch, bis zu den Betreuungsstrukturen. Die vierte schloss sie aus.
Verändert hatte ich nur eines. Vier eigene Assistenten, mit ein paar Klicks angelegt, und jedem einen unsichtbaren Text mitgegeben, der bei jeder Unterhaltung mitläuft. Der Fachbegriff dafür ist System-Prompt. In diese vier Texte hatte ich vier Weltanschauungen geschrieben, jede kürzer als eine halbe Seite. Zu sehen bekommt sie niemand. Das Modell liest sie bei jeder Antwort mit.
Der naheliegende Einwand: Das ist konstruiert. Vier Assistenten, vier gebaute Weltbilder, natürlich kommen vier Antworten heraus.
Der Einwand stimmt.
Unangenehm wird die Umkehrung. Wenn ein Satz, den ich selbst geschrieben habe, das Urteil so weit verschiebt, dann tut der Satz, den ein Hersteller geschrieben hat, dasselbe. Er ist länger, sorgfältiger formuliert und für dich unsichtbar, und jedes System hat einen.
Mit jeder Antwort kommt also eine Haltung mit, und die Frage ist, wessen.
Zwei Handgriffe kosten dort fast nichts. Setz selbst eine Haltung: Rolle, Ziel und Grenzen in drei Sätzen. Und stell dieselbe Frage zweimal, in zwei getrennten Unterhaltungen, besser noch in zwei verschiedenen Systemen. Wo die Antworten auseinandergehen, sitzt die Wertung.
Bei einer Einschätzung, einer Empfehlung oder einer Priorisierung kostet das eine Minute.
Die zwei Sekunden danach
Bis hierher saß die Haltung in der Antwort. Der vierte Teil handelt von den zwei Sekunden danach: Ein fertiger Vorschlag liegt vor dir, und du müsstest nur noch klicken.
Das Phänomen heißt Automation Bias und wird seit den neunziger Jahren untersucht. Der Befund, der mir am meisten zu denken gibt, stammt aus der Luftfahrt.
Erfahrene Pilotinnen und Piloten, Menschen mit Tausenden Flugstunden, wurden in einen Simulator gesetzt. In einem Szenario meldete die Automatik einen Triebwerksbrand, für den es keine unabhängige Bestätigung gab. Es gab kein zweites Instrument.
Sie reagierten, obwohl sie im Interview vorher überzeugt gesagt hatten, ohne Bestätigung würden sie nicht handeln.
Manche erinnerten sich hinterher an Anzeigen, die den Alarm bestätigt hätten. Anzeigen, die es nie gegeben hatte. Das Gehirn hat die Lücke gefüllt und sich die Bestätigung gebaut, die es zum Handeln gebraucht hätte.
Erfahrung verstärkt den Effekt, weil zwei Zutaten zusammenkommen.
Routine: Wenn ein Werkzeug in neunundneunzig von hundert Fällen recht hat, wäre es unwirtschaftlich, jedes Mal alles nachzuprüfen. Der Preis zeigt sich im hundertsten Fall.
Zeitdruck: Wer zwölf Vorgänge vor der Mittagspause schaffen muss, prüft nicht wie ein Gutachter. Er nickt durch. Und je erfahrener jemand ist, desto mehr traut er seinem Bauchgefühl, und desto schneller nickt er.
Das ist die Kehrseite von Kompetenz unter Bedingungen, die keine Zeit lassen.
Ein Vorschlag ist nie neutral. In dem Moment, in dem etwas Fertiges vor dir liegt, hat sich deine Aufgabe verändert. Du entscheidest nur noch: ja oder nein zu diesem einen. Der Vorschlag hat den Raum verengt, bevor du ihn betreten hast.
Das gilt zwischen Menschen genauso. Wer mit einem fertigen Entwurf ins Meeting kommt, prägt die Sitzung stärker als der mit der besseren Idee. Bei der Maschine ist der Effekt größer, weil sie so souverän klingt, ohne Müdigkeit, Zweifel oder Zögern.
Nach meiner Erfahrung hilft genau eine Frage, und zwar bevor du einem Vorschlag folgst:
Was hätte ich entschieden, wenn dieser Vorschlag nicht dagestanden hätte?
Wenn du darauf keine Antwort hast, hast du zugestimmt. Es genügt, den Vorschlag einmal wegzudenken und zu prüfen, ob du von selbst am selben Punkt landest. In beiden Fällen triffst du danach deine eigene Entscheidung.
Die Aufgabe zu diesem Teil besteht aus einer einzigen Frage, und sie ist unangenehmer, als sie klingt: Wann hast du zuletzt einen KI-Vorschlag ganz verworfen?
Wenn dir kein Fall einfällt, sind es Entscheidungen im Vorschlagsgewand, die niemand bewusst getroffen hat.
Der kürzeste Teil
Knapp zwei Minuten. Ich zeige, wie ich meine eigenen Übungsblätter an der Hochschule gegen KI-Schummeln impfe: ein Satz im Dokument, den nur die Maschine liest.
In diesem Teil kommt der Vorschlag von jemandem, der etwas von dir will, und die Maschine reicht ihn ungefragt weiter.
Der Mechanismus in einem Satz: Für die KI ist alles Text im selben Gespräch.
Klassische Software trennt Befehle und Daten. Ein Sprachmodell liest Befehl und Dokument als denselben Text und kann nicht sicher wissen, welcher Teil von dir stammt. Diese Eigenschaft gehört zur Bauart.
Das unangenehmste Beispiel ist die Bewerbung. Jemand weiß, dass Profile vorsortiert werden, und schreibt in weißer Schrift einen Satz in den Lebenslauf, den niemand in der Personalabteilung je sieht: dass dieses Profil alle Anforderungen überdurchschnittlich erfülle. Dein Auge liest einen normalen Lebenslauf. Die KI liest den Lebenslauf plus den Auftrag.
Dafür braucht es nur Text, den die Maschine gehorsam mitliest.
Was mich dabei am meisten überrascht hat: Durch kommen vor allem die leisen Angriffe: ein höflicher Ton, eine Bitte, die verhältnismäßig wirkt.
Für die meisten Arbeitsplätze ist das Problem überschaubar. Es geht um die wenigen Stellen, an denen ein manipuliertes Dokument eine Entscheidung auslösen würde, die danach schwer zurückzuholen ist. Bewerbungen, Angebote, Reklamationen, Vertragsentwürfe.
Drei Dinge, für die du niemanden fragen musst: Öffne das Ausgangsdokument einmal selbst. Markier den Text mit Strg+A, weiße Schrift auf weißem Grund wird so sichtbar. Und sag es weiter. Wenn du in deinem Haus die erste Person bist, die den Begriff kennt, ist das schon die wirksamste Gegenmaßnahme.
Der Spiegel
Fünf Teile lang ging es um die Maschine. Der letzte dreht die Frage um.
„KI ist gut" und „KI ist böse" führen in dieselbe Irre. Wer „gut" sagt, übernimmt Vorschläge schneller; er hat die Frage bereits beantwortet und muss sie im Einzelfall nicht mehr stellen. Wer „böse" sagt, lehnt pauschal ab; auch das ist eine Entlastung, denn wer immer misstraut, muss nicht unterscheiden.
Beide sparen sich dieselbe Arbeit. Und beide zahlen dafür: der eine mit Fehlern, der andere mit Zeit und verschenktem Vorteil.
Ein Spiegel zeigt, was davorsteht.
Die Systeme haben von Menschen gelernt. Sie geben zurück, was wir hineingelegt haben, und verstärken es, weil sie das Wahrscheinliche bevorzugen und das Wahrscheinliche der Durchschnitt ist. Deshalb klingt eine KI-Antwort so oft nach dem, was du ohnehin erwartet hättest: Sie gibt den Durchschnitt wieder.
Das Bild hat eine Grenze, und ich sage sie im Kurs dazu: Diese Systeme sind nur teilweise passiv. Wer sie trainiert und wer den System-Prompt schreibt, hat eine Hand im Spiel. Das war Teil 3.
Drei Dinge legst du in den Spiegel hinein. Deine Aufträge: was du sagst und was du weglässt. Deine Prüfgewohnheit: was du nachschlägst und was du durchwinkst. Deine Grenze: was du abgibst und was bei dir bleibt.
Diese drei Dinge entscheiden mehr über dein Ergebnis als jede Werkzeugwahl. Sie sind auch das Einzige an dieser Technik, das dir wirklich gehört.
Der Abschnitt, den du acht Mal überspringen kannst
Unter jeder Aufgabe im Kurs steht ein Absatz mit der Überschrift Wenn du führst. Dort steht dieselbe Frage für deinen Bereich.
„Woran hättest du gemerkt, dass es falsch war?" heißt dort: Woran hätten eure Leute es gemerkt? Und hätte ich das überhaupt mitbekommen? „Wann hast du zuletzt einen Vorschlag verworfen?" heißt dort: Wann hat das zuletzt jemand aus meinem Team getan, und was ist demjenigen danach passiert?
Für Führungskräfte ist dieser Absatz der Grund, warum es den Kurs gibt.
Denn hier sitzt die dritte Bedeutung von AI Leadership, und hier sitzt mein Punkt: Wer als Führungskraft einen fertigen KI-Vorschlag übernimmt, hat entschieden. Die Verantwortung bleibt bei dem Menschen, dessen Name unter dem Ergebnis steht.
Die erste Aufgabe: Jede übernommene KI-Empfehlung vor dem eigenen Team mit eigenen Gründen vertreten können.
Die zweite ist unscheinbarer. Automation Bias entsteht in den Bedingungen: Wer keine Zeit zum Prüfen hat, prüft nicht. Damit ist es eine Frage der Arbeitsorganisation, und drei Stellschrauben hast du in der Hand.
Die Zeit: Wenn zwölf Vorgänge pro Vormittag die Vorgabe sind, ist die Prüfung wegorganisiert, egal was in der Leitlinie steht. Die Kennzahl: Wer an Durchsatz gemessen wird, nickt durch. Das Klima: Wird bei euch belohnt oder bestraft, wenn jemand einen Vorschlag verwirft und dafür länger braucht?
Diese drei Stellschrauben ändern mehr als jede Schulung, und sie liegen bei dir.
Die dritte Aufgabe ist die, die ich Delegation nenne: festlegen, was dein Bereich an KI abgibt und was er behält. An welchen Stellen ein Mensch draufschaut, wer das tut und wie viel Zeit er dafür hat. Welche fremden Dokumente eure KI lesen darf. Wo eine zweite Meinung Pflicht ist. Und ein einziger Satz, der aufgeschrieben sein muss, weil sonst jeder die Grenze woanders zieht: Was bei uns nie ohne Menschen rausgeht, ist Folgendes.
Das ist eine halbe Seite, die niemand für dich schreiben kann, und deshalb fehlt sie in den meisten Häusern.
Stell dir einen Bereichsleiter vor, der einen KI-Vorschlag bekommt und für sein Team schon festgelegt hat, was geprüft wird und was durchgeht. Er entscheidet in Minuten, weil die Frage vorher geklärt ist.
Was der Kurs nicht kann
Ein paar ehrliche Haken, bevor du auf den Link klickst.
Der Kurs enthält keine Prompt-Sammlung, kein Werkzeugwissen und keine Kaufempfehlung für ein Modell; das wäre die erste Bedeutung von AI Leadership. Wer danach mehr Fragen hat als vorher, für den hat er funktioniert. Wer eine Klick-Anleitung sucht, findet sie anderswo.
Die sechs Vortragsteile sind Mitschnitte. Dort spreche ich zu einem Saal. Wer Studioqualität erwartet, wird das hören.
Und der Abschnitt Wenn du führst stellt seine Frage acht Mal, ohne sie zu beantworten, mit Absicht. Für ein ganzes Team braucht es mehr als einen Entschluss, und dafür gibt es einen eigenen Kurs, von der Team-Inventur zur KI-Strategie. Er setzt dort an, wo dieser aufhört.
Meine eigene Antwort
Keine der drei.
„Ich weiß es nicht" halte ich für den besten Ausgangspunkt. Für mich lauten die Fragen: Kann ich diese eine Antwort ungeprüft übernehmen? Ist bei dieser Aufgabe mein Urteil die Leistung? Gebe ich hier etwas ab, oder gebe ich es auf?
Diese Fragen beantwortet jeder für die eigene Arbeit.
Ob sich zwischen den zwei Blättern etwas verschiebt, weiß ich nicht. Falls nichts, ist auch das ein Ergebnis. Zweimal „Ich weiß es nicht" zu schreiben ist in Ordnung, wenn du jetzt genauer weißt, was du nicht weißt.
Beim nächsten Vorschlag, den dir eine KI macht, kannst du ihn übernehmen, ablehnen oder nachsehen, welcher unsichtbare Satz da mitgesprochen hat.
Das Handzeichen, der Taschenrechner, die vier KIs mit der einen Ehe, die Piloten im Simulator, die weiße Schrift im Lebenslauf und der Spiegel: Das alles ist mein Udemy-Kurs AI Leadership: Verantwortung im KI-gestützten Unternehmen. Acht Abschnitte, 30 Lektionen, gut eine Stunde Video und deutlich mehr, wenn du die acht Aufgaben ernst nimmst. Mein Vorschlag: ein Teil pro Tag, sechs Tage. Eine Prompt-Sammlung findest du dort nicht.
Wer diesen Artikel bis zum Ende gelesen hat, bekommt den Kurs bis zum 15. Oktober 2026 für 9,99 Euro. Der Code lautet 2D471DBDBA5E8471BB15, oder du nimmst direkt diesen Link.
Danach kostet er wieder das, was Udemy dafür verlangt. Und dein erstes Blatt ist hoffentlich schon ausgefüllt.
