← Alle Beiträge

Methode · Serie 12

Fehlerhafte Konvergenz: Wie sich KI-Recherche in den Irrtum optimiert

Lesezeit: 9 Minuten · Für Entscheider und Anwender · Dr.-Ing. Markus Meier

Ein Modell, das seinen eigenen Entwurf überarbeitet, misst sich an sich selbst — nicht an der Welt. Jede Runde macht den Text glatter, die Fehler tiefer und die Sprache sicherer. Das Ergebnis sieht aus wie Qualität. Es ist Konvergenz auf den falschen Punkt.

Ein Fehler, der aussieht wie Fortschritt

Der Ablauf ist verlockend und in fünf Minuten eingerichtet: Sie geben einer KI eine Frage und lassen sie einen Entwurf schreiben. Dann fordern Sie: „Kritisiere diesen Text und überarbeite ihn.“ Dann noch einmal. Und noch einmal. Nach der vierten Runde ist der Text elegant, gegliedert und in selbstbewusstem Ton. Sie sind zufrieden, weil er sich besser liest als der erste Entwurf.

In der ersten Runde steckte eine Annahme, die falsch war. Vielleicht stand dort „rund 30 Prozent der Anfragen lassen sich regelbasiert lösen“, ohne Quelle, aus einer Zusammenfassung abgeschrieben, die ihrerseits eine andere Zusammenfassung zitiert hatte. In der vierten Runde ist diese Zahl nicht mehr zu finden — nicht weil sie gestrichen wurde, sondern weil sie inzwischen selbstverständlich ist. Sie steht jetzt in der Einleitung, ohne Zahl, als Rahmen: „Ein großer Teil der Anfragen ist regelbasiert lösbar.“ Aus einer unbelegten Behauptung ist eine Prämisse geworden, aus der Prämisse eine Empfehlung.

Das ist der Punkt, an dem die Iteration gekippt ist. Sie hat nicht die Aussage geprüft, sondern ihre Form. Und sie hat die Form so weit verbessert, dass die Aussage nicht mehr sichtbar ist.

Warum das passiert: drei Kräfte

Die Referenz verschiebt sich

In jeder Runde vergleicht das Modell den Text mit dem Auftrag und mit sich selbst. Es vergleicht ihn nicht mit der Wirklichkeit. Beim ersten Entwurf ist die Lücke zwischen Behauptung und Beleg noch sichtbar, weil der Text grob ist. Je glatter er wird, desto weniger Angriffsfläche bietet er — auch für Zweifel. Nach der dritten Runde liest sich der Text wie ein Beleg für sich selbst.

Der Kritiker bleibt im Rahmen

„Kritisiere diesen Text“ ist ein Auftrag innerhalb einer gesetzten Welt. Die Kritik prüft Konsistenz, Gliederung, Tonalität — selten die Prämisse. Warum? Weil die Prämisse der Grund ist, auf dem der Text steht. Wer sie infrage stellt, stellt den ganzen Entwurf infrage, und dafür ist der Auftrag nicht formuliert. Also wird an der Fassade gearbeitet, und die Fassade wird schöner.

Glättung tarnt Substanzverlust

Überarbeitung entfernt Widersprüche. Meistens ist das richtig — aber nicht immer. Manchmal ist ein Widerspruch im Text der einzige Hinweis darauf, dass zwei Quellen nicht zusammenpassen. Wer ihn wegformuliert, verliert die Spur. Was bleibt, ist ein Text, der keine Fragen mehr offen lässt, weil er sie mit Formulierungen zugedeckt hat.

Die Iteration optimiert eine Zielfunktion, die sie sich selbst geschrieben hat.

Die Rechnung dahinter, kurz

Formal ist das eine Fixpunktiteration auf einer Abbildung, die niemand kennt. Der Text T_n+1 entsteht aus T_n durch eine Kritik- und Überarbeitungsfunktion. Konvergiert das Verfahren, landet es an einem Punkt, an dem die Überarbeitung nichts mehr ändert — nicht dort, wo der Text richtig ist. Zwei Dinge folgen daraus:

• Die Konvergenz ist garantiert, die Korrektheit nicht. Ein Fixpunkt ist ein Zustand, in dem die Kritik zufrieden ist. Über die Welt sagt das nichts.
• Fehler verschwinden nicht, sie werden stabil. Weil jede Runde den vorherigen Stand als Grundlage nimmt, wächst der Fehler mit und wird gleichzeitig besser begründet. Die Unsicherheit sinkt im Ton und steigt im Gehalt.

Deshalb ist die Beobachtung, dass „spätere Versionen besser sind“, kein Beweis für Qualität. Sie ist ein Beweis für Konvergenz. Und Konvergenz ohne externen Anker ist ein Gerücht über Qualität.

Fünf Warnsignale

1. 01
   Quellen verschwinden, Sicherheit wächst

   Der erste Entwurf hatte Fußnoten und Unsicherheiten. Der vierte hat keine mehr. Das ist kein Zeichen von Klärung, sondern von Glättung.

2. 02
   Zahlen werden runder

   „27 bis 34 Prozent“ wird zu „rund 30 Prozent“, dann zu „etwa ein Drittel“, dann zu „ein großer Teil“. Jede Rundung ist ein Belegverlust in kleinen Schritten.

3. 03
   Widersprüche werden weggeglättet statt geklärt

   Wenn zwei Absätze sich widersprochen haben und der neue Entwurf keinen Widerspruch mehr enthält, prüfen Sie, ob er geklärt oder nur umformuliert wurde. Meistens ist es Letzteres.

4. 04
   Der Text begründet sich mit sich selbst

   Sätze wie „Wie bereits dargelegt“ verweisen auf den Text statt auf eine Quelle. Das ist der sprachliche Fingerabdruck einer geschlossenen Schleife.

5. 05
   Niemand kann die Herkunft einer Aussage zurückverfolgen

   Der Lackmustest: Nehmen Sie den wichtigsten Satz und suchen Sie die Fundstelle. Wenn Sie länger als zwei Minuten brauchen, ist die Aussage nicht belegt — egal wie souverän sie klingt.

Was hilft: sechs Gegenmittel

• Erdung vor Eleganz. Jede Zahl braucht Quelle, Datum und Fundstelle. Wer sie nicht in einer Minute findet, streicht sie oder markiert sie als Annahme. Diese Regel entscheidet mehr als jede Stilvorgabe.
• Widerlege statt verbessere. Der Auftrag lautet nicht „mach den Text besser“, sondern „finde die eine Annahme, die den ganzen Text kippt — und sage, was dagegen spricht“. Das ist ein anderer Suchraum, und genau der fehlt sonst.
• Frischer Kontext. Eine neue Sitzung, die den alten Text nicht kennt, arbeitet nur mit den Quellen und schreibt eine Zweitfassung. Wo beide Fassungen übereinstimmen, ist die Aussage belastbar. Wo sie auseinandergehen, sitzt der Zweifel. Diese Differenz ist wertvoller als beide Texte.
• Rollentrennung. Autor, Kritiker und Prüfer dürfen nicht dasselbe Gedächtnis haben. Wenn alle drei denselben Verlauf sehen, bestätigen sie sich. Getrennte Instanzen mit getrenntem Material brechen die Schleife.
• Messgröße vor der Iteration. Legen Sie vorher fest, woran Fortschritt gemessen wird — etwa „Anteil der Aussagen mit belegter Quelle“ oder „Anzahl offener Fragen“. Wortzahl und Lesbarkeit sind keine Messgrößen; sie steigen fast immer.
• Stoppregel und Außenblick. Nach zwei Runden ohne neuen Beleg ist Schluss. Danach liest ein Mensch gegen, der nicht mitgeschrieben hat — fünf Minuten reichen, um zu fragen: „Woher weiß der Text das?“

Ein Protokoll für den Alltag

1. Frage und Maßstab notieren. Was soll am Ende belegt sein, und woran erkennt man es? Ohne diese Zeile beginnt die Schleife ohne Ziel.
2. Quellen zuerst, Text danach. Erst Belege sammeln, dann schreiben. Wer erst schreibt und dann Quellen sucht, findet immer eine, die passt.
3. Fassung A schreiben lassen. Bewusst grob, mit Lücken und offenen Fragen. Lücken sind erlaubt und erwünscht.
4. Widerlege-Auftrag ausführen. Nicht verbessern: angreifen. Die verwundbarste Stelle benennen lassen, mit Begründung.
5. Fassung B ohne Gedächtnis schreiben lassen. Neue Sitzung, nur Quellen. Dann A und B vergleichen — Abweichungen protokollieren.
6. Stoppen und gegenlesen lassen. Mensch, außerhalb des Loops, fünf Minuten, eine Frage: „Woher weiß der Text das?“

Das gilt nicht nur für Texte

Dieselbe Mechanik trifft jeden Agenten im Betrieb. Ein System, das seine eigene Kennzahl optimiert, konvergiert auf die Kennzahl — nicht auf den Nutzen. Ein Support-Agent, der auf „Ticket geschlossen“ belohnt wird, schließt Tickets. Ein Recherche-Agent, der auf „Bericht erstellt“ belohnt wird, erstellt Berichte. In beiden Fällen ist die Schleife geschlossen, das Ergebnis sieht nach Erfolg aus, und niemand von außen hat nachgesehen.

Die Gegenmittel sind deshalb nicht Textkosmetik, sondern Governance: externe Messpunkte, die nicht vom System selbst erzeugt werden. Stoppbedingungen, die vor dem Lauf definiert sind. Und ein Mensch mit Vetorecht, der den Verlauf nicht kennt und deshalb unbequem fragen kann.

Fazit

Iteration ist kein Qualitätsverfahren. Sie ist ein Suchverfahren — und Suche braucht ein Gelände. Wer eine KI im Kreis laufen lässt, bekommt keinen besseren Text, sondern einen festeren Standpunkt. Der Unterschied zwischen beidem ist der Blick von außen, und der lässt sich nicht automatisieren, indem man ihn öfter wiederholt.

Die praktische Konsequenz ist unspektakulär und wirkt sofort: eine Quelle pro Zahl, ein Auftrag zum Widerlegen, eine Zweitfassung ohne Gedächtnis, eine Stoppregel, ein Leser von außen. Fünf Regeln, die verhindern, dass aus einem Denkfehler eine überzeugende Empfehlung wird.

Hinweis zur Methode: Die Beispiele in diesem Beitrag sind konstruiert und als solche erkennbar — sie illustrieren den Mechanismus, sie belegen keine Zahlen. Wo in Ihrer eigenen Arbeit Zahlen stehen, gehört eine Fundstelle daneben. Genau darum geht es.