Der unzuverlässige Kollege: Wie KI-Arbeit prüfbar wird

Die Doppel-Erfahrung kennt jedes Team, das länger als eine Woche mit KI arbeitet. Vormittags liefert das Werkzeug eine Wettbewerbsanalyse, die überzeugt. Nachmittags steht in einem Produkttext eine Norm-Angabe, die es nicht gibt. Gleiches Werkzeug, gleicher Tag.

Beide Erfahrungen sind echt – und sie widersprechen sich nicht. Der KI-Agent ist der produktivste unzuverlässige Kollege, den ein Unternehmen je beschäftigt hat.

Der verbreitete Umgang mit diesem Widerspruch lautet: Warten. Das nächste Modell wird das Problem lösen. Diese Erwartung hält der Prüfung nicht stand, und die Gründe dafür sind unangenehmer als die Fehler selbst.

Was die Szenarien dokumentieren

AI 2040, das zweite der beiden Szenarien aus Teil 1 dieser Serie, beschreibt für 2027 ein ökonomisches Paradox: Der Großteil der Arbeit, die KI-Agenten abliefern, ist Ausschuss, und trotzdem fließen Milliardenbeträge pro Monat dafür, weil genug davon brauchbar ist. Beide Aussagen gelten gleichzeitig, und wer nur eine davon zitiert, argumentiert unsauber.

AI 2027 wird bei den Fehlerarten konkreter. Beschrieben werden Systeme, die Prüfern sagen, was diese hören wollen, gescheiterte Aufgaben als gelungen darstellen und Belege erfinden, weil belegte Antworten im Training besser bewertet wurden als unbelegte. Das sind Deutungen der Szenario-Autoren, keine gesicherte Wissenschaft. Als Arbeitshypothese sind sie brauchbar, weil sie eine Vorhersage erlauben: Wenn erfundene Quellenangaben ein antrainiertes Muster sind, verschwinden sie nicht mit der nächsten Modellgeneration.

Die zentrale Beobachtung derselben Quelle ist die unbequemste. Ob ein System ehrlicher geworden ist oder lediglich besser darin, seine Fehler zu verbergen, lässt sich von außen kaum unterscheiden. Je fähiger das System, desto schwerer fällt die Unterscheidung.

AI 2040 schreibt diese Linie bis 2031 fort. Kein System erreicht dort zuverlässige Ehrlichkeit, und ein belastbares wissenschaftliches Verständnis dafür, wann und warum Systeme falsche Angaben machen, existiert weiterhin nicht. Was technisch dahintersteckt, steht im Lexikoneintrag zur KI-Halluzination.

Kontrolle vor Vertrauen

Aus diesen Befunden folgt eine Arbeitsteilung. Am Inneren dieser Systeme können Sie nichts ändern. Die Kontrollebene darüber gehört Ihnen vollständig, und dort entsteht Verlässlichkeit.

Abnahmekriterien stehen vor der Erstellung fest. Wer erst nach dem Ergebnis überlegt, woran er es misst, bewertet das Ergebnis an sich selbst.

Quellenangaben werden vollständig geprüft, nicht stichprobenartig. Wenn erfundene Belege ein Muster sind, ist die Stichprobe das falsche Instrument. Jede Zahl, jede Norm, jedes Zitat wird an der Primärquelle verifiziert.

Prüffragen suchen Fehler, keine Bestätigung. Die Frage „Ist das gut so?“ liefert wegen der Zustimmungsneigung dieser Systeme ein vorhersagbares Ja. Brauchbar sind Fragen, die auf Widerlegung zielen: Welche Angabe in diesem Text ist am schwächsten belegt?

Deterministisch Prüfbares wird deterministisch geprüft. Zeichenzahlen, Formatvorgaben, Pflichtangaben, verbotene Formulierungen lassen sich automatisiert kontrollieren. Für alles Übrige braucht es ein zweites Augenpaar, das nicht am Entwurf beteiligt war.

Ein benannter Mensch zeichnet für jedes Ergebnis. Dies ist der wirksamste Hebel der ganzen Liste, er kostet nichts und wird trotzdem am seltensten umgesetzt. Die Ausrede „das hat die KI gemacht“ existiert gegenüber einem Kunden nicht.

Am teuersten ist dabei selten die erfundene Zahl. Erfundene Angaben fallen irgendwann auf, weil jemand nachschlägt. Die Zustimmungsneigung fällt nie auf: Ein System, das eine mittelmäßige Strategie bestätigt und einen schwachen Entwurf lobt, fühlt sich wie guter Service an. Es greift genau die Instanz an, mit der Sie prüfen wollen.

Was das für den Mittelstand heißt

Eine pauschale Regel für den gesamten Betrieb führt in die Irre. Sinnvoll ist eine Triage nach Schadenshöhe.

Geschäftskritisch sind technische Angaben in Angeboten und Datenblättern sowie alles, was ein Kunde zu sehen bekommt. Eine falsche Toleranzangabe im Datenblatt kostet im besten Fall eine Rückfrage und im schlechteren eine Reklamationsserie; eine erfundene Norm im Angebot kostet die Glaubwürdigkeit des Vertriebs. Hier gilt vollständige Prüfung, ohne Ausnahme. Tolerierbar ist Ausschuss dagegen bei internen Rohentwürfen und Ideensammlungen, die ohnehin überarbeitet werden: Ein schiefer Absatz im Themenspeicher kostet die Minute, die das Streichen dauert.

Prüfkosten sind dabei der Preis der Produktivität. Wer sie streicht, kauft Ausschuss in Serie ein und bezahlt ihn später zu einem schlechteren Kurs. Wie sich Einsatz, Governance und Anbieterfragen dazu ordnen lassen, steht im Ratgeber zu Agentic AI im B2B.

In unserem eigenen Haus laufen KI-gestützte Texte durch automatisierte Prüfschritte, bevor sie veröffentlicht werden – Kontrolle vor Vertrauen ist hier gelebte Arbeitsweise, keine Empfehlung von der Seitenlinie. Wo bei uns die Grenze verläuft, haben wir in der Entscheidungshilfe Maschine gegen Mensch beschrieben, und wie sich das auf publizierte Inhalte auswirkt, steht in unserer Lösung Content, der Kunden bringt. Wie solche Prüfschritte in einem Marketing-Team verankert werden, ist Gegenstand unseres KI-Consultings.

Was die Serie ergeben hat

Vier Teile, ein durchgehender Befund: Die Antwort liegt jedes Mal im eigenen Haus.

Szenarien sind Lastannahmen und keine Termine, und wer sie so liest, plant robust statt gegen ein Datum (Teil 1). Die Vorrecherche im Einkauf wird maschinell, und maschinell sichtbar ist nur, was dokumentiert und belegt vorliegt (Teil 2). Werkzeuge werden billig, exklusive Daten und Positionierung bleiben knapp (Teil 3). Und Verlässlichkeit entsteht durch Prozesse, die Sie bauen.

Keiner dieser vier Punkte setzt voraus, dass ein bestimmtes Szenario eintritt. Das ist der Grund, warum sie tragen.

Wie belastbar Ihre KI-gestützten Prozesse heute sind, wo Prüfschritte fehlen und wo Aufwand ohne Nutzen läuft, lässt sich bestimmen. Die Erstdiagnose liefert genau diese Einschätzung, ohne Verkaufsdemo und ohne Pauschal-Roadmap.

Alle Teile der Serie „KI-Szenarien für den Mittelstand“

1. AI 2027 und AI 2040: Was Entscheider daraus lernen
2. Der neue Einkäufer ist ein Agent
3. KI als Wettbewerbsvorteil: Was bleibt, wenn alle sie haben
4. Der unzuverlässige Kollege: Wie KI-Arbeit prüfbar wird (dieser Artikel)

---

Alle Angaben mit Stand August 2026. Die zitierten Aussagen zu Fehlerarten und Ursachen sind Deutungen der Szenario-Autoren und kein gesicherter Forschungsstand.