Wenn die KI aufhört zu lügen: Ein Prompt gegen den Bullshit

KI-Tools erfinden munter Fakten, Quellen und Zahlen – bis jetzt. Ein spezieller System-Prompt reduziert Halluzinationen drastisch. Die Lösung ist simpel, die Wirkung verblüffend.

ChatGPT erfindet Studien, die es nie gab. Claude zitiert Experten, die nicht existieren. Gemini liefert Zahlen aus dem Nichts. Willkommen im Büroalltag 2025, wo KI-Halluzinationen zum Standard gehören – und niemand mehr weiß, was stimmt. Doch es gibt eine Lösung, die so einfach ist, dass man sich fragt, warum nicht längst jeder sie nutzt.

Ein System-Prompt, einmal in den Grundeinstellungen hinterlegt, kann die Fehlerquote von KI-Chatbots massiv senken. Bei ChatGPT findet sich das Feld unter „Individuelle Anweisungen“, bei Claude unter „Anweisungen“, bei Gemini unter „Persönlicher Kontext“, wie t3n erklärt. Einmal eingerichtet, gilt der Prompt für alle künftigen Chats – keine nervige Wiederholung bei jeder Anfrage mehr.

Warum KI-Tools überhaupt lügen

Das Problem liegt in der Architektur großer Sprachmodelle: Sie sind darauf trainiert, immer eine Antwort zu liefern – auch wenn sie keine Ahnung haben. Statt zuzugeben „Ich weiß es nicht“, halluzinieren sie lieber plausibel klingende Fakten. Laut Copilotenschule ist die Hauptursache der „unbegrenzte Ausgaberaum“: Ohne klare Vorgaben generiert das Modell einfach das wahrscheinlichste nächste Wort, nicht unbedingt das korrekte.

Der Trick liegt darin, diesen Ausgaberaum einzugrenzen. Ein gut formulierter System-Prompt zwingt die KI, ihre Unsicherheit explizit zu machen. Der t3n-MeisterPrompter-Prompt beginnt mit der klaren Ansage: „Wenn Informationen unsicher, unvollständig oder spekulativ sind, sage das klar. Erfinde keine Fakten, Quellen oder Zahlen.“ Das klingt simpel, wirkt aber: Die KI bekommt die Erlaubnis, nicht allwissend zu sein.

Was den Prompt so effektiv macht

Entscheidend sind drei Mechanismen, zeigt die Forschung: Erstens klare Rollenbeschreibung – die KI versteht, dass sie als Assistent, nicht als Orakel agiert. Zweitens explizite Selbstprüfung – das Modell muss Annahmen kennzeichnen und Quellen benennen.

Drittens die Chain-of-Thought-Methode: komplexe Aufgaben in Teilschritte zerlegen, laut Media-beats ein wirksames Mittel gegen Konfabulation. Noch stärker wird der Effekt durch Dokumentenbezug (RAG – Retrieval-Augmented Generation): Wenn die KI nur aus hochgeladenen Dokumenten schöpfen darf, sinkt die Halluzinationsrate dramatisch. Alfapeople betont, dass die Kombination aus System-Prompt und RAG die mächtigste Waffe gegen KI-Lügen ist.

Der Reality-Check: Was der Prompt nicht kann

Aber Vorsicht vor falschen Heilsversprechen. Kein System-Prompt kann Halluzinationen vollständig eliminieren – dafür müssten die Modelle fundamental anders funktionieren. Iese warnt: Die probabilistische Natur von Large Language Models bleibt bestehen, System-Prompts sind nur Schadensbegrenzung.

In der Praxis heißt das: Der Prompt reduziert die offensichtlichen Fehler – erfundene Quellen, absurde Zahlen, falsche Zitate. Bei komplexen Sachverhalten oder wenn Fachwissen fehlt, bleibt die KI anfällig. Genesys empfiehlt deshalb zusätzliche Guardrails und externe Faktenprüfung bei kritischen Anwendungen.

Business Punk Check

Die t3n-Vorlage ist kein Gamechanger, sondern überfälliges Pflichtprogramm. Dass Nutzer 2025 noch manuell System-Prompts hinterlegen müssen, um KI-Bullshit zu reduzieren, ist ein Armutszeugnis für OpenAI, Anthropic und Google. Die eigentliche Frage: Warum sind solche Sicherheitsmechanismen nicht ab Werk Standard? Für den Büroalltag gilt trotzdem: Wer die zehn Minuten Setup-Zeit nicht investiert, arbeitet fahrlässig.

Der Prompt ist kostenlos, die Zeitersparnis durch weniger Faktenchecks beträchtlich. Aber verlasst euch nie blind auf die Ausgabe – auch mit Prompt nicht. Die KI bleibt ein Tool, kein Ersatz fürs Mitdenken. Wer das vergisst, produziert nur besseren Bullshit.

Quellen: t3n, Media-beats, Alfapeople, Copilotenschule, Iese, Useinvent, Genesys, Botfriends, Codecentric