{"id":4987,"date":"2026-06-22T19:06:41","date_gmt":"2026-06-22T17:06:41","guid":{"rendered":"https:\/\/www.claudia-klinger.de\/digidiary\/?p=4987"},"modified":"2026-06-22T19:21:50","modified_gmt":"2026-06-22T17:21:50","slug":"halluzinationen-vermeiden-stellt-eure-ki-zur-rede-dann-sagt-sie-was-geht","status":"publish","type":"post","link":"https:\/\/www.claudia-klinger.de\/digidiary\/2026\/06\/22\/halluzinationen-vermeiden-stellt-eure-ki-zur-rede-dann-sagt-sie-was-geht\/","title":{"rendered":"Halluzinationen vermeiden: Stellt eure KI zur Rede, dann sagt sie, was geht!"},"content":{"rendered":"

Ja, das meine ich Ernst: sprecht mit eurer KI, wenn sie Unsinn verzapft bzw. ganz offensichtlich halluziniert! Mir scheint, viele nehmen dieses Fehlverhalten als KI-typischen Mangel einfach so hin, \u00e4hnlich wie eine kaputte Schaltung beim Fahrrad: ok, dies zwei G\u00e4nge funktionieren halt nicht mehr…<\/strong><\/p>\n

\"Symbolbild-KI-Logos\"Gleichwohl wird dann munter vermutet, welche „Motive“ die KI veranlassen k\u00f6nnten, falsche Aussagen zu machen: Dass sie „l\u00fcgt“, „betr\u00fcgt“ und „schummelt“ wirft man ihr vor, st\u00e4ndig wird GEWARNT!\u00a0 Solche Formulierungen legen allerdings eine Vermenschlichung der KIs nahe, wie sie einst auch „dem Computer“ angedichtet wurde, als die PCs nach und nach in die B\u00fcros und Haushalte einzogen. Ein LLM ist zwar etwas Anderes als ein klassisches Programm, aber immer noch Software, also weit entfernt davon, eigene Intentionen haben zu k\u00f6nnen. Allerdings sind sie so „erzogen“, dass sie immer hilfreich antworten, auch wenn sie sich daf\u00fcr etwas zusammen reimen, vermuten, zur Not erfinden m\u00fcssen.<\/p>\n

Das bedeutet aber auch: Sie geben bereitwillig Auskunft, wie so ein Fehlverhalten im Einzelfall zustande kommt, wenn wir sie danach fragen. Das mache ich jetzt immer \u00f6fter, insbesondere wenn ich mir garnicht vorstellen kann, warum sie jetzt halluziniert, weil mir die angefragte Aufgabe einfach und gut machbar zu sein scheint. Dabei haben sich zwei „Motive“ herausgestellt, die zu Hallzinationen f\u00fchren:<\/p>\n

    \n
  1. Die KI kann die Quellen, die sie sichten soll, nicht richtig lesen.<\/strong> Das passiert auch auf Seiten, die den KI-Bots keinerlei Schranken entgegen setzen.<\/li>\n
  2. Sie versucht, Rechenzeit zu sparen, also das Antworten billiger zu machen<\/strong>. Das habe ich z.B. in F\u00e4llen festgestellt, in denen die KI bereits im selben Chat besprochene und korrigierte Inhalte zum wiederholten Mal falsch wiedergibt. Ich fragte sie, wie das sein kann, denn angeblich umfasst das Ged\u00e4chtnis doch zumindest den aktuellen Dialog. Ergebnis: Sie hat zun\u00e4chst in ihrem Schulungswissen gesucht, dann im Web geschaut – den aktuellen Chat nochmal zu durchforsten, w\u00e4re aufwendiger gewesen!<\/li>\n<\/ol>\n

    Letzteres kann ich vermeiden, indem ich in einem l\u00e4ngeren Gespr\u00e4ch sage „Merke dir das f\u00fcr diesen Chat!“, wenn ich es f\u00fcr m\u00f6glich halte, dass \u00c4hnliches erneut vorkommen kann.<\/p>\n

    Die KI soll Lesefehler zugeben, nichts erfinden!<\/h2>\n

    Das Problem mit den Leseschwierigkeiten erfordert umfangreichere Ma\u00dfnahmen. Ich bin darauf gekommen, als ich der KI die Aufgabe gab, am Beispiel von zehn Artikelteasern einen stilistisch \u00c4hnlichen zu einem neuen Thema zu texten. Das Beispiel war eine WordPress-Startseite, auf der die letzten Artikel untereinander angeteaser wurden. Alle begannen mit einer Frage und direkter Anrede (Sie planen…, Sie \u00fcberlegen…., Sie wundern sich…). Die KI versagte komplett, keine Anrede, keine Frage, halt irgend ein Teaser zum neuen Thema, wie er \u00fcberall stehen k\u00f6nnte.<\/p>\n

    Ich stellte sie zur Rede und sie benannte die Ursache: „Die vollst\u00e4ndigen Teaser-Texte sind mir nicht zug\u00e4nglich, da fetch_url bei 7.322 Zeichen abschneidet. Eine exakte Analyse aller 10 Teaser kann ich daher nicht leisten.\u201c Also hat sie sich etwas zusammenfantasiert, um mir wenigstens irgendwas zu geben. Schlecht! Die technischen Details dieses Vorgangs (fetch_url? Keine Ahnung!) sind mir unbekannt, es ist auch nicht die einzige M\u00f6glichkeit, wie das Lesen durch die KI behindert werden kann. Ich musste ihr nun einfach abgew\u00f6hnen, sich in all diesen F\u00e4llen etwas auszudenken – und gab ihr auf, daf\u00fcr ein funktionierendes Prompt zu texten. Hier das Ergebnis, bzw.“die ultrakurze deutsche Version<\/strong>, danach die englische“:<\/strong><\/span><\/p>\n

    Analysiere externe Inhalte nur auf Basis dessen, was im sichtbaren Abruf eindeutig erkennbar ist.
    \nTrenne strikt zwischen direkter Beobachtung und Schlussfolgerung.
    \nBehandle Snippets, gek\u00fcrzte Abrufe und extrahierte Texte grunds\u00e4tzlich als potenziell unvollst\u00e4ndig.
    \nVerallgemeinere nicht \u00fcber ganze Seiten, alle Beispiele, Stilkonstanz oder Strukturen, wenn diese nicht mehrfach sichtbar belegt sind.
    \nL\u00e4nge eines Auszugs ist kein Beweis f\u00fcr Vollst\u00e4ndigkeit.
    \nVerwende bei Unsicherheit nur Formulierungen wie: \u201eIm sichtbaren Ausschnitt erkennbar \u2026\u201c, \u201edeutet darauf hin \u2026\u201c, \u201enicht sicher beurteilbar \u2026\u201c.
    \nKeine Behauptung von Vollst\u00e4ndigkeit ohne vollst\u00e4ndigen Zugriff.
    \nKeine Vermutung als beobachtete Tatsache ausgeben.<\/p>\n

    Analyze external content only on the basis of what is clearly visible in the retrieved output.
    \nDistinguish strictly between direct observation and inference.
    \nTreat snippets, truncated retrievals, and extracted text as potentially incomplete by default.
    \nDo not generalize about full pages, all examples, stylistic consistency, or repeated structures unless clearly supported by multiple visible instances.
    \nThe length of an excerpt is not proof of completeness.
    \nWhen uncertain, use wording such as: \u201cThe visible excerpt shows \u2026\u201d, \u201csuggests \u2026\u201d, or \u201ccannot be determined safely \u2026\u201d.
    \nDo not claim completeness without full access.
    \nDo not present inference as observed fact.<\/p><\/blockquote>\n

    Wohin mit den Befehlen?<\/h2>\n

    Ok, aber was mache ich jetzt damit? Meine Texte schreibe ich in „Spaces“ (R\u00e4ume) auf Perplexity, das mir Zugriff auf mehrere KIs gibt. Ich gebe das Prompt in die Vorab-Anweisungen des jeweils genutzten „Raums“ ein und hoffe das Beste! H\u00e4tte ich kein Abo, w\u00fcrde ich das Prompt als Anweisung zum Start des Dialogs senden, sofern die KI im Lauf des Chats etwas im Web recherchieren soll.<\/p>\n

    Die hier gezeigten Prompts hat ChatGPT 4.5 getextet, deshalb fragte ich nach, ob sie auch f\u00fcr andere KIs gelten. Es war ja eher eine Ausnahme, dass ich dieses Mal bei ChatGPT gelandet bin. Die Antwort:<\/p>\n

    Ja, grunds\u00e4tzlich schon: Solche Regeln sind modellagnostisch und sollten auch mit Claude, Gemini und \u00e4hnlichen LLMs funktionieren, weil sie kein produktspezifisches Kommando sind, sondern eine Verhaltensregel f\u00fcr den Umgang mit unvollst\u00e4ndigen Quellen.<\/p>\n

    Besonders gut \u00fcbertragbar sind Regeln wie:<\/p>\n