{"id":9710,"date":"2026-08-06T22:17:01","date_gmt":"2026-08-06T21:17:01","guid":{"rendered":"https:\/\/recode.law\/?p=9710"},"modified":"2026-08-06T22:18:47","modified_gmt":"2026-08-06T21:18:47","slug":"ki-halluzination","status":"publish","type":"post","link":"https:\/\/recode.law\/en\/ki-halluzination\/","title":{"rendered":"Wenn die KI sich sicher irrt"},"content":{"rendered":"<div data-elementor-type=\"wp-post\" data-elementor-id=\"9710\" class=\"elementor elementor-9710\" data-elementor-post-type=\"post\">\n\t\t\t\t\t\t<section class=\"elementor-section elementor-top-section elementor-element elementor-element-11b82413 elementor-section-boxed elementor-section-height-default elementor-section-height-default\" data-id=\"11b82413\" data-element_type=\"section\">\n\t\t\t\t\t\t<div class=\"elementor-container elementor-column-gap-default\">\n\t\t\t\t\t<div class=\"elementor-column elementor-col-100 elementor-top-column elementor-element elementor-element-3f38d725\" data-id=\"3f38d725\" data-element_type=\"column\">\n\t\t\t<div class=\"elementor-widget-wrap elementor-element-populated\">\n\t\t\t\t\t\t<div class=\"elementor-element elementor-element-668b8c5e elementor-widget elementor-widget-theme-post-featured-image elementor-widget-image\" data-id=\"668b8c5e\" data-element_type=\"widget\" data-widget_type=\"theme-post-featured-image.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<img fetchpriority=\"high\" decoding=\"async\" width=\"800\" height=\"450\" src=\"https:\/\/recode.law\/wp-content\/uploads\/2026\/08\/Copy-of-Interviewreihe-Sponsoren-11-1024x576.png\" class=\"attachment-large size-large wp-image-9717\" alt=\"\" srcset=\"https:\/\/recode.law\/wp-content\/uploads\/2026\/08\/Copy-of-Interviewreihe-Sponsoren-11-1024x576.png 1024w, https:\/\/recode.law\/wp-content\/uploads\/2026\/08\/Copy-of-Interviewreihe-Sponsoren-11-300x169.png 300w, https:\/\/recode.law\/wp-content\/uploads\/2026\/08\/Copy-of-Interviewreihe-Sponsoren-11-768x432.png 768w, https:\/\/recode.law\/wp-content\/uploads\/2026\/08\/Copy-of-Interviewreihe-Sponsoren-11-1536x864.png 1536w, https:\/\/recode.law\/wp-content\/uploads\/2026\/08\/Copy-of-Interviewreihe-Sponsoren-11-2048x1152.png 2048w, https:\/\/recode.law\/wp-content\/uploads\/2026\/08\/Copy-of-Interviewreihe-Sponsoren-11-18x10.png 18w\" sizes=\"(max-width: 800px) 100vw, 800px\" \/>\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-c785c90 elementor-widget elementor-widget-text-editor\" data-id=\"c785c90\" data-element_type=\"widget\" data-widget_type=\"text-editor.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t\t\t<p><i><span style=\"font-weight: 400;\">Gro\u00dfe Sprachmodelle erfinden Urteile, Quellen und Fakten und klingen dabei vollkommen sicher. Das betrifft alle gro\u00dfen Anbieter. Woher das kommt, warum ausgerechnet die st\u00e4rksten Modelle oft am meisten danebenliegen und was das f\u00fcr die juristische Praxis hei\u00dft.<\/span><\/i><\/p><h4><b>I. Das Problem: \u00fcberzeugend und falsch zugleich<\/b><\/h4><p><span style=\"font-weight: 400;\">Das Modell nennt ein Urteil mit Aktenzeichen, Datum und Gericht. Es klingt exakt nach dem, was man gesucht hat. Nur existiert dieses Urteil nicht und hat nie existiert.Dieses Verhalten hei\u00dft in der KI-Forschung Halluzination: Das Modell produziert eine faktisch falsche Aussage, formuliert sie aber wie eine gesicherte Tatsache. Es zeigt kein Z\u00f6gern, keine Einschr\u00e4nkung und weist nicht auf Unsicherheit hin.<\/span><\/p><p><span style=\"font-weight: 400;\">Die eigentliche Gefahr liegt nicht im Fehler selbst, denn auch Menschen irren.. Sie liegt darin, dass das Modell den Fehler nicht als solchen erkennt und deshalb kein Warnsignal sendet. Der Grund ist strukturell: Ein Sprachmodell sagt Wort f\u00fcr Wort voraus, was statistisch als N\u00e4chstes plausibel ist. Es optimiert auf sprachliche Stimmigkeit, nicht auf Wahrheit. Ob eine Aussage stimmt, ist f\u00fcr den Texterzeugungzun\u00e4chst irrelevant.<\/span><\/p><p><span style=\"font-weight: 400;\">Dieser Mechanismus ist kein Defizit eines einzelnen Anbieters, sondern dem heutigen Ansatz gemeinsam. Eine vielbeachtete OpenAI-Studie bringt das auf denPunkt: Modelle halluzinieren, weil Training und Bewertung das Raten belohnen und das Eingestehen von Unsicherheit bestrafen. Die Computerwoche fasste das Ergebnis so zusammen, dass Halluzinationen mathematisch unvermeidbar seien [1]. Menschliche Bewerter bevorzugen selbstsichere, vollst\u00e4ndige Antworten gegen\u00fcber vorsichtigen. Das gilt f\u00fcr jedes Modell, das nach diesem Prinzip trainiert wird, ob von OpenAI, Google, Anthropic, xAI oder DeepSeek. Das Modell lernt daraus eine simple Regel: Antworte immer, antworte vollst\u00e4ndig, klinge \u00fcberzeugt. Halluzinationen sind damit kein Zufallsfehler, sondern eine eingebaute Eigenschaft des aktuellen Paradigmas.<\/span><\/p><p>\u00a0<\/p><h4><b>II. Woher die Fehler kommen<\/b><\/h4><p><span style=\"font-weight: 400;\">Vier Ursachen greifen ineinander. Erstens die <\/span><b>Trainingsdaten<\/b><span style=\"font-weight: 400;\">: Wer auf verzerrten oder l\u00fcckenhaften Daten lernt, \u00fcbernimmt deren Muster und erzeugt statistisch plausible, faktisch falsche Antworten. Hinzu kommt, dass das Wissen eines Modells auf den Trainingszeitpunkt eingefroren ist. Bei neuen Gesetzen, frischen Urteilen oder aktuellen Ereignissen m\u00fcsste das Modell passen, liefert aber stattdessen eine plausibel klingende Antwort.<\/span><\/p><p><span style=\"font-weight: 400;\">Zweitens die <\/span><b>Architektur<\/b><span style=\"font-weight: 400;\">: Da Modelle auf Fl\u00fcssigkeit und Lesbarkeit optimiert sind, gehen Zusammenhang und Sprachfluss im Zweifel vor Genauigkeit. Neuere Forschung versucht, diese Fehler nicht nur als Verhalten zu beschreiben, sondern im Netz zu lokalisieren, etwa in bestimmten Attention- und Feedforward-Schichten, die f\u00fcr den Wissensabruf zust\u00e4ndig sind. Weichen sie ab, steigt die Fehlerzahl messbar. Praktisch interessant ist das, weil sich dort gezielt eingreifen lie\u00dfe, ohne das ganze Modell neu zu trainieren. Bisher funktioniert das aber nur unter Laborbedingungen.<\/span><\/p><p><span style=\"font-weight: 400;\">Drittens der <\/span><b>Anreiz zur Selbstsicherheit<\/b><span style=\"font-weight: 400;\">: \u00dcber das Reinforcement Learning mit menschlichem Feedback verst\u00e4rkt sich genau die Tendenz, lieber \u00fcberzeugend als vorsichtig zu klingen. Je breiter ein Modell f\u00fcr den Massenmarkt optimiert wird, desto tiefer sitzt dieser Anreiz in seinen Gewichten.<\/span><\/p><p><span style=\"font-weight: 400;\">Viertens ein oft \u00fcbersehener Stellhebel, der keine Ursache im eigentlichen Sinn ist, aber die Fehlerwahrscheinlichkeit direkt mitbestimmt: die <\/span><b>Temperatur<\/b><span style=\"font-weight: 400;\">. Dieser Parameter ver\u00e4ndert bei der Texterzeugung die Wahrscheinlichkeitsverteilung \u00fcber die m\u00f6glichen n\u00e4chsten Token: Eine niedrige Temperatur erh\u00f6ht die Chance, dass das wahrscheinlichste Token gew\u00e4hlt wird, eine hohe Temperatur erh\u00f6ht die Chance auf weniger wahrscheinliche Token [11]. F\u00fcr Aufgaben, die auf Pr\u00e4zision und sachliche Genauigkeit angewiesen sind, wie juristische Recherche, ist eine niedrige Temperatur deshalb die naheliegende Einstellung, w\u00e4hrend hohe Werte eher kreativen Aufgaben n\u00fctzen [11]. Die Wirkung darf aber nicht \u00fcbersch\u00e4tzt werden: Peeperkorn et al. fanden nur eine schwache Korrelation zwischen Temperatur und der Neuartigkeit der Ausgabe, keine mit Koh\u00e4sion oder Typizit\u00e4t [11]. Eine niedrige Temperatur macht ein Modell also berechenbarer, nicht automatisch wahrheitsgetreuer. Sie reduziert die Varianz der Tokenauswahl, nicht die Tendenz des Modells, sich beim Wissensabruf zu irren. Praktisch relevant: Consumer-Oberfl\u00e4chen wie ChatGPT, Claude.ai oder Copilot geben Nutzern in der Regel keinen direkten Zugriff auf diesen Parameter, konfigurierbar ist er nur \u00fcber die API. F\u00fcr die anwaltliche Praxis mit Standard-Chat-Oberfl\u00e4chen ist die Temperatur damit meist kein verf\u00fcgbarer Hebel gegen Halluzinationen, sondern ein Faktor, der im Hintergrund vom Anbieter festgelegt wird.<\/span><\/p><p>\u00a0<\/p><h4><b>III. Wo wir heute stehen, und warum die Kurve nach oben zeigt<\/b><\/h4><p><span style=\"font-weight: 400;\">Die Zahlen widersprechen dem Bild, das die Anbieter zeichnen, und zwar quer durch die Branche. Am besten dokumentiert ist OpenAI, weil das Unternehmen eigene Messwerte ver\u00f6ffentlicht. In seinem PersonQA-Benchmark, der Faktenfragen zu Personen stellt, halluzinierte das Vorg\u00e4ngermodell o1 in 16 Prozent der F\u00e4lle, o3 verdoppelte das auf 33 Prozent, o4-mini lag bei 48 Prozent [2,3,4]. OpenAI selbst schreibt, man brauche mehr Forschung, um zu verstehen, warum [2].<\/span><\/p><p><span style=\"font-weight: 400;\">Dass dies kein Einzelfall eines Hauses ist, zeigt der herstellerunabh\u00e4ngige Vectara-Vergleich, der misst, wie treu Modelle bei der Zusammenfassung vorgelegter Texte bleiben. Auf dem anspruchsvolleren Datensatz \u00fcberschreiten s\u00e4mtliche getesteten Reasoning-Modelle die Zehn-Prozent-Marke, darunter Googles Gemini, Anthropics Claude, xAIs Grok und DeepSeek. Besonders aufschlussreich ist DeepSeek selbst: Das Reasoning-Modell R1 halluzinierte mit 14,3 Prozent fast viermal so oft wie das Basismodell V3 mit 3,9 Prozent. Das ist derselbe Effekt wie bei OpenAI, nur bei einem anderen Anbieter [5].<\/span><\/p><p><span style=\"font-weight: 400;\">Dass neuere, teurere Modelle mehr statt weniger irren, gilt als eine der zentralen offenen Fragen im Feld und wurde im Fr\u00fchjahr 2025 breit aufgegriffen [4]. Der Befund betrifft ausdr\u00fccklich die Reasoning-Modelle von OpenAI, Google und DeepSeek gleicherma\u00dfen. Drei Erkl\u00e4rungen dominieren. Erstens synthetische Trainingsdaten: Hochwertiger menschlicher Text wird knapp, also trainieren Modelle zunehmend auf KI-generiertem Text, wodurch sich Fehler der Vorg\u00e4ngergeneration einschleichen und verst\u00e4rken. Zweitens der Reasoning-Overhead: Reasoning-Modelle erzeugen interne Zwischenschritte, bevor sie antworten. Das hilft bei komplexen Aufgaben, vervielfacht aber die Stellen, an denen ein Fehler entstehen und sich durch die ganze Antwort ziehen kann. Drittens der bereits genannte Anreiz zur Selbstsicherheit.<\/span><\/p><p><span style=\"font-weight: 400;\">Das Bild ist nicht durchweg d\u00fcster. Bei eng umrissenen Aufgaben wie der Zusammenfassung eines vorgelegten Textes erreichen die besten Modelle verschiedener Anbieter inzwischen ein bis zwei Prozent, im Vectara-Vergleich liegen etwa Googles Gemini-Modelle vorn [5]. Sobald das Modell aber auf eigenes Wissen zur\u00fcckgreifen muss, bei Fachfragen, seltenen Fakten oder aktuellen Ereignissen, liegen die Raten regelm\u00e4\u00dfig im zweistelligen Bereich.<\/span><\/p><p><span style=\"font-weight: 400;\">Wie sehr das im Alltag durchschl\u00e4gt, zeigte im Oktober 2025 eine gro\u00df angelegte Untersuchung der Europ\u00e4ischen Rundfunkunion unter Federf\u00fchrung der BBC und mit Beteiligung von ARD und ZDF, die Studie <\/span><i><span style=\"font-weight: 400;\">News Integrity in AI Assistants<\/span><\/i><span style=\"font-weight: 400;\">. Bei Nachrichtenfragen enthielten 45 Prozent aller KI-Antworten mindestens einen erheblichen Fehler, 31 Prozent hatten Probleme bei den Quellenangaben, 20 Prozent waren ungenau, halluziniert oder veraltet [6]. Getestet wurden die g\u00e4ngigen Assistenten von OpenAI, Microsoft, Google und Perplexity, das Problem zog sich also durch alle Systeme. Ein erheblicher Teil dieser Fehler entsteht nicht im Modellged\u00e4chtnis, sondern durch die Websuche, die ungepr\u00fcfte und teils gezielt gestreute Quellen einspeist, w\u00e4hrend die fr\u00fcher \u00fcbliche Antwortverweigerung praktisch verschwunden ist. Zwei verschiedene Mechanismen, dieselbe Folge: mehr falsche, selbstbewusst vorgetragene Antworten.<\/span><\/p><p><span style=\"font-weight: 400;\">Besonders unangenehm ist, dass Modelle eine einmal getroffene falsche Aussage oft nicht zur\u00fccknehmen, sondern verteidigen, auch wenn man sie auf den Fehler hinweist. Die Stanford-Studie zu juristischen Halluzinationen zeigt genau das: Sprachmodelle korrigieren falsche Annahmen der Nutzer h\u00e4ufig nicht, sondern best\u00e4rken sie [10]. Sie werden nicht vorsichtiger, sondern \u00fcberzeugender.<\/span><\/p><p>\u00a0<\/p><h4><b>IV. Was dagegen unternommen wird, und was bleibt<\/b><\/h4><p><span style=\"font-weight: 400;\">Die Forschung zu Gegenma\u00dfnahmen ist breit, \u00dcbersichtsarbeiten werten inzwischen hunderte Einzelstudien aus. Drei Ans\u00e4tze pr\u00e4gen die Debatte.<\/span><\/p><p><b>Retrieval-Augmented Generation (RAG)<\/b><span style=\"font-weight: 400;\"> l\u00e4sst das Modell zur Laufzeit gepr\u00fcfte, aktuelle Quellen heranziehen, statt aus dem Ged\u00e4chtnis zu antworten. Das senkt Halluzinationen sp\u00fcrbar, aber nur f\u00fcr Fragen, die die verf\u00fcgbaren Quellen abdecken, und nie vollst\u00e4ndig. <\/span><b>Multi-Agenten-Systeme<\/b><span style=\"font-weight: 400;\"> lassen ein zweites Modell die Antwort des ersten pr\u00fcfen. Erste Ergebnisse aus Medizin und Radiologie sind vielversprechend, doch sind solche Systeme unter Realbedingungen noch wenig erprobt. <\/span><b>Gezieltes Abstinenztraining<\/b><span style=\"font-weight: 400;\"> bringt Modelle dazu, bei Unsicherheit lieber nichts zu sagen als etwas Falsches. Die bereits erw\u00e4hnte OpenAI-Studie zeigt den Mechanismus deutlich: Ein Modell, das in rund der H\u00e4lfte der unsicheren F\u00e4lle abstinent bleibt, produziert weit weniger falsche Antworten als eines, das fast immer r\u00e4t [1]. Der Haken: Nutzer empfinden zur\u00fcckhaltende Modelle als weniger n\u00fctzlich; der Marktdruck zieht also in die Gegenrichtung.<\/span><\/p><p><span style=\"font-weight: 400;\">L\u00e4sst sich das Problem ganz beseitigen? Nach heutigem Stand h\u00f6chstwahrscheinlich nicht, jedenfalls nicht mit dem dominierenden statistischen Paradigma. Die statistische Natur der Modelle macht Halluzinationen zu einer eingebauten Schwachstelle, nicht zu einem Zufallsfehler. Amr Awadallah, Gr\u00fcnder des darauf spezialisierten Unternehmens Vectara, formuliert es knapp: Sie werden immer halluzinieren, das verschwindet nie [9]. Realistisch ist daher: kontrollierbar f\u00fcr spezifische Anwendungen, aber nicht ausgerottet.<\/span><\/p><p>\u00a0<\/p><h4><b>V. Was das f\u00fcr die Rechtspraxis bedeutet<\/b><\/h4><p><span style=\"font-weight: 400;\">Im Recht treffen diese Schwachstellen auf besonders hohe Anforderungen. Ein Text, der juristisch korrekt klingt, aber nicht stimmt, ist keine halbrichtige Antwort, sondern eine falsche. Das ist kein hypothetisches Risiko mehr. Die Datenbank des Juristen Damien Charlotin z\u00e4hlt weltweit bereits \u00fcber 1.600 Gerichtsentscheidungen, die sich mit halluziniertem Material befassen, rund 90 Prozent davon aus dem Jahr 2025 [7]. In den USA reichen die Sanktionen von einigentausend US-Dollar bis zu 31.100 US-Dollar, die ein kalifornisches Gericht im Mai 2025 zwei Kanzleien f\u00fcr die Kosten gegnerischer Recherche auferlegte [7].<\/span><\/p><p><span style=\"font-weight: 400;\">Auch in Deutschland ist der Fall angekommen. Das Amtsgericht K\u00f6ln r\u00fcgte am 2. Juli 2025 einen Fachanwalt, dessen Schriftsatz ab einer bestimmten Seite ausschlie\u00dflich erfundene Urteile, Randziffern und Literaturstellen enthielt, und sah darin einen m\u00f6glichen Versto\u00df gegen die anwaltliche Wahrheitspflicht aus \u00a7 43a Abs. 3 BRAO (Az. 312 F 130\/25). Das Landgericht Frankfurt am Main deckte am 25. September 2025 frei erfundene Zitate eines angeblich h\u00f6chstrichterlichen Urteils auf, die ein Anwalt zur Streitwertberechnung vorgelegt hatte (Az. 2-13 S 56\/24) [8].<\/span><\/p><p><span style=\"font-weight: 400;\">Eine Studie der Stanford-Forschungsgruppe RegLab benennt das Kernrisiko und belegt es mit Zahlen: Bei spezifischen, \u00fcberpr\u00fcfbaren Rechtsfragen halluzinierten allgemeine Sprachmodelle in69 bis88 Prozent der F\u00e4lle, und selbst erfahrene Juristinnen und Juristen m\u00fcssen vor solchen Halluzinationen auf der Hut sein, weil die Modelle ihre Fehler nicht zuverl\u00e4ssig erkennen [10]. Die Konsequenz ist nicht, auf KI zu verzichten, denn der Effizienzgewinn ist real. Die Konsequenz ist, jeden KI-Output in rechtlich relevanten Kontexten als Arbeitsgrundlage zu behandeln, nicht als Ergebnis. Jedes zitierte Urteil, jede Normbehauptung muss gepr\u00fcft werden. Diese Pr\u00fcfung ist nicht optional, sie ist Teil der anwaltlichen Sorgfaltspflicht.<\/span><\/p><p>\u00a0<\/p><h4><b>Fazit<\/b><\/h4><p><span style=\"font-weight: 400;\">KI-Halluzinationen sind kein Anf\u00e4ngerproblem, das mit mehr Rechenleistung von selbst verschwindet. Sie folgen daraus, wie diese Modelle aufgebaut sind, und die aktuellen Daten zeigen, dass die neuesten Systeme in vielen Kontexten mehr irren, nicht weniger. RAG, gegenseitige Kontrolle und Abstinenztraining helfen in spezifischen Anwendungen erheblich, l\u00f6sen das Problem aber nicht. F\u00fcr die Praxis hei\u00dft das: Menschliche \u00dcberpr\u00fcfung ist kein l\u00e4stiger Zusatzschritt, sondern notwendiger Bestandteil jedes seri\u00f6sen KI-Workflows. Die Frage ist nicht, ob Modelle irren, sondern ob unsere Prozesse so gebaut sind, dass wir es merken.<\/span><\/p><h2><b>Nachweise &amp; Quellen<\/b><\/h2><p><b>[1]\u00a0 <\/b><span style=\"font-weight: 400;\">Computerwoche: OpenAI: KI-Halluzinationen sind mathematisch unvermeidbar (Sept. 2025). <\/span><a href=\"https:\/\/www.computerwoche.de\/article\/4059536\/openai-ki-halluzinationen-sind-mathematisch-unvermeidbar.html\" rel=\"nofollow noopener\" target=\"_blank\"><span style=\"font-weight: 400;\">https:\/\/www.computerwoche.de\/article\/4059536\/openai-ki-halluzinationen-sind-mathematisch-unvermeidbar.html<\/span><\/a><\/p><p><b>[2]\u00a0 <\/b><span style=\"font-weight: 400;\">OpenAI: o3 and o4-mini System Card (16. April 2025), PersonQA-Halluzinationsraten. <\/span><a href=\"https:\/\/cdn.openai.com\/pdf\/2221c875-02dc-4789-800b-e7758f3722c1\/o3-and-o4-mini-system-card.pdf\" rel=\"nofollow noopener\" target=\"_blank\"><span style=\"font-weight: 400;\">https:\/\/cdn.openai.com\/pdf\/2221c875-02dc-4789-800b-e7758f3722c1\/o3-and-o4-mini-system-card.pdf<\/span><\/a><\/p><p><b>[3]\u00a0 <\/b><span style=\"font-weight: 400;\">t3n: Neue Reasoning-Modelle von OpenAI neigen noch h\u00e4ufiger zu Halluzinationen (April 2025). <\/span><a href=\"https:\/\/t3n.de\/news\/neue-reasoning-modelle-von-openai-neigen-noch-haeufiger-zu-halluzinationen-1683825\/\" rel=\"nofollow noopener\" target=\"_blank\"><span style=\"font-weight: 400;\">https:\/\/t3n.de\/news\/neue-reasoning-modelle-von-openai-neigen-noch-haeufiger-zu-halluzinationen-1683825\/<\/span><\/a><\/p><p><b>[4]\u00a0 <\/b><span style=\"font-weight: 400;\">heise online: OpenAI bringt o3 und o4-mini raus (April 2025), <\/span><a href=\"https:\/\/www.heise.de\/news\/OpenAI-bringt-o3-und-o4-mini-raus-10355096.html;\" rel=\"nofollow noopener\" target=\"_blank\"><span style=\"font-weight: 400;\">https:\/\/www.heise.de\/news\/OpenAI-bringt-o3-und-o4-mini-raus-10355096.html;<\/span><\/a><span style=\"font-weight: 400;\"> ComputerBase: OpenAIs neue Modelle halluzinieren mehr als die Vorg\u00e4nger (April 2025), <\/span><a href=\"https:\/\/www.computerbase.de\/news\/apps\/o3-und-o4-mini-openais-neue-modelle-halluzinieren-mehr-als-die-vorgaenger.92272\/\" rel=\"nofollow noopener\" target=\"_blank\"><span style=\"font-weight: 400;\">https:\/\/www.computerbase.de\/news\/apps\/o3-und-o4-mini-openais-neue-modelle-halluzinieren-mehr-als-die-vorgaenger.92272\/<\/span><\/a><\/p><p><b>[5]\u00a0 <\/b><span style=\"font-weight: 400;\">Vectara Hallucination Leaderboard (herstellerunabh\u00e4ngiger Vergleich, HHEM). <\/span><a href=\"https:\/\/github.com\/vectara\/hallucination-leaderboard\" rel=\"nofollow noopener\" target=\"_blank\"><span style=\"font-weight: 400;\">https:\/\/github.com\/vectara\/hallucination-leaderboard<\/span><\/a><\/p><p><b>[6]\u00a0 <\/b><span style=\"font-weight: 400;\">EBU\/BBC: News Integrity in AI Assistants (22. Okt. 2025), mit ARD und ZDF. ARD-Pressemeldung: <\/span><a href=\"https:\/\/www.ard.de\/die-ard\/presse-und-kontakt\/ard-pressemeldungen\/2025\/10-22-Internationale-EBU-Studie-zur-Nachrichtenqualitaet-von-KI-Systemen-100\/;\" rel=\"nofollow noopener\" target=\"_blank\"><span style=\"font-weight: 400;\">https:\/\/www.ard.de\/die-ard\/presse-und-kontakt\/ard-pressemeldungen\/2025\/10-22-Internationale-EBU-Studie-zur-Nachrichtenqualitaet-von-KI-Systemen-100\/;<\/span><\/a><span style=\"font-weight: 400;\"> heise online: <\/span><a href=\"https:\/\/www.heise.de\/news\/Europaeische-Rundfunkunion-KI-Systeme-geben-Nachrichteninhalte-oft-falsch-wider-10796779.html\" rel=\"nofollow noopener\" target=\"_blank\"><span style=\"font-weight: 400;\">https:\/\/www.heise.de\/news\/Europaeische-Rundfunkunion-KI-Systeme-geben-Nachrichteninhalte-oft-falsch-wider-10796779.html<\/span><\/a><\/p><p><b>[7]\u00a0 <\/b><span style=\"font-weight: 400;\">Charlotin: AI Hallucination Cases Database. <\/span><a href=\"https:\/\/www.damiencharlotin.com\/hallucinations\/;\" rel=\"nofollow noopener\" target=\"_blank\"><span style=\"font-weight: 400;\">https:\/\/www.damiencharlotin.com\/hallucinations\/;<\/span><\/a><span style=\"font-weight: 400;\"> US-Sanktion (31.100 USD) bei CalMatters: <\/span><a href=\"https:\/\/calmatters.org\/economy\/technology\/2025\/09\/chatgpt-lawyer-fine-ai-regulation\/\" rel=\"nofollow noopener\" target=\"_blank\"><span style=\"font-weight: 400;\">https:\/\/calmatters.org\/economy\/technology\/2025\/09\/chatgpt-lawyer-fine-ai-regulation\/<\/span><\/a><\/p><p><b>[8]\u00a0 <\/b><span style=\"font-weight: 400;\">AG K\u00f6ln, Beschluss vom 02.07.2025, Az. 312 F 130\/25 (Aufbereitung: <\/span><a href=\"https:\/\/www.ferner-alsdorf.de\/halluziniert-gericht-wirft-rechtsanwalt-ki-schriftsatz-vor\/);\" rel=\"nofollow noopener\" target=\"_blank\"><span style=\"font-weight: 400;\">https:\/\/www.ferner-alsdorf.de\/halluziniert-gericht-wirft-rechtsanwalt-ki-schriftsatz-vor\/);<\/span><\/a><span style=\"font-weight: 400;\"> LG Frankfurt am Main, Beschluss vom 25.09.2025, Az. 2-13 S 56\/24 (Aufbereitung: <\/span><a href=\"https:\/\/www.jura.cc\/rechtstipps\/ki-fehlzitate-vor-gericht-was-anwaeltinnen-und-anwaelte-jetzt-wissen-muessen\/)\" rel=\"nofollow noopener\" target=\"_blank\"><span style=\"font-weight: 400;\">https:\/\/www.jura.cc\/rechtstipps\/ki-fehlzitate-vor-gericht-was-anwaeltinnen-und-anwaelte-jetzt-wissen-muessen\/)<\/span><\/a><\/p><p><b>[9]\u00a0 <\/b><span style=\"font-weight: 400;\">Awadallah (Vectara) zu unvermeidbaren Halluzinationen, zit. nach New York Times (Mai 2025); frei zug\u00e4nglich u. a. bei Futurism: <\/span><a href=\"https:\/\/futurism.com\/ai-industry-problem-smarter-hallucinating\" rel=\"nofollow noopener\" target=\"_blank\"><span style=\"font-weight: 400;\">https:\/\/futurism.com\/ai-industry-problem-smarter-hallucinating<\/span><\/a><\/p><p><b>[10]\u00a0 <\/b><span style=\"font-weight: 400;\">Dahl, Magesh, Suzgun, Ho: Large Legal Fictions. Profiling Legal Hallucinations in Large Language Models. Stanford RegLab \/ HAI, Journal of Legal Analysis (2024). <\/span><a href=\"https:\/\/reglab.stanford.edu\/publications\/hlarge-legal-fictions-profiling-legal-hallucinations-in-large-language-models\/\" rel=\"nofollow noopener\" target=\"_blank\"><span style=\"font-weight: 400;\">https:\/\/reglab.stanford.edu\/publications\/hlarge-legal-fictions-profiling-legal-hallucinations-in-large-language-models\/<\/span><\/a><\/p><p><b>[11]\u00a0 <\/b><span style=\"font-weight: 400;\">IBM: Was ist die LLM-Temperatur? (Joshua Noble); dort auch Peeperkorn, Kouwenhoven, Brown, Jordanous: Is Temperature the Creativity Parameter of Large Language Models? (2024). <\/span><a href=\"https:\/\/www.ibm.com\/de-de\/think\/topics\/llm-temperature\" rel=\"nofollow noopener\" target=\"_blank\"><span style=\"font-weight: 400;\">https:\/\/www.ibm.com\/de-de\/think\/topics\/llm-temperature<\/span><\/a><\/p><p><br style=\"font-weight: 400;\" \/><br style=\"font-weight: 400;\" \/><\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<div class=\"elementor-element elementor-element-68383f1 elementor-widget elementor-widget-author-box\" data-id=\"68383f1\" data-element_type=\"widget\" data-widget_type=\"author-box.default\">\n\t\t\t\t<div class=\"elementor-widget-container\">\n\t\t\t\t\t\t\t<div class=\"elementor-author-box\">\n\t\t\t\t\t\t\t<div  class=\"elementor-author-box__avatar\">\n\t\t\t\t\t<img decoding=\"async\" src=\"https:\/\/recode.law\/wp-content\/uploads\/2026\/08\/TB6UYLXH6-U0A3QPFMANT-a9783020ce1f-512-300x300.png\" alt=\"Picture of Phillip Schmitz\" loading=\"lazy\">\n\t\t\t\t<\/div>\n\t\t\t\n\t\t\t<div class=\"elementor-author-box__text\">\n\t\t\t\t\t\t\t\t\t<div >\n\t\t\t\t\t\t<h4 class=\"elementor-author-box__name\">\n\t\t\t\t\t\t\tPhillip Schmitz\t\t\t\t\t\t<\/h4>\n\t\t\t\t\t<\/div>\n\t\t\t\t\n\t\t\t\t\n\t\t\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t<\/div>","protected":false},"excerpt":{"rendered":"<p>Gro\u00dfe Sprachmodelle erfinden Urteile, Quellen und Fakten und klingen dabei vollkommen sicher. Das betrifft alle gro\u00dfen Anbieter. Woher das kommt, warum ausgerechnet die st\u00e4rksten Modelle oft am meisten danebenliegen und was das f\u00fcr die juristische Praxis hei\u00dft. I. Das Problem: \u00fcberzeugend und falsch zugleich Das Modell nennt ein Urteil mit Aktenzeichen, Datum und Gericht. Es [&hellip;]<\/p>","protected":false},"author":132,"featured_media":9717,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_lmt_disableupdate":"no","_lmt_disable":"no","footnotes":""},"categories":[1,320,50],"tags":[],"class_list":["post-9710","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized","category-featured","category-magazin"],"acf":[],"modified_by":"Patrick Fett","_links":{"self":[{"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/posts\/9710","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/users\/132"}],"replies":[{"embeddable":true,"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/comments?post=9710"}],"version-history":[{"count":13,"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/posts\/9710\/revisions"}],"predecessor-version":[{"id":9725,"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/posts\/9710\/revisions\/9725"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/media\/9717"}],"wp:attachment":[{"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/media?parent=9710"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/categories?post=9710"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/tags?post=9710"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}