Bei dem Versuch, im Internet Antworten auf die eigenen Fragen zu erhalten, führt inzwischen kaum noch ein Weg an einem KI-Tool als ersten Kontakt vorbei. Browser-Suchanfragen werden in der Regel von einer automatisch generierten KI-Übersicht zum jeweiligen Suchbegriff ergänzt und bevor im Kundenservice ein tatsächlicher Mensch zu sprechen ist, werden Anliegen häufig über individualisierte KI-Chatbots bearbeitet. Bisher blieb unklar, inwiefern die Anbieter solcher automatisierten KI-Tools haften.
Erste Klarheit bieten nun zwei Urteile aus München und Hamm:
Vor dem Landgericht München wurde verhandelt, inwiefern Google für KI-Übersichten haftet, die bei einer Suchanfrage automatisch durch die Google-KI Gemini generiert werden. Google hat im Prozess vorgebracht, die Übersichten seien mit sonstigen Suchergebnissen vergleichbar, für welche der BGH die Haftung in einer vorherigen Entscheidung bereits limitiert hatte. Das Landgericht München schloss sich dieser Argumentation nicht an die KI-Übersichten stellten demnach eigenständige Aussagen von Google dar, für welche Google entsprechend einzustehen habe.
Ähnlich entschied auch das Oberlandesgericht Hamm. Dieses hatte zu beurteilen, inwiefern die Mediziner „Dr. Nick & Rick“ für Aussagen des KI-Chatbots der eigenen Praxis-Website einzustehen haben. DerChatbot hatte den Medizinern nicht nur Facharzttitel zugeschrieben, die sie gar nicht erworben hatten, sonderngleich neue Facharzttitel erfunden. Die Verbraucherzentrale NRW hatte hiergegen Klage eingereicht – und nun Recht bekommen. Insbesondere analysiert das OLG Hamm, ob ein „Verhalten“ im Sinne von § 2 I Nr. 2 UWG vorlag. Das Gericht hält es für „unstreitig“, dass die Mediziner für den Chatbot verantwortlich sind und begründet dies mit deren „entscheidenden Einfluss darauf, wie dieser mit den angesprochenen Verkehrskreisen kommuniziert“ – belegt dadurch, dass der Chatbot problemlos umprogrammiert werden konnte. Von dem Verweis auf die Autonomie des Chatbots ließ sich das Gericht auch hier nicht überzeugen. Es reiche nicht aus, dass einzelne Fragen autonom beantwortet würden, solange hierfür zuvor „gezielte Vorgaben“ gemacht wurden und damit ein „Tätigkeitsrahmen“ abgesteckt wurde. Menschliches Zutun bei der Beantwortung einzelner Fragen sei demnach für ein „Verhalten“ im Sinne von § 2 I Nr. 2 UWG nicht notwendig. Die Revision wird wegen „grundsätzlicher Bedeutung“ des Verfahrens zugelassen – eine entsprechende BGH Entscheidung könnte weitere Rechtssicherheit mit sich bringen.
Liebe Leser:innen,
herzlich willkommen zur aktuellen Ausgabe des NewLaw Radar. Eine Frage zieht sich diesmal wie ein roter Faden durch die Beiträge: Wer trägt die Verantwortung, wenn künstliche Intelligenz handelt, antwortet oder Schaden anrichtet?
Den Auftakt machen zwei wegweisende Urteile aus München und Hamm. Beide Gerichte stellen klar, dass sich Anbieter nicht hinter der vermeintlichen Autonomie ihrer KI-Tools verstecken können – generierte Übersichten und Chatbot-Antworten sind eigene Aussagen, für die man einzustehen hat. Wie weit diese Verantwortung reicht, beleuchten wir auch dort, wo es um die schwerwiegendsten Fälle geht: Wenn ein Chatbot eine Gewalttat begleitet, verlagert sich die Rechtsfrage von der Maschine auf die Unternehmen dahinter – mit dem AI Act und dem reformierten Produkthaftungsrecht als entscheidenden Hebeln.
Daneben werfen wir einen Blick auf die praktische Seite der Legal-Tech-Entwicklung: vom Schritt einzelner Prompts hin zu standardisierten Workflows – etwa mit „Claude for Legal” und seiner in nur zwölf Tagen entstandenen deutschen Open-Source-Variante – bis zur Digitalisierung der Justiz, wo KI bei der Anonymisierung von Urteilen zugleich Chance für mehr Transparenz und Risiko für Persönlichkeitsrechte ist.
Abgerundet wird die Ausgabe durch unseren Lese-Tipp – ein Interview mit Paul F. Welter über seinen Weg von der Softwareentwicklung ins Recht – sowie einen Event-Tipp zum Planspiel Vertragsverhandlung in Halle an der Saale.
Wir wünschen euch viel Freude beim Lesen und freuen uns über Feedback an radar@recode.law!
Euer recode.law-Team
Redaktion: Anna, Felix, Jonas, Jörn, Natalie, Nisanur und Patrick
Mit „Claude for Legal“ hat Anthropic am 12. Mai 2026 sein Angebot für den Rechtsmarkt deutlich ausgebaut. Die Plattform verbindet das Sprachmodell Claude mit spezialisierten juristischen Workflows und Integrationen zu etablierten Anbietern wie Westlaw, Practical Law, CoCounsel, Harvey, Everlaw und DocuSign. Ergänzt wird das Angebot durch vorgefertigte juristische Rollenprofile in Form von „Skills“, etwa für Litigation, Employment oder Commercial Counsel. Daneben lässt sich Claude inzwischen auch innerhalb von Microsoft Word, Outlook, Excel und PowerPoint nutzen, wobei Kontext zwischen den Anwendungen erhalten bleibt.
Die Ankündigung zeigt einen Trend, der derzeit viele Legal-Tech-Produkte prägt: Statt allgemeiner Chatbots rücken zunehmend spezialisierte Workflows in den Vordergrund, die sich in bestehende Kanzlei- oder Unternehmensprozesse integrieren lassen. Juristische Aufgaben sollen nicht nur beantwortet, sondern nach vorgegebenen Abläufen strukturiert und nachvollziehbar bearbeitet werden. Anthropic hat das zugrundeliegende Framework als Open Source veröffentlicht.
Die deutsche Open-Source-Variante
Genau das hat Tom Braegelmann aufgegriffen. Der Berliner Rechtsanwalt und Legal-Tech-Pionier hat Anthropics offenes Framework innerhalb von zwölf Tagen auf deutsches Recht umgeschrieben. Sein Repository überträgt die Grundidee von Claude for Legal auf die Anforderungen der deutschen Rechtspraxis. Es umfasst eine große Sammlung von Skills und Plugins für unterschiedliche Rechtsgebiete – von Arbeits- und Datenschutzrecht über Gesellschafts- und Insolvenzrecht bis hin zu Prozess- und Energierecht – und wird zunehmend erweitert.
Die enthaltenen Skills orientieren sich an typischen Prüfungsschemata oder an konkreten Arbeitsabläufen aus Kanzleien und Rechtsabteilungen. Der Wermutstropfen für alle Praktiker: Braegelmann stellt unmissverständlich klar, dass die Verwendung solcher Skills in Verknüpfung mit den führenden KI-Systemen mit den berufs- und datenschutzrechtlichen Anforderungen nach § 203 StGB, § 43e BRAO, DSGVO und EU AI Act aktuell weitestgehend nicht vereinbar ist.
Vom Prompt zum Workflow
Sowohl Claude for Legal als auch sein deutsches Pendant verdeutlichen die aktuelle Entwicklung von einzelnen Prompts hin zu standardisierten Workflows. Entscheidend ist zunehmend nicht nur, welches Sprachmodell eingesetzt wird, sondern wie juristische Arbeitsschritte strukturiert, dokumentiert und mit weiteren Systemen verbunden werden.
Für Legal-Tech-Interessierte bietet Braegelmanns Projekt einen äußerst spannenden Einblick in die Frage, wie juristische Methodik in KI-gestützte Arbeitsabläufe übersetzt werden kann.
Zugleich wird deutlich, dass die technische Umsetzung nur ein Teil der Herausforderung ist. Fragen des Datenschutzes, der Vertraulichkeit und der berufsrechtlichen Zulässigkeit bleiben zentrale Themen für den praktischen Einsatz von KI im Rechtsmarkt.
In Deutschland werden jährlich hunderttausende Gerichtsverfahren geführt. Allein vor den Amtsgerichten wurden im Jahr 2024 mehr als 800.000 Verfahren erledigt. Dennoch werden Schätzungen zufolge lediglich 3 bis 4 % aller richterlichen Entscheidungen veröffentlicht. Die Veröffentlichungsquote variiert dabei stark: Während sie in den unteren Instanzen bei rund 1,3 % liegt, erreicht sie an den Bundesgerichten nahezu 100 %.
Um das Vertrauen der Bürger in die Justiz zu stärken und die Umsetzung des Demokratie- sowie Rechtsstaatsprinzip zu fördern, soll die Transparenz durch eine deutlich höhere Veröffentlichungsquote gesteigert werden. Zudem sind umfassende Urteilsdatenbanken eine zwingende Voraussetzung, um KI-basierte Modelle und Legal-Tech-Anwendungenfür die Rechtsbranche zu trainieren und weiterzuentwickeln.
Das wesentliche juristische Hindernis einer Publikation ist die Pflicht zur Wahrung von Persönlichkeitsrechten und Geheimhaltungsinteressen der Prozessbeteiligten. Vor Veröffentlichung muss daher eine effektive Anonymisierung bzw. Pseudonymisierung (Ersetzung von Klarnamen und Adressen durch fiktive Bezeichnungen) stattfinden. Rechtlich ist den Anforderungen grundsätzlich Genüge getan, wenn die Prozessbeteiligten nicht oder nur mit unverhältnismäßig großem Aufwand identifiziert werden können. Die bislang vorgenommene manuelle Bearbeitung erfordert jedoch einen extrem hohen Arbeitsaufwand, wodurch eine höhere Veröffentlichungsquote bislang praktisch schlicht nicht umsetzbar schien.
Aus diesem Grund setzen neben Bundesländer wie Baden-Württemberg und Hessen, nun auch Bayern undNiedersachsen verstärkt auf künstliche Intelligenz (KI). Der Freistaat Bayern hat sich beispielsweise zum Ziel gesetzt, in den kommenden Jahren 50.000 Urteile KI-gestützt zu anonymisieren und zu veröffentlichen.
Der Einsatz von KI birgt allerdings nicht nur die Chance einer automatisierten Anonymisierung gerichtlicher Entscheidungen, sondern begründet auch die zunehmende Besorgnis einer einfachen Re-Identifizierung von Prozessbeteiligten. Eine interdisziplinäre juristisch-informatische Studie unter der Leitung der Universität Bern kommt bei einem technischen Stand der verwendeten LLMs von Ende 2024 zwar grundsätzlich zu dem Ergebnis, dass eine Re-Identifizierung nur mit unverhältnismäßig großem Aufwand möglich ist. Allerdings gelang den Autoren in einem öffentlich exponierten Rechtsbereich, wie dem Beschaffungswesen, bereits eine Re-Identifikationsquote von etwa 80 %.
Insoweit bleibt abzuwarten, ob der Einsatz moderner KI-Systeme neben der Chance für mehr Transparenz der justiziellen Entscheidungen auch zu einer erhöhten Gefahr für Persönlichkeitsrechte und Geheimhaltungsinteressen von Prozessbeteiligten führt.
In Florida schießt ein Mann auf mehrere Menschen, ChatGPT bestärkte ihn und gab ihm wichtige Informationen zur Tatbegehung. Auch in Deutschland spielt sich ein ähnlicher Fall ab: Das LG Schweinfurt verurteilt wegen Mordes. Bereits vor der Tat kommunizierte er regelmäßig mit ChatGPT und schilderte dabei Tötungsfantasien. Z. wurde weder gemeldet noch gesperrt. Ob die KI wegen Beihilfe bestraft werden kann, lässt sich schnell beantworten: Nein, nach derzeitiger Rechtslage ist eine Haftung der KI-Systeme weder möglich noch zielführend. Eine strafrechtliche Verantwortung setzt Vorsatz oder zumindest Fahrlässigkeit voraus. Ein Chatbot kann zwar moralisches Bewusstsein simulieren, ist aber ein rein technisches Werkzeug.
Die eigentliche Rechtsfrage verlagert sich daher auf die Verantwortung der Unternehmen hinter den Systemen. Um eine Beihilfe zu bejahen, müsste die Firma nicht nur von der geplanten Tat und dem Tätervorsatz wissen, sondern sich auch vorsätzlich dafür entscheiden, diese Tat zu unterstützen. Eine Strafbarkeit wird hierbei schwer nachzuweisen sein.
Es kommen demnach nur zwei Arten der Haftung in Betracht: die deliktische Haftung und die Produkthaftung. Die deliktische Haftung setzt grundsätzlich ein Verschulden voraus. Besonders relevant wird hierbei der AI-Act. Dieser definiert Pflichten, deren Verletzung die Haftung erheblich verschärft. Gem. Art. 5 Abs. 1 lit. a AI-Act ist das Inverkehrbringen, die Inbetriebnahme oder die Verwendung eines KI-Systems, das absichtlich manipulative oder täuschende Techniken nutzt, verboten. Durch die Beeinträchtigung wird die Fähigkeit der Person, eine fundierte Entscheidung zu treffen, derart eingeschränkt, dass sie zu Handlungen verleitet wird, die sie sonst nicht getroffen hätte, und einer anderen Person erheblichen Schaden zufügt. Bei Verstoß kann es zu Bußgeldern in Höhe von bis zu € 35 Millionen oder bis zu 7% des jährlichen weltweiten Gesamtjahresumsatzes des vorangegangenen Geschäftsjahres kommen.
Auch das Produkthaftungsrecht trägt den besonderen Risiken von KI-Systemen bereits Rechnung. Gem. Art. 7 Abs. 2 lit. c ProdukthaftungsRL liegt ein Produktfehler bei KI-Systemen vor, wenn er die Grenze des vernünftigerweise Vorhersehbaren überschreitet und dadurch Schäden entstehen. Der Hersteller haftet damit auch verschuldensunabhängig und muss zudem gem. Art. 10 ProdukthaftungsRL beweisen, dass sein Produkt fehlerfrei war. Neben dem Hersteller sollen auch Bevollmächtigte, Importeure, Lieferanten, Komponentenzulieferer, Softwareentwickler, Fulfillment-Dienstleister und Betreiber von Online-Plattformen haften.
Die Frage, ob man hiermit auch den Einzelfällen gerecht wird, bleibt offen.
Wie kommen Technologie und Recht in der Praxis zusammen? Darüber haben wir mit Paul F. Welter gesprochen – Mitgründer von recode.law und Co-Founder der KI-Plattform Bayshore.ai.
Schon lange bevor er Jura studierte, entwickelte Paul Software und beschäftigte sich mit den Möglichkeiten der Automatisierung. Während des Studiums wurde ihm dann bewusst, wie wenig technologische Erkenntnisse im Rechtsbereich angewendet werden. Als Antwort darauf entwickelte er Bayshore: eine KI-Plattform für Rechts- und Compliance Abteilungen. Diese soll organisatorische Prozesse vereinfachen, Anfragen strukturieren und die Juristen in ihrem Arbeitsalltag entlasten.
Im Interview spricht Paul über seinen ungewöhnlichen Werdegang von Softwareentwicklung ins Recht, die Idee hinter Bayshore und darüber, warum er seine Lösung bewusst für Unternehmen statt für Kanzleien entwickelt. Außerdem geht es darum, was er Studierenden heute mitgibt und welche Fähigkeiten sie sich aus seiner Sicht unbedingt aneignen sollten.
Das ganze Interview findet ihr hier.
Am 3. Juli 2026 findet im JTC Legal Tech Lab in Halle an der Saale eine Contract-Negotiation Simulation statt. Gemeinsam mit dem LegalTech Lab und Libra geben wir euch die Gelegenheit, erste praktische Erfahrungen für juristische Vertragsverhandlungen in der Rolle von Anwält:innen zu sammeln.
Im Rahmen des Planspiels vertretet ihr in Kleingruppen die Käufer- oder Verkäuferseite und arbeitet euch anhand eines Playbooks durch mehrere Verhandlungsrunden und versucht bei der abschließenden mündlichen Verhandlung mit der Gegenseite den bestmöglichsten Vertrag für eure Mandant:innen auszuhandeln.
Neben vertieften Einblicken in Vertragsrecht und Vertragsgestaltung vermittelt das Planspiel auch den sicheren Umgang mit Legal-AI-Tools im juristischen Alltag. Ein moderner Legal AI Space unterstützt euch während des gesamten Planspiels.
Für Verpflegung vor Ort ist gesorgt und das Gewinnerteam erhält als Preis Lizenzen von Libra.
Genauere Informationen zur Veranstaltung und den Link zur Anmeldung findet ihr auf der Webseite des JTC.
