Lieber Leser:innen,

herzlich willkommen zur 86. Ausgabe des NewLawRadar, in dem wir Euch zusammenfassen, was im vergangenen Monat an der Schnittstelle von Recht und Technik passiert ist. In dieser Ausgabe geht es um die neue Stellungnahme des DAV zum Einsatz von KI in der Anwaltschaft und wie damit ein Fauxpas vor dem AG Köln hätte verhindert werden können. Außerdem werfen wir einen Blick auf die Umsetzung des AI Act, wofür die BNetzA und die Kommission kürzlich Hilfen bereitgestellt haben. Ebenfalls interessant: An der Universität Bayreuth soll eine Software dafür sorgen, dass bei Hausarbeiten gerechtere Noten vergeben werden. 

Wir hoffen, dass diese Ausgabe Euch neue Einblicke bietet und zum Nachdenken anregt. Viel Spaß beim Lesen. 

Sendet uns gerne Feedback an radar@recode.law!

Redaktion: Anton, Elly, Felix, Florian, Lukas, Marco und Veronika.

KI im Kanzleialltag

DAV-Stellungnahme zum rechtssicheren anwaltlichen Einsatz von KI

Mit Unterstützung durch KI generierte Schriftsätze gehören längst zum Alltag vieler Anwälte und Gerichte. Dass es dabei immer wieder zu Halluzinationen kommen kann, gerade bei der Zitierung von Literatur und Rechtsprechung, ist ebenfalls nicht neu. Dem Amtsgericht Köln wurde es nun aber zu viel: In einem familienrechtlichen Verfahren hatte ein Anwalt einen Schriftsatz eingereicht, der offensichtlich diverse halluzinierte Fundstellen enthielt. Das Gericht rügte den Anwalt deswegen nicht nur scharf, sondern wies darauf hin, dass hierin sogar ein möglicher Verstoß gegen anwaltliches Berufsrecht, genauer gesagt § 43a Abs. 3 BRAO, liegen könnte. Eine Einschätzung, die mehrere berufsrechtliche Experten im Übrigen nicht teilen, wie diverse Kommentare auf LinkedIn und Co. zeigen.

Dem Kölner Kollegen wäre dennoch sicherlich gut damit gedient gewesen, hätte er sich an die kurz nach dem Bekanntwerden seines Falls erschienene Stellungnahme des Deutschen Anwaltvereins (DAV) „zum Einsatz von KI in der Anwaltschaft“ gehalten. Das nicht nur für Rechtsanwälte lesenswerte 25-seitige Papier, erarbeitet von den Ausschüssen Berufs- und Informationsrecht, beschäftigt sich mit der Frage, wie Anwälte KI rechtssicher einsetzen können. 

Um das Potenzial der Technologie greifbar zu machen, listet die Stellungnahme zunächst typische Use Cases auf: Von intelligenter Recherche über automatisierte Klauselanalyse und AGB-Prüfung bis hin zu KI-gestützten Mandanten-Chatbots. Gleichzeitig erinnert sie daran, dass Halluzinationen „unvorhersehbar auftreten können“ und deshalb niemals ohne menschliche Plausibilitätskontrolle in den Workflow gehören. Ausgangspunkt jeglichen Einsatzes von KI sei der Grundsatz der gewissenhaften Berufsausübung (§ 43 BRAO). Eine ungeprüfte Übernahme von KI-Erzeugnissen sei allein dann zulässig, wenn sie ausdrücklich zum Mandatsinhalt erhoben wird. Andernfalls verletze sie den Mandatsvertrag und nicht zuletzt das Berufsrecht.

Besonders ausführlich widmet sich der DAV der anwaltlichen  Verschwiegenheitspflicht und dem Datenschutzrecht. Das bloße Speichern von Mandatsdaten auf den Servern externer KI- oder Cloud-Provider gelte bereits als Offenbarung und werde erst zulässig, wenn die Dienstleister als „mitwirkende Personen“ im Sinne des § 43e BRAO vertraglich – und unter strafbewehrtem Hinweis auf § 203 StGB – zur Geheimhaltung verpflichtet würden. Eine generelle Pflicht zur Anonymisierung von Mandatsdaten sieht der DAV nicht: Wer mit ordnungsgemäß verpflichteten Dienstleistern arbeitet, dürfe Originaldaten nutzen. Bei frei zugänglichen Tools, wie beispielsweise ChatGPT, sei hingegen eine vollständige Anonymisierung zwingend. 

Mit Blick auf die EU-KI-Verordnung (AI Act) kommt der DAV zu dem Schluss, dass Kanzleianwendungen in aller Regel nicht in die Hochrisikokategorie fallen dürften. Dennoch rückt die Verordnung schon ab 2. August 2026 bestimmte Transparenz- und Kennzeichnungspflichten ins Zentrum – etwa für KI-generierte Urteilszusammenfassungen oder Chatbot-Interaktionen mit Mandanten.

Auch Urheber- und Geschäftsgeheimnisschutz ordnet der DAV praxisnah ein: Wer juristische Fachliteratur in eine KI hochlädt, braucht entweder Lizenzen oder eine gesetzliche Erlaubnis wie § 44a UrhG. Die Weiterverwendung der Fachliteratur zu Trainingszwecken durch die Anbieter sei vertraglich auszuschließen.

Unterm Strich setzt der DAV auf Leitplanken statt Verbote, wie es das Legal Tech Verzeichnis formuliert. Die Botschaft an die Anwaltschaft lautet: Wer Prozesse, Datenflüsse und Prüfmechanismen sauber aufsetzt, macht KI vom Risiko zum Produktivitätsbooster. Der eingangs geschilderte Kölner Fall sollte jedoch ein Warnzeichen sein, dass blindes Vertrauen sich rächen kann.

KI-Service Desk der BNetzA und General-Purpose AI Code of Practice

Die Umsetzung der KI-Verordnung wird greifbarer

Die Bundesnetzagentur bietet neuerdings einen KI-Service Desk an, der Unternehmen, Behörden und Organisationen bei der rechtssicheren Umsetzung der KI-Verordnung unterstützen soll. Hierzu werden praxisorientierte Informationen über die neuen europäischen Anforderungen beim Einsatz und bei der Entwicklung von KI bereitgestellt.

Bundesdigitalminister Wildberger will mit der Schaffung einer zentralen Anlaufstelle ein Signal setzen für eine wirtschafts- und innovationsfreundliche nationale KI-Aufsicht mit schlanken Strukturen. Erklärtes Ziel ist es, Deutschland bei der Entwicklung und dem Einsatz verantwortungsvoller KI-Technologien in Europa an die Spitze zu setzen.

Zum Angebot des KI-Service Desk gehören unter anderem ein interaktiver KI-Compliance Kompass, mit dem sich die Anwendbarkeit der KI-Verordnung auf eingesetzte KI-Systeme prüfen lässt, sowie Informationen über kostenfreie Schulungsangebote zum Erwerb ausreichender KI-Kompetenz.

Mit der Vorstellung des KI-Service Desks ist nun zudem klar, dass die Bundesnetzagentur das Rennen gegen die Datenschutzbehörden um die Zuständigkeit als Marktüberwachungsbehörde für sich entschieden hat.

Auch auf europäischer Ebene tut sich etwas: So hat die Kommission die Einrichtung eines AI Act Service Desks zumindest angekündigt. Von besonderem Interesse für KI-Anbieter ist die Veröffentlichung des General-Purpose AI Code of Practice am 10. Juli 2025, der diesen dabei helfen soll, die Vorgaben der KI-Verordnung einzuhalten.

Der Code wurde von unabhängigen Experten in einem Multi-Stakeholder-Verfahren ausgearbeitet. Nach Billigung des Codes durch die Mitgliedstaaten und die Kommission können Anbieter von KI-Modellen diesen freiwillig unterzeichnen. Wichtiger Anreiz dürfte sein, dass die Einhaltung des Codes wohl die einfachste und rechtssicherste Weise darstellen wird, die Einhaltung der KI-Verordnung nachzuweisen.

Juristische Ausbildung

Wie digitale Lösungen zu mehr Notengerechtigkeit beitragen können

Im Sommersemester 2025 wurde an der Universität Bayreuth eine Software getestet, die Bewertungsungerechtigkeiten bei Jura-Hausarbeiten aufdecken soll – mit Erfolg: Drei Studierende profitierten unmittelbar von Nachkorrekturen, einer konnte sich sogar von vier auf neun Punkte verbessern.

Der Fachschaftsvorsitzende der Uni Bayreuth, entwickelte ein Computerprogramm, das systematisch auffällige Notenabweichungen erkennt – noch bevor die Hausarbeiten an die Studierenden zurückgegeben werden.

Die Software analysiert mithilfe von Clustering-Algorithmen die Ähnlichkeit von Hausarbeiten und prüft, ob vergleichbare Arbeiten stark unterschiedlich bewertet wurden. Außerdem verteilt sie die Arbeiten gezielt auf die Korrektor:innen, damit jeder eine ausgewogene Mischung aus verschiedenen Leistungsniveaus erhält.

Ergebnisse des Testlaufs:

•       107 Hausarbeiten wurden geprüft
•       11 Arbeiten fielen durch signifikante Bewertungsabweichungen auf
•       3 Noten wurden nachträglich deutlich verbessert

Es geht nicht darum, Korrektor:innen zu kontrollieren. Vielmehr versteht sich das Tool als Unterstützung, um subjektive Verzerrungen zu minimieren, betont der Entwickler.

Es wird bereits an einer benutzerfreundlichen Oberfläche gearbeitet, damit auch andere Universitäten die Software einsetzen können – ganz ohne Programmierkenntnisse. Der nächste Schritt: Automatisierung weiterer Prozesse wie das Erkennen und Ausblenden von Deckblättern oder Inhaltsverzeichnissen.

Ein vielversprechender Schritt in Richtung gerechterer Leistungsbewertung – und ein starkes Beispiel dafür, wie technische Innovation aus der Studierendenschaft heraus die Lehre verbessern kann. Bravo!

Kooperation mit dem Auswärtigen Amt

Wir haben das Auswärtige Amt zu einer Legal Tech Lösung beraten

Auf dem Legal Tech Markt gibt es mittlerweile unzählige Anbieter und Lösungen für den Compliance Bereich. Anbieter werben mit KI und versprechen Legal Tech Lösungen, die alle Probleme beheben – aber wie haltbar sind diese wirklich?

In den ersten sechs Monaten diesen Jahres durften wir mit dem Auswärtigen Amt kooperieren: Wir berieten eine Abteilung zu einer Legal Tech Lösung für das Vertragsmanagement.

Wie kam die Kooperation zustande?

Ein neues Mitglied hatte Kontakte zu einem Team des Auswärtigen Amtes, das auf der Suche nach einer Legal Tech Lösung für das Vertragsmanagement war. Das Team war neu gegründet worden, um die Verträge eines Fachbereichs zu konsolidieren und rechtliche Ansprüche und Pflichten übersichtlich an einem Ort zu pflegen. Darüber hinaus wollte das Team einen Überblick über die aktuelle Rechtsprechung und neue regulatorische Richtlinien abgebildet haben.

Wie lief die Kooperation ab? 

Das Department GM & BizDev übernahm die Organisation des Projekts: Von den ersten Absprachen und dem Kennenlernen mit dem Auswärtigen Amt bis zur Auswahl der Mitglieder und der Kommunikation. Nach einer internen Umfrage hatten wir 20 interessierte Mitglieder, die unterschiedliche Vorerfahrung mit Legal Tech Tools hatten, manche schon im Beruf, andere im Studium oder Referendariat. Aus diesen 20 wählten wir nochmal ein Kernteam von fünf Personen aus, die alle angegeben hatten, gute Vorerfahrungen zu haben und auch die zeitliche Kapazität.

Nach einem ersten Video-Call, bei dem uns das Auswärtige Amt seine genauen Anforderungen schilderte, machten wir erste Überlegungen. Diese wurden bei einem Workshop mit dem Team des Auswärtigen Amts und einer externen Beraterin vertieft. Unsere Aufgabe war es dabei, in kleinen Teams die Mitarbeitenden des Auswärtigen Amts zu interviewen und deren Problem(e) zu identifizieren. In einer abschließenden Runde wurden die Ergebnisse zusammengetragen und die Anforderungen abgestimmt.

Mit diesen Anforderungen gingen wir auf die Suche nach Anbietern von Legal Tech Tools, mit Fokus auf das Vertragsmanagement. Wir erstellten eine Longlist von Anbietern und bewerteten grob, ob diese eher geeignet oder ungeeignet waren.

Aus dieser Liste sortierten wir die ungeeigneten Tools aus, sodass am Ende zehn Anbieter übrig blieben. Für diese führten wir eine tiefgründige Recherche durch, schauten uns YouTube-Videos der Anbieter an und vereinbarten Demo-Termine, um festzustellen, ob die jeweilige Software wirklich das bietet, was sich das Auswärtige Amt wünscht.

Das Ergebnis

 Mitte Juni hatten wir dann einen zweiten Workshop mit dem Auswärtigen Amt in Berlin, bei dem wir die Ergebnisse präsentierten. Wir bekamen sehr positives Feedback und durch die erstellte Bewertungsmatrix waren die Tools auch quantitativ sehr gut vergleichbar. Zusätzlich gab es ein Rahmenprogramm organisiert durch das Auswärtige Amt. Dieses beinhaltete die Vorstellung verschiedener Einstiegsmöglichkeiten in den Auswärtigen Dienst, eine Führung durch das Gebäude mit der Besichtigung historischer Orte, wie z.B. den Weltsaal oder den Tresor der ehemaligen Reichsbank. Der Workshop endete dann mit einem gemeinsamen Abendessen.

Wir möchten uns beim Auswärtigen Amt für diese gelungene Kooperation und das Vertrauen bedanken. Für uns stellte das eine besondere Möglichkeit dar, unser Wissen im Legal Tech Bereich anzuwenden. Wir hoffen auch zukünftig unsere Expertise in solchen Kooperationen anwenden zu können!

Lese-Tipp

KI in der Justiz: Der Mensch bleibt Maßstab

Die Justizminister:innen des Bundes und der Länder haben eine gemeinsame Erklärung zum Einsatz von Künstlicher Intelligenz in der Justiz verabschiedet. Unter dem Leitgedanken “Chancen nutzen, Verantwortung übernehmen, Transparenz gewährleisten” wird festgehalten, dass durch die Implementierung von KI-Systemen in justizielle Verfahren die Effizienz gesteigert und der Zugang zum Recht für Bürger:innen erleichtert wird. Zugleich soll die rechtsprechende Gewalt den Richter:innen vorbehalten bleiben, die endgültige Entscheidungsbefugnis muss eine menschlich gesteuerte Tätigkeit sein.

Zum Artikel: Gemeinsame Erklärung zum Einsatz von Künstlicher Intelligenz in der Justiz

Tool-Tipp

AI Agents revolutionieren Legal Tech: OpenAI ChatGPT Agent & BRYTER AI Agents bringen Automatisierung auf neues Level

Der neue ChatGPT Agent ist eine Weiterentwicklung von regelbasierter Automatisierung hin zu LLM-gestützten Systemen. Diese koordinieren komplexe Arbeitsabläufe mithilfe erweiterter Reasoning-Fähigkeiten und erzielen in Benchmarking-Tests deutlich bessere Ergebnisse als frühere Modelle. Im Unterschied zu herkömmlichen Skript-basierten Lösungen mit fester Wenn-Dann-Logik nutzen sie große Sprachmodelle zur kontextuellen Verarbeitung und kombinieren mehrere Tools dynamisch.

In der juristischen Praxis könnte das in Zukunft so aussehen: Ein Mandat fragt in einer Kanzlei per E-Mail nach einem Termin. Die Agentic AI prüft als erstes, ob die E-Mail schon ausreichende Informationen zur zeitlichen Verfügbarkeit und dem rechtlichen  Problem enthält, um dem Mandanten einen Termin bei einem der Anwälte zuzuteilen. Wenn nicht, fragt der AI Agent dies per E-Mail beim Mandanten an. Danach nutzt die KI die Schnittstelle zum Kalender, um freie Termine bei dem für die Materie zuständigen Anwalt zu ermitteln. Ein Termin wird erstellt und Zeit und Ort sowie ggf. ein Meeting-Link dem Mandanten mitgeteilt. Das lässt sich beliebig ergänzen: Recherche ähnlicher Urteil, vergleichbare Fälle der Kanzlei oder gar eine automatisierte Ersteinschätzung. 

Mit dem ChatGPT Agent lässt sich dieser Workflow zwar noch nicht vollständig automatisieren – aber die Veröffentlichung zeigt, wohin es gehen könnte.

Podcast-Tipp

Verwaltung reloaded? – Dr. Sarah Rachut über die Zukunft digitaler Verwaltungsverfahren

In dieser Folge des recode.law Podcasts sprechen Jeremias Forssman und Marie Landwehr mit Dr. Sarah Rachut (NEGZ) über das brandaktuelle Impulspapier “Impulse für eine kohärente Digitalverfahrensgesetzgebung”, das sie mitverfasst hat.

Thema: Warum EGovG, OZG und VwVfG aktuell eher für Verwirrung als für Vereinfachung sorgen – und wie ein digitales, kohärentes Verwaltungsverfahrensgesetz diese Baustellen endlich aufräumen könnte.

Was bedeutet das für Bürger:innen, Verwaltung und nicht zuletzt: die Jurist:innen von morgen?Jetzt reinhören und mitreden!

Veranstaltungstipp

Legal Revolution im September

Die Legal Revolution hat sich als Europas größte Kongressmesse für Recht und Compliance etabliert – ein wichtiger Treffpunkt, um die digitale Transformation der Branche zu diskutieren und zu gestalten.

Der Termin für das kommende Jahr steht nun fest: Die Legal Revolution findet am 17. und 18. September 2025 in Würzburg statt.

Auch wir von recode.law sind selbstverständlich wieder mit einem Stand und einigen Mitgliedern dabei. Wir freuen uns schon jetzt auf ein Wiedersehen und viele inspirierende Gespräche über Legal Tech, Legal Innovation und alles, was dazugehört. Kommt vorbei und sprecht uns vor Ort gerne an!

Alle Informationen zum Programm, den Speakern und zur Ticketbuchung findet Ihr auf der offiziellen Webseite der Legal Revolution. 

Tipp: Mit dem Code “recode.law” erhaltet ihr 60 % Rabatt auf die Tickets und mit “LR25VIP50_recode” 50 % auf die VIP-Tickets!

Last Updated on 4. September 2025