Lieber Leser:innen,

willkommen zur 87. Ausgabe des NewLawRadar! Diesmal geht es um den neuen Verhaltenskodex der Kommission zu KI und Urheberrecht, aktuelle Datenschutzfragen zwischen Medienprivileg und Cookie-Bannern sowie die Risiken von „halluzinierenden“ KI-Systemen im Gerichtssaal. Außerdem stellen wir euch spannende Ansätze für lokal betriebene KI-Modelle in Kanzleien vor und natürlich gibt es auch wieder einen interessanten Podcast-Tipp!

Besonders freuen wir uns, die neue Partnerschaft mit Fieldfisher Germany anzukündigen – mit einem ersten Event in Berlin. Dazu erwarten euch weitere Highlights wie unser gemeinsames Event mit Wolters Kluwer in Köln und natürlich die Legal Revolution in Würzburg.

Wir wünschen euch viel Freude beim Lesen und freuen uns über Feedback an radar@recode.law!

Euer recode.law-Team

Redaktion: Anton, Felix, Florian, Friedrich, Veronika, Elena und Victoria

Zwischen Innovation und Regulierung

KI und Urheberrecht: EU-Kommission setzt neue Standards

Wie soll die Balance von Rechten und Pflichten auf eine Herausforderung reagieren, für die sie nicht konzipiert wurde?

Auch wenn das Recht so abstrakt formuliert sein soll, dass es jeder neuen Herausforderung begegnen kann, ist das bei anderen Rechtsgebieten als den Grundrechten aufgrund konkreter Fallregelungen sehr herausfordernd.

Das Urheberrecht balanciert die Meinungs- und Kunstfreiheit vs. der Rechte der Inhaber von Kunstwerken.

Diese Balance ist durch LLM (Large Language Model) Modelle von KI (Künstliche Intelligenz) deutlich ins Wanken geraten, denn durch die KI können neue Bilder entstehen. Hierbei sind die Grenzen klar: Allein durch KI erstellte Bilder sind nicht urheberrechtlich geschützt. Aber wie viel menschliche Mitwirkung bedarf es für ein KI generiertes Bild?

Der AI Act verpflichtet die GPAI Anbieter jetzt zur Erarbeitung einer Strategie zur Einhaltung der Regeln des Urheberrechts.  Diese Pflicht umfasst die Erarbeitung einer Strategie zur Einhaltung des Urheberrechts, falls das KI-Modell in der EU anwendbar ist. Unter anderem zu diesem Zweck wurde der Verhaltenskodex für GPAI Anbieter von der Europäischen Kommission veröffentlicht, der sich in einem Kapitel dem Urheberrecht widmet. Durch die Einhaltung des Verhaltenskodexes wird die Erfüllung der Pflicht nach dem AI Act nachgewiesen, wobei diese Pflichterfüllung auch auf andere Weise erfolgen kann.

In der Empfehlung werden zahlreiche Vorgaben für das Verhalten der KI bei der Recherche gemacht, Urheberrechtsverletzungen sollen vermieden werden und eine Kontaktstelle eingerichtet werden.

OpenAI und Google haben bekannt gegeben, dass sie diese Vorgaben umsetzen werden.

Die Stimmen in der Fachwelt dazu sind überwiegend positiv, wobei nicht alle Maßnahmen der Empfehlung auf große Zustimmung stoßen.

Datenschutz im Alltagstest 

Zwischen Medienprivileg, Cookie-Bannern und Amateursport

“Datenschutz ist lästig.” Mit diesen Worten öffnete im Frühling der Tätigkeitsbericht der Landesbeauftragten für Datenschutz und Informationsfreiheit (LDI) NRW. Dass Datenschutz mehr sein kann als nur das, zeigte schon der damalige Bericht.

Nicht zu verwechseln mit dem Bericht der LDI, hat auch die Beauftragte für Datenschutz bei der Landesanstalt für Medien NRW ihren Tätigkeitsbericht vorgelegt. Als fachspezifische, weisungsfreie Aufsicht nach § 49 LMG NRW i. V. m. Art. 51 DSGVO überwacht sie die Einhaltung des Datenschutzrechts bei den in NRW ansässigen privaten Medien- und Plattformakteuren. Zu ihren Tätigkeiten zählen unter anderem die Bearbeitung von Beschwerden, Meldungen zu Datenpannen und Beratungsanfragen.

Ein Schwerpunkt der letztjährigen Tätigkeit betraf den Schnittpunkt von Datenschutz und Journalismus: Zum Medienprivileg nach Art. 85 Abs. 2 DSGVO befürwortet der Bericht eine weite Auslegung des “Medienunternehmens”. Privilegiert sei danach nicht nur das klassische Medienhaus, sondern jede journalistische Tätigkeit, unabhängig von Publikationsform und organisatorischer Anbindung. Mehrere Beschwerden zur Datenverarbeitung für Recherche- und Veröffentlichungszwecke führten entsprechend zu keiner festgestellten Rechtsverletzung. Redaktionen und Creator wird diese Auslegung freuen. Ein Freifahrtschein für Verstöße gegen das Datenschutzrecht ist sie freilich jedoch nicht. Das Privileg schützt Kernbereiche, entbindet aber nicht generell von Pflichten außerhalb des journalistischen Zwecks.

Einen weiteren Schwerpunkt des letzten Jahres, stellten Betroffenenrechte dar. Viele Fälle drehten sich um Auskünfte nach Art. 15 DSGVO, oft wegen ausbleibender Reaktion der (vermeintlich) Auskunftspflichtigen. Hier reichte regelmäßig eine behördliche Aufforderung, um unverzügliche, fristgerechte Erfüllung (regelmäßig ein Monat) zu bewirken. Bei Löschbegehren nach Art. 17 DSGVO stellten sich Ablehnungen häufig als berechtigt heraus. Teilweise reichte der Aufsicht die Begründung der Ablehnung jedoch nicht aus.

Der Tätigkeitsbericht beschäftigt sich zudem unter anderem mit (1) irreführenden Cookie-Bannern, (2) Veröffentlichungen auf Instagram und YouTube ohne Einwilligung und sichtbare Pflichtangaben auf dem Profil sowie (3) Livestreaming im Amateursport.

Interessierten Leser:innen sei der 28-seitige Bericht, der sicherlich etwas “unter dem Radar fliegt”, nur zu empfehlen.

Zwischen Wahrheit und Fiktion

Halluzination im Gerichtssaal – Wenn KI Urteile erfindet

Weltweit sind über 300 Fälle dokumentiert, in denen der Einsatz von Künstlicher Intelligenz (KI) in Gerichtsverfahren zu gravierenden Fehlern geführt hat: Kläger und Beklagte wurden falsch benannt, Präzedenzfälle frei erfunden und Tatbestände „halluziniert“.

Etwa 200 dieser Fälle stammen aus den USA, wo der Einsatz generativer KI im Justizwesen zunehmend verbreitet ist. Bisher sorgten insbesondere Anwält:innen für Aufsehen, indem sie fehlerhafte Schriftsätze mit erfundenen Urteilen einreichten. Mittlerweile nutzen auch Richter:innen KI zur Entscheidungsfindung, mit teils gravierenden Folgen. In New Jersey wurde eine gerichtliche Anordnung erlassen, die auf ungeprüfter KI-Recherche basierte.

Auch in Südafrika nutzten Anwält:innen KI, um ihre Arbeitsprozesse zu unterstützen. Bei der Nutzung von ChatGPT zur Recherche ergänzender Fallbeispiele kam es jedoch zu schwerwiegenden Fehlern: Die KI erfand Fakten und generierte nichtexistierende Urteile. Das zuständige Gericht kritisierte das „falsche  Vertrauen“ der Anwält:innen in die Wahrhaftigkeit von KI-generierter juristischer Recherche sowie deren Versäumnis, die Ergebnisse zu prüfen und verifizieren.

Gerichte stehen vor der Herausforderung, dass Schriftsätze und Argumente sowohl menschliche als auch KI-bedingte Fehler enthalten können. Während einige den Einsatz von KI als hilfreiches Werkzeug betrachten, besteht auch die Besorgnis, dass Fehler durch KI das Vertrauen in die Justiz beeinträchtigen können. Fehler in gerichtlichen Entscheidungen sind schwer korrigierbar – eine sorgfältige Prüfung von KI-generierten Texten scheint unerlässlich.

KI in der Kanzlei neu gedacht

Open-Weight-Modelle: KI mit voller Datenkontrolle

Künstliche Intelligenz (KI) ist im Kanzleialltag angekommen – sei es in Form von Chatbots, automatisierten Textauswertungen oder als Helfer bei der Recherche. Doch gerade in juristischen Berufen sorgt das Zusammenspiel von Technik und Berufsrecht oft für Unsicherheit: Wie lassen sich Datenschutz, Verschwiegenheitspflicht und § 43e BRAO mit modernen KI-Lösungen vereinen?

Die Antwort könnte in sogenannten Open-Weight-Modellen liegen – leistungsfähigen KI-Modellen, die lokal und unabhängig in der Kanzlei betrieben werden können.

Die Herausforderung: KI und Berufsrecht. Rechtsanwältinnen und Rechtsanwälte unterliegen strengen Anforderungen an die Verschwiegenheit und den Umgang mit Mandatsdaten. Viele moderne KI-Anwendungen laufen jedoch in der Cloud und verarbeiten Daten auf Servern externer Anbieter – ein Risiko für die Vertraulichkeit und ein Aufwand bei der vertraglichen Absicherung.

Eine Lösung: Open-Weight-Modelle in der eigenen Kanzlei. Open-Weight-Modelle sind vortrainierte KI-Modelle, deren „Gewichte“ – also die erlernten Parameter – frei verfügbar sind. Sie lassen sich direkt herunterladen und lokal nutzen. Mandatsdaten bleiben dabei vollständig auf den eigenen Rechnern – ohne Cloud, ohne Anbieterbindung, ohne externe Verarbeitung.

Zum besseren Verständnis hilft ein Vergleich aus der Küche: Ein Open-Weight-Modell ist wie ein fertig gebackener Kuchen, den man kostenlos bekommt. Du kannst ihn direkt essen, mit Sahne verzieren oder mit eigenen Zutaten weiter verfeinern. Ein Open-Source-Modell ist wie der Kuchen samt Rezept – du bekommst nicht nur den fertigen Kuchen, sondern darfst ihn auch nachbacken, abwandeln und weitergeben. Ein Closed-Source-Modell dagegen? Das ist wie ein Stück Kuchen hinter der Vitrine in einer Konditorei: Du darfst es essen, aber du bekommst weder Rezept noch Mitnahmebox.

Mit Tools wie Ollama oder LM Studio ist die Nutzung technikaffinen Kanzleien gut zumutbar. Kleine Modelle laufen bereits auf Laptops, für größere Varianten braucht es allerdings leistungsfähigere Hardware.

Open-Weight-Modelle sind vielleicht (noch) nicht so leistungsstark wie die neuesten Closed-Source-Modelle großer Anbieter – doch für viele juristische Anwendungsfälle, z. B. Zusammenfassungen, Aktenanalysen oder Vorlagenentwürfe, sind sie absolut ausreichend. Wer früh startet, profitiert doppelt: mehr Kontrolle über Daten, volle Anpassbarkeit und ein echter Vorsprung bei der Integration moderner Technologien in den anwaltlichen Arbeitsalltag.

Podcast-Tipp

Dr. Michael Dorner – Einblicke in die Rechtsabteilung von Microsoft Deutschland

In der 320. Episode von Irgendwas mit Recht ist Dr. Michael Dorner zu Gast, Head of Legal bei Microsoft Deutschland. Besprochen wird zunächst der Weg in die Tätigkeit einer Rechtsabteilung, wie die Arbeit dort aussieht und welche Herausforderungen dabei zu bewältigen sind.

Die zweite Hälfte der Episode dreht sich um die zunehmende Rolle von KI in der Rechtsabteilung. Behandelt werden dabei insbesondere Regulierungsfragen, der konkrete Einsatz von KI und KI-Agenten bei Microsoft Deutschland und sowie die Fähigkeiten, die zukünftigen Berufsanfänger:innen mitbringen sollten.

Wenn ihr euch für den aktuellen Stand des KI-Einsatzes bei einem führenden Unternehmen im KI-Sektor oder allgemein für die Tätigkeit in einer Rechtsabteilung interessiert, dann hört jetzt hier rein!

Veranstaltungs-Tipp

Fieldfisher Germany x recode.law

Wir freuen uns, eine neue Partnerschaft mit Fieldfisher Germany zu starten. In den kommenden Monaten erwarten uns viele spannende Projekte rund um Legal Tech und KI im Recht.

Los geht’s am 08. Oktober 2025 im Berliner Cube, im Office von Fieldfisher Germany und FieldfisherX.

Freut euch auf ein abwechslungsreiches Programm mit:

• spannenden Einblicken in Chancen und Grenzen von KI im Recht,

• Diskussionen mit Expert:innen zu Transparenz, Haftung & digitaler Souveränität,

• einer praxisnahen Challenge, bei der ihr eure eigenen Ideen entwickeln und vorstellen könnt,

• Gelegenheit zum Networking mit Legal-Tech-Begeisterten, Praktiker:innen und Innovator:innen.

Und als besonderes Highlight: die LegalTechNight zum Ausklang des Abends!

Zur Anmeldung: https://recodelaw.typeform.com/recodeFFX

Ein herzliches Dankeschön  an Fieldfisher Germany für die Unterstützung. Wir freuen uns auf eine inspirierende Zusammenarbeit und viele gemeinsame Projekte!

Veranstaltungs-Tipp

Wolters Kluwer x Legal Tech Lab Cologne x recode.law

Zusammen mit unserem langjährigen Partner Wolters Kluwer und dem Legal Tech Lab Cologne freuen wir uns auf das nächste Highlight unserer Zusammenarbeit: ein spannendes Event rund um juristische Recherche und die Zukunft von Legal Tech & KI im Recht.

Seid am 07.10.2025 um 17:30 Uhr am Hauptsitz von Wolters Kluwer Deutschland in Hürth dabei! 

Ein herzliches Dankeschön an Wolters Kluwer für die wertvolle Unterstützung und die kontinuierliche Partnerschaft. Wir freuen uns auf einen inspirierenden Abend und viele weitere gemeinsame Projekte!

Zur Anmeldung: https://recodelaw.typeform.com/recodexWK2025

Don’t miss out – jetzt anmelden und am 7. Oktober dabei sein!

Veranstaltungs-Tipp

Legal Revolution rückt näher!

Es ist bald wieder soweit: Am 17. und 18. September 2025 trifft sich die Legal-Tech- und Compliance-Welt zur Legal Revolution in Würzburg. Die Messe hat sich längst als Europas größte Plattform für Recht & Compliance etabliert und bietet die perfekte Bühne, um die digitale Zukunft der Branche gemeinsam zu gestalten. Am 17. und 18. September 2025 ist es wieder soweit: Die Legal-Tech- und Compliance-Welt trifft sich zur Legal Revolution in Würzburg. Die Messe hat sich längst als Europas größte Plattform für Recht und Compliance etabliert und bietet die perfekte Bühne, um die digitale Zukunft der Branche gemeinsam zu gestalten

Natürlich sind auch wir von recode.law wieder mit dabei – mit Stand, Team und ganz viel Lust auf spannende Gespräche rund um Legal Tech, Legal Innovation und alles, was dazugehört. Kommt unbedingt vorbei und sprecht uns an – wir freuen uns schon sehr auf den Austausch mit euch!

Alle Details zu Programm, Speakern und Tickets findet ihr auf der offiziellen Webseite der Legal Revolution.

Tipp: Mit dem Code “recode.law” gibt’s 60 % Rabatt auf reguläre Tickets – und mit “LR25VIP50_recode” spart ihr 50 % auf VIP-Tickets.

Last Updated on 4. September 2025