{"id":8418,"date":"2025-07-30T20:00:55","date_gmt":"2025-07-30T19:00:55","guid":{"rendered":"https:\/\/recode.law\/?p=8418"},"modified":"2025-09-04T15:14:49","modified_gmt":"2025-09-04T14:14:49","slug":"newlawradar-86-25-ki-im-kanzleialltag-umsetzung-des-ai-act-notengerechtigkeit-durch-software","status":"publish","type":"post","link":"https:\/\/recode.law\/en\/newlawradar-86-25-ki-im-kanzleialltag-umsetzung-des-ai-act-notengerechtigkeit-durch-software\/","title":{"rendered":"NewLawRadar 86\/25: KI im Kanzleialltag \u2013 Umsetzung des AI Act \u2013 Notengerechtigkeit durch Software"},"content":{"rendered":"

Lieber Leser:innen,<\/span><\/p>\n

herzlich willkommen zur 86. Ausgabe des NewLawRadar, in dem wir Euch zusammenfassen, was im vergangenen Monat an der Schnittstelle von Recht und Technik passiert ist. <\/span>I<\/span>n dieser Ausgabe geht es um die neue Stellungnahme des DAV zum Einsatz von KI in der Anwaltschaft und wie damit ein Fauxpas vor dem AG K\u00f6ln h\u00e4tte verhindert werden k\u00f6nnen. <\/span>Au\u00dferdem werfen wir einen Blick auf die Umsetzung des AI Act, wof\u00fcr die BNetzA und die Kommission k\u00fcrzlich Hilfen bereitgestellt haben. <\/span>Ebenfalls interessant: An der Universit\u00e4t Bayreuth soll eine Software daf\u00fcr sorgen, dass bei Hausarbeiten gerechtere Noten vergeben werden.\u00a0<\/span><\/p>\n

Wir hoffen, dass diese Ausgabe Euch neue Einblicke bietet und zum Nachdenken anregt. Viel Spa\u00df beim Lesen.\u00a0<\/span><\/p>\n

Sendet uns gerne Feedback an radar@recode.law<\/span>!<\/span><\/p>\n

Redaktion: <\/span><\/i>Anton<\/a>, Elly<\/a>, Felix<\/a>,\u00a0<\/em>Florian<\/em><\/a>, Lukas<\/a>, Marco<\/a> und Veronika<\/a>.<\/em><\/span><\/i><\/p>\n

 <\/p>\n

\n
KI im Kanzleialltag<\/span><\/h5>\n

DAV-Stellungnahme zum rechtssicheren anwaltlichen Einsatz von KI<\/span><\/h3>\n

Mit Unterst\u00fctzung durch KI generierte Schrifts\u00e4tze geh\u00f6ren l\u00e4ngst zum Alltag vieler Anw\u00e4lte und Gerichte. Dass es dabei immer wieder zu Halluzinationen kommen kann, gerade bei der Zitierung von Literatur und Rechtsprechung, ist ebenfalls nicht neu. Dem Amtsgericht K\u00f6ln wurde es nun aber zu viel: In einem <\/span>familienrechtlichen Verfahren<\/span><\/a> hatte ein Anwalt einen Schriftsatz eingereicht, der offensichtlich diverse halluzinierte Fundstellen enthielt. Das Gericht r\u00fcgte den Anwalt deswegen nicht nur scharf, sondern wies darauf hin, dass hierin sogar ein m\u00f6glicher Versto\u00df gegen anwaltliches Berufsrecht, genauer gesagt <\/span>\u00a7 43a Abs. 3 BRAO<\/span><\/a>, liegen k\u00f6nnte. Eine Einsch\u00e4tzung, die mehrere berufsrechtliche Experten im \u00dcbrigen nicht teilen, wie diverse Kommentare auf LinkedIn und Co. zeigen.<\/span><\/p>\n

Dem K\u00f6lner Kollegen w\u00e4re dennoch sicherlich gut damit gedient gewesen, h\u00e4tte er sich an die kurz nach dem Bekanntwerden seines Falls erschienene Stellungnahme des Deutschen Anwaltvereins (DAV) \u201e<\/span>zum Einsatz von KI in der Anwaltschaft<\/span><\/a>\u201c gehalten. Das nicht nur f\u00fcr Rechtsanw\u00e4lte lesenswerte 25-seitige Papier, erarbeitet von den Aussch\u00fcssen Berufs- und Informationsrecht, besch\u00e4ftigt sich mit der Frage, wie Anw\u00e4lte KI rechtssicher einsetzen k\u00f6nnen.<\/span>\u00a0<\/span><\/a><\/p>\n

Um das Potenzial der Technologie greifbar zu machen, listet die Stellungnahme zun\u00e4chst typische Use Cases auf: Von intelligenter Recherche \u00fcber automatisierte Klauselanalyse und AGB-Pr\u00fcfung bis hin zu KI-gest\u00fctzten Mandanten-Chatbots. Gleichzeitig erinnert sie daran, dass Halluzinationen \u201eunvorhersehbar auftreten k\u00f6nnen\u201c und deshalb niemals ohne menschliche Plausibilit\u00e4tskontrolle in den Workflow geh\u00f6ren. Ausgangspunkt jeglichen Einsatzes von KI sei der Grundsatz der gewissenhaften Berufsaus\u00fcbung (<\/span>\u00a7 43 BRAO<\/span><\/a>). Eine ungepr\u00fcfte \u00dcbernahme von KI-Erzeugnissen sei allein dann zul\u00e4ssig, wenn sie ausdr\u00fccklich zum Mandatsinhalt erhoben wird. Andernfalls verletze sie den Mandatsvertrag und nicht zuletzt das Berufsrecht.<\/span><\/p>\n

Besonders ausf\u00fchrlich widmet sich der DAV der anwaltlichen\u00a0 Verschwiegenheitspflicht und dem Datenschutzrecht. Das blo\u00dfe Speichern von Mandatsdaten auf den Servern externer KI- oder Cloud-Provider gelte bereits als Offenbarung und werde erst zul\u00e4ssig, wenn die Dienstleister als \u201emitwirkende Personen\u201c im Sinne des <\/span>\u00a7 43e BRAO<\/span><\/a> vertraglich \u2013 und unter strafbewehrtem Hinweis auf <\/span>\u00a7 203 StGB<\/span><\/a> \u2013 zur Geheimhaltung verpflichtet w\u00fcrden. Eine generelle Pflicht zur Anonymisierung von Mandatsdaten sieht der DAV nicht: Wer mit ordnungsgem\u00e4\u00df verpflichteten Dienstleistern arbeitet, d\u00fcrfe Originaldaten nutzen. Bei frei zug\u00e4nglichen Tools, wie beispielsweise ChatGPT, sei hingegen eine vollst\u00e4ndige Anonymisierung zwingend.<\/span>\u00a0<\/span><\/a><\/p>\n

Mit Blick auf die EU-KI-Verordnung (<\/span>AI Act<\/span><\/a>) kommt der DAV zu dem Schluss, dass Kanzleianwendungen in aller Regel nicht in die Hochrisikokategorie fallen d\u00fcrften. Dennoch r\u00fcckt die Verordnung schon ab 2. August 2026 bestimmte Transparenz- und Kennzeichnungspflichten ins Zentrum \u2013 etwa f\u00fcr KI-generierte Urteilszusammenfassungen oder Chatbot-Interaktionen mit Mandanten.<\/span><\/p>\n

Auch Urheber- und Gesch\u00e4ftsgeheimnisschutz ordnet der DAV praxisnah ein: Wer juristische Fachliteratur in eine KI hochl\u00e4dt, braucht entweder Lizenzen oder eine gesetzliche Erlaubnis wie <\/span>\u00a7 44a UrhG<\/span><\/a>. Die Weiterverwendung der Fachliteratur zu Trainingszwecken durch die Anbieter sei vertraglich auszuschlie\u00dfen.<\/span><\/p>\n

Unterm Strich setzt der DAV auf Leitplanken statt Verbote, wie es das <\/span>Legal Tech Verzeichnis<\/span><\/a> formuliert. Die Botschaft an die Anwaltschaft lautet: Wer Prozesse, Datenfl\u00fcsse und Pr\u00fcfmechanismen sauber aufsetzt, macht KI vom Risiko zum Produktivit\u00e4tsbooster. Der eingangs geschilderte K\u00f6lner Fall sollte jedoch ein Warnzeichen sein, dass blindes Vertrauen sich r\u00e4chen kann.<\/span><\/p>\n

\n
KI-Service Desk der BNetzA und General-Purpose AI Code of Practice<\/span><\/h5>\n

Die Umsetzung der KI-Verordnung wird greifbarer<\/span><\/h3>\n

Die Bundesnetzagentur bietet neuerdings einen<\/span> KI-Service Desk<\/span><\/a> an, der Unternehmen, Beh\u00f6rden und Organisationen bei der rechtssicheren Umsetzung der KI-Verordnung unterst\u00fctzen soll. Hierzu werden praxisorientierte Informationen \u00fcber die neuen europ\u00e4ischen Anforderungen beim Einsatz und bei der Entwicklung von KI bereitgestellt.<\/span><\/p>\n

Bundesdigitalminister Wildberger will mit der Schaffung einer zentralen Anlaufstelle ein Signal setzen f\u00fcr eine wirtschafts- und innovationsfreundliche nationale KI-Aufsicht mit schlanken Strukturen. Erkl\u00e4rtes Ziel ist es, Deutschland bei der Entwicklung und dem Einsatz verantwortungsvoller KI-Technologien in Europa an die Spitze zu setzen.<\/span><\/p>\n

Zum Angebot des KI-Service Desk geh\u00f6ren unter anderem ein interaktiver KI-Compliance Kompass, mit dem sich die Anwendbarkeit der KI-Verordnung auf eingesetzte KI-Systeme pr\u00fcfen l\u00e4sst, sowie Informationen \u00fcber kostenfreie Schulungsangebote zum Erwerb ausreichender KI-Kompetenz.<\/span><\/p>\n

Mit der Vorstellung des KI-Service Desks ist nun zudem klar, dass die Bundesnetzagentur das Rennen gegen die Datenschutzbeh\u00f6rden um die Zust\u00e4ndigkeit als Markt\u00fcberwachungsbeh\u00f6rde f\u00fcr sich entschieden hat.<\/span><\/p>\n

Auch auf europ\u00e4ischer Ebene tut sich etwas: So hat die Kommission die Einrichtung eines AI Act Service Desks zumindest angek\u00fcndigt. Von besonderem Interesse f\u00fcr KI-Anbieter ist die Ver\u00f6ffentlichung des<\/span> General-Purpose AI Code of Practice<\/span><\/a> am 10. Juli 2025, der diesen dabei helfen soll, die Vorgaben der KI-Verordnung einzuhalten.<\/span><\/p>\n

Der Code wurde von unabh\u00e4ngigen Experten in einem Multi-Stakeholder-Verfahren ausgearbeitet. Nach Billigung des Codes durch die Mitgliedstaaten und die Kommission k\u00f6nnen Anbieter von KI-Modellen diesen freiwillig unterzeichnen. Wichtiger Anreiz d\u00fcrfte sein, dass die Einhaltung des Codes wohl die einfachste und rechtssicherste Weise darstellen wird, die Einhaltung der KI-Verordnung nachzuweisen.<\/span><\/p>\n

\n
Juristische Ausbildung<\/span><\/h5>\n

Wie digitale L\u00f6sungen zu mehr Notengerechtigkeit beitragen k\u00f6nnen<\/span><\/h3>\n

Im Sommersemester 2025 wurde an der Universit\u00e4t Bayreuth eine Software getestet, die Bewertungsungerechtigkeiten bei Jura-Hausarbeiten aufdecken soll \u2013 mit Erfolg: Drei Studierende profitierten unmittelbar von Nachkorrekturen, einer konnte sich sogar von vier auf neun Punkte verbessern.<\/span><\/p>\n

Der Fachschaftsvorsitzende der Uni Bayreuth, entwickelte ein Computerprogramm, das systematisch auff\u00e4llige Notenabweichungen erkennt \u2013 noch bevor die Hausarbeiten an die Studierenden zur\u00fcckgegeben werden.<\/span><\/p>\n

Die Software analysiert mithilfe von Clustering-Algorithmen die \u00c4hnlichkeit von Hausarbeiten und pr\u00fcft, ob vergleichbare Arbeiten stark unterschiedlich bewertet wurden. Au\u00dferdem verteilt sie die Arbeiten gezielt auf die Korrektor:innen, damit jeder eine ausgewogene Mischung aus verschiedenen Leistungsniveaus erh\u00e4lt.<\/span><\/p>\n

Ergebnisse des Testlaufs:<\/b><\/p>\n