Liebe Leser:innen,<\/p>\n
herzlich willkommen zur aktuellen Ausgabe unseres Newsletters, in dem wir Euch einen umfassenden \u00dcberblick \u00fcber die j\u00fcngsten Entwicklungen an der Schnittstelle von Recht und Technik geben.<\/p>\n
In dieser Woche blicken wir mal wieder nach Br\u00fcssel, wo die Umsetzungsfristen f\u00fcr Hochrisiko-KI im Rahmen des AI Acts aufgrund fehlender technischer Standards nach hinten verschoben wurden. Unternehmen sollten die Fristverl\u00e4ngerung jedoch nicht als Aufschub missverstehen.<\/p>\n
Auch f\u00fcr die deutsche Verwaltung bleibt das Thema KI und Digitalisierung aktuell: Das BMDS hat einen Agentic AI Hub gestartet, um autonome KI-Agenten in deutschen Kommunen zu testen.<\/p>\n
Und dass Technik nicht nur Chancen, sondern auch Risiken birgt, zeigt eine Analyse des Chaos Computer Clubs (CCC), der erhebliche Sicherheitsl\u00fccken bei RA-MICRO aufgedeckt hat.<\/p>\n
Zudem empfehlen wir die Lekt\u00fcre des Updates zum “Hamburger Protokoll”. Die neue KI-Edition liefert spannende Impulse dazu, wie sich die juristische Ausbildung weiterentwickeln muss, um besser auf den Einsatz von KI in der realen Arbeitswelt vorzubereiten.<\/p>\n
Wir w\u00fcnschen euch viel Freude beim Lesen und freuen uns \u00fcber Feedback an radar@recode.law<\/a>!<\/p>\n Euer recode.law-Team<\/p>\n Redaktion: Felix<\/a>, Florian<\/a>, Marco<\/a>, Patrick<\/a>, und Veronika<\/a>.<\/p>\n Der AI Act der EU wurde f\u00fcr Hochrisikosysteme vorerst verschoben. Grund daf\u00fcr ist das Fehlen technischer Standards, die Unternehmen als Orientierung dienen sollen. Unter Hochrisikosysteme fallen unter anderem Biometrie, Bildung, Strafverfolgung sowie allgemein kritische Infrastruktur. F\u00fcr diese Systeme gilt nun nicht mehr der August 2026 als Stichtag, sondern je nach Kategorie Dezember 2027 bzw. August 2028.<\/p>\n Die Verschiebung ist ein Zeichen f\u00fcr die enorme Komplexit\u00e4t, die KI-Systeme mit sich bringen \u2014 sie er\u00f6ffnet aber auch neue Chancen. So m\u00f6chte das Parlament den Schutz von Pers\u00f6nlichkeitsrechten st\u00e4rken und plant ein Verbot sogenannter \u201eNudifier”-Apps. Diese Apps waren zuletzt in den Fokus geraten, weil sie es erm\u00f6glichen, von Personen realistische, sexuell explizite Nacktbilder ohne deren Einwilligung zu erstellen.<\/p>\n Unternehmen sollten die Fristverl\u00e4ngerung dennoch nicht als Aufschub missverstehen: Bei Nichteinhaltung drohen empfindliche Strafen. Einen ersten Orientierungsrahmen bietet die ISO\/IEC 42001. Gerade f\u00fcr international t\u00e4tige Unternehmen ist das von Vorteil, da weltweit kein einheitlicher Regulierungsrahmen besteht und verschiedene Ans\u00e4tze nebeneinander existieren.<\/p>\n Abschlie\u00dfend l\u00e4sst sich sagen, dass die \u00dcberarbeitung des AI Acts grunds\u00e4tzlich zu begr\u00fc\u00dfen ist. Angesichts der Sensibilit\u00e4t der Materie und der Einzigartigkeit dieses Vorhabens kommt der Regulierung ein besonderes Gewicht zu. Umso wichtiger ist es, dass Leitlinien fr\u00fchzeitig entwickelt werden \u2014 damit Unternehmen ausreichend Zeit f\u00fcr eine ordentliche Compliance-Umsetzung haben.<\/p>\n Das Bundesministerium f\u00fcr Digitales und Staatsmodernisierung (BMDS) hat mit einer Kick-Off-Veranstaltung im M\u00e4rz 2026 den Startschuss f\u00fcr 18 Pilotprojekte gegeben, bei denen autonome KI-Agenten erstmals in deutschen Kommunalverwaltungen eingesetzt werden. Das Ziel ist klar umrissen: KI soll nicht mehr nur Text vorformulieren oder Suchanfragen beschleunigen, sondern eigenst\u00e4ndig handeln. Antr\u00e4ge sollen auf Vollst\u00e4ndigkeit gepr\u00fcft werden, fehlende Dokumente nachgefordert werden und Entscheidungsvorschl\u00e4ge an Sachbearbeiter:innen liefern.<\/p>\n Der Ausgangspunkt ist bekannt. Kommunalverwaltungen k\u00e4mpfen mit Personalknappheit, langen Bearbeitungszeiten und einer heterogenen IT-Infrastruktur. Auf den Bewerbungsaufruf des BMDS meldeten sich rund 400 Startups und knapp 200 Kommunen, ein Signal daf\u00fcr, dass der politische Wille zur Digitalisierung auf Nachfrage trifft. Ausgew\u00e4hlt wurden schlie\u00dflich 17 Kommunen unterschiedlicher Gr\u00f6\u00dfe und 10 Startups, die gemeinsam L\u00f6sungen f\u00fcr f\u00fcnf Einsatzfelder entwickeln: von der B\u00fcrgerinteraktion \u00fcber interne Prozessunterst\u00fctzung bis hin zum Aufbau agentischer KI-Infrastruktur.<\/p>\n Die Anwendungsf\u00e4lle sind bewusst nah am Verwaltungsalltag gew\u00e4hlt. Das Startup formfix etwa unterst\u00fctzt K\u00f6ln und Berlin bei der Antragstellung auf Hilfe zur Pflege; forml automatisiert die Vollst\u00e4ndigkeitspr\u00fcfung beim Wohnberechtigungsschein in Frankfurt und D\u00fcsseldorf; Celonis soll in M\u00fcnchen das Einb\u00fcrgerungsverfahren beschleunigen. Summ AI wiederum modelliert Verwaltungsprozesse per Sprachaufnahme und hilft so, versteckte Einsparpotenziale sichtbar zu machen.<\/p>\n So \u00fcberzeugend die Praxis klingt, so deutlich zeigen sich die rechtlichen Stellschrauben. Denn sobald KI-Agenten nicht mehr nur assistieren, sondern Entscheidungsvorschl\u00e4ge mit unmittelbarer Rechtswirkung f\u00fcr B\u00fcrger:innen vorbereiten, etwa beim Wohngeld, der Einb\u00fcrgerung oder der Pflegehilfe, greifen sowohl der AI Act als auch die DSGVO. Anwendungssysteme, die Entscheidungen mit Wirkung auf den Zugang zu \u00f6ffentlichen Leistungen oder Rechten vorbereiten, werden in der Regel als Hochrisiko-KI eingestuft (Art. 6 Abs. 2 i.V.m. Anhang III Nr. 5 lit. a AI Act). Das zieht strenge Anforderungen nach sich: menschliche Aufsicht (Art. 14 AI Act), Transparenz gegen\u00fcber Betroffenen und erh\u00f6hte Dokumentationspflichten f\u00fcr die Betreiber (Art. 26 AI Act). Parallel dazu ist Art. 22 DSGVO zu beachten, der automatisierten Entscheidungen mit rechtlicher oder \u00e4hnlich erheblicher Wirkung grunds\u00e4tzlich Grenzen setzt, sofern keine der dort geregelten Ausnahmen greift.<\/p>\n Das BMDS betont, dass alle Pilotprojekte auf Wirksamkeit und Skalierbarkeit hin evaluiert werden. Die Ergebnisse sollen dann, soweit \u00fcbertragbar, bundesweit ausgerollt werden.<\/p>\n Das Modell ist vielversprechend: Ein zentraler \u201eMaschinenraum” \u00fcbersetzt b\u00fcrokratische Probleme in technische Prototypen, testet sie unter realen Bedingungen und skaliert, was funktioniert. Ob dabei in drei Monaten tats\u00e4chlich praxistaugliche L\u00f6sungen entstehen, die auch dem regulatorischen Anforderungsprofil des AI Acts standhalten, wird die eigentliche Bew\u00e4hrungsprobe sein.<\/p>\n Der Chaos Computer Club (CCC) hat im Rahmen einer Sicherheitsanalyse von Legal-Tech-Anbietern erhebliche Schwachstellen in der Kanzleisoftware RA-MICRO Essentials aufgedeck<\/a>t, die den Zugriff auf hochsensible Daten erm\u00f6glichten.<\/p>\n Das Einfallstor bestand aus einem B\u00fcndel verschiedener Sicherheitsprobleme, darunter der Einsatz eines seit Jahren veralteten und als unsicher eingestuften Verschl\u00fcsselungsverfahrens sowie Datenlecks in frei zug\u00e4nglichen Dateien. So war etwa der Zugriff auf vollst\u00e4ndige Backup-Archive m\u00f6glich.<\/p>\n Zu den einsehbaren Daten geh\u00f6ren Mandantennamen und -adressen, Verfahren, interne Aktenvermerke, Gutachten und Schriftwechsel sowie beA-Zugangsdaten. Einige Monate sp\u00e4ter gelang dem CCC zudem der Zugriff auf RA-MICRO-Passw\u00f6rter, das Anlegen von Administrator-Accounts und der Versand von E-Mails im Namen von RA-MICRO.<\/p>\n M\u00f6glicherweise liegt in diesen Schwachstellen sogar ein Rechtsversto\u00df, etwa gegen Art. 32 DSGVO oder \u00a7 43a Abs. 2 BRAO und \u00a7 2 BORA. Laut Spiegel <\/a>hat die Berliner Datenschutzbeauftragte RA-MICRO bereits im November verwarnt, weil das Unternehmen Verantwortliche nicht unverz\u00fcglich \u00fcber die Verletzung des Schutzes personenbezogener Daten bei einer der L\u00fccken informiert habe. Da RA-MICRO die daf\u00fcr n\u00f6tigen Informationen nicht weitergegeben hat, konnten betroffene Kanzleien ihrer Meldepflicht nach Art. 33 DSGVO nicht nachkommen.<\/p>\n Der CCC meldete die Schwachstellen im Mai und August 2025 an RA-MICRO, das sie nach eigener Auskunft seitdem behoben hat. Bereits in der Vergangenheit hatte der CCC Sicherheitsl\u00fccken bei Legal-Tech-Plattformen wie myRight, EUflight<\/a> und advocado <\/a>aufgedeckt.<\/p>\n 2024 forderte das \u201eHamburger Protokoll” erstmals eine strukturelle Reform des Jurastudiums \u2014 weniger Stoff, neue Pr\u00fcfungsformate, mehr Praxisn\u00e4he. Recode.law wirkte am Workshop der Bucerius Law School und der Fakult\u00e4t f\u00fcr Rechtswissenschaft der Universit\u00e4t Hamburg mit, der die Grundlage f\u00fcr das Protokoll legte. Die im M\u00e4rz ver\u00f6ffentlichte \u201eKI-Edition<\/a>” von Prof. Dr. Tabea Bauermeister (Universit\u00e4t Regensburg), Prof. Dr. Michael Gr\u00fcnberger (Bucerius Law School) und Prof. Dr. Paulina Jo Pesch (Universit\u00e4t Erlangen-N\u00fcrnberg) fragt nun: Wie muss sich die juristische Ausbildung, die die reale Arbeitswelt zunehmend schlechter abbildet, angesichts von KI weiterentwickeln?<\/p>\n Das Papier entwickelt dabei ein dreistufiges Kompetenzprofil: Juristische Kernkompetenzen, reflexive Technologiekompetenz und kommunikative F\u00e4higkeiten. Daneben diskutiert es das Risiko des \u201eDeskilling”, also die Gefahr, dass eine unreflektierte Nutzung von KI-Systemen grundlegende analytische F\u00e4higkeiten zur\u00fcckdr\u00e4ngt. Das Protokoll pl\u00e4diert daher nicht f\u00fcr einen KI-Ausschluss aus dem Studium, sondern f\u00fcr einen strukturierten, kritisch-reflektierten Umgang und insbesondere neue Lehr- und Pr\u00fcfungsformate.<\/p>\n Das Papier ist bewusst als offene Diskussionsgrundlage angelegt und daher unsere j\u00fcngste Leseempfehlung.<\/p>\n Die Studie \u201eLegal Market Economics” des Bucerius Legal Innovation Hub analysiert die strukturellen Umbr\u00fcche im deutschen Rechtsmarkt. Die Autoren belegen ein wachsendes \u201eLeistungsgap”: Die Einzelnormen im Bundesrecht sind seit 2010 um \u00fcber 22 % gestiegen, w\u00e4hrend der juristische Nachwuchs r\u00fcckl\u00e4ufig ist und ein gro\u00dfer Teil der heutigen Anwaltschaft innerhalb der n\u00e4chsten 15 Jahre das Ruhestandsalter erreichen wird. Rein quantitative Ans\u00e4tze zur Personalgewinnung reichen nicht aus \u2013 stattdessen r\u00fccken Arbeitsteilung durch interdisziplin\u00e4re \u201eLegal Connectors” und der strategische KI-Einsatz in den Fokus. Dabei entscheidet die Organisationsgr\u00f6\u00dfe ma\u00dfgeblich, wer profitiert. Zugleich f\u00fchlen sich fast alle befragten Studierenden unzureichend auf den Umgang mit KI vorbereitet. Die Studie ist Bestandsaufnahme und Impulsgeber zugleich \u2013 eine empfehlenswerte Lekt\u00fcre<\/a> f\u00fcr alle, die die Zukunft des deutschen Rechtsmarktes verstehen m\u00f6chten.<\/p>\n Vom 12. bis 14. Juni 2026 findet an der Bucerius Law School in Hamburg der 2. Hamburg Legal Hackathon statt. Gemeinsam mit der Law School und built e.V. bringen wir Talente aus den Bereichen Recht, Technologie und Design zusammen, um innerhalb von drei Tagen innovative L\u00f6sungen f\u00fcr die Rechtsbranche zu entwickeln. Das Format bietet die Chance, theoretische Konzepte in interdisziplin\u00e4ren Teams unmittelbar in die Praxis umzusetzen.<\/p>\n Die diesj\u00e4hrige Leit-Challenge \u201e(Legal) AI Buddies\u201c konzentriert sich auf intelligente Assistenzsysteme f\u00fcr die juristische Arbeit. Im Fokus steht dabei die Frage, wie generative Modelle und spezialisierte Softwarel\u00f6sungen Fachkr\u00e4fte bei komplexen Recherche- oder Entwurfsaufgaben entlasten und Prozesse beschleunigen k\u00f6nnen.<\/p>\n W\u00e4hrend der gesamten Entwicklungsphase stehen euch erfahrene Mentoren zur Seite, bevor die Projekte abschlie\u00dfend vor einer Fachjury pr\u00e4sentiert werden. F\u00fcr die besten Konzepte ist ein Preisgeld von insgesamt 4.000 \u20ac ausgelobt.<\/p>\n Die Teilnahme ist kostenlos und richtet sich an alle, die Lust auf die Gestaltung von Legal Tech haben \u2013 egal welcher Fachrichtung. F\u00fcr die Verpflegung w\u00e4hrend des Wochenendes ist gesorgt, und f\u00fcr externe Teilnehmende steht eine Bettenb\u00f6rse zur Vermittlung von Unterk\u00fcnften bereit.<\/p>\n<\/h4>\n
<\/h4>\n
\nAI Act im Wandel<\/h5>\n
Br\u00fcssel verl\u00e4ngert Umsetzungsfristen f\u00fcr Hochrisikosysteme<\/h3>\n
\nKI in der Verwaltung<\/h5>\n
Agentic AI Hub startet Pilotprojekt in deutschen Kommunen<\/h3>\n
\nSicherheitsl\u00fccken bei RA-MICRO<\/h5>\n
CCC entdeckt IT-Schwachstellen beim Marktf\u00fchrer<\/h3>\n
\nLese-Tipp<\/h5>\n
Update zum Hamburger Protokoll<\/h3>\n
\nPodcast-Tipp<\/h5>\n
\u201eLegal Market Economics”-Studie<\/h3>\n
\nVeranstaltungs-Tipp<\/h5>\n
Hamburg Legal Hackathon 2026<\/h3>\n