Liebe Leser:innen,
herzlich willkommen zur aktuellen Ausgabe des NewLaw Radar.
Dieser Monat zeigt einmal mehr, wie eng Recht und Technik mittlerweile verflochten sind. Bei Meta sorgte ein neues Bildgenerierungsmodell für Diskussionen: Eine Funktion zur Weiterverwendung fremder Profile war standardmäßig aktiviert und verschwand nach öffentlicher Kritik ebenso schnell wieder, wie sie gekommen war.
Auch Anthropic musste erleben, wie rasch ein KI-Modell durch eine Exportkontrolldirektive vom Netz gehen kann. Wir blicken auf die Wochen zwischen Sperrung, Teilfreigabe und schrittweiser Rückkehr von Fable und Mythos.
In Bayern rückt unterdessen eine grundsätzlichere Frage in den Vordergrund: Darf KI künftig eigenständig Verwaltungsermessen ausüben? Das geplante Fünfte Modernisierungsgesetz würde genau das ermöglichen und damit eine Grenze verschieben, die das Bundesrecht bislang bewusst gezogen hat.
Parallel erlaubt Bayern Studierenden testweise den offenen Einsatz von KI in Prüfungen, während Gerichte andernorts über die Grenzen unerlaubter Nutzung entscheiden müssen.
Wir wünschen euch viel Freude beim Lesen und freuen uns über Feedback an radar@recode.law!
Euer recode.law-Team
Redaktion: Anna, Elly, Felix, Florian, Jonas, Kai, und Patrick
Am 7. Juli hat Meta mit Muse Image ein neues Bildgenerierungsmodell vorgestellt, mit dem Nutzer:innen aus einfachen Prompts Bilder erzeugen sowie Fotos bearbeiten und kombinieren können. Als Teil von Meta AI ist das Programm in Instagram, Facebook und WhatsApp integriert.
Es berichtete insbesondere IPKat.
Besondere Aufmerksamkeit erregte eine spezielle Funktion, mit der Instagram Nutzer:innen über die @-Erwähnung Funktion direkt öffentliche Instagram-Profile für die Bildgenerierung weiterverwenden können. Diese Weiterverwendung sei von den Meta-Nutzungsbedingungen gedeckt. Vermutlich greift die KI umfangreich auf nutzergenerierte Daten zu – Posts, Interaktionen, Zeitmuster –, um bei der Bildgenerierung möglichst präzise Ergebnisse zu erzielen. Damit nutzt Metaüber Jahre hinweg gesammelte Daten genutzt, um das eigene KI-Angebot zu verbessern.
Kontrovers war neben dieser grundlegenden Funktionsweise auch die Einführung des neuen Tools: nach dem Opt-out-Modell war das neue Tool standardmäßig aktiviert. Damit wurde es bei Meta zur Standardoption, dass generative KI auf Nutzerdaten zugreift; die reine Teilhabe und Nutzung des sozialen Netzwerks genügt, damit die eigenen Daten von der KI ausgewertet werden können und dass man selbst Zugriff auf das KI-Tool bekommt.
Nach öffentlicher Kritik an dem neuen Tool zog Meta die @-Erwähnungen Funktion schließlich am 10. Juli bereits drei Tage nach Veröffentlichung zurück. Nach eigenen Angaben sei das Ziel gewesen, ein ,,hilfreiches” kreatives Tool‘ zur Verfügung zu stellen. Ob und, wenn ja, in welchem Umfang das Tool zurückkehrt, bleibt bislang offen. Auch Muse Video scheint vorerst auf Eis gelegt zu sein.
Wie schnell ein KI-Frontier-Modell wieder aus dem Netz verschwinden kann, hat Anthropic im Juni erlebt. Am 9. Juni 2026 veröffentlichte das Unternehmen Claude Fable 5 und Mythos 5. Beide Modelle nutzen dieselbe Architektur, Fable allerdings mit starken Sicherheitsfiltern für die breite Nutzung, Mythos mit reduzierten Schutzmechanismen nur für einen kleinen Kreis von „Project Glasswing”-Partnern.
Drei Tage später kam die Kehrtwende. Am 12. Juni erreichte Anthropic um 17:21 Uhr Ortszeit ein Brief von US-Handelsminister Howard Lutnick: Eine Exportkontrolldirektive, die den Zugriff sämtlicher ausländischer Staatsangehöriger auf beide Modelle untersagte. Hierzu zählen auch ausländische Mitarbeiter:innen von Anthropic selbst, innerhalb wie außerhalb der USA. Rechtlicher Hebel ist die „Deemed-Export”-Doktrin, nach der schon die Weitergabe sensibler Technologie an ausländische Personen im Inland als Ausfuhr gilt. Da sich Staatsangehörigkeit nicht in Echtzeit prüfen lässt, nahm Anthropic beide Modelle binnen rund 90 Minuten weltweit für alle Nutzer:innen vom Netz.
Auslöser der Sperrung war nach Darstellung des Unternehmens eine von Amazon gemeldete Methode, die Schutzmechanismen von Fable auszuhebeln. Sie brachte das Modell dazu, Softwareschwachstellen zu benennen und in einem Fall einsatzfähigen Angriffscode auszugeben. Anthropic bewertet dies als eng begrenzte Lücke, die auch andere Modelle aufwiesen. Später tauchten bislang unbestätigte Berichte auf, ein weiterer Grund könne der Verdacht gewesen sein, dass eine chinanahe Gruppe Zugriff auf Mythosgehabt habe.
Der 26. Juni brachte Bewegung auf beiden Seiten des Markts. Die Regierung gab Mythos 5 per Genehmigung für einen Kreis von US-Organisationen wieder frei. Am selben Tag stellte OpenAI seine neue GPT‑5.6-Familie vor. Deren Flaggschiff „Sol” lieferte OpenAI auf Bitte der US-Regierung aber zunächst nur an rund zwanzig freigegebene Partner aus. Am 30. Juni hob das Handelsministerium die Exportkontrollen für Fable 5 schließlich auf. Fable 5 ist seit dem 1. Juli global zurück. Parallel schob Anthropic einen neuen Sicherheitsklassifikator und strengere Zugangsprüfungen nach, um die Auflagen zu erfüllen. Mythos 5 bleibt bis heute auf die zugelassenen US-Organisationen begrenzt.
Bemerkenswert ist die Nachgeschichte auf der Preisebene. Der zunächst nur bis zum 7. Juli kostenfrei enthaltene Fable-Zugang auf zahlenden Tarifen (bis zu 50 Prozent des wöchentlichen Nutzungskontingents) wurde erst auf den 12., dann auf den 19. Juliverlängert. Berichten zufolge war dies auch eine Reaktion auf OpenAIs Modellstart.
Derzeit (Stand: 19. Juli) ist Fable 5 global verfügbar, das kostenfreie Kontingent läuft aber heute aus. Mythos 5 bleibt weiterhin auf die USA beschränkt. Auf der Gegenseite ist OpenAIs „Sol” seit dem 9. Juli allgemein verfügbar — für zahlende ChatGPT-Nutzer:innen (nicht in der kostenlosen Version), über Codex sowie über die Programmierschnittstelle (API).
Der zuvor staatlich beschränkte Vorabzugang ist damit beendet. Die staatlich gefilterte Auslieferung, die für „Sol” von Beginn an galt, holt Fable damit gewissermaßen nachträglich ein. Ob aus dem rund 19-tägigen Schock ein dauerhaftes Muster für staatlich gesteuerten Modellzugang wird, bleibt die eigentlich spannende Frage.
Bayern plant einen Paradigmenwechsel im Verwaltungsrecht: KI soll künftig nicht nur unterstützen, sondern eigenständig Ermessen ausüben dürfen. Das Fünfte Modernisierungsgesetz würde das BayVwVfG grundlegend umgestalten: So soll Art. 35 BayVwVfG um den Satz ergänzt werden, dass ein Verwaltungsakt „vollständig durch automatische Einrichtungen erlassen werden” kann. Art. 10 BayVwVfG soll zudem den Einsatz von KI in Verwaltungsverfahren ausdrücklich für zulässig erklären.
Das Ermessen ist dabei kein technisches Detail, sondern ein Kernelement des deutschen Verwaltungsrechts: Der Gesetzgeber überlässt der Exekutive bewusst einen Entscheidungsspielraum für den Einzelfall, den Gerichte nur eingeschränkt überprüfen dürfen. Bislang erlaubt § 35a VwVfG auf Bundesebene vollautomatisierte Verwaltungsakte nur, wenn gerade kein Ermessen im Spiel ist und es sich um schematische Entscheidungen handelt. Genau hier liegt der Kern des bayerischen Vorhabens: Das Modernisierungsgesetz will KI auch in jene Grauzone führen, die § 35a VwVfG dem Menschen ausdrücklichvorbehält.
Rechtsprofessor Mario Martini (Universität der Bundeswehr München) warnt im Interview mit der LTO : Ermessen erfordere die Fähigkeit, rationale Wertentscheidungen zu treffen und Rechtspositionen sachgerecht zu gewichten: KI-Systemen fehle hierfür der „Common Sense”. Sie könnten den Inhalt ihrer Ausgaben nicht inhaltlich verstehen und seien nach heutigem Stand regelmäßig nicht in der Lage, Ermessen rechtsdogmatisch sachgerecht auszuüben. Auch dass eine Verwaltungsentscheidung statistisch wahrscheinlich rechtmäßig sei, könne vor dem Gesetzmäßigkeitsprinzip kein ausreichender Maßstab sein – so der Notar-Anwärter Helmut Birner, der zur Automatisierung von Verwaltungsakten promoviert hat.
Dabei ist KI in der Verwaltung nicht per se problematisch – im Gegenteil. Als Hilfsmittel zur Mustererkennung bei Steuererklärungen, zur Dokumentenauswertung oder zum Herausfiltern atypischer Sachverhalte liegen die Vorteile auf der Hand: schnellere Verfahren, weniger Routinefehler, Entlastung einer überlasteten Verwaltung.
Kritisch wird es erst, wenn KI selbst subsumiert, abwägt und entscheidet. Wobei als Kontrollmechanismus von der Staatskanzlei auf das Bayerische Digitalgesetz 2022 verwiesen wird, das regelmäßige Überprüfung auf Zweckmäßigkeit und Objektivität sowie geeignete Rechtsschutzmaßnahmen vorsieht.
Bund und Länder haben sich Ende 2025 darauf geeinigt, ihre Verwaltungsverfahrensgesetze bis 2027 für den KI-Einsatz weiterzuentwickeln . Bayerns Modernisierungsgesetz, derzeit in der Verbandsanhörung, könnte dabei ein erster konkreter Schritt sein, auch wenn KI-Tools bei Ermessensentscheidungen in der Praxis bislang noch gar nicht zum Einsatz kommen.
Das Spannungsfeld bleibt: mehr Effizienz auf der einen Seite, Achtung des Demokratie- und Gesetzmäßigkeitsprinzips auf der anderen Seite. Nicht ob KI in der Verwaltung eingesetzt wird, ist die entscheidende Frage, sondern wo die Linie zwischen KI als Werkzeug und KI als Entscheidungsträger gezogen werden muss.
Bayern schafft mit der gesetzlichen Zulassung von KI an Hochschulen neue Maßstäbe: Während an bayerischen Schulen noch nach Wegen zur Eindämmung von KI-Betrug gesucht wird, wird durch eine geplante Änderung des Hochschulinnovationsgesetzes (BayHIG) der Einsatz von KI in Hochschulprüfungen künftig generell erlaubt.
Bisher lag die Entscheidung über die Zulässigkeit der Nutzung KI-Tools wie ChatGPT bei unbeaufsichtigten Prüfungen wie Hausarbeiten bei den Hochschulen selbst, sodass diese teils bei Kennzeichnung der Zuhilfenahme erlaubt, teils verboten werden konnte.
In Hessen bestätigte das VG Kassel in zwei Fällen, dass die unerlaubte Nutzung von KI in akademischen Arbeiten als besonders schwere Täuschung gewertet werden kann. Die betroffenen zwei Studierenden hatten KI-Tools für ihre Haus- bzw. Bachelorarbeit verwendet, ohne dies kenntlich zu machen, woraufhin die Universität sie durchfallen ließ und von der Prüfungswiederholung ausschloss. Die Prüfungsordnungen der Universität Kassel stellten ein Verbot unerlaubter “fremder Hilfe” klar, dabei komme es laut der Universität nicht darauf an, ob diese Hilfe menschlich sei. Zudem wurde der Einsatz von KI von keinem der beiden Studierenden kenntlich gemacht.
Das VG wies explizit darauf hin, dass das Gestatten der Nutzung in den Prüfungsordnungen zwar grundsätzlich möglich sei, dies allerdings den Hochschulen obliege.
Die Neuregelung soll vergleichbare Fälle in Bayern verhindern. Bei unbeaufsichtigten Prüfungen darf der Einsatz von KI-Tools nicht mehr pauschal untersagt werden. Stattdessen wird auf Transparenz gesetzt: Die Hochschulen werden verpflichtet, den Einsatz in ihren Prüfungsordnungen zu regeln und eine klare Kennzeichnungspflicht festzulegen.
Wissenschaftsminister Markus Blume (CSU) begründet die Reform, welche noch der Billigung des Landtags bedarf, damit, dass KI ein fester Bestandteil des Lebens und damit auch des akademischen Alltags geworden ist. Dadurch seien die Regelung der Einsatzweise von KI und insbesondere auch neue Prüfungsformate erforderlich. Das Ziel ist es, nicht nur die Abhängigkeit von externen Anbietern durch die Entwicklung eigener KI-Systeme zu verringern, sondern die Studierenden auf die Anforderungen einer digitalisierten Arbeitswelt vorzubereiten.
Eine Arbeitsgruppe aus Hochschulvertreter:innen und Studierenden arbeitet seit einem halben Jahr bereits an einem konkreten Fahrplan für diese Neuausrichtung.
Die neue Streitwertreform der ZPO, die Anfang 2026 in Kraft getreten ist, hebt die sachliche Zuständigkeitsgrenze für zivilgerichtliche Verfahren vor den Amtsgerichten von 5.000 € auf 10.000 € an. Die Folge: Mehr Verfahren vor den Amtsgerichten, wo kein Anwaltszwang besteht. Parteien können KI nutzen, um ihren Rechtsstreit “auf eigene Faust” zu führen, und sind nicht gezwungen einen teuren Anwalt zu beauftragen. Wird damit ein breiterer Rechtsschutz und demokratische Teilhabe erreicht oder überwiegt am Ende doch das höhere Kostenrisiko?
Unser neuer Magazinbeitrag widmet sich diesen und weiteren Fragen rund um die fortschreitende Digitalisierung und den Einsatzmöglichkeiten von KI bei den Amtsgerichten.
Hier findet ihr den Artikel.
Der Legal-AI-Vergleich
Unser Legal-AI-Vergleich ist online – und passend dazu sprechen wir im Podcast mit führenden Anbietern über ihre Tools und deren Einsatz in der Praxis. Jeden Donnerstag erscheint eine neue Folge. Die ersten beiden sind bereits verfügbar, und heute geht es mit der nächsten Folge weiter.
Jetzt reinhören (bei Spotify oder Apple Podcasts) und keine Folge verpassen!
Jede:r Jurastudierende kennt diese Situation: Der Gehalt einer komplexen Norm will sich einem nicht so recht erschließen und die Suche nach einem vernünftigen Prüfungsschema in Skripten und Lehrbüchern stellt sich als mühselig heraus. Dafür gibt es nun ein neues Tool.
Das “Struktur-Labor” hat in Kooperation mit der Universität Potsdam einen Arbeitsentwurf für einen Normstruktur-Graphen vorgestellt. Dieser KI-erzeugte Wissensgraph entschlüsselt den Normtext in seine Bestandteile und bildet den Aussagegehalt übersichtlich ab (“Wer? – Tatbestandsmerkmale – “Was folgt?”). Zunächst ist das Tool nur für Normen des BGB, des StGB und der KI-VO verfügbar. Die Methodik, nach der das LLM arbeitet, ist jedoch auf beliebige Regelwerke übertragbar. Dieser erste Arbeitsentwurf dient der Übung, Fehlerfindung und Verbesserung. Eine Ausweitung des Projekts ist aus Sicht eines jeden Studenten wünschenswert.
