Liebe Leser:innen,
herzlich willkommen zur aktuellen Ausgabe unseres Newsletters, in dem wir Euch einen umfassenden Überblick über die jüngsten Entwicklungen an der Schnittstelle von Recht und Technik geben.
Für Wirbel sorgte kürzlich Claude: Anfang August führte Anthropic in Umsetzung der Kennzeichnungspflicht der KI-VO ein Wasserzeichen ein, das auch nach dem Kopieren eines Textes erhalten bleibt. Daneben von besonderem Interesse für die Rechtspraxis: Nach Claude for Legal zieht nun auch Google mit Gemini Enterprise for Legal nach.
Abseits der KI-Modelle ordnen wir den milliardenschweren Meta-Vergleich zum Jugendschutz ein, blicken auf die Vertragspraxis des Legal-Tech-Anbieters Conny und zeigen, wo bei KI-gestützten Bewerbungsprozessen die Grenze zur unzulässigen automatisierten Entscheidung verläuft.
Zum Schluss noch ein Hinweis in eigener Sache: Wir haben eine recode.law GitHub-Organisation eingerichtet, in der ihr unter anderem den Quellcode zu videoverhandlung.de und KI-vor-Gericht.de findet.
Wir wünschen euch viel Freude beim Lesen und freuen uns über Feedback an radar@recode.law!
Euer recode.law-Team
Redaktion:
Anna, Kai, Florian, Nils, Nisanur
Anthropic setzt ab August für Claude die Transparenzpflicht der europäischen KI-VO nach Art. 50 Abs. 2 in Form eines Wasserzeichens um.
KI-Anbieter sind demnach aus Transparenzgründen verpflichtet, synthetisch erzeugte Audio-, Bild-, Video- oder Textinhalte in einem maschinenlesbaren Format als künstlich erzeugt oder manipuliert zu kennzeichnen.
Die Anbieter sollen für die Umsetzung ihrer technischen Lösungen auf Wirksamkeit, Interoperabilität, Belastbarkeit und Zuverlässigkeit achten und dabei die Besonderheiten und Beschränkungen der verschiedenen Arten von Inhalten, die Umsetzungskosten und den allgemein anerkannten Stand der Technik berücksichtigen.
Anthropic setzt für die Umsetzung auf ein technisches Wasserzeichen. Anders als ein oft auf urheberrechtlich geschützten Bildern verwendetes Wasserzeichen, ist das eingesetzte Wasserzeichen nicht direkt sichtbar. Claude wählt dazu bestimmte Wörter als Tokens anhand eines versteckten, variablen Musters aus. Dadurch bleibt das Muster auch bestehen, wenn der Text aus Claude kopiert wird und an anderer Stelle wieder eingefügt wird. Insbesondere wird dadurch die geforderte Maschinenlesbarkeit eingehalten. Mit bestimmten Tools ist es folglich möglich zu erkennen, ob zumindest ein Teil eines Textes mit Claude formuliert wurde. Je stärker die Involvierung von Claude, desto stärker das Signal, welches als Wasserzeichen hinterlassen wird.
Eine Beteiligung von Claude wie beispielsweise eine Übersetzung oder Rechtschreibprüfung reicht theoretisch aus, um ein Wasserzeichen zu generieren. Bei einer reinen Rechtschreibprüfung wird jedoch typischerweise zu wenig sprachlich geändert, um ein wirkliches Muster in den Text als Wasserzeichen zu integrieren. Dennoch kann ein schwaches Signal ausgebildet werden. Dieser Punkt wirft die Frage auf, wie insbesondere im universitären Prüfungskontext mit dem Vorhandensein eines Wasserzeichens umzugehen ist und ab welcher Signalstärke ein Täuschungsversuch beginnt. Es stellt sich die Frage, ob dies überhaupt bestimmt genug festzulegen ist. Eventuell muss dadurch die Anwendung von KI-Tools in Hausarbeiten oder Abschlussarbeiten schwarz oder weiß gesehen werden, also gänzlich zulässig oder gänzlich verboten, andernfalls droht eine willkürliche Handhabung je nach Signalstärke des Wasserzeichens. Ob ein Verbot von innovativer Technologie jedoch die Lösung ist, ist mehr als fraglich. Oder sollte das Internet auch verboten werden? Oder die Rechtschreibprüfung in Officeprogrammen für die Erstellung von Haus- und Abschlussarbeiten? Fragen, die der weit überwiegende Teil wohl auch verneinen würde.
Die Anbieter der großen Sprachmodelle drängen immer weiter in den Rechtsmarkt. Den Anfang machte bekanntlich Anthropic. Nach dem „Legal”-Plugin im Februar, über das wir in Ausgabe 92/26 berichtet haben, folgte im Mai mit Claude for Legal ein eigenes Branchenangebot. Es deckt Vertragsprüfung mit nachverfolgten Änderungen, Rechtsrecherche, Dokumentenanalyse und die Kontrolle von Abrechnungen externer Kanzleien ab und ist an Systeme wie iManage, NetDocuments, Docusign und Thomson Reuters angebunden.
Am 7. August 2026 verpflichtete Anthropic mit Robert Mahari dann einen eigenen Leiter für das Rechtsgeschäft, der aus der Rechtsinformatik kommt und zuvor ein eigenes Legal-Tech-Unternehmen gegründet hatte.
Am 25. August 2026 zog jetzt Google Cloud nach. Gemini Enterprise for Legal ist das erste branchenspezifische Angebot auf Basis der Unternehmensplattform und bündelt Fähigkeiten für Vertragsprüfung, das Erstellen von Verhandlungsregelwerken aus Altverträgen, die Beobachtung regulatorischer Entwicklungen, die Bearbeitung datenschutzrechtlicher Auskunftsersuchen sowie Schwärzungen für Gerichtsanträge. Als erste Anwenderinnen nennt Google diverse internationale Großkanzleien, darunter Cleary Gottlieb, Freshfields, Weil, Gotshal & Manges und Williams & Connolly, als Umsetzungspartner sowie Accenture, Deloitte und KPMG.
Als strategische Partner nennt Google etablierte Legal-Tech-Anbieter, wie Harvey, Legora, Everlaw und Thomson Reuters. Das Ziel dürfte also womöglich weniger echte Konkurrenz als vielmehr partnerschaftliche Zusammenarbeit und Arbeitsteilung sein.
Vollständig ist das Feld noch nicht. OpenAI bereitet seit Mai unter dem Namen „Codex for Legal” ein eigenes Rechtsangebot vor, bislang ist hierzu aber noch wenig bekannt. Und auch Anthropic geht den nächsten Schritt: So wurde kürzlich der Entwurf eines “German Professional Secrecy Addendum” bekannt, eine Zusatzvereinbarung zur Berufsverschwiegenheit nach § 203 Abs. 4 StgB und § 43e Abs. 3 BRAO, die eine berufsrechtliche Vertragsgrundlage für die anwaltliche Nutzung in Deutschland sein soll.
Depressionen, Angststörungen und sogar Suizide als mögliche Folgen: 29 US-Bundesstaaten haben Meta in einem Gerichtsverfahren vorgeworfen, durch seine Netzwerke absichtlich eine psychische Abhängigkeit bei minderjährigen Nutzern zu erzeugen und gesetzeswidrig personenbezogene Daten von Kindern gesammelt sowie verarbeitet zu haben. Zur Beilegung des Rechtsstreits hat sich Meta auf einen Vergleich über bis zu 16,68 Milliarden US-Dollar sowie auf die Umsetzung weitreichender Schutzmaßnahmen verpflichtet.
Im Zentrum der vereinbarten Maßnahmen stehen unter anderem strenge Alterskontrollen, Beschränkungen der täglichen Nutzungsdauer sowie nächtliche Sperrzeiten. Hinzu kommen nicht personalisierte Feeds, die Blockierung von Schönheitsfiltern, nicht einsehbare Likes sowie erweiterte Kontrollmöglichkeiten für Eltern. Mit diesen Maßnahmen soll die Nutzung der sozialen Netzwerke für Minderjährige stärker eingeschränkt und sicherer gestaltet werden. Gleichzeitig zielen die Regelungen darauf ab, Funktionen zu begrenzen, die nach Ansicht der klagenden US-Bundesstaaten zu einer besonders intensiven Nutzung der Plattformen beitragen können. Dabei weist Meta stets die gegen das Unternehmen erhobenen Vorwürfe zurück: Der Konzern betont, dass die Sicherheit von Jugendlichen auf seinen Plattformen höchste Priorität habe. Die Einigung stellt daher kein Anerkenntnis der von den US-Bundesstaaten erhobenen Vorwürfe durch Meta dar.
Diese Maßnahmen sind zwar zunächst nur für amerikanische Nutzer vorgesehen. Allerdings könnten die Auswirkungen des Verfahrens über die USA hinausreichen. Auch international wächst der Druck auf Meta, den Schutz Minderjähriger zu verstärken. So untersucht die EU-Kommission bereits, ob Meta seine Pflichten zum Schutz Minderjähriger nach dem Digital Services Act ausreichend erfüllt. Die südkoreanische Medienaufsicht fordert ebenfalls, die vorgesehenen Maßnahmen für Minderjährige weltweit umzusetzen. Dabei hat Australien bereits Ende 2025 eine Altersgrenze von 16 Jahren für die Nutzung bestimmter sozialer Netzwerke eingeführt. Auch in Deutschland wird seit Längerem über mögliche Altersgrenzen und Verbote für jüngere Nutzer diskutiert, unter anderem für unter 14-Jährige.
Der Streit um Meta könnte damit maßgeblichen Einfluss darauf haben, wie soziale Netzwerke künftig mit dem Schutz Minderjähriger umgehen müssen. Die Entwicklungen in den USA zeigen, dass der Umgang mit jungen Nutzern zunehmend stärker reguliert werden könnte. Gleichzeitig stehen auch andere Staaten vor der Frage, wie weit solche Schutzmaßnahmen gehen sollten und welche Verantwortung Plattformbetreiber dabei übernehmen müssen. Der Fall könnte somit nicht nur für Meta, sondern auch für die zukünftige Regulierung sozialer Netzwerke international von Bedeutung sein.
Der Legal-Tech-Anbieter Conny wirbt auf Instagram mit dem „Conny-Check“: Mieter*innen können online prüfen, ob ihre Miete gegen die Mietpreisbremse verstößt und wie viel sie dadurch möglicherweise sparen können. Conny übernimmt anschließend die rechtliche Durchsetzung und lässt sich dafür die entsprechenden Ansprüche der Mieterinnen abtreten.
Die rechtliche Grundlage bilden §§ 556d ff. BGB: Die Miete darf bei Abschluss eines neuen Mietvertrags grundsätzlich höchstens zehn Prozent über der ortsüblichen Vergleichsmiete liegen. Ein Verstoß wird jedoch nicht automatisch sanktioniert: Mieter*innen müssen vielmehr den Verstoß gegenüber dem Vermieter rügen, um ihre zu viel gezahlte Miete unter den gesetzlichen Voraussetzungen zurückfordern. Zwar wirbt Conny damit, dass man nicht extra an sie zahlen müsse, allerdings wird die überzahlte Miete komplett (und gegebenenfalls ein Teil der Kaution) an Conny abgetreten.
Problematisch wird es, wenn Verbraucher*innen vor Vertragsschluss nicht ausreichend darüber aufgeklärt werden, welche Ansprüche sie abtreten oder darüber, dass sie überhaupt eine vertragliche Bindung eingegangen sind. Nach Angaben Connys kommt der Vertrag inzwischen durch individuelle Kommunikation zustande: Nach einer Registrierung werden potentiell interessierte Personen kontaktiert und erhalten anschließend per E-Mail ein Angebot mit AGB und Erfolgsvereinbarung. Antworten sie darauf mit „Okay“, soll der Vertrag zustande kommen, eine eigenhändige Unterschrift ist nicht erforderlich.
Bei Verbraucherverträgen gelten allerdings besondere Informationspflichten, insbesondere muss transparent sein, dass nicht nur eine unverbindliche Berechnung des möglichen Sparpotenzials erfolgt. In einem Fall forderte Conny zunächst sogar Schadensersatz in Höhe von 3.000 Euro, weil ein Kunde seiner Mitwirkungspflicht nicht nachgekommen sein soll. Diese Pflicht bestand darin, Unterlagen, Informationen oder Fotos zur Verfügung zu stellen, die für die rechtliche Prüfung und Durchsetzung erforderlich sind. Nach Kritik an dieser Praxis erklärte Conny, inzwischen keinen Schadensersatz mehr zu verlangen, sondern die Mitwirkung unmittelbar geltend zu machen.
Wenn Mieter*innen die rechtlichen Schritte selbst veranlassen, verbleibt die Rückzahlung bei erfolgreicher Durchsetzung bei ihnen, gegebenenfalls muss bei einem Verfahren das Prozesskostenrisiko getragen werden. Eine Beratung durch einen Mieterverein kann dabei helfen, die zulässige Miethöhe zu bestimmen und bei der Formulierung der erforderlichen Rüge kann eine KI behilflich sein.
Das Geschäftsmodell von Conny kann für Mieter*innen eine Möglichkeit darstellen, die Mietpreisbremse ohne eigenes Prozessrisiko durchzusetzen. Gerade weil die Mietpreisbremse von den Betroffenen selbst geltend gemacht werden muss, schließen Legal-Tech-Unternehmen eine tatsächliche Durchsetzungslücke. Entscheidend ist jedoch die Transparenz: Wer lediglich wissen möchte, wie viel er sparen könnte, sollte klar erkennen können, wann aus einer unverbindlichen Prüfung ein kostenpflichtiges Vertragsverhältnis wird, welche Ansprüche abgetreten werden und welche Mitwirkungspflichten entstehen.
Jüngst wurden in einem LTO-Artikel die rechtlichen Aspekte des KI-Einsatzes auf HR-Seite in Bewerbungsprozessen beleuchtet. Der Einsatz ist gerade bei hohem Bewerberandrang auf eine Stelle besonders nützlich. Die KI analysiert die Bewerbungsunterlagen und kann eine Vorauswahl treffen. Jedoch ist hierbei zu beachten, dass das Recht des Bewerbers, nicht einer automatisierten Entscheidungsfindung unterworfen zu werden, aus Art. 22 I DSGVO nicht beschnitten werden darf. Andernfalls drohen dem Verwender hohe Entschädigungsansprüche. Von daher ist bei jedem derartigen KI-Einsatz eine menschliche Kontrolle inhaltlicher Art erforderlich, und zwar nicht bloß zum Schein. Maßgeblich für die Thematik war auch das Schufa-Urteil des EuGH (EuGH Urt. v. 7.12.2023, Az C-634/21, C-26/22 und C-64/22). Ein Mensch zwischen KI-Empfehlung und Absage ist nicht zwingend ausreichend. Es muss eine tatsächliche Einflussnahme erfolgen.
Neben der DSGVO ist auch die europäische KI-Verordnung (VO AI-Act) zu beachten. Gem. Anhang III Nr. 4 lit. a KI-VO i.V.m. Art. 6 II KI-VO werden KI-Systeme, die für Bewerbungsprozesse eingesetzt werden können, als Hochrisikosysteme klassifiziert. Dies erfordert wiederum eine wirksame menschliche Aufsicht, Art. 14 KI-VO. Eine solche schlägt sich nieder in Kenntnis und Verständnis vom jeweiligen verwendeten System und einer objektiven Bewertung des Ergebnisses. Der Schutz der Bewerber erfolgt hierbei über Art. 15 I lit. h DSGVO: Ihnen steht ein Auskunftsanspruch über den Bewerbungsprozess zu, wonach die HR genauestens darzulegen hat, wie das System verwendet und beaufsichtigt wurde und wie weit der menschliche Einfluss reicht. Die Folge für die HR kann wie folgt zusammengefasst werden: Je stärker die KI das Ergebnis vorzeichnet, desto weniger darf sich die menschliche Kontrolle auf ein bloßes Akzeptieren oder Ablehnen beschränken.
Wir haben eine recode.law GitHub Organisation angelegt. Ihr findet sie unter https://github.com/recode-law.
Aktuell gibt es dort schon den Source-Code zu videoverhandlung.de (und KI-vor-Gericht.de) zu sehen! Schaut ihn euch gerne hier an.
Ihr könnt euch darauf freuen, dort in Zukunft weitere Projekte zu sehen und gerne dazu beitragen, wenn ihr Ideen oder Verbesserungsvorschläge habt! Oder schaut auch einfach mal so vorbei, falls euch interessiert, wie Coding-Projekte aufgebaut sein können.
