Editor’s Ramble #77

Liebe Leser:innen,
In dieser Ausgabe haben wir wieder ganz viele interessante Themen rund um Legal Tech im Newsletter.

Es wird über eine Ausweitung der Befugnisse des BKA intensiv diskutiert, wodurch u.a. Fotos einem biometrischen Abgleich unterworfen werden. Dies wird sowohl in der Politik als auch bei Datenschützer:innen sehr kritisch gesehen wird.

In einem fiktiven Fall wurde zum ersten Mal über einen durch Maschinen geschlossenen Smart Contract entschieden und ausprobiert, wie der „Fall aus der Zukunft“ nach unserem heutigen Recht entschieden würde.

Es gibt auch große Fortschritte bei der Digitalen Rechtsantragsstelle, bei der es jetzt um die Beratungshilfe geht. Wir zeigen die aktuellen Möglichkeiten und zukünftigen Entwicklungen auf!

Diese Ausgabe erhält auch den ersten Beitrag aus der Reihe „Legal Tech Basics“. In diesem Format erklären wir jede Ausgabe einen Begriff rund um das Thema Legal Tech.

Und einen Veranstaltungs-Tipp haben wir auch noch für Euch.

Wir hoffen, diese Ausgabe inspiriert Euch und liefert wertvolle Einblicke in die aktuellen Entwicklungen im Bereich LegalTech. Viel Spaß beim Lesen!

Redaktion: Jeremias, Nils, Katharina, Dennis, Jakob,  Paul, Florian und Friedrich

Wir sind gespannt auf Eure Meinung! Wir freuen uns über eure Vorschläge und Feedback. Schickt uns einfach eine E-Mail an radar@recode.law !

Faeser will Abgleich mit Internetbildern

Big Brother BKA?

Unzureichender Test, Düpierung im Fall Daniela Klette, der Terrorangriff von Solingen: die Sicherheitsbedenken werden in Berlin aktuell so groß, dass die deutschen Ermittlungsbehörden nach Online-Durchsuchung, Quellen-Telekommunikationsüberwachung und (bald) Quick-Freeze-Verfahren einen weiteren lang gehegten Wunsch erfüllt bekommen könnten, der im Koalitionsvertrag noch abgelehnt wurde. Bundesinnenministerin Faeser kündigte letzten Donnerstag neue Befugnisse unter anderem für das Bundeskriminalamt (BKA) an, das so internationalen Terrorismus besser verhindern soll: Neben einer – schon für sich brisanten – heimlichen Wohnungsdurchsuchung zur leichteren Installation von “Staatstrojanern” sticht insbesondere die Erweiterung des biometrischen Abgleichs von Fotos hervor.

Spezielle Software scannt dabei eingegebene Fotos (z.B. die Aufnahme einer Überwachungskamera oder einen Screenshot aus einem Video), analysiert Gesichtsmerkmale und schafft so ein individuelles Gesichtsprofil. Dieses kann bisher “nur” mit den erkennungsdienstlich bereits behandelten Personen abgeglichen werden. Unter dem Druck des Umfangs der kommerziellen (und gegen die Datenschutz-Grundverordnung (DSGVO) verstoßenden) Softwares wie Clearview oder PimEyes, die auch Investigativplattformen nutzen, soll das BKA nun insbesondere Verdächtige anhand KI-gestützter Suche nach biometrischen Merkmalen in allen öffentlich zugänglichen Lichtbildern, Bewegungs-, Sprechmustern etc. – also insbesondere auf Instagram, Youtube, Nachrichtenseiten & Co. – identifizieren und den Aufenthaltsort und die Bewegungen feststellen können (§§ 10b, 39a, 63b BKAG-Ref-E). Ob und wie die Behörden in Zukunft eigene Datenbanken DSGVO-konform aufbauen oder die kommerziellen Anbieter nutzen sollen, ist noch offen. Eine “Echtzeit”-Gesichtserkennung, wie z.B. Videoüberwachung an Bahnhöfen, ist dagegen aufgrund bestehender Fehleranfälligkeit nicht geplant.

Das Bundesinnenministerium begründet den Entwurf mit dem Bedürfnis nach modernen Instrumenten bei der Strafverfolgung und der Gefahrenabwehr, z.B. für in IS-Hinrichtungsvideos zu sehende Straftäter. Selbst Bundespräsident Steinmeier appellierte im Nachgang von Solingen auf eine Erweiterung der Befugnisse des BKA. Den Bund Deutscher Kriminalbeamter (BDK) stimmt positiv, dass nun eine Gleichbehandlung mit investigativen Recherchenetzwerken hergestellt werden soll.

Die Grünen mahnen dagegen die Rechtsprechung des Bundesverfassungsgerichts zu solchen Eingriffen an. Der Deutsche Anwaltverein moniert zudem die fehlende statistische Grundlage für die Ausweitung der Befugnisse und die vage Beschreibung der technischen Umsetzung und fragt nach der Transparenz und Nachprüfbarkeit des Behördenhandelns.

Selbst bei einer Verabschiedung des Gesetzes scheint mit der Verfassungswidrigkeit von ähnlich gelagerten Gesetzen auf Länderebene sowie dem Inkrafttreten der KI-Verordnung der EU Anfang des Monats ein Verfahren vor dem Bundesverfassungsgericht jedenfalls – wortwörtlich – vorprogrammiert.

“Maschinen schließen Verträge”

„Landgericht Südlingen“ entscheidet über zukunftsweisende Fragen

In einem Experiment unter Leitung des Rechtsinformatikers Georg Borges hatte das fiktive Landgericht Südlingen über einen Fall zu entscheiden, der aktuell noch wie Zukunftsmusik klingen dürfte: Ein Unternehmen hatte sogenannte Wälzlager bestellt. Die Bestellungen erfolgten dabei vollautomatisiert auf beiden Seiten durch Maschinen. Zudem wurde der Vorgang automatisch in einem sogenannten Smart Contract unter Einsatz von Blockchain-Technologie festgehalten.

Smart Contracts zeichnen sich insbesondere dadurch aus, dass sie sich selbst vollziehen. In diesem Fall wurden beispielsweise automatisch der Kaufpreis gezahlt und die Wälzlager versendet. Zum Vertragsschluss wurde hierbei eine Software eingesetzt, die aus dem vom Bundeswirtschaftsministerium geförderten Projekt „Industrie 4.0 Legal Testbed“ stammt.

Dieser an und für sich schon spannende Vorgang wäre aber nun kein Fall für die (fiktiven) Gerichte, wenn nicht in der Folge einiges schiefgelaufen wäre. VRiLG Conradi, der eigentlich Richter am OLG Frankfurt ist, verhandelte mit Anwälten der Großkanzleien Jones Day und Ashurst über zwei Fallvarianten:

Im ersten Fall war bereits der Vertragsschluss streitig. Wurde die Bestellung tatsächlich aufgegeben? Taugt die Blockchain insoweit als Beweismittel? Der zweite Fall spielte im examensrelevanten Bereich des Mängelgewährleistungsrechts. Die unter Kaufleuten notwendige Mängelrüge war im Smart Contract virtuell festgehalten worden. Allerdings hatten technische Störungen dazu geführt, dass die Rüge möglicherweise verspätet übermittelt wurde. Auch hier war fraglich, ob die Protokolle der Blockchain den Nachweis der Störung liefern könnten und wie sich die Risikoverteilung beim Einsatz von Smart Contracts darstellt.

Die Ergebnisse sind ermutigend. Es gelang dem Gericht, die technisch anspruchsvoll gestalteten Fälle auf grundlegende Fragen des Zivilrechts zurückzuführen. Die Beweisführung durch den Einsatz der Blockchain wurde dabei grundsätzlich als zulässig angesehen, auch wenn das Gericht einiger technischer Hilfeleistung bedurfte. Für unverzichtbar erklärte das Gericht allerdings auch, dass in einem Teil der Vertragskette eine menschliche Willenserklärung stecken müsse. Liege eine solche vor, könne der eigentliche Vertragsschluss sodann auch „weitgehend einem automatisierten Vorgang überlassen werden“. Ein gänzlich autonomer Vertragsschluss durch Maschinen ohne vorherigen Input von Menschen, scheide jedoch (aktuell) aus.

Es wird mit Spannung zu erwarten sein, wann der erste reale Fall des Einsatzes von Smart Contracts den Weg vor die deutschen Gerichte findet. Eine erste rechtliche Leitlinie – auch für die technischen Entwicklungen – ist aber schon einmal gezogen.

Vergabe von 5G Ausbau

5G-Auktion unter Manipulationsverdacht: Hat Andreas Scheuer den Wettbewerb verzerrt?

Im Jahr 2019 haben die vier Telekommunikationskonzerne Deutsche Telekom, Vodafone, Telefónica Germany und 1&1 Frequenzen für insgesamt 6,5 Milliarden Euro ersteigert.Dabei mussten sie sich unter anderem zu einem Mindestausbauziel verpflichten: Bis Ende 2022 sollten jeweils 98 Prozent der Haushalte in jedem Bundesland mit mindestens 100 Mbit pro Sekunde versorgt werden. Auf eine Dienstanbieterverpflichtung verzichtete der Bund jedoch. Diese hätte die großen Anbieter mit eigenen Netzen dazu verpflichtet, kleineren Anbietern, die nicht über eigene Netzinfrastruktur verfügen, die Nutzung der Netze zu regulierten Preisen zu ermöglichen.

Bei der Vergabe der Frequenzen ist die Bundesnetzagentur normalerweise unabhängig und kann die Kriterien für die Versteigerung selbst festlegen. Andreas Scheuer (CSU) soll jedoch Einfluss ausgeübt haben, der die Entscheidung der Behörde verzerrt hat. Der Vorsitzende Richter sagte: „Es liegt nahe, dass die Bundesnetzagentur ihre Entscheidung ohne die massive Einflussnahme durch das Ministerium im Einzelnen anders ausgestaltet hätte.“

Die Folge war eine Benachteiligung kleiner Anbieter und Nachteile für den ohnehin eingeschränkten Wettbewerb im Mobilfunkmarkt.

Digitale Rechtsantragstelle

Wenn der Antrag auf Beratungshilfe digital, schnell und unproblematisch funktioniert

§ 129a ZPO spricht noch ganz trocken und altbacken von „Anträgen und Erklärungen zu Protokoll“. Dass das nicht mehr zeitgemäß ist, ist wohl allen klar. Deshalb investieren Bund und Länder in die Digitalisierung dieses Zugangswegs zur Justiz und treiben dieses Vorhaben in den letzten Jahren mit viel Energie voran. Im August 2024 hat die DigitalService GmbH des Bundes eine weitere Funktion der digitalen Rechtsantragstelle online geschalten: Anträge auf Beratungshilfe können nun digital erstellt und ausgefüllt werden und danach entweder digital oder postalisch übermittelt werden. Beratungshilfe ist das außerprozessuale Pendant zur Prozesskostenhilfe und wird eigenständige im BerHG geregelt. § 4 Abs. 2 HS. 1 BerHG erlaubt die Antragstellung zu Protokoll der Geschäftsstelle – damit also bei der Rechtsantragstelle.

Die Beratungshilfe kann nach einem (optionalen) Vorab-Check, in einer Online-Maskebeantragt werden. Dort wird man durch eine recht einfache Reihe an Fragen geführt, die ein regelbasiertes System zur Prüfung der Voraussetzungen darstellen. Ergänzt werden diese durch Fragen, die mit einem Klick abzuarbeiten sind, sowie mit einigen Freitextfeldern, die später dann so in den Antrag übernommen werden. Am Ende steht das fertig ausgefüllte Antragsformular, das mit einigen Belegen ergänzt werden muss und entweder als PDF heruntergeladen oder direkt über Mein Justizpostfach online eingereicht werden kann.

Ob nun die Einreichung über Mein Justizpostfach aufgrund der wiederholt auftauchenden technischen Fehler und Identifizierungsprobleme funktioniert oder nicht – alleine die Möglichkeit, strukturiert durch das Ausfüllen des Antrags auf Beratungshilfe geleitet zu werden und durch klare und simple Fragen einschätzen zu können, ob dieser Weg für einen Antragsteller überhaupt in Betracht kommt, ist ein großer Schritt, den Zugang zur Justiz digitaler zu gestalten und damit ein Hilfssystem weiter zu öffnen. Denn je mehr Zugangswege es zu Beratungs- und Prozesskostenhilfe gibt und je einfacher diese zu erreichen sind, umso mehr Menschen – insbesondere die, die besonders auf Hilfe angewiesen sind – werden diese simpleren Wege nutzen können.

Ganz wird aber auch ein E-Formular die Rechtsantragstelle in ihrer bisherigen Form nicht ersetzten können. An den Eckpunkten, beispielweise der Schilderung des Sachverhalts oder der rechtlichen Fragen, für die Beratung benötigt wird, kann das Formular noch wenig Unterstützung bieten. Chatbots oder Videokonferenzen mit Rechtspflegern könnten hier die Zukunft sein, wobei die aktuelle hybride Lösung bereits ein guter Zwischenschritt ist! Umso erfreulicher, dass dieser nun auf eine zugängliche, einfach verständliche und relative hürdenlose Weise gelungen ist.

Laut DigitalService GmbH steht auch die Digitalisierung des Antrags zur „Erklärung über eine Änderung der wirtschaftlichen Verhältnisse bei Prozess- und Verfahrenskostenhilfe“ i.S.d. § 120a ZPO“ und die Entwicklung digitaler Services für Schuldner in der Zwangsvollstreckung in den Startlöchern. So dürfte es also bald wieder Neuigkeiten zur digitalen Rechtsantragstelle geben!

Legal Tech Basics

Large Language Models

Large Language Modelle (LLMs) sind die Basis generativen KI-Modelle wie auch Chat GPT.

LLMs stellen einen Teilbereich der Künstlichen Intelligenz dar und ermöglichen es dem Nutzer per einfacher Text- und Spracheingabe, besser bekannt als „Prompts“, mit dem Modell zu kommunizieren.

In einem Training mit Datensätzen lernt das Modell Muster und Zusammenhänge, um Sprache nicht nur zu verstehen, sondern auch entsprechende Inhalte generieren zu können.  Dazu zählen die Textgenerierung, die Übersetzung, die Beantwortung von Fragen oder auch das Erstellen von Zusammenfassungen.

Die Antworten, die ein LLM ausgibt, basieren auf der Errechnung der Wahrscheinlichkeit der potentiellen Wortfolge. Das Modell hat anhand einer riesigen Menge an Textdaten gelernt, welche Wörter häufig zusammen vorkommen. Dazu nutzt das LLM Künstliche Neuronale Netze (KNN).

Diese KNNs bestehen aus mehreren Schichten und sind vergleichbar mit dem menschlichen Gehirn. Künstliche neuronale Netze sind wie riesige, miteinander verbundene Netze. Jede Verbindung in diesem Netz hat eine bestimmte Stärke, die wir “Gewichtung” nennen. Diese Gewichtungen bestimmen, wie Informationen durch das Netz fließen und wie Entscheidungen getroffen werden. Man kann sich das so vorstellen: Je stärker eine Verbindung ist, desto wichtiger ist die Information, die sie überträgt. Indem wir diese Verbindungen anpassen, können wir das Netz so trainieren, dass es Aufgaben immer besser löst. Die Gewichtungen sind also wie die Stellschrauben, mit denen wir das Netz feinjustieren.

Eine komplexere Form der KNN stellt das Deep Learning dar, welches mit mehreren Millionen verdeckten Neuronenschichten arbeitet und somit die Verarbeitung deutlich komplexerer Sachverhalte ermöglicht.

Aus rechtlicher Perspektive ist die Funktionsweise eines LLMs aus datenschutzrechtlicher, urheberrechtlicher oder auch, durch die KI-VO, aus regulatorischer Perspektive konfliktbehaftet sein.

Veranstaltungs-Tipp

DSRI Herbstakademie

Vom 5. – 7. September findet die 25. Herbstakademie der DSRI an der Universität Frankfurt am Main, Campus Westend statt. Viele spannende Namen sprechen über aktuelle Themen aus Recht und Informatik.

Hier geht´s zum Programm.

Last Updated on 4. September 2024