Editor’s Ramble #76

Liebe Leser:innen,
In dieser Ausgabe haben wir wieder ganz viele interessante Themen rund um Legal Tech im Newsletter.

Nach der Veröffentlichung der KI-Verordnung haben sich bereits mehrere Stellen zu einer KI-Aufsichtsbehörde geäußert. Diese Stimmen ordnen wir für Euch ein.
Des Weiteren besorgt „Tech“ die Arbeitnehmer, die sich vor dem Einfluss von KI fürchten. Der DGB hat sich jetzt zur Mitbestimmung in Bezug auf KI im Unternehmen geäußert.
Auch für die Juristenausbildung ist etwas dabei, denn NRW hat die Finanzierung für das Referendariat angepasst.
Zudem hat sich der EuGH zu der Rolle von Bytedance (TikTok) geäußert und die Anforderungen an das Unternehmens für die Zukunft klargestellt.
Es gibt auch wieder einen recode.law Workshop zu KI, LLMs und Prompting.

Wir hoffen, diese Ausgabe inspiriert Euch und liefert wertvolle Einblicke in die aktuellen Entwicklungen im Bereich LegalTech. Viel Spaß beim Lesen!

Redaktion: Katharina, Dennis, Friedrich, Lena, Jakob, Konstantin und Jeremias

Wir sind gespannt auf Eure Meinung! Wir freuen uns über eure Vorschläge und Feedback. Schickt uns einfach eine E-Mail an radar@recode.law und teilt uns mit, was Ihr denkt!

KI Verordnung

Wer wird KI-Aufsicht?

Nach Veröffentlichung der KI-Verordnung (EU) 2024/1689 im Amtsblatt der EU am 12.07.2024 soll diese – mit Ausnahme einiger Kapitel späteren oder früheren Zeitpunkten – ab dem 02. August 2026 gelten. Doch wie wird die Aufsicht unter dieser Verordnung aussehen?

Datenschutzaufsichtsbehörden?

Die Aufsichtsbehörden sind grundsätzlich von den Mitgliedsstaaten zu schaffen. Die Datenschutzaufsichtsbehörden haben sich bereits umfassend positioniert. So schlägt die Datenschutzkonferenz in einem Positionspapier aufgrund der schon bestehenden Zuständigkeiten, der umfassenden Erfahrung beim „digitalen Grundrechtsschutz“ und bei der Aufsichtstätigkeit die Datenschutzaufsichtsbehörden als zuständige Marktüberwachungsbehörden vor. Der BvD unterstützt diesen Vorschlag, denn er prognostiziert hierdurch einen geringeren bürokratischen Aufwand.

Zuständigkeiten beim Training oder der Interaktion mit der KI unter Verarbeitung von personenbezogenen Daten oder für bestimmte Hochrisiko-KI-Systeme bestehen ohnehin. Zusätzlich ist der Europäische Datenschutzbeauftragte für KI-Sxsteme, die von Organen und Einrichtungen der Union verwendet werden, die zuständige Behörde.

Eine Zuständigkeit könnte sich auch vor dem Hintergrund eines EuGH Urteils (C‑252/21) ergeben. Bei entsprechender Anwendung der dort entwickelten Maßstäbe (es wurde unter Zugrundelegung der DS-GVO ein Wettbewerbsverstoß durch das Bundeskartellamt festgestellt) wäre es möglich, dass Datenschutzaufsichtsbehörden die KI-VO in ihre Entscheidungen einfließen lassen, solange die Grundsätze der loyalen Zusammenarbeit mit den dann für die KI Überwachung zuständigen Behörden beachtet werden.

Jedoch wirkt es gerade wahrscheinlicher, dass die Bundesnetzagentur Marktaufsichtsbehörde wird.

Der verbraucherzentrale Bundesverband spricht sich in einem Positionspapier für eine einheitliche Anlaufstelle mit einem niederschwelligen Beschwerdeverfahren aus und argumentierte in einer Anhörung des Digitalausschusses des Bundestages „angesichts der zahlreichen neuen digitalpolitischen Aufgaben für die Bundesnetzagentur“ als zuständige Überwachungsbehörde. Für solch eine „Kompetenzbündelung“ und Zentralisierung der Aufsichtsstruktur argumentiert auch eine Studie für die Bertelsmann-Stiftung. Dem wäre eine sektorale oder föderale Aufteilung gegenläufig. Mehrfach gewarnt wird vor einem langwierigen Aufbau einer eigenständigen Behörde

Somit deuten die Zeichen gerade in Richtung der Bundesnetzagentur. Die finale Antwort wird sich in einem deutschen Ausführungsgesetz zur KI-Verordnung finden, welches voraussichtlich nächstes Jahr zu erwarten ist.

DGB über KI

Gewerkschaftsbund fordert erneut KI-Mitbestimmung

Die Megatrends Digitalisierung und Künstliche Intelligenz (KI) mögen zwar in Deutschland noch zu keinen Entlassungen geführt haben, beschäftigen aber trotz aller Vorzüge besonders die gefährdeten Arbeitnehmer. Laut dem „DGB-Index Gute Arbeit“ aus 2022 fühlen sich 40 Prozent der Arbeitnehmer stärker belastet, 48 Prozent sehen einen Zuwachs beim Arbeitspensum. 33 Prozent halten sich für stärker überwacht. Gegenmaßnahmen oder betriebliche Regelungen gibt es nur in weniger als einem Drittel der Unternehmen.

Gerade der Deutsche Gewerkschaftsbund (DGB) hält das Mitte Juli vom Kabinett beschlossene „Wachstumspaket“ für unzureichend. Neben einem „Beschäftigtendatenschutzgesetz“ plädiert er unter anderem weiter auf mehr Mitbestimmung bei KI.

Die Mitbestimmung (durch Betriebs- und Aufsichtsrat) zielt als Teil der Mitarbeiterbeteiligung darauf ab, Entscheidungsprozesse in der Wirtschaft demokratisch zu „legitimieren“. Gerade wenn KI auf lange Sicht Stellen abbauen sollte und/oder Arbeitnehmer überwacht, müssten die Mitspracherechte neu geordnet werden, so die DGB-Vorsitzende Fahimi. Klare Grenzen durch spezifische, auch „vorausschauende“ Betriebsvereinbarungen sollen durch evaluierende Mitbestimmung mit Folgenabschätzungen flankiert werden.

Einerseits solle der Gesetzgeber hierfür die Öffnungsklausel in Art. 2 XI der europäischen KI-Verordnung für einen Rechtsrahmen hinsichtlich des KI-Einsatzes in der Arbeitswelt nutzen. Andererseits regte der DGB schon 2022 in einem Änderungsvorschlag zum Betriebsverfassungsgesetz an, dass der Betriebsrat bei Persönlichkeits-, Daten- und Beschäftigungsschutz mitbestimmen müsse.

Andererseits ist fraglich, ob eine solche Ausweitung das aktuelle Problem der langen Mitbestimmungsverfahren nicht noch verschlimmert. Zudem gibt es auch Stimmen, die den Fokus eher auf Weiterbildungen/Umschulungen legen wollen, so zum Beispiel der Betriebsrat von BMW Leipzig. Betriebsvereinbarungen seien Stand jetzt aufgrund der Schnelllebigkeit der Technik nutzlos. In Leipzig wurde und wird die Autonomisierung von Bewerbungen, Logistik und Fertigung vom Betriebsrat begleitet. Auch das arbeitgebernahe Institut der Deutschen Wirtschaft gibt an, dass die aktuell geltenden Mitbestimmungsrechte große Zufriedenheit genießen. Schließlich war das Echo auf einen Richtung DGB gehenden Antrag der Linksfraktion im September 2023 überwiegend negativ.

E-Evidence

Digitale Kriminalität im Visier: Neue Regelungen für elektronische Beweismittel

Im digitalen Zeitalter nutzen Kriminelle zunehmend technologische Dienste und Werkzeuge, um Straftaten zu planen und auszuführen. Derzeit kommen bei 85 % aller strafrechtlichen Ermittlungen digitale Daten zum Einsatz, weshalb elektronischen Beweismitteln eine immer bedeutendere Rolle bei der Bekämpfung der Kriminalität zukommt.

Der Zugang zu elektronischen Beweismitteln kann für die entsprechenden Behörden, je nach geltender Rechtslage, ein langwieriger und komplizierter Prozess sein. Elektronische Beweismittel umfassen dabei digitale Daten, die bei der Ermittlung und Verfolgung von Straftaten verwendet werden. Dazu gehören unter anderem E-Mails, Inhalte aus Nachrichtenanwendungen, audiovisuelle Inhalte sowie Informationen über das Online-Konto eines Benutzers.

Um diesen Problemen zu begegnen, hat die EU im Juli 2023 sowohl eine E-Evidence-Richtlinie als auch eine spezielle Verordnung beschlossen, die Deutschland nun umzusetzen versucht. Dadurch soll es den Strafverfolgungsbehörden ermöglicht werden, in Zukunft direkt auf die Dienstanbieter zuzugehen.

Den Ermittlern stehen dafür zwei Instrumente zur Verfügung:

1. Herausgabeanordnung, um unmittelbar an die elektronischen Beweismittel zu gelangen.

2. Sicherungsanordnung, um zu gewährleisten, dass Daten nicht gelöscht werden, solange die Herausgabeanordnung bearbeitet wird.

Um diese Pflichten ordnungsgemäß erfüllen zu können, sind die Dienstanbieter verpflichtet, Empfangsbevollmächtigte in der EU bereitzustellen, die für die Annahme und Bearbeitung der Herausgabe- und Sicherungsanordnungen zuständig sein sollen.

Ziel der Regelungen ist demnach die Effizienz der Strafverfolgung in Deutschland und der EU zu steigern. Damit setzt die EU ein klares Zeichen für digitale Sicherheit und den Schutz vor Kriminalität. Ob dadurch auch Sicherheitslücken oder Missbrauchsgefahr besteht, wird die Zukunft zeigen müssen.

NRW spart am Referendariat

Weniger Einstellungen, kürzere Ausbildung und Streichung der Unterhaltsbeihilfe

In der Justiz herrscht Nachwuchsmangel und die große Pensionierungswelle steht erst noch bevor. Das Land NRW reagiert dementgegen jedoch nicht etwa mit der Schaffung zusätzlicher Ressourcen, sondern kürzt das Rechtsreferendariat. Die Begründung: das Land NRW muss sparen.

Wie das Ganze aussehen soll:

Nach Angaben des Justizministeriums NRW sollen knapp 20% der Referendariatsstellen gekürzt werden, von aktuell rund 3.770 auf 3.300 Anfang 2025 und danach 3000. Doch nicht nur personell soll abgebaut werden, nach aktuellen Planungen soll das Referendariat zudem um einen Monat gekürzt werden. Für die Referendar:innen bedeutet dies, dass sie ihre mündliche Prüfung künftig im 25. Monat nach Beginn des Referendariats ablegen müssen – auf Kosten ihrer Wahlstation, welche sich dementsprechend um einen Monat verkürzt.

Und damit nicht genug: Das Ausbildungsverhältnis und damit die Unterhaltsbeihilfe soll künftig mit dem Tag der bestandenen mündlichen Prüfung enden, statt wie bisher am Monatsende. Schließlich würden die Zahlungen ab diesem Termin ohne Gegenleistung erfolgen. Was mitschwingt ist, dass durch die Kürzungen wohl auch einem gewissen „Referendar:innentourismus“ nach NRW begegnet werden soll.

Die geplanten Kürzungen reihen sich ein in die angespannten Diskussionen rund um eine Reform der juristischen Ausbildung. Anfang des Jahres hatte die JuMiKo bereits beschlossen, dass kein grundlegender Reformbedarf dieser bestehe, was große Empörung ausgelöst hatte. Kritik an den geplanten Referendariatskürzungen ließ dementsprechend nicht lange auf sich warten.

Ursprünglich sollten die Kürzungen bereits diejenigen Referendar:innen treffen, welche im September 2024 ihre schriftlichen Prüfungen schreiben. Ihnen gingen nach Angaben von Beck bereits Schreiben zu, in denen angekündigt war, dass sie ihre mündliche Prüfung im Januar 2025 statt Februar 2025 antreten müssten. Als Reaktion auf zahlreiche Beschwerden ist das Justizministerium NRW derweil etwas zurückgerudert. An den geplanten Kürzungen werde aber dennoch festgehalten, statt des Septemberdurchgangs soll nun aber erst der Dezemberdurchgang betroffen sein.

Trotz knappem Länderhaushalt zeigt die Entscheidung, dass die Zukunft der Justiz in NRW nicht ganz oben auf der Prioritätenliste zu stehen scheint. Interessant ist derweil der Blick nach Hamburg – auch dort fehlen Gelder und dennoch wurde dort erst zuletzt beschlossen, die Unterhaltsbeihilfe schrittweise anzuheben.

EuGH weist Klage des Tik-Tok-Betreibers zurück

ByteDance als Torwächter eingestuft

Der chinesische Technologiekonzern ByteDance, Betreiber der beliebten Videoplattform TikTok, hat vor dem Europäischen Gericht (EuG) eine herbe Niederlage erlitten. ByteDance hatte gegen seine Einstufung als „Torwächter“ geklagt, doch das Gericht wies die Nichtigkeitsklage ab. Damit muss sich das Unternehmen nun an die strengeren Regelungen des Digital Markets Act (DMA) halten.

Was ist ein „Torwächter“ eigentlich?

Im September 2023 nahm die EU-Kommission ByteDance in die Liste der „digitalen Torwächter“ auf. Diese Liste enthält große Unternehmen, die aufgrund ihrer Marktmacht besondere Pflichten erfüllen müssen. Das Ziel des DMA besteht darin, den Wettbewerb zu fördern und neuen Marktteilnehmern bessere Chancen zu bieten. Neben ByteDance sind auch große Konzerne wie Apple, Amazon, Microsoft, Alphabet und Meta auf dieser Liste vertreten.

Kriterien für die Einstufung als Torwächter

Nach Art. 3 Abs. 1 DMA wird ein Unternehmen als Torwächter eingestuft, wenn es mehrere Voraussetzungen erfüllt:

1. Erhebliche Auswirkungen auf den Binnenmarkt: Das Unternehmen muss einen signifikanten Einfluss auf den EU-Binnenmarkt haben.

2. Zentraler Plattformdienst: Es muss einen wichtigen Plattformdienst bereitstellen, der gewerblichen Nutzern als Zugangstor zu Endnutzern dient.

3. Gefestigte und dauerhafte Position: Das Unternehmen muss eine gefestigte und dauerhafte Position innehaben oder absehbar in naher Zukunft erlangen.

Die Argumente von ByteDance und das Urteil

ByteDance argumentierte, dass sein globaler Marktwert hauptsächlich durch Aktivitäten in China entstehe und der Umsatz in der EU gering sei. Zudem bestritt das Unternehmen, dass TikTok für gewerbliche Nutzer ein bedeutendes Zugangstor darstelle und dass es eine gefestigte und dauerhafte Marktposition habe. Der EuGH wies diese Argumente jedoch zurück und stellte fest, dass der hohe Marktwert und die große Anzahl der TikTok-Nutzer in der EU die finanzielle Leistungsfähigkeit und das Monetarisierungspotenzial von ByteDance widerspiegeln.

Auswirkungen des Urteils

Mit der Entscheidung des EuG muss sich ByteDance nun an die strengen Regeln des DMA halten. Diese beinhalten unter anderem:

• Schutz personenbezogener Daten: User-Daten dürfen nicht ohne Einverständnis für andere Dienste des Gatekeepers verwendet werden.

• Fairer Wettbewerb: Gatekeeper dürfen ihre eigenen Angebote nicht mehr bevorzugt behandeln und müssen ihre Dienste kompatibler mit anderen Anwendungen gestalten.

• Strenge Sanktionen bei Verstößen: Bei Pflichtverletzungen drohen empfindliche Geldbußen, die bis zu 20% des weltweiten Gesamtumsatzes betragen können.

Fazit

Die Entscheidung des EuG markiert einen wichtigen Schritt in der Durchsetzung des DMA und unterstreicht die Entschlossenheit der EU, die Macht großer Technologiekonzerne zu regulieren. Für ByteDance bedeutet dies, dass das Unternehmen seine Geschäftspraktiken anpassen muss, um den neuen Anforderungen gerecht zu werden. Dies könnte langfristig zu einem faireren und wettbewerbsfähigeren digitalen Markt in Europa führen.

Veranstaltungs-Tipp

Noerr Sommerakademie

Du studierst Jura und willst Deine praktischen Fähigkeiten in Bezug auf zukunftsweisende Themen wie KI, LLMs, Prompting und AI Act auf das nächste Level bringen?

Die Kanzlei Noerr und recode.law laden Dich am 26.08.2024 herzlich zu einem exklusiven Workshop nach Düsseldorf ein, der sich genau diesen Themen widmet!

Dabei wirst du bei Vorträgen Aktuelles über den AI Act und das juristische Prompting erfahren. Der AI Act ist eine EU Verordnung vom 13. Juni 2024, mit dem KI-Systeme in Risikokategorien eingestuft und reguliert werden. Wir erläutern dir dessen Inhalt und welchen Einfluss diese neue Regelung auf die Arbeit der Juristen nehmen wird. Außerdem wird es einen Vortrag speziell über das Prompting im juristischen Bereich geben, in dem wir erklären, wie man einen Prompt so formuliert, dass das KI System Dir die optimale Antwort auf eine juristische Fragestellung liefert.

Anschließend bist du herzlich eingeladen, die Kanzlei Noerr und recode.law beim abendlichen Get-together mit Snacks und Drinks besser kennenzulernen. Ein Teilnahmezertifikat gibt es obendrauf.

Melde Dich jetzt hier an.

Last Updated on 1. August 2024