{"id":7085,"date":"2024-08-01T21:35:08","date_gmt":"2024-08-01T20:35:08","guid":{"rendered":"https:\/\/recode.law\/?p=7085"},"modified":"2024-08-01T21:35:08","modified_gmt":"2024-08-01T20:35:08","slug":"newlawradar-76-24-ki-aufsichtsbehoerde-e-evidence-ki-mitbestimmung-bytedance-vor-dem-eugh-u-v-m","status":"publish","type":"post","link":"https:\/\/recode.law\/en\/newlawradar-76-24-ki-aufsichtsbehoerde-e-evidence-ki-mitbestimmung-bytedance-vor-dem-eugh-u-v-m\/","title":{"rendered":"NewLawRadar 76\/24 – KI-Aufsichtsbeh\u00f6rde, E-Evidence, KI-Mitbestimmung, Bytedance vor dem EuGH u.v.m."},"content":{"rendered":"

Editor’s Ramble #76<\/strong><\/p>\n

Liebe Leser:innen,
\nIn dieser Ausgabe haben wir wieder ganz viele interessante Themen rund um Legal Tech im Newsletter.<\/p>\n

Nach der Ver\u00f6ffentlichung der KI-Verordnung<\/strong> haben sich bereits mehrere Stellen zu einer KI-Aufsichtsbeh\u00f6rde ge\u00e4u\u00dfert. Diese Stimmen ordnen wir f\u00fcr Euch ein.
\nDes Weiteren besorgt \u201eTech\u201c die Arbeitnehmer, die sich vor dem Einfluss von KI f\u00fcrchten. Der DGB hat sich jetzt zur\u00a0Mitbestimmung<\/strong> in Bezug auf KI im Unternehmen <\/strong>ge\u00e4u\u00dfert.
\nAuch f\u00fcr die Juristenausbildung<\/strong> ist etwas dabei, denn NRW hat die Finanzierung f\u00fcr das Referendariat angepasst.
\nZudem hat sich der EuGH zu der Rolle von Bytedance (TikTok)<\/strong> ge\u00e4u\u00dfert und die Anforderungen an das Unternehmens f\u00fcr die Zukunft klargestellt.
\nEs\u00a0gibt auch\u00a0wieder einen r<\/a>ecode.law Workshop zu KI, LLMs und Prompting<\/a>.<\/p>\n

Wir hoffen, diese Ausgabe inspiriert Euch und liefert wertvolle Einblicke in die aktuellen Entwicklungen im Bereich LegalTech. Viel Spa\u00df beim Lesen!<\/p>\n

Redaktion: Katharina<\/a>, Dennis<\/a>, Friedrich<\/a>, Lena<\/a>, Jakob<\/a>, Konstantin\u00a0und Jeremias<\/a><\/p>\n

Wir sind gespannt auf Eure Meinung! Wir freuen uns \u00fcber eure Vorschl\u00e4ge und Feedback. Schickt uns einfach eine E-Mail an radar@recode.law<\/a> und teilt uns mit, was Ihr denkt!<\/p>\n

 <\/p>\n

 <\/p>\n

KI Verordnung<\/h5>\n

Wer wird KI-Aufsicht?<\/h3>\n

Nach Ver\u00f6ffentlichung der KI-Verordnung (EU) 2024\/1689 im Amtsblatt der EU am 12.07.2024 soll diese \u2013 mit Ausnahme einiger Kapitel sp\u00e4teren oder fr\u00fcheren Zeitpunkten \u2013 ab dem 02. August 2026 gelten. Doch wie wird die Aufsicht unter dieser Verordnung aussehen?<\/p>\n

Datenschutzaufsichtsbeh\u00f6rden?<\/strong><\/p>\n

Die Aufsichtsbeh\u00f6rden sind grunds\u00e4tzlich von den Mitgliedsstaaten zu schaffen. Die Datenschutzaufsichtsbeh\u00f6rden haben sich bereits umfassend positioniert. So schl\u00e4gt die Datenschutzkonferenz in einem Positionspapier<\/a> aufgrund der schon bestehenden Zust\u00e4ndigkeiten, der umfassenden Erfahrung beim \u201edigitalen Grundrechtsschutz\u201c und bei der Aufsichtst\u00e4tigkeit die Datenschutzaufsichtsbeh\u00f6rden als zust\u00e4ndige Markt\u00fcberwachungsbeh\u00f6rden vor. Der\u00a0BvD unterst\u00fctzt<\/a>\u00a0diesen Vorschlag, denn er prognostiziert hierdurch einen geringeren b\u00fcrokratischen Aufwand.<\/p>\n

Zust\u00e4ndigkeiten beim Training\u00a0oder der Interaktion mit der KI unter Verarbeitung von personenbezogenen Daten oder f\u00fcr bestimmte Hochrisiko-KI-Systeme bestehen ohnehin. Zus\u00e4tzlich ist der Europ\u00e4ische Datenschutzbeauftragte f\u00fcr KI-Sxsteme, die von Organen und Einrichtungen der Union verwendet werden, die zust\u00e4ndige Beh\u00f6rde.<\/p>\n

Eine Zust\u00e4ndigkeit k\u00f6nnte sich auch vor dem Hintergrund eines EuGH Urteils (C\u2011252\/21<\/a>) ergeben. Bei entsprechender Anwendung der dort entwickelten Ma\u00dfst\u00e4be (es wurde unter Zugrundelegung der DS-GVO ein Wettbewerbsversto\u00df durch das Bundeskartellamt festgestellt) w\u00e4re es m\u00f6glich, dass Datenschutzaufsichtsbeh\u00f6rden die KI-VO in ihre Entscheidungen einflie\u00dfen lassen, solange die Grunds\u00e4tze der loyalen Zusammenarbeit mit den dann f\u00fcr die KI \u00dcberwachung zust\u00e4ndigen Beh\u00f6rden beachtet werden.<\/p>\n

Jedoch wirkt es gerade wahrscheinlicher, dass die Bundesnetzagentur Marktaufsichtsbeh\u00f6rde wird.<\/p>\n

Der verbraucherzentrale Bundesverband spricht sich in einem Positionspapier<\/a> f\u00fcr eine einheitliche Anlaufstelle mit einem niederschwelligen Beschwerdeverfahren aus und argumentierte in einer Anh\u00f6rung<\/a> des Digitalausschusses des Bundestages \u201eangesichts der zahlreichen neuen digitalpolitischen Aufgaben f\u00fcr die Bundesnetzagentur\u201c als zust\u00e4ndige \u00dcberwachungsbeh\u00f6rde. F\u00fcr solch eine \u201eKompetenzb\u00fcndelung\u201c und Zentralisierung der Aufsichtsstruktur argumentiert auch eine Studie f\u00fcr die Bertelsmann-Stiftung<\/a>. Dem w\u00e4re eine sektorale oder f\u00f6derale Aufteilung gegenl\u00e4ufig. Mehrfach gewarnt wird vor einem langwierigen Aufbau einer eigenst\u00e4ndigen Beh\u00f6rde<\/p>\n

Somit deuten die Zeichen gerade in Richtung der Bundesnetzagentur. Die finale Antwort wird sich in einem deutschen Ausf\u00fchrungsgesetz zur KI-Verordnung finden, welches voraussichtlich n\u00e4chstes Jahr zu erwarten ist.<\/p>\n

<\/h5>\n

 <\/p>\n

DGB \u00fcber KI<\/h5>\n

Gewerkschaftsbund fordert erneut KI-Mitbestimmung<\/h3>\n

Die Megatrends Digitalisierung und K\u00fcnstliche Intelligenz (KI) m\u00f6gen zwar in Deutschland noch zu keinen Entlassungen gef\u00fchrt haben, besch\u00e4ftigen\u00a0aber trotz aller Vorz\u00fcge besonders die gef\u00e4hrdeten Arbeitnehmer. Laut dem \u201eDGB-Index Gute Arbeit\u201c aus 2022 f\u00fchlen sich 40 Prozent der Arbeitnehmer st\u00e4rker belastet, 48 Prozent sehen einen Zuwachs beim Arbeitspensum. 33 Prozent halten sich f\u00fcr st\u00e4rker \u00fcberwacht. Gegenma\u00dfnahmen oder betriebliche Regelungen gibt es nur in weniger als einem Drittel der Unternehmen.<\/p>\n

Gerade der Deutsche Gewerkschaftsbund (DGB) h\u00e4lt das Mitte Juli vom Kabinett beschlossene \u201eWachstumspaket\u201c f\u00fcr unzureichend. Neben einem \u201eBesch\u00e4ftigtendatenschutzgesetz\u201c pl\u00e4diert er unter anderem weiter auf mehr Mitbestimmung bei KI.<\/p>\n

Die Mitbestimmung (durch Betriebs- und Aufsichtsrat) zielt als Teil der Mitarbeiterbeteiligung darauf ab, Entscheidungsprozesse in der Wirtschaft demokratisch zu \u201elegitimieren\u201c. Gerade wenn KI auf lange Sicht Stellen abbauen sollte und\/oder Arbeitnehmer \u00fcberwacht, m\u00fcssten die Mitspracherechte neu geordnet werden, so die DGB-Vorsitzende Fahimi. Klare Grenzen durch spezifische, auch \u201evorausschauende\u201c Betriebsvereinbarungen sollen durch evaluierende Mitbestimmung mit Folgenabsch\u00e4tzungen flankiert werden.<\/p>\n

Einerseits solle der Gesetzgeber hierf\u00fcr die \u00d6ffnungsklausel in Art. 2 XI der europ\u00e4ischen KI-Verordnung f\u00fcr einen Rechtsrahmen hinsichtlich des KI-Einsatzes in der Arbeitswelt nutzen. Andererseits regte der DGB schon 2022 in einem \u00c4nderungsvorschlag zum Betriebsverfassungsgesetz an, dass der Betriebsrat bei Pers\u00f6nlichkeits-, Daten- und Besch\u00e4ftigungsschutz mitbestimmen m\u00fcsse.<\/p>\n

Andererseits ist fraglich, ob eine solche Ausweitung das aktuelle Problem der langen Mitbestimmungsverfahren nicht noch verschlimmert. Zudem gibt es auch Stimmen, die den Fokus eher auf Weiterbildungen\/Umschulungen legen wollen, so zum Beispiel der Betriebsrat von BMW Leipzig. Betriebsvereinbarungen seien Stand jetzt aufgrund der Schnelllebigkeit der Technik nutzlos. In Leipzig wurde und wird die Autonomisierung von Bewerbungen, Logistik und Fertigung vom Betriebsrat begleitet. Auch das arbeitgebernahe Institut der Deutschen Wirtschaft gibt an, dass die aktuell geltenden Mitbestimmungsrechte gro\u00dfe Zufriedenheit genie\u00dfen. Schlie\u00dflich war das Echo auf einen Richtung DGB gehenden Antrag der Linksfraktion im September 2023 \u00fcberwiegend negativ.<\/p>\n

<\/h5>\n
<\/h5>\n

 <\/p>\n

E-Evidence<\/h5>\n

Digitale Kriminalit\u00e4t im Visier: Neue Regelungen f\u00fcr elektronische Beweismittel<\/h3>\n

Im digitalen Zeitalter nutzen Kriminelle zunehmend technologische Dienste und Werkzeuge, um Straftaten zu planen und auszuf\u00fchren. Derzeit kommen bei 85 % aller strafrechtlichen Ermittlungen digitale Daten zum Einsatz<\/a>, weshalb elektronischen Beweismitteln eine immer bedeutendere Rolle bei der Bek\u00e4mpfung der Kriminalit\u00e4t zukommt.<\/p>\n

Der Zugang zu elektronischen Beweismitteln kann f\u00fcr die entsprechenden Beh\u00f6rden, je nach geltender Rechtslage, ein langwieriger und komplizierter Prozess sein. Elektronische Beweismittel umfassen dabei digitale Daten, die bei der Ermittlung und Verfolgung von Straftaten verwendet werden. Dazu geh\u00f6ren unter anderem E-Mails, Inhalte aus Nachrichtenanwendungen, audiovisuelle Inhalte sowie Informationen \u00fcber das Online-Konto eines Benutzers.<\/p>\n

Um diesen Problemen zu begegnen, hat die EU im Juli 2023 sowohl eine E-Evidence-Richtlinie als auch eine spezielle Verordnung beschlossen, die Deutschland nun umzusetzen versucht. Dadurch soll es den Strafverfolgungsbeh\u00f6rden erm\u00f6glicht werden, in Zukunft direkt auf die Dienstanbieter zuzugehen.<\/p>\n

Den Ermittlern stehen daf\u00fcr zwei Instrumente zur Verf\u00fcgung:<\/a><\/p>\n

    \n
  1. \n

    Herausgabeanordnung, um unmittelbar an die elektronischen Beweismittel zu gelangen.<\/p>\n<\/li>\n

  2. \n

    Sicherungsanordnung, um zu gew\u00e4hrleisten, dass Daten nicht gel\u00f6scht werden, solange die Herausgabeanordnung bearbeitet wird.<\/p>\n<\/li>\n<\/ol>\n

    Um diese Pflichten ordnungsgem\u00e4\u00df erf\u00fcllen zu k\u00f6nnen, sind die Dienstanbieter verpflichtet, Empfangsbevollm\u00e4chtigte in der EU bereitzustellen, die f\u00fcr die Annahme und Bearbeitung der Herausgabe- und Sicherungsanordnungen zust\u00e4ndig sein sollen.<\/p>\n

    Ziel der Regelungen ist demnach die Effizienz der Strafverfolgung in Deutschland und der EU zu steigern. Damit setzt die EU ein klares Zeichen f\u00fcr digitale Sicherheit und den Schutz vor Kriminalit\u00e4t. Ob dadurch auch Sicherheitsl\u00fccken oder Missbrauchsgefahr besteht, wird die Zukunft zeigen m\u00fcssen.<\/p>\n

    <\/h5>\n
    <\/h5>\n

     <\/p>\n

    NRW spart am Referendariat<\/h5>\n

    Weniger Einstellungen, k\u00fcrzere Ausbildung und Streichung der Unterhaltsbeihilfe<\/h3>\n

    In der Justiz herrscht Nachwuchsmangel und die gro\u00dfe Pensionierungswelle steht erst noch bevor. Das Land NRW reagiert dementgegen jedoch nicht etwa mit der Schaffung zus\u00e4tzlicher Ressourcen, sondern k\u00fcrzt das Rechtsreferendariat. Die Begr\u00fcndung: das Land NRW muss sparen.<\/p>\n

    Wie das Ganze aussehen soll:<\/p>\n

    Nach Angaben des Justizministeriums NRW sollen knapp 20% der Referendariatsstellen gek\u00fcrzt werden, von aktuell rund 3.770 auf 3.300 Anfang 2025 und danach 3000. Doch nicht nur personell soll abgebaut werden, nach aktuellen Planungen soll das Referendariat zudem um einen Monat gek\u00fcrzt werden. F\u00fcr die Referendar:innen bedeutet dies, dass sie ihre m\u00fcndliche Pr\u00fcfung k\u00fcnftig im 25. Monat nach Beginn des Referendariats ablegen m\u00fcssen \u2013 auf Kosten ihrer Wahlstation, welche sich dementsprechend um einen Monat verk\u00fcrzt.<\/p>\n

    Und damit nicht genug: Das Ausbildungsverh\u00e4ltnis und damit die Unterhaltsbeihilfe soll k\u00fcnftig mit dem Tag der bestandenen m\u00fcndlichen Pr\u00fcfung enden, statt wie bisher am Monatsende. Schlie\u00dflich w\u00fcrden die Zahlungen ab diesem Termin ohne Gegenleistung erfolgen. Was mitschwingt ist, dass durch die K\u00fcrzungen wohl auch einem gewissen \u201eReferendar:innentourismus\u201c nach NRW begegnet werden soll.<\/p>\n

    Die geplanten K\u00fcrzungen reihen sich ein in die angespannten Diskussionen rund um eine Reform der juristischen Ausbildung. Anfang des Jahres hatte die JuMiKo bereits beschlossen, dass kein grundlegender Reformbedarf dieser bestehe, was gro\u00dfe Emp\u00f6rung ausgel\u00f6st hatte. Kritik an den geplanten Referendariatsk\u00fcrzungen lie\u00df dementsprechend nicht lange auf sich warten.<\/p>\n

    Urspr\u00fcnglich sollten die K\u00fcrzungen bereits diejenigen Referendar:innen treffen, welche im September 2024 ihre schriftlichen Pr\u00fcfungen schreiben. Ihnen gingen nach Angaben von Beck bereits Schreiben zu, in denen angek\u00fcndigt war, dass sie ihre m\u00fcndliche Pr\u00fcfung im Januar 2025 statt Februar 2025 antreten m\u00fcssten. Als Reaktion auf zahlreiche Beschwerden ist das Justizministerium NRW derweil etwas zur\u00fcckgerudert. An den geplanten K\u00fcrzungen werde aber dennoch festgehalten, statt des Septemberdurchgangs soll nun aber erst der Dezemberdurchgang betroffen sein.<\/p>\n

    Trotz knappem L\u00e4nderhaushalt zeigt die Entscheidung, dass die Zukunft der Justiz in NRW nicht ganz oben auf der Priorit\u00e4tenliste zu stehen scheint. Interessant ist derweil der Blick nach Hamburg \u2013 auch dort fehlen Gelder und dennoch wurde dort erst zuletzt beschlossen, die Unterhaltsbeihilfe schrittweise anzuheben.<\/p>\n

    <\/h5>\n
    <\/h5>\n

     <\/p>\n

    EuGH weist Klage des Tik-Tok-Betreibers zur\u00fcck<\/h5>\n

    ByteDance als Torw\u00e4chter eingestuft<\/h3>\n

    Der chinesische Technologiekonzern ByteDance, Betreiber der beliebten Videoplattform TikTok, hat vor dem Europ\u00e4ischen Gericht (EuG) eine herbe Niederlage erlitten. ByteDance hatte gegen seine Einstufung als \u201eTorw\u00e4chter\u201c geklagt, doch das Gericht wies die Nichtigkeitsklage ab. Damit muss sich das Unternehmen nun an die strengeren Regelungen des Digital Markets Act (DMA) halten.<\/p>\n

    Was ist ein \u201eTorw\u00e4chter\u201c eigentlich?<\/p>\n

    Im September 2023 nahm die EU-Kommission ByteDance in die Liste der \u201edigitalen Torw\u00e4chter\u201c auf. Diese Liste enth\u00e4lt gro\u00dfe Unternehmen, die aufgrund ihrer Marktmacht besondere Pflichten erf\u00fcllen m\u00fcssen. Das Ziel des DMA besteht darin, den Wettbewerb zu f\u00f6rdern und neuen Marktteilnehmern bessere Chancen zu bieten. Neben ByteDance sind auch gro\u00dfe Konzerne wie Apple, Amazon, Microsoft, Alphabet und Meta auf dieser Liste vertreten.<\/p>\n

    Kriterien f\u00fcr die Einstufung als Torw\u00e4chter<\/strong><\/p>\n

    Nach Art. 3 Abs. 1 DMA wird ein Unternehmen als Torw\u00e4chter eingestuft, wenn es mehrere Voraussetzungen erf\u00fcllt:<\/p>\n

      \n
    1. \n

      Erhebliche Auswirkungen auf den Binnenmarkt: Das Unternehmen muss einen signifikanten Einfluss auf den EU-Binnenmarkt haben.<\/p>\n<\/li>\n

    2. \n

      Zentraler Plattformdienst: Es muss einen wichtigen Plattformdienst bereitstellen, der gewerblichen Nutzern als Zugangstor zu Endnutzern dient.<\/p>\n<\/li>\n

    3. \n

      Gefestigte und dauerhafte Position: Das Unternehmen muss eine gefestigte und dauerhafte Position innehaben oder absehbar in naher Zukunft erlangen.<\/p>\n<\/li>\n<\/ol>\n

      Die Argumente von ByteDance und das Urteil<\/strong><\/p>\n

      ByteDance argumentierte, dass sein globaler Marktwert haupts\u00e4chlich durch Aktivit\u00e4ten in China entstehe und der Umsatz in der EU gering sei. Zudem bestritt das Unternehmen, dass TikTok f\u00fcr gewerbliche Nutzer ein bedeutendes Zugangstor darstelle und dass es eine gefestigte und dauerhafte Marktposition habe. Der\u00a0EuGH wies diese Argumente jedoch zur\u00fcck und stellte fest, dass der hohe Marktwert und die gro\u00dfe Anzahl der TikTok-Nutzer in der EU die finanzielle Leistungsf\u00e4higkeit und das Monetarisierungspotenzial von ByteDance widerspiegeln.<\/p>\n

      Auswirkungen des Urteils<\/p>\n

      Mit der Entscheidung des EuG muss sich ByteDance nun an die strengen Regeln des DMA halten. Diese beinhalten unter anderem:<\/p>\n