{"id":6892,"date":"2024-07-02T21:36:20","date_gmt":"2024-07-02T20:36:20","guid":{"rendered":"https:\/\/recode.law\/?p=6892"},"modified":"2024-07-09T10:04:43","modified_gmt":"2024-07-09T09:04:43","slug":"nlr-75-24","status":"publish","type":"post","link":"https:\/\/recode.law\/en\/nlr-75-24\/","title":{"rendered":"NewLawRadar 75\/24 \u2013 Online-Verfahren, Meta KI und Apple vs DMA"},"content":{"rendered":"<p><strong>Editor&#8217;s Ramble #75<\/strong><\/p>\n<p dir=\"ltr\">Liebe Leser:innen,<\/p>\n<p>in dieser Ausgabe von NewLawRadar tauchen wir tief in die spannende Welt der Digitalisierung des Rechtswesens ein. Wir beginnen mit einem Blick auf die j\u00fcngsten Entwicklungen in der Zivilgerichtsbarkeit: Die Bundesregierung hat einen Entwurf f\u00fcr ein Gesetz zur Erprobung von Online-Verfahren vorgelegt, der vielversprechende Neuerungen mit sich bringt. Die Digitalisierung der Justiz schreitet voran und k\u00f6nnte bald den Alltag vieler B\u00fcrger erleichtern.<\/p>\n<p>Ein weiteres Highlight ist der digitale Euro. Trotz der medialen Ruhe um dieses Projekt gibt es wichtige Fortschritte und spannende Diskussionen dar\u00fcber, wie digitales Zentralbankgeld die Art und Weise, wie wir Geld verwenden, revolutionieren k\u00f6nnte.<\/p>\n<p>Au\u00dferdem werfen wir einen Blick auf die aktuelle Situation bei Meta. Das Unternehmen musste seine Pl\u00e4ne, KI mit Nutzerdaten zu trainieren, vorerst stoppen. Welche Auswirkungen dies auf die KI-Entwicklung in Europa haben k\u00f6nnte, erfahrt ihr in unserem ausf\u00fchrlichen Artikel.<\/p>\n<p>Die strafrechtlichen Implikationen von KI im medizinischen Bereich sind ein weiteres faszinierendes Thema, dem wir uns widmen. Was passiert, wenn eine KI bei Operationen zum Einsatz kommt und Fehler macht? Diese Fragen und mehr beleuchten wir in unserem Beitrag.<\/p>\n<p>Zum Schluss widmen wir uns dem Digital Markets Act und den Herausforderungen, denen Apple mit seiner neuen KI-Funktion gegen\u00fcbersteht. Welche H\u00fcrden m\u00fcssen genommen werden, damit \u201eApple Intelligence\u201c in Europa Realit\u00e4t wird?<\/p>\n<p>Wir hoffen, diese Ausgabe inspiriert euch und liefert wertvolle Einblicke in die aktuellen Entwicklungen im Bereich LegalTech. Viel Spa\u00df beim Lesen!<\/p>\n<p>Redaktion: <a href=\"https:\/\/www.linkedin.com\/in\/katharina-sophie-hertel-a169281b8\/\" rel=\"nofollow noopener\" target=\"_blank\">Katharina<\/a>, <a href=\"https:\/\/www.linkedin.com\/in\/dfremuth\/\" rel=\"nofollow noopener\" target=\"_blank\">Dennis<\/a>, <a href=\"https:\/\/www.linkedin.com\/in\/friedrich-hautkapp-912b70201\/\" target=\"_blank\" rel=\"noopener nofollow\">Friedrich<\/a>, <a href=\"https:\/\/www.linkedin.com\/in\/lena-sigel-4237512a2\/\" target=\"_blank\" rel=\"noopener nofollow\">Lena<\/a>, <a href=\"https:\/\/www.linkedin.com\/in\/jakob-redowski-8b8694287\/\" target=\"_blank\" rel=\"noopener nofollow\">Jakob<\/a>\u00a0und <a href=\"https:\/\/www.linkedin.com\/in\/jeremias-forssman-7a372326b\/\" rel=\"nofollow noopener\" target=\"_blank\">Jeremias<\/a><\/p>\n<p>Wir sind gespannt auf Eure Meinung! Euer Feedback zu unseren Inhalten ist uns \u00e4u\u00dferst wichtig, und wir freuen uns \u00fcber Eure Vorschl\u00e4ge. Schickt uns einfach eine E-Mail an <a href=\"mailto:radar@recode.law\" target=\"_blank\" rel=\"noopener\">radar@recode.law<\/a> und teilt uns mit, was Ihr denkt!<\/p>\n<p>&nbsp;<\/p>\n<p><span style=\"color: #fd402b;\">Online-Verfahren in der Zivilgerichtsbarkeit<\/span><\/p>\n<h3 class=\"mc-toc-title\">Justiz in modern &#8211; von Reallaboren und Kommunikationsplattformen<\/h3>\n<p><span style=\"font-weight: 400;\">Am 11.06.2024 ver\u00f6ffentlichte die Bundesregierung den <\/span><a href=\"https:\/\/www.bmj.de\/SharedDocs\/Gesetzgebungsverfahren\/DE\/2024_Erprobungsgesetz_Zivilprozess.html\" rel=\"nofollow noopener\" target=\"_blank\"><span style=\"font-weight: 400;\">Entwurf<\/span><\/a><span style=\"font-weight: 400;\"> eines Gesetzes zur Entwicklung und Erprobung eines Online-Verfahrens in der Zivilgerichtsbarkeit.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Ziel ist es, die Digitalisierung der deutschen Justiz voranzutreiben, ihre Effizienz zu steigern und barrierearme, b\u00fcrgerfreundliche Zug\u00e4nge zu schaffen. Neben der Umsetzung des Ziels aus dem Koalitionsvertrag wird hiermit auch auf Erreichung des Nachhaltigkeitsziels 16 der Agenda 2030 der UN hingewirkt.\u00a0<\/span><\/p>\n<p>&nbsp;<\/p>\n<p><b>Konkrete \u00c4nderungen<\/b><span style=\"font-weight: 400;\">:\u00a0<\/span><\/p>\n<ul>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><span style=\"font-weight: 400;\">Erm\u00f6glichung von Online-Verfahren bei Streitigkeiten \u00fcber Geldforderungen vor den Amtsgerichten, bis zur Streitwertgrenze von 5.000 \u20ac (<\/span><i><span style=\"font-weight: 400;\">bzw. bis zu 8.000 \u20ac bei Inkrafttreten der <\/span><\/i><a href=\"https:\/\/www.bmj.de\/SharedDocs\/Gesetzgebungsverfahren\/DE\/2024_Aenderung_Zustaendigkeitsstreitwert.html\" rel=\"nofollow noopener\" target=\"_blank\"><i><span style=\"font-weight: 400;\">geplanten \u00c4nderung des \u00a7 23 Nr. 1 GVG<\/span><\/i><\/a><i><span style=\"font-weight: 400;\"> zur Erh\u00f6hung der Streitwertgrenze).<\/span><\/i><\/li>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><span style=\"font-weight: 400;\">Schaffung digitaler Eingabesysteme zur Klageerhebung und Unterst\u00fctzung von Rechtssuchenden durch Informationsangebote und Eingabe- und Abfragesysteme.\u00a0<\/span><\/li>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><span style=\"font-weight: 400;\">Ausbau der digitalen Kommunikation durch \u00d6ffnungsklauseln in der ZPO. Insbesondere durch die F\u00f6rderung von Videoverhandlungen, Erweiterung der Entbehrlichkeit m\u00fcndlicher Verhandlungen sowie Erleichterungen im Beweisverfahren.<\/span><\/li>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><span style=\"font-weight: 400;\">Einf\u00fchrung digitaler Eingabesysteme und technischer Standards zur Erleichterung der Bearbeitung von Massenverfahren, unter anderem durch Strukturierung von Daten.<\/span><\/li>\n<\/ul>\n<ul>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><span style=\"font-weight: 400;\">Digitalisierung der Zustellung und Ver\u00f6ffentlichung von Urteilen.<\/span><\/li>\n<\/ul>\n<ul>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><span style=\"font-weight: 400;\">Bundeseinheitliche Erprobung einer Kommunikationsplattform zur \u00dcbermittlung von Dokumenten, Kommunikation zwischen Verfahrensbeteiligten und mit dem Gericht sowie zur Erm\u00f6glichung kollaborativen Arbeitens.\u00a0<\/span><\/li>\n<\/ul>\n<p>&nbsp;<\/p>\n<p><span style=\"font-weight: 400;\">Erprobt werden die \u00c4nderungen im Laufe der n\u00e4chsten zehn Jahre an ausgew\u00e4hlten Gerichten, in Form sog. <\/span><a href=\"https:\/\/www.bmwk.de\/Redaktion\/DE\/Dossier\/reallabore-testraeume-fuer-innovation-und-regulierung.html\" rel=\"nofollow noopener\" target=\"_blank\"><span style=\"font-weight: 400;\">Reallaboren<\/span><\/a><span style=\"font-weight: 400;\">. An diesen Gerichten k\u00f6nnen Verfahrensbeteiligte das digitale Verfahren w\u00e4hlen, wobei bei typischen Massenverfahren, wie Fluggastrechten, bereits eine erweiterbare Nutzungspflicht vorgesehen ist. Die notwendigen IT-L\u00f6sungen sollen direkt in der Praxis entwickelt und an den Verfahrensalltag angepasst werden. Die rechtliche Grundlage hierf\u00fcr schafft der Entwurf durch die Erg\u00e4nzung der ZPO um ein 12. Buch \u201eErprobung und Evaluierung\u201c sowie Experimentierklauseln.\u00a0 Evaluierungen sind jeweils nach vier und acht Jahren vorgesehen.\u00a0<\/span><\/p>\n<p>&nbsp;<\/p>\n<p><b>Ausblick in die Zukunft der Justizdigitalisierung<\/b><\/p>\n<p><span style=\"font-weight: 400;\">Zum o.g. Gesetzesentwurf k\u00f6nnen interessierte Kreise noch bis zum 12.07.2024 Stellung nehmen. Au\u00dferdem wurde am 14.06.2024 das im letzten Newsletter vorgestellte <\/span><a href=\"https:\/\/www.bundestag.de\/dokumente\/textarchiv\/2024\/kw24-de-digitalisierung-justiz-1007704#:~:text=Recht-,Bundestag%20beschlie%C3%9Ft%20Gesetz%20zur%20weiteren%20Digitalisierung%20der%20Justiz,(20%2F11788)%20angenommen.\" rel=\"nofollow noopener\" target=\"_blank\"><span style=\"font-weight: 400;\">Gesetz zur weiteren Digitalisierung der Justiz verabschiedet<\/span><\/a><span style=\"font-weight: 400;\">. Es umfasst unter anderem die Hybridaktenf\u00fchrung, die digitale Stellung von Strafantr\u00e4gen und die Teilnahme an Revisionshauptverhandlungen per Video. Fortschritte gibt es auch hinsichtlich der Nutzung von Videokonferenztechnik. Hier <\/span><a href=\"https:\/\/www.bundestag.de\/dokumente\/textarchiv\/2023\/kw46-de-video-gericht-977842\" rel=\"nofollow noopener\" target=\"_blank\"><span style=\"font-weight: 400;\">einigten sich Bund und L\u00e4nder<\/span><\/a><span style=\"font-weight: 400;\"> auf Vorschl\u00e4ge des Vermittlungsausschusses zum Gesetz zur F\u00f6rderung des Einsatzes von Videokonferenztechnik in der Zivilgerichtsbarkeit und den Fachgerichtsbarkeiten. <\/span><\/p>\n<p>&nbsp;<\/p>\n<p><span style=\"color: #fd402b;\">Fortschrittsberichte, Arbeitspapier, Parlamentsantr\u00e4ge<\/span><\/p>\n<h3 class=\"mc-toc-title\">Neues vom digitalen Euro<\/h3>\n<p><span style=\"font-weight: 400;\">Seit seiner Ank\u00fcndigung im Juli 2021 ist es medial ruhiger um den \u201edigitalen Euro\u201c. 59 Prozent ist er sogar weiterhin unbekannt, obwohl er m\u00f6glicherweise in f\u00fcnf Jahren starten k\u00f6nnte.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Gesetzliches Zahlungsmittel in der Eurozone ist bisher nur Bargeld. Die Europ\u00e4ische Zentralbank (EZB) hat 2000 dann u.a. Girokontoguthaben gleichgestellt, aber \u201enur\u201c im Rahmen der Vertragsfreiheit. Tats\u00e4chlichen Zugriff auf das von der EZB geschaffene Geld haben aber nur Banken. Die EZB m\u00f6chte nun mit einer Milliardeninvestition nach dem Vorbild erster Umsetzungen in Karibikstaaten erg\u00e4nzend neben das Bar- und Buchgeld eine schon 1985 erstmals ge\u00e4u\u00dferte Idee stellen: digitales Zentralbankgeld. Nach dem aktuellen Vorschlag w\u00e4re dieses \u201edigitale Bargeld\u201c gesetzliches Zahlungsmittel und zugleich jedem B\u00fcrger durch ein Konto direkt bei der EZB zug\u00e4nglich. Nach der Einrichtung bei der eigenen Bank soll die Handhabe den Apps von PayPal &amp; Co. \u00e4hneln und bis auf speziellere Services wie Dauerauftr\u00e4ge oder Gesch\u00e4ftskonten kostenlos sein. Eine Auflade-Obergrenze soll in Krisenzeiten einen Bank Run verhindern. Die Deutsche Bundesbank sieht diese in ihrem Progress Report von Ende Juni zwischen 1.500 und 2.500 Euro, danach m\u00fcsste ein Bankkonto verkn\u00fcpft werden. Die pro Bank im zweistelligen Millionenbereich liegenden Investitionskosten tr\u00e4fen den Handel, allerdings mit einer unter den meisten privaten Anbieter liegenden Obergrenze.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Die EZB m\u00f6chte so dem Kontrollverlust an die meist nicht dem EU-Rechtsrahmen unterworfenen Privatdienstleister entgegenwirken. Trotzdem winken auch Verbrauchern Erleichterungen: Echtzeitzahlungen bei jedem EU-H\u00e4ndler ohne Einbindung von Drittanbietern und ohne zwingende physische Karte, Wettbewerbsdruck auf Transaktionsdienste und Banken, ein Konto bei einer quasi immer solventen Bank und unabh\u00e4ngig jeglicher Scoring-Werte. Auf Sicht w\u00e4ren auch Maschine-zu-Maschine-Zahlungen und Smart Contracts m\u00f6glich.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Neben der ungewissen Zukunft des Bankensektors (Kundenverlust? Einlagensicherung? Extra-Services als neues Gesch\u00e4ftsmodell? Vergr\u00f6\u00dferung des Marktes?) r\u00fcckt allerdings auch die Privatsph\u00e4re in den Fokus. Laut dem Ende Juni ver\u00f6ffentlichten Fortschrittsbericht der EZB soll es eine Offline-Funktion geben, bei der nur Sender und Empf\u00e4nger die Details der Transaktion kennen. Auch bei Online-Zahlungen h\u00e4tte das Eurosystem nur pseudonymisierte, gehashte und verschl\u00fcsselte Daten. Banken h\u00e4tten wie schon jetzt (nur) insbesondere im Rahmen der Geldw\u00e4schebek\u00e4mpfung und der vertraglichen Vereinbarungen Zugang zu personenbezogenen Daten. Trotzdem \u00e4u\u00dfert die sog. \u201eBerlin Group\u201c in einem Arbeitspapier von Ende Juni Bedenken: In die Grundrechte der Menschen k\u00f6nnte unverh\u00e4ltnism\u00e4\u00dfig eingegriffen werden, einzelne Personen k\u00f6nnten diskriminiert werden. Helfen sollen u.a. eine Datenschutz-Folgeabsch\u00e4tzung, anonyme Zahlungen bis zu einer gewissen H\u00f6he, effektiver Schutz gegen Cyber-Angriffe und klare Verantwortungsbereiche.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Seit November 2023 l\u00e4uft f\u00fcr zwei Jahre eine Vorbereitungsphase f\u00fcr Regelwerk und Anbieter. Im Februar hat das Europ\u00e4ische Parlament den Kommissionsentwurf kommentiert. Im Juli will die AfD im Bundestag den Abbruch des Projekts erreichen, die Union einen Parlamentsvorbehalt. Ende des Jahres soll ein neuer Entwurf des \u201edigital euro rulebook\u201c ver\u00f6ffentlicht werden. Ein finales Gesetz soll Ende 2025 beschlossen werden.<\/span><\/p>\n<p>&nbsp;<\/p>\n<p><span style=\"color: #fd402b;\">Datennutzung und Meta KI<\/span><\/p>\n<h3 class=\"mc-toc-title\">Meta KI mit Verbraucherdaten vorerst gestoppt<\/h3>\n<p><span style=\"font-weight: 400;\">Das US-Unternehmen Meta hat geplant, die Daten der Nutzer eigener Plattformen und von Drittanbietern zu verwenden, um die eigene K\u00fcnstliche Intelligenz (KI) zu trainieren. Dass eine KI eines Trainings mit Daten bedarf, ist soweit bekannt. Aber bisher wurden nur im Web frei verf\u00fcgbare Daten verwendet, z.B. bei ChatGPT von OpenAI.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Meta m\u00f6chte auch (privat) auf den eigenen Plattformen ver\u00f6ffentlichte Daten und Bilder verwenden und das auch DSGVO konform mittels der \u201eOpt-Out\u201c L\u00f6sung, <\/span><a href=\"https:\/\/noyb.eu\/en\/project\/forced-consent-dpas-austria-belgium-france-germany-and-ireland?page=2\" rel=\"nofollow noopener\" target=\"_blank\"><span style=\"font-weight: 400;\">statt einer Einwilligung<\/span><\/a><span style=\"font-weight: 400;\">. Wenn durch den Verbraucher keine Verwendung gew\u00fcnscht ist, dann muss unter Angabe eines Widerrufsgrundes \u00fcber ein umst\u00e4ndliches Formular der Verwendung widersprochen werden.<\/span><span style=\"font-weight: 400;\">\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Meta hat nach <\/span><a href=\"https:\/\/www.verbraucherzentrale.de\/aktuelle-meldungen\/digitale-welt\/ihre-daten-bei-facebook-und-instagram-fuer-ki-so-widersprechen-sie-95646\" rel=\"nofollow noopener\" target=\"_blank\"><span style=\"font-weight: 400;\">Abmahnungen<\/span><\/a><span style=\"font-weight: 400;\">\/ <\/span><a href=\"https:\/\/datenschutz-hamburg.de\/news\/ki-training-mit-personenbezogenen-daten-bei-instagram-und-facebook\" rel=\"nofollow noopener\" target=\"_blank\"><span style=\"font-weight: 400;\">Beschwerden<\/span><\/a><span style=\"font-weight: 400;\"> durch mehrere Verbraucherzentralen eine Unterlassungserkl\u00e4rung abgegeben, die geplante \u00c4nderung der Datenschutzrichtlinie <\/span><a href=\"https:\/\/www.faz.net\/aktuell\/wirtschaft\/kuenstliche-intelligenz\/meta-ki-software-geht-in-europa-verzoegert-an-den-start-19790693.html\" rel=\"nofollow noopener\" target=\"_blank\"><span style=\"font-weight: 400;\">nicht durchf\u00fchren zu wollen<\/span><\/a><span style=\"font-weight: 400;\">. Die \u201eBestrafung\u201c f\u00fcr die Verbraucher aber auch sofort formuliert: Die Meta KI Anwendungen werden vorerst in Europa nicht verf\u00fcgbar sein. Apple hat \u00e4hnliche Konsequenzen f\u00fcr die Nutzung von Apples KI (\u201eApple Intelligence\u201c) gezogen, nachdem das <\/span><a href=\"https:\/\/www.spiegel.de\/netzwelt\/apple-intelligence-neue-ki-funktionen-vorerst-nicht-in-eu-wegen-digitalgesetz-a-8d028feb-2115-4064-a3ce-96493642e725\" rel=\"nofollow noopener\" target=\"_blank\"><span style=\"font-weight: 400;\">Unternehmen zu dem Schluss gekommen ist<\/span><\/a><span style=\"font-weight: 400;\">, dass die Verwendung von Daten gegen den Europ\u00e4ischen Datenschutz versto\u00dfen k\u00f6nnte.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Metas Vorhaben erscheint jedoch noch schwieriger umsetzbar, wenn man bedenkt, dass der <\/span><a href=\"https:\/\/curia.europa.eu\/juris\/document\/document_print.jsf;jsessionid=C7AD292183CE87DF15DB1384F32A370B?mode=DOC&amp;pageIndex=0&amp;docid=275125&amp;part=1&amp;doclang=DE&amp;text=&amp;dir=&amp;occ=first&amp;cid=12817378\" rel=\"nofollow noopener\" target=\"_blank\"><span style=\"font-weight: 400;\">EuGH sich zu einem \u00e4hnlichen Verwendungszweck von Meta ge\u00e4u\u00dfert hat<\/span><\/a><span style=\"font-weight: 400;\">. In dem Urteil hat der EuGH der Nutzung von pers\u00f6nlichen Daten auf den Plattformen zur Personifizierung der Daten widersprochen. Eine \u00e4hnliche Datennutzung wird eben jetzt begehrt, nur um eine KI zu trainieren.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Nach Rechtsauffassung von Meta stellt ein solches Training einer KI aber ein \u201eberechtigtes Interesse\u201c nach Art. 6 I f DSGVO dar, um die ausdr\u00fcckliche Einwilligung zu umgehen.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">In dem Urteil des EuGH wurde ein berechtigtes Interesse angenommen, wenn \u201edies f\u00fcr die Gew\u00e4hrleistung der Netz- und Informationssicherheit unbedingt notwendig und verh\u00e4ltnism\u00e4\u00dfig ist\u201c (Rn. 47). Ob ein solches Sicherheitsinteresse bei dem Training der Daten f\u00fcr eine KI gegeben ist, ist nur mit viel Fantasie herzuleiten.<\/span><\/p>\n<p>&nbsp;<\/p>\n<p><span style=\"color: #fd402b;\">Strafrechtliche Fragestellung zum Umgang mit KI im medizinischen Fachbereich<\/span><\/p>\n<h3 class=\"mc-toc-title\">Wenn die KI alles richtig macht<\/h3>\n<p><span style=\"font-weight: 400;\">K\u00fcnstliche Intelligenz hat mittlerweile ein sehr gro\u00dfes Anwendungsfeld. Besonders fortgeschritten sind Modelle, die medizinische Daten oder Bilder auswerten und Diagnosen erstellen \u2013 teilweise mit h\u00f6heren Trefferquoten als ein durchschnittlicher Facharzt (bspw. der Hautkrebs-Detektor<\/span><a href=\"https:\/\/www.mdpi.com\/2075-4418\/13\/11\/1824\" rel=\"nofollow noopener\" target=\"_blank\"> <span style=\"font-weight: 400;\">SCDet<\/span><\/a><span style=\"font-weight: 400;\">).<\/span><\/p>\n<p><span style=\"font-weight: 400;\">The<\/span><a href=\"https:\/\/www.intuitive.com\/de-de\/products-and-services\/da-vinci\" rel=\"nofollow noopener\" target=\"_blank\"> <span style=\"font-weight: 400;\">Da Vinci Operationsroboter von Intuitive<\/span><\/a><span style=\"font-weight: 400;\">, der schon seit einiger Zeit auch in Europa verwendet wird, \u00fcbersetzt die Kommandos der Chirurgen in hochpr\u00e4zise Bewegungen, die von einem Roboterarm ausgef\u00fchrt werden. Das findet bspw. bei Krebsoperationen im Darmbereich Anwendung, da es hier auf zitterfreies, millimetergenaues Arbeiten ankommt.<\/span><span style=\"font-weight: 400;\"><br \/>\n<\/span><span style=\"font-weight: 400;\">Geplant ist es, Da Vinci mit einer KI auszustatten, die die Operation filmt, in Echtzeit auswertet und unter anderem den \u201eOperateur automatisch warnen soll, wenn sich das Skalpell zum Beispiel empfindlichen Darmschichten, Gef\u00e4\u00dfen und Nerven n\u00e4hert\u201c (siehe<\/span><a href=\"https:\/\/www.uke.de\/landingpage\/zukunftsplan-2050\/medizin-der-zukunft\/12-robotik-ki-im-op.html\" rel=\"nofollow noopener\" target=\"_blank\"> <span style=\"font-weight: 400;\">hier<\/span><\/a><span style=\"font-weight: 400;\">).<\/span><span style=\"font-weight: 400;\"><br \/>\n<\/span><span style=\"font-weight: 400;\">Wenn der Chirurg w\u00e4hrend des Eingriffs eine solche Warnung der KI bekommt, diese jedoch ignoriert und es deshalb zur Verletzung oder gar zum Tod des Patienten kommt \u2013 wie k\u00f6nnte das strafrechtlich bewertet werden?<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Die allgemeine Produkthaftung scheidet aus, da hier nur die Verantwortung des Herstellers f\u00fcr <\/span><i><span style=\"font-weight: 400;\">fehlerhafte<\/span><\/i><span style=\"font-weight: 400;\"> Produkte geregelt ist. Ebenso w\u00fcrde die spezifische Regelung im Medizinprodukterecht-Durchf\u00fchrungsgesetz (MPDG) nicht greifen, da sich hier das Nutzungsverbot ebenfalls nur auf Produkte erstreckt, die \u201eM\u00e4ngel aufweisen\u201c (\u00a7 11 MPDG) \u2013 eine einwandfrei funktionierende KI ist also nicht eingeschlossen.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Die n\u00e4chste \u00dcberlegung w\u00e4re es, die Grunds\u00e4tze der Arbeitsteilung anzuwenden. Es wird in zwei Arten unterschieden \u2013 horizontale und vertikale.<\/span><span style=\"font-weight: 400;\"><br \/>\n<\/span><span style=\"font-weight: 400;\">Die erste Art, die horizontale Arbeitsteilung, beschreibt eine solche zwischen Personal auf Augenh\u00f6he, bspw. das Zusammenarbeiten von Fach\u00e4rzten, die jeweils ihre Expertise beisteuern, um dem gemeinsamen Patienten zu helfen. Dabei \u00fcbernimmt jeder f\u00fcr sein Handeln die Verantwortung und vertraut auf das Pflichtbewusstsein und die Richtigkeit der Ergebnisse des anderen (sog. <\/span><i><span style=\"font-weight: 400;\">Vertrauensgrundsatz<\/span><\/i><span style=\"font-weight: 400;\">). Es kann durchaus argumentiert werden, dass eine hochspezialisierte KI mit hervorragender Trefferquote, wie der oben erw\u00e4hnte <\/span><i><span style=\"font-weight: 400;\">SCDet<\/span><\/i><span style=\"font-weight: 400;\">, gleich einem Experten gewertet werden soll. In diesem Fall w\u00e4re es dem Arzt schon beinahe obliegend (sofern keine groben Unstimmigkeiten erkennbar sind), dem Ergebnis der KI zu folgen. Diese Ansicht ist zwar auf Wahrscheinlichkeit und Statistik solide gebaut, widerspricht jedoch den aktuellen rechtspolitischen und -wissenschaftlichen Str\u00f6mungen: Genau solche (u.a. un\u00fcberpr\u00fcfte) KI-Ergebnisse werden eher als Gefahr angesehen, vor der die Bev\u00f6lkerung gesch\u00fctzt werden m\u00fcsste. Horizontale Arbeitsteilung trifft deshalb nach herrschender Meinung nicht auf die Zusammenarbeit zwischen Mensch und KI zu.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Die zweite Art w\u00e4re die vertikale Arbeitsteilung. Diese beschreibt die \u201aHierarchie\u2018 von Mitarbeitern zu Vorgesetzten, oder, wie im medizinischen Sektor \u00fcblicher, Pflegepersonal zu \u00c4rzten sowie \u00c4rzte zum Chefarzt. In dieser Konstellation ist ebenfalls jede Person grunds\u00e4tzlich f\u00fcr ihr Handeln selbst verantwortlich. Weisungsbefugte treffen dar\u00fcber hinaus aber noch weitere (\u00dcberwachungs- und Kontroll-) Pflichten. In dieser Konstellation w\u00fcrde die KI (noch) dem Menschen unterstellt sein.<\/span><span style=\"font-weight: 400;\"><br \/>\n<\/span><span style=\"font-weight: 400;\">Das hei\u00dft, der behandelnde Arzt muss die KI \u00fcberwachen und kontrollieren, um seine Pflichten zu erf\u00fcllen. Dieser Sicherheitsmechanismus greift bei der resultatorientierten Arbeitsweise der KI jedoch nicht wirklich. Denn wie soll ein undurchsichtiger Rechenprozess \u00fcberwacht und ein unklar zustande gekommenes Ergebnis \u00fcberpr\u00fcft werden?<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Ansonsten w\u00e4re noch denkbar, die KI lediglich als ein Werkzeug zu betrachten und f\u00fcr ihre Verwendung einen Sorgfaltspflichtma\u00dfstab aufzustellen, der dem Facharztstandard folgt. Ein Facharztstandard spiegelt den jeweils aktuellen Stand der Forschung und Wissenschaft wider und gibt entsprechend Richt- und Leitlinien vor.<\/span><span style=\"font-weight: 400;\"><br \/>\n<\/span><span style=\"font-weight: 400;\">Allerdings stehen wir im Bereich der KI derzeit (und wahrscheinlich auch in naher Zukunft) vor der Problematik, dass es noch keine Standards gibt, da der Erfahrungsgehalt beim Umgang mit KI schlicht fehlt.<\/span><span style=\"font-weight: 400;\"><br \/>\n<\/span><span style=\"font-weight: 400;\">Au\u00dferdem ist ein Facharztstandard nicht mehr als eine unverbindliche Orientierungshilfe: Auch bei der Befolgung des Standards ist nicht zwingend die Fahrl\u00e4ssigkeit ausgeschlossen, genau so wenig wie das Missachten nicht gleich sorgfaltswidrig ist.<\/span><span style=\"font-weight: 400;\"><br \/>\n<\/span><span style=\"font-weight: 400;\">Das Aufstellen eines solchen Standards tr\u00e4gt dementsprechend nicht wirklich zur Rechtssicherheit bei \u2013 die Haftungsfrage bleibt daher weiter offen.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Damit bleiben letzten Endes nur noch die allgemeinen Grunds\u00e4tze der Verantwortlichkeit f\u00fcr Fahrl\u00e4ssigkeit. Hier w\u00fcrde zwar normalerweise zur Beurteilung der verkehrskreis\u00fcblichen Sorgfaltspflichten auch auf die (noch nicht vorhandenen) Facharztstandards zur\u00fcckgegriffen werden. Ebenso gut kann Fahrl\u00e4ssigkeit einfach auf das allgemeine Gebot gest\u00fctzt werden, nach dem fremde Rechtsg\u00fcter nicht gef\u00e4hrdet oder verletzt werden d\u00fcrfen. Dabei ist der unvorhersehbare und intransparente Lernprozess der KI erstmal ein so hohes Risiko, dass der Gebrauch einer selbstst\u00e4ndigen KI nicht gerechtfertigt werden kann. Ebenso fahrl\u00e4ssig ist es aber auch, die Hinweise einfach zu ignorieren \u2013 immerhin beruht dieser Hinweis, insbesondere im medizinischen Setting, auf Trainingsdaten von h\u00f6chster Qualit\u00e4t. Damit bedarf es der \u00dcberpr\u00fcfung jeden Hinweises der KI, um die m\u00f6gliche Gef\u00e4hrdung mit dem potenziellen Nutzen abzuw\u00e4gen.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Zusammenfassend f\u00fchrt die Frage, wenn KI alles richtig macht, in juristisches Neuland \u2013 so wie beinahe alles, was mit KI zu tun hat. Der blo\u00dfe R\u00fcckgriff auf das, was unser Recht jetzt schon zu bieten hat, reicht noch nicht aus, um die theoretische \u201ewas-w\u00e4re-wenn\u201c-Problematik in Zukunft sicher beurteilen zu k\u00f6nnen. Es fehlt an Erfahrungen in Form von Standards, Richtlinien und Rechtsprechungen. Von einer Rechtssicherheit, die der schnellen technischen Entwicklung den R\u00fccken decken kann, sind wir noch sehr weit entfernt. Daher wird es wohl vorerst bei dieser Fragestellung bleiben.<\/span><\/p>\n<p>&nbsp;<\/p>\n<p><span style=\"color: #fd402b;\">Apple und DMA<\/span><\/p>\n<h3 class=\"mc-toc-title\">Apple Intelligence vs. Digital Markets Act: Der Kampf um die Nutzerdaten<\/h3>\n<p><span style=\"font-weight: 400;\">W\u00e4hrend der Autofahrt auf WhatsApp-Nachrichten antworten, den Tag planen oder wichtige <\/span><a href=\"https:\/\/www.spiegel.de\/netzwelt\/apple-intelligence-neue-ki-funktionen-vorerst-nicht-in-eu-wegen-digitalgesetz-a-8d028feb-2115-4064-a3ce-96493642e725\" rel=\"nofollow noopener\" target=\"_blank\"><span style=\"font-weight: 400;\">Informationen, Uhrzeiten und Termine aus E-Mails filtern<\/span><\/a><span style=\"font-weight: 400;\">.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Das und noch viel mehr k\u00f6nnte bald Realit\u00e4t werden, wenn Apple seine eigene KI-Funktion \u201eApple Intelligence\u201c auf den Markt bringt.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Aber so einfach scheint die ganze Sache f\u00fcr Apple nicht zu laufen. Die Grundlage f\u00fcr die Apple-KI ist der <\/span><a href=\"https:\/\/www.zeit.de\/digital\/2024-06\/apple-intelligence-eu-digital-markets-act-ki-datenschutz\" rel=\"nofollow noopener\" target=\"_blank\"><span style=\"font-weight: 400;\">tiefgreifende Zugang zu Nutzerdaten<\/span><\/a><span style=\"font-weight: 400;\">. Damit hat vor allem der Digital Markets Act (DMA) der EU ein gro\u00dfes Problem.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Der DMA verlangt von sog. \u201eGatekeepern\u201c, dass sie anderen Anbietern den Zugang gew\u00e4hren, eigene Dienstleistungen anzubieten und dass sie ihre eigenen Angebote nicht bevorzugen. Dies birgt das Risiko, dass Nutzerdaten abgezweigt und missbraucht werden k\u00f6nnten.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Apple beruft sich aktuell auf eine Ausnahmebestimmung, die greift, wenn durch die \u00d6ffnung f\u00fcr andere Dienstleister die \u201eIntegrit\u00e4t\u201c des Systems beeintr\u00e4chtigt werden k\u00f6nnte. Ob die EU-Kommission Apples Bedenken hinsichtlich der Datensicherheit als Grund f\u00fcr eine solche Ausnahme akzeptieren wird, bleibt abzuwarten.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">In jedem Fall hat Apple angek\u00fcndigt, dass die KI-Funktion in Europa nicht vor 2025 eingef\u00fchrt wird. Daher m\u00fcssen wir uns wohl noch ein wenig gedulden, bis wir in den Genuss von \u201eApple Intelligence\u201c kommen.<\/span><\/p>\n<p>&nbsp;<\/p>\n<p><span style=\"color: #fd402b;\">Lese-Tipp<\/span><\/p>\n<h3 class=\"mc-toc-title\">Justizielle Zusammenarbeit und Zugang zur Justiz \u2013 jetzt digital(er)?<\/h3>\n<p><span style=\"font-weight: 400;\">Zur Verordnung \u00fcber die Digitalisierung der justiziellen Zusammenarbeit und des Zugangs zur Justiz schrieb unser Mitglied Paul Soller einen ausf\u00fchrlichen Beitrag in der MMR. Schaut gerne rein!<\/span><\/p>\n<p>Fundstelle: MMR 2024, 308.<\/p>\n<p>&nbsp;<\/p>\n<p><span style=\"color: #fd402b;\">Podcast-Tipp<\/span><\/p>\n<h3 class=\"mc-toc-title\">recode.cademy #2 Legal Tech &#8211; was steckt dahinter?<\/h3>\n<p><span style=\"font-weight: 400;\">In der zweiten Folge der recode.cademy unterhalten Marie Landwehr und Lucas Sch\u00f6nborn sich \u00fcber die Technologien hinter Legal Tech &#8211; ob KI, Blockchain oder Big Data. Wir hoffen, dass Ihr einen \u00dcberblick dar\u00fcber gewinnen k\u00f6nnt, was hinter den Technologien steckt, wie sie funktionieren und inwiefern sie f\u00fcr Legal Tech pr\u00e4gend sind.<\/span><\/p>\n<p><a href=\"https:\/\/law.us19.list-manage.com\/track\/click?u=8a4b1c443425ed27213871f4d&amp;id=60a56ada14&amp;e=a7942ff119\" rel=\"nofollow noopener\" target=\"_blank\">Hier<\/a> geht es zur Folge<\/p>\n<p><span style=\"font-weight: 400;\">Viel Spa\u00df beim H\u00f6ren!<\/span><\/p>\n<p>&nbsp;<\/p>","protected":false},"excerpt":{"rendered":"<p>Editor&#8217;s Ramble #75 Liebe Leser:innen, in dieser Ausgabe von NewLawRadar tauchen wir tief in die spannende Welt der Digitalisierung des Rechtswesens ein. Wir beginnen mit einem Blick auf die j\u00fcngsten Entwicklungen in der Zivilgerichtsbarkeit: Die Bundesregierung hat einen Entwurf f\u00fcr ein Gesetz zur Erprobung von Online-Verfahren vorgelegt, der vielversprechende Neuerungen mit sich bringt. Die Digitalisierung [&hellip;]<\/p>","protected":false},"author":123,"featured_media":6881,"comment_status":"closed","ping_status":"open","sticky":false,"template":"elementor_theme","format":"standard","meta":{"_acf_changed":false,"_lmt_disableupdate":"no","_lmt_disable":"no","footnotes":""},"categories":[276],"tags":[],"class_list":["post-6892","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-new-law-radar"],"acf":[],"modified_by":"Jeremias","_links":{"self":[{"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/posts\/6892","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/users\/123"}],"replies":[{"embeddable":true,"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/comments?post=6892"}],"version-history":[{"count":7,"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/posts\/6892\/revisions"}],"predecessor-version":[{"id":6987,"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/posts\/6892\/revisions\/6987"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/media\/6881"}],"wp:attachment":[{"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/media?parent=6892"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/categories?post=6892"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/tags?post=6892"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}