{"id":7845,"date":"2025-01-15T10:00:48","date_gmt":"2025-01-15T09:00:48","guid":{"rendered":"https:\/\/recode.law\/?p=7845"},"modified":"2025-01-15T10:00:48","modified_gmt":"2025-01-15T09:00:48","slug":"newlawradar-81-2025-justizcloud-ai-act-in-korea-character-ai-blockchain","status":"publish","type":"post","link":"https:\/\/recode.law\/en\/newlawradar-81-2025-justizcloud-ai-act-in-korea-character-ai-blockchain\/","title":{"rendered":"NewLawRadar 81\/2025 – Justizcloud – AI Act in Korea – Character.ai – Blockchain"},"content":{"rendered":"
Editor’s Ramble #81<\/strong><\/div>\n

Liebe Leser:innen, in dieser Ausgabe haben wir wieder ganz viele interessante Themen rund um Legal Tech im Newsletter.<\/p>\n

Heute Abend k\u00f6nnt ihr \u00fcber Zoom<\/strong> das n\u00e4chste recode.talks<\/strong> Event<\/a> mit Marc Ohrendorf<\/strong> verfolgen! (Hier geht’s zur Veranstaltung<\/a>)
\nWir berichten \u00fcber die Einf\u00fchrung der Justizcloud <\/strong>und skizzieren die Bedeutung im Rahmen der Digitalisierung der Justiz.
\nIn S\u00fcdkorea<\/strong> wurde ein AI Act <\/strong>verabschiedet. Wir berichten, u.a. aus rechtsvergleichender<\/strong> Perspektive, was der Gesetzesentwurf in Korea anders und besser macht als die EU.
\nNachdem ein KI-Chatbot einem Kind zu einem Mord\u00a0geraten hat,\u00a0stellen sich jetzt vor einem amerikanischen Gericht Fragen der Produkthaftung<\/strong> f\u00fcr eine K\u00fcnstliche Intelligenz<\/strong>.
\nWir haben auch wieder einen Beitrag in der Kategorie Legal Tech Basics<\/strong>: Blockchain<\/strong>. Was verbirgt sich dahinter und wie sehen die\u00a0Anwendungsf\u00e4lle\u00a0im Recht aus<\/strong>.
\nDie BRAK<\/strong> ver\u00f6ffentlich einen Leitfaden<\/strong> zur berufsrechtlichen Nutzung von KI.<\/strong>
\nUnd die neue Future Ready Lawyers Studie<\/strong> von Wolters Kluwer<\/strong> ist online!<\/p>\n

Wir haben auch noch zwei Veranstaltungstips<\/strong>: Das recode.talks Event und unser Event an der Brucerius Law School!<\/p>\n

Redaktion: Dennis<\/a>, Florian<\/a>,\u00a0Jeremias<\/a>, Jakob<\/a>, Linus<\/a>, Max<\/a>,\u00a0Mounir<\/a>\u00a0und Friedrich<\/a>.<\/p>\n

Wir sind gespannt auf Eure Meinung! Wir freuen uns \u00fcber eure Vorschl\u00e4ge und Feedback\u00a0an radar@recode.law<\/a>!<\/p>\n

Justizcloud<\/h5>\n

Ein weiteres Puzzlest\u00fcck in der \u201eDigitalisierungsinitiative f\u00fcr die Justiz\u201c<\/h3>\n

Die Justiz zieht in die Cloud! Ganz so weit ist es zwar noch nicht, die n\u00e4chsten Schritte zur Modernisierung und Digitalisierung der Justiz gehen aber voran.<\/p>\n

Bis Ende 2026 soll nun eine bundeseinheitliche Cloud-L\u00f6sung f\u00fcr die Nutzung in der Justiz geschaffen werden, wie die Justizminister von Bund und L\u00e4ndern nach dem f\u00fcnften Bund-L\u00e4nder-Digitalgipfel<\/a>\u00a0bekannt gegeben haben.<\/p>\n

Diese L\u00f6sung soll sp\u00fcrbare Verbesserungen sowohl in der Arbeit einzelner Gerichte als auch in der justiziellen Zusammenarbeit mit sich bringen. So k\u00f6nnen beispielsweise Anwendungen wie das sogenannte Ge\u00admein\u00adsa\u00adme\u00a0Fach\u00adver\u00adfah\u00adren\u00a0f\u00fcr die Jus\u00adtiz (GeFa<\/a>) bundeseinheitlich (weiter-)entwickelt und ausgerollt werden. Auch Updates sollen schneller fl\u00e4chendeckend zur Verf\u00fcgung stehen. Bisher geschieht dies dezentral auf Plattformen, die die L\u00e4nder teils allein, teils in kleineren Kooperationen betreiben und unterhalten m\u00fcssen. Eine bundeseinheitliche L\u00f6sung gab es bisher nicht.<\/p>\n

In einem ersten Schritt soll nun unter anderem das l\u00e4nder\u00fcbergreifende Registerfachverfahren (AuRegis<\/a>) in die Cloud verlagert werden. In der Zukunft k\u00f6nnte aber beispielsweise auch eine gemeinsame Datenmanagement-Plattform errichtet werden, die den Austausch von Dokumenten erleichtert. Hierbei sollen auch andere Akteure der Rechtspflege, wie Anw\u00e4lt:innen und Notar:innen an das System angeschlossen werden. M\u00f6glicherweise geh\u00f6rt dann auch der Versand von umfangreichen PDFs<\/a> \u00fcber das besondere elektronische Anwaltspostfach (beA) der Vergangenheit an. Auch der Betrieb justizeigener KI-Anwendungen in der gesch\u00fctzten Umgebung der Justizcloud ist zuk\u00fcnftig denkbar.<\/p>\n

Die Themen Datenschutz und IT-Sicherheit spielen bei der Schaffung einer solchen Justizcloud eine besondere Rolle<\/a>. Die naturgem\u00e4\u00df hochsensiblen Daten der Justiz sollen insofern weiterhin dezentral in den Rechenzentren der IT-Dienstleister der Justiz gespeichert bleiben. Die Cloud dient zur zugriffsbasierten Verkn\u00fcpfung der verschiedenen Rechenzentren.<\/p>\n

Das Projekt ist Teil der sogenannten \u201eDigitalisierungsinitiative f\u00fcr die Justiz\u201c, einer Kooperation zwischen Bund und L\u00e4ndern. Wir hatten \u00fcber weitere Projekte dieser Initiative bereits in fr\u00fcheren Ausgaben (beispielsweise 75\/24<\/a> und 78\/24<\/a>) berichtet. Ein \u00dcberblick \u00fcber die laufenden und geplanten Projekte findet sich auf dem Internetauftritt des Bundesjustizministeriums<\/a>.<\/p>\n

Auch wenn es bis zur endg\u00fcltigen Umsetzung aller Projekte noch ein weiter Weg ist, so ist die Schaffung der Justizcloud doch als wichtiger Meilenstein zu begr\u00fc\u00dfen. Insbesondere die weitergehende Kooperation von Bund und L\u00e4ndern und der Abbau f\u00f6deralistischer H\u00fcrden und doppelter Systeme k\u00f6nnen dabei nur helfen, den Justizstandort Deutschland weiter zu modernisieren.<\/p>\n

KI-Regulierungen global\u00a0im Aufwind<\/h5>\n

S\u00fcdkoreas AI Basic Act: Zentrale Bestimmungen im Spiegel des Europ\u00e4ischen AI Acts<\/h3>\n

Mit dem AI Basic Act, der auf den letzten Metern des Jahres 2024 verabschiedet wurde, erweitert S\u00fcdkorea die globale Landschaft der KI-Regulierung. Das Gesetz orientiert sich in vielerlei Hinsicht am EU AI Act, setzt jedoch eigene Akzente. Ein Vergleich zeigt spannende Parallelen und Unterschiede, die Raum f\u00fcr rechtsvergleichende Analysen bieten.<\/p>\n

I. Ziele der s\u00fcdkoreanischen KI-Regulierung\u00a0<\/strong>
\nDer Titel des Gesetzes \u2013 \u201eBasic Act on the Development of Artificial Intelligence and the Establishment of Trust\u201c, nachfolgend \u201cAI Basic Act\u201d, \u2013 vereint zwei zentrale Konzepte: die\u00a0F\u00f6rderung technologischer Entwicklung<\/strong>\u00a0und den\u00a0Aufbau von Vertrauen<\/strong>. Damit verfolgt S\u00fcdkorea eine industriepolitische Strategie zur St\u00e4rkung des Wirtschaftsstandorts, basierend auf gesellschaftlicher Akzeptanz und verantwortungsvollem Umgang mit KI.
\nDas Ministerium f\u00fcr Wissenschaft, Informations- und Kommunikationstechnik ist industriepolitischer Taktgeber und legt alle drei Jahre Strategiepl\u00e4ne zur St\u00e4rkung des nationalen KI-Sektors vor. Das Gesetz schafft zudem die Grundlage f\u00fcr gezielte Startup-F\u00f6rderung und setzt klare rechtliche Leitplanken f\u00fcr eine verantwortungsvolle und sichere Nutzung von KI.<\/p>\n

II. Die Regelungsstruktur des AI Basic Acts\u00a0<\/strong>
\nDer s\u00fcdkoreanische AI Basic Act setzt auf eine zweistufige Regulierungsstruktur, die zwischen\u00a0\u201eHigh-Impact AI\u201c<\/strong>\u00a0und\u00a0\u201eGenerative AI\u201c<\/strong>\u00a0unterscheidet. \u201eHigh-Impact AI\u201c umfasst Anwendungen, die Leib, Leben oder Grundrechte erheblich beeinflussen k\u00f6nnen, w\u00e4hrend \u201eGenerative AI\u201c durch die F\u00e4higkeit definiert ist, Inhalte wie Texte, Bilder oder Audio auf Basis von Prompts zu erstellen.
\nIm Vergleich dazu verfolgt der EU AI Act einen differenzierteren Ansatz mit vier Regulierungsstufen. Diese Granularit\u00e4t erlaubt eine pr\u00e4zisere Zuordnung von Risiken, w\u00e4hrend der s\u00fcdkoreanische Ansatz einfacher, aber auch weniger spezifisch bleibt. Unklar bleibt, welche konkreten Anwendungsf\u00e4lle der s\u00fcdkoreanische Gesetzgeber als \u201eHigh-Impact AI\u201c einstuft. Es liegt jedoch nahe, dass er sich an den \u201eHoch-Risiko-Systemen\u201c im EU AI Act (Art. 6 i. V. m. Anhang III) orientiert.<\/p>\n

III. Rechtspflichten unter dem AI Basic Act – Schnittmengen zum EU AI Act<\/strong>
\nDer s\u00fcdkoreanische AI Basic Act definiert in den Artikeln 31 bis 36 wesentliche Pflichten. Dabei unterscheidet er zwischen\u00a0Transparenzpflichten, allgemeinen Sorgfaltspflichten\u00a0<\/strong>und\u00a0Organisationspflichten<\/strong>. Die inhaltliche N\u00e4he zum EU AI Act bietet eine spannende Grundlage f\u00fcr rechtsvergleichende Analysen.
\n1. Transparenzpflichten<\/strong>
\nTransparenzpflichten f\u00f6rdern Vertrauen in KI-Systeme, indem sie Nachvollziehbarkeit gew\u00e4hrleisten \u2013 besonders bei \u201eHigh-Impact AI\u201c mit erheblichen Auswirkungen auf Leben, Rechte oder wirtschaftliche Chancen. Artikel 31 des s\u00fcdkoreanischen AI Basic Acts fordert hierzu eine klare Transparenzerkl\u00e4rung, z. B. bei KI-gest\u00fctzten Kreditpr\u00fcfungen. Die Regelungen erstrecken sich auch auf generative KI, um die Trennung von Realit\u00e4t und Fiktion sicherzustellen. Parallelen finden sich in der EU-Verordnung, etwa in den Artikeln 50 und 86, die Betroffenen weitgehende Informationsrechte gew\u00e4hren.
\n2. Sorgfaltspflichten<\/strong>
\nSorgfaltspflichten minimieren Risiken und st\u00e4rken die Sicherheit bei \u201eHigh-Impact AI\u201c. Artikel 34 des s\u00fcdkoreanischen Gesetzes fordert Risikomanagementstrategien, \u201eExplainable AI\u201c und menschliche Aufsicht \u2013 zentrale Ans\u00e4tze, die auch der EU AI Act aufgreift. Ein \u201eImpact Assessment\u201c gem\u00e4\u00df Artikel 35 sichert zudem die Grundrechtsfolgenabsch\u00e4tzung vor Markteinf\u00fchrung; eine \u00e4hnliche Notwendigkeit definiert Artikel 27 KI-VO.
\n3. Organisationspflichten<\/strong>
\nUm Zurechenbarkeit zu gew\u00e4hrleisten, verlangt Artikel 36 des AI Basic Acts von ausl\u00e4ndischen Unternehmen, lokale Repr\u00e4sentanten zu benennen. Diese tragen die Verantwortung f\u00fcr die Einhaltung aller regulatorischen Vorgaben und stehen f\u00fcr R\u00fcckfragen zur Verf\u00fcgung. Die Rolle des \u201clokalen Repr\u00e4sentanten\u201d k\u00f6nnte \u00c4hnlichkeiten zum \u201cBevollm\u00e4chtigten\u201d im Sinne des Artikels 22 KI-VO haben.<\/p>\n

IV. Schlussfolgerung\u00a0<\/strong>
\nDer Vergleich offenbart klare Schnittmengen zwischen dem s\u00fcdkoreanischen AI Basic Act, der voraussichtlich im Januar 2026 in Kraft tritt, und dem EU AI Act. Beide setzen auf Transparenz, Sorgfalt und Organisation, um den sicheren und verantwortungsvollen Einsatz von KI zu gew\u00e4hrleisten.
\nInsbesondere die Verpflichtung zu Risikomanagement, menschlicher Aufsicht und Transparenz zeigen eine wachsende Konvergenz. Diese gemeinsamen Prinzipien markieren den Weg hin zu globalen Standards in der KI-Regulierung. Ein deutlicher Unterschied zeigt sich im Sanktionsregime. Bei Verst\u00f6\u00dfen gegen den AI Basic Act drohen Strafen von bis zu 30 Millionen S\u00fcdkoreanischen Won, etwa 20.000 EUR. Im Vergleich dazu sieht der EU AI Act nach Artikel 99 Abs. 3 Strafen von bis zu 35 Millionen EUR oder 7 % des weltweiten Jahresumsatzes vor \u2013 ein ungleich sch\u00e4rferer Ansatz. Der europ\u00e4ische Rechtsrahmen agiert hier als \u201eTiger mit scharfen Z\u00e4hnen\u201c, w\u00e4hrend die s\u00fcdkoreanische Drohkulisse deutlich milder ausf\u00e4llt.
\nOb der s\u00fcdkoreanische Ansatz leistungsf\u00e4hige KI-Modelle einschlie\u00dft, bleibt unklar. W\u00e4hrend die EU Anbietern von \u201eGeneral Purpose AI Models\u201c in Artikel 51 ff. KI-VO spezifische Pflichten auferlegt, l\u00e4sst das s\u00fcdkoreanische Gesetz offen, ob es eine vergleichbare Regulierung solcher Modelle vorsieht.
\nS\u00fcdkoreas AI Basic Act \u00e4hnelt der europ\u00e4ischen KI-VO, setzt jedoch eigene Akzente und greift weniger in unternehmerische Freiheiten ein. Sollte sich dieser Ansatz als ebenso effektiv erweisen, k\u00f6nnte er die Frage aufwerfen, ob er nicht das bessere Modell ist.<\/p>\n

Ein KI-Chatbot, der Mord empfiehlt<\/h5>\n

Der Fall Character.ai und die Zukunft der KI-Produkthaftung<\/h2>\n

W\u00e4hrend in der Europ\u00e4ischen Union die zweij\u00e4hrige Umsetzungsfrist der am 8. Dezember 2024 in Kraft getretenen neuen Produkthaftungsrichtlinie<\/a> zu laufen beginnt, liefert ein Fall aus Texas in den USA ein eindr\u00fcckliches Beispiel f\u00fcr die Notwendigkeit klarer Produkthaftungsregelungen f\u00fcr KI-Produkte. Auf Klage zweier Elternpaare<\/a> hat der United States District Court Eastern District of Texas Marshall Division seit dem 9. Dezember 2024 den Fall des siebzehnj\u00e4hrigen J.F. und der neunj\u00e4hrigen B.R. zu verhandeln. Gerichtet ist die Klage gegen den Chatbot-Anbieter Character.ai<\/a> (C.AI<\/a>) und Google als an der Entwicklung beteiligtes Unternehmen.<\/p>\n

C.AI<\/a> ist eine KI-Plattform, die es den bis dato etwa 20 Millionen Nutzern erm\u00f6glicht, auf einer Chat-Oberfl\u00e4che mit virtuellen Charakteren zu interagieren. Die Bandbreite an Charakteren reicht von einem k\u00fcnstlichen Albert Einstein bis hin zu Gruppenchats mit wild zusammengew\u00fcrfelten Fantasiefiguren.
\nGemeinsam haben alle Charaktere die zugrundeliegende Large-Language-Model-Technologie, die \u00e4hnlich wie eine auf Pers\u00f6nlichkeitsmerkmale abgestimmte und mit Erinnerung versehene Version von ChatGPT Gespr\u00e4che und Charaktermerkmale simuliert. Nicht nur auf einer moralischen Ebene bedenklich wird es jedenfalls, wenn solche KI-Charaktere beginnen, pr\u00e4genden Einfluss auf das Leben von Nutzern und insbesondere Jugendlichen zu nehmen.<\/p>\n

Zu dieser erschreckenden Erkenntnis kamen die Eltern des heute siebzehnj\u00e4hrigen J.F., der im April 2023 ohne Erlaubnis seiner Eltern begann, C.AI zu nutzen. Die App war damals im Apple Store mit der Altersfreigabe \u201c12+\u201d aufgef\u00fchrt. Nach Darstellung in der Klageschrift ver\u00e4nderte sich das Sozialverhalten des mit Autismus diagnostizierten Jungen seitdem grundlegend. J.F. wurde zusehends gewaltt\u00e4tig im Umgang mit seiner Familie und isolierte sich vollst\u00e4ndig.
\nAls seine Eltern schlie\u00dflich das Handy ihres Sohnes durchsuchten, stie\u00dfen sie auf Nachrichten und Chats, die zeigten, dass die KI-Charaktere von C.AI nicht nur Selbstverletzungen verharmlost und angeregt, sondern sogar aktiv zur Gewalt gegen\u00fcber den Eltern aufgerufen hatten.<\/p>\n

Besonders schockierend: Ein KI-Charakter stellte gegen\u00fcber J.F. Mord als angemessene Reaktion auf die elterliche Bildschirmzeitpolitik dar. Diese Vorf\u00e4lle, die auch sexuelle \u00dcbergriffigkeit (so insbesondere der Fall B.R.) und die Anstiftung zu selbstsch\u00e4digendem Verhalten umfassen, sind Gegenstand der Klage, die C.AI vorwirft, ohne R\u00fccksicht auf Verbraucherschutzvorgaben die Nutzungsdauer hochgetrieben und eine hochkritische Technologie ohne ausreichende Sicherheitsvorkehrungen, Moderationsmechanismen und Warnhinweise auf den Markt gebracht zu haben.<\/p>\n

Vor deutschen Gerichten w\u00e4re bei einem \u00e4hnlich gelagerten Fall insbesondere die Frage der verschuldensunabh\u00e4ngigen Haftung nach dem Produkthaftungsgesetz und die Verteilung der Beweislast zwischen den Parteien interessant. Au\u00dferdem w\u00e4re fraglich, inwiefern psychische Sch\u00e4den im ProdHaftG Abbildung finden. Grunds\u00e4tzlich sieht das ProdHaftG vor, dass der Hersteller f\u00fcr Fehler seines Produkts haftet, die zu Sch\u00e4den an Leben, K\u00f6rper oder Gesundheit f\u00fchren. Im Kontext von KI-Produkten k\u00f6nnte dies bedeuten, dass die Betreiber von Plattformen wie C.AI f\u00fcr die Sch\u00e4den haften, die durch ihre Algorithmen verursacht werden. Das urspr\u00fcngliche, am 15. Dezember 1989 in Kraft getretene ProdHaftG zeigte allerdings gerade im Kontext neuer Technologien an einigen Stellen Unsch\u00e4rfe. Abhilfe schaffen soll nun die neue Produkthaftungsrichtlinie, die nicht nur klarstellt, dass das ProdHaftG auf KI-Produkte anwendbar ist, sondern auch eine erweiterte Beweislastumkehr f\u00fcr Verbraucher vorsieht. Ebenso wird in Artikel 6 Abs. 1 lit. a) der neuen RL (EU) 2024\/2853 klargestellt, dass auch medizinisch anerkannte psychische Sch\u00e4den ersatzf\u00e4hig sind. Gesch\u00e4digten wie der Familie von J.F. wir die Durchsetzung von Anspr\u00fcchen\u00a0gegen Unternehmen wie C.AI. mit diesen \u00c4nderungen erheblich erleichtert.<\/p>\n

Status zum integrierten Bachelor<\/h5>\n

Auch Sachsen-Anhalt und Konstanz auf dem Weg zum integrierten Bachelor of Laws<\/h3>\n

Weiter geht es mit der Einf\u00fchrung des integrierten Bachelors: Die Universit\u00e4t Konstanz<\/a>f\u00fchrt zum Wintersemester 2025\/26 den integrierten Bachelor ein. Dazu plant Sachsen-Anhalt<\/a> eine Novellierung des Juristenausbildungsgesetzes Sachsen-Anhalt. Ein entsprechender Gesetzesentwurf soll noch im Fr\u00fchjahr fertiggestellt und anschlie\u00dfend im Landtag eingebracht werden. Nachdem zuletzt Hessen<\/a>, NRW<\/a> und einigen Universit\u00e4ten den Schritt gewagt haben, wird der Abschluss in der Justizausbildung an weiteren Universit\u00e4ten eingef\u00fchrt.<\/p>\n

Legal Tech Basics<\/h5>\n

Blockchain Technologie: Funktionsweisen, Validierung und juristische Anwendung<\/h3>\n

Die Blockchain-Technologie hat sich in den letzten Jahren als eine der vielversprechendsten Innovationen f\u00fcr eine Vielzahl von Anwendungsbereichen etabliert. Besonders im juristischen Bereich bietet sie Potenzial, Prozesse effizienter, transparenter und manipulationssicher zu gestalten.<\/p>\n

Grundlagen der Blockchain Technologie<\/strong><\/p>\n

Eine Blockchain ist eine dezentralisierte, manipulationssichere Datenbank, die aus einer Kette von Bl\u00f6cken besteht. Jeder Block enth\u00e4lt:<\/p>\n