{"id":5103,"date":"2023-07-11T08:36:45","date_gmt":"2023-07-11T07:36:45","guid":{"rendered":"https:\/\/recode.law\/?p=5103"},"modified":"2023-09-22T14:56:16","modified_gmt":"2023-09-22T13:56:16","slug":"newlaw-radar-64-23-ai-act-verabschiedet-haftung-fuer-ki-und-chatgpt-in-der-berufspraxis","status":"publish","type":"post","link":"https:\/\/recode.law\/en\/newlaw-radar-64-23-ai-act-verabschiedet-haftung-fuer-ki-und-chatgpt-in-der-berufspraxis\/","title":{"rendered":"NewLaw Radar 64\/23 \u2013 AI Act verabschiedet, Haftung f\u00fcr KI und ChatGPT in der Berufspraxis"},"content":{"rendered":"

Editor’s Ramble #64<\/strong><\/p>\n

Wir freuen uns, euch mitteilen zu k\u00f6nnen, dass unser Newsletter ab sofort einmal monatlich erscheint. Durch diese \u00c4nderung k\u00f6nnen wir euch mehr Tiefe und Qualit\u00e4t garantieren. Jeder Newsletter wird sorgf\u00e4ltig geplant, recherchiert und gestaltet, um euch eine umfangreichere Berichterstattung und gr\u00fcndliche Analysen zu bieten.<\/p>\n

In der heutigen Ausgabe unseres Newsletters werfen wir einen Blick auf den k\u00fcrzlich verabschiedeten “AI Act” des Europ\u00e4ischen Parlaments. Der Weg f\u00fcr den Trilog ist frei, um das Gesetz final zu gestalten und umzusetzen. Es gibt weiterhin Bedenken bez\u00fcglich m\u00f6glicher Vor- und Nachteile sowie Risiken, w\u00e4hrend auf der anderen Seite eine wachsende Forderung nach einer einheitlichen Regulierung und die M\u00f6glichkeit von “Reallaboren” zur F\u00f6rderung der KI-Entwicklung besteht.<\/p>\n

Im Bereich des Urheberrechts und k\u00fcnstlicher Intelligenz stellen sich komplexe Fragen<\/a> bez\u00fcglich der Haftung und Schadensersatzanspr\u00fcche. Die Verantwortung liegt dabei sowohl bei den Unternehmen, die die KI-Technologie entwickeln, als auch bei den Nutzern, die sie einsetzen. Die Durchsetzung von Anspr\u00fcchen gestaltet sich schwierig, und es besteht die Notwendigkeit, Mechanismen wie Quellenangaben und Verwertungsgesellschaften einzuf\u00fchren, um die Interessen der Urheber zu sch\u00fctzen.<\/p>\n

In einem neuen Thomson Reuters Report<\/a> werden die sich wandelnden Einstellungen zur Nutzung von generativer KI und ChatGPT in Anwaltskanzleien diskutiert. Eine k\u00fcrzlich durchgef\u00fchrte Umfrage zeigt, dass die Meinungen \u00fcber den Einsatz dieser Technologien in der Rechtsbranche stark divergieren. W\u00e4hrend einige die potenziellen Ver\u00e4nderungen und Vorteile sehen, betonen andere die unbekannten Risiken und die Notwendigkeit, Vorsichtsma\u00dfnahmen zu ergreifen. Ein Fall aus den USA verdeutlicht die Bedeutung der menschlichen Verantwortlichkeit und Sorgfalt im Umgang mit k\u00fcnstlicher Intelligenz.<\/p>\n

Wir sind gespannt auf eure Meinung! Euer Feedback zu unseren Inhalten ist uns \u00e4u\u00dferst wichtig, und wir freuen uns \u00fcber eure Vorschl\u00e4ge. Schickt uns einfach eine E-Mail an radar@recode.law und teilt uns mit, was ihr denkt. Wir sind dankbar f\u00fcr jede R\u00fcckmeldung!<\/p>\n

Gionatan<\/a>, Nils<\/a>, Friedrich<\/a>, <\/strong>Johanna<\/a>, <\/strong>Max<\/a>, Julius<\/a> und Valerie<\/a><\/p>\n

 <\/p>\n

AI Act<\/span><\/p>\n

AI Act – Fluch oder Segen?<\/h3>\n

Das Europ\u00e4ische Parlament hat am 14. Juni den \u201cAI Act\u201d angenommen und somit ist der Weg f\u00fcr den Trilog frei, indem \u00fcber die Finalisierung und Umsetzung des Gesetzes beraten wird. Erst nachdem sich das Parlament, der Rat und die Kommission auf einen Kompromiss geeinigt haben, kann der \u201cAI Act\u201d in geltendes Recht erstarken. Bis das Gesetz also tats\u00e4chlich kommt, wird es wohl noch etwas dauern.
\nEs wurde bereits viel \u00fcber den Act diskutiert und Vor- sowie Nachteile oder Risiken aufgezeigt.<\/p>\n

Das Contra Lager bef\u00fcrchtet vor allem einen Schaden in der Wirtschaft, denn eine \u201c\u00dcberregulierung\u201d von Innovation wird stets als gef\u00e4hrlich erachtet. Hinzu kommen auch die Sorgen um die Kosten der Regelkonformit\u00e4t und letztendlich w\u00fcrde Europa somit durch den \u201cAI Act\u201d einen negativen Standortfaktor erhalten.
\nDes Weiteren werden die vagen und unpr\u00e4zisen Definitionen \u201chohes Risiko\u201d und welche Software unter \u201cK\u00fcnstliche Intelligenz\u201d f\u00e4llt, kritisiert. Durch unklare Begriffe entsteht eine Unsicherheit, die vor allem Start-ups und Unternehmen vor dem Standort EU abschrecken k\u00f6nnten oder zu einer verminderten Nutzung von KI f\u00fchren k\u00f6nnte.<\/p>\n

Auf der anderen Seite wird auch der Wunsch nach einer einheitlichen Regulierung in Europa st\u00e4rker und f\u00fcr die Bedenken der \u00dcberregulierung beinhaltet der \u201cAI Act\u201d die M\u00f6glichkeit der Entwicklung von KI in sogenannten \u201cSandboxes\u201d oder \u201cReallaboren\u201d. In diesen werden KI-Entwicklungen eng von den Beh\u00f6rden betreut und m\u00fcssen dann gegebenenfalls nicht alle Grenzen des Acts einhalten. Sobald eine KI-Entwicklung dann aber auf den Markt kommen soll, m\u00fcssen die Bestimmungen der Grenzen wieder eingehalten werden. Somit werden die \u201cReallabore\u201d nur als Forschungsf\u00f6rderung angesehen, jedoch ungeeignet f\u00fcr die Privatwirtschaft.<\/p>\n

 <\/p>\n

Status Quo und Ausblick<\/span><\/p>\n

Entsch\u00e4digung von K\u00fcnstler aufgrund k\u00fcnstlicher Intelligenz?<\/h3>\n

Im Zusammenhang mit der Verwendung von k\u00fcnstlicher Intelligenz im Bereich des Urheberrechts stellen sich eine Reihe von komplexen Fragen. Zentrale Fragen sind, von wem Schadensersatzanspr\u00fcche geltend gemacht werden k\u00f6nnen. Wer haftet, wenn ein k\u00fcnstliches Intelligenzsystem ein urheberrechtlich gesch\u00fctztes Werk verwendet? Sind es die Unternehmen, die hinter der Entwicklung und Bereitstellung der KI-Technologie stehen? Oder sind es die Nutzer, die die KI zur Erstellung oder Verbreitung von Inhalten einsetzen?<\/p>\n

Des Weiteren stellt sich die Frage, wer als T\u00e4ter und St\u00f6rer im Sinne des Strafrechts betrachtet werden kann und wie diese Personen ermittelt werden. \u00c4hnlich wie bei Providern ergeben sich auch bei der Verwendung von KI \u00e4hnliche Probleme. Beim Filesharing oder illegalem Videostreaming kann man vom Provider Auskunft \u00fcber die Nutzer verlangen. Daher stellt sich die Frage, ob man auch von KI-Unternehmen Auskunft \u00fcber die Verwendung urheberrechtlich gesch\u00fctzter Werke verlangen kann, ohne dass diese f\u00fcr Urheberrechtsverletzungen haftbar gemacht werden.<\/p>\n

Die aktuelle Rechtslage ist in diesem Bereich noch unklar und l\u00e4sst Raum f\u00fcr Interpretationen. Das deutsche Urheberrechtsgesetz (UrhG) bietet K\u00fcnstlern unabh\u00e4ngig von einer Anmeldung ihres Werkes urheberrechtlichen Schutz. Eine entscheidende Frage ist, wer als Anspruchsgegner des K\u00fcnstlers in Betracht kommt. Ist es das Unternehmen, das die KI entwickelt und einsetzt? Ist es der Nutzer, der die KI zur Erstellung von Inhalten verwendet? Oder kann der K\u00fcnstler m\u00f6glicherweise beide in Anspruch nehmen?<\/p>\n

Es gibt zurzeit keine explizite Haftungsnorm f\u00fcr Inhaber von KI-Unternehmen gem\u00e4\u00df \u00a799 UrhG, da diese nur in den F\u00e4llen des Unterlassungsanspruches nach \u00a797 Absatz 1 UrhG greift. Die Durchsetzung von Schadensersatzanspr\u00fcchen in der Praxis gestaltet sich ebenfalls schwierig. Wie soll der Urheber feststellen, dass sein Werk von einer KI verwendet wurde? M\u00f6glicherweise kopiert die KI das gesamte Werk nicht, sondern nutzt nur einen Teil davon.<\/p>\n

Um eine L\u00f6sung f\u00fcr dieses Problem zu finden, stellt sich die Frage, ob KIs dazu bef\u00e4higt werden sollten, Quellenangaben zu lernen. K\u00f6nnte eine umfassende Datenbank aller Urheber praktikabel sein? Sind weitere Verwertungsgesellschaften wie die GEMA erforderlich, um die Interessen der Urheber im Zusammenhang mit KI zu sch\u00fctzen?<\/p>\n

 <\/p>\n

Neues zu ChatGPT<\/span><\/p>\n

Neuer Report zu ChatGPT & generativer KI in Anwaltskanzleien zeigt Chancen und Bedenken auf<\/h3>\n

In einem neuen Report von Thomson Reuters werden die sich wandelnden Einstellungen zur Verwendung von generativer KI und ChatGPT in Anwaltskanzleien diskutiert. Nachdem dieses Thema das Interesse vieler Anw\u00e4lt:innen und Expert:innen der Rechtsbranche geweckt hat, \u00fcberrascht es nicht, dass Meinungen hier stark divergieren. Sowohl \u00fcber potenzielle Ver\u00e4nderungen bei der Erbringung, Preisgestaltung und Ausf\u00fchrung von Rechtsdienstleistungen, die der breitere Einsatz von generativer KI mit sich bringen k\u00f6nnte, als auch \u00fcber die unbekannten Risiken, die eine solche Nutzung mit sich bringen k\u00f6nnte.<\/p>\n

In einer k\u00fcrzlich durchgef\u00fchrten Umfrage von Anw\u00e4lten gro\u00dfer und mittelgro\u00dfer Anwaltskanzleien in den USA spiegelt sich diese Dichotomie deutlich wider. Eine gro\u00dfe Mehrheit (82%) der Befragten gab an, dass sie der Meinung sind, dass ChatGPT und generative KI in der juristischen Arbeit eingesetzt werden k\u00f6nne, eine etwas kleinere Mehrheit (51%) sprach sich daf\u00fcr aus, dass ChatGPT und generativer KI hier eingesetzt werden sollte.<\/p>\n

Die Umfrage bildet die Grundlage des Reports mit dem Titel “ChatGPT & Generative KI in Anwaltskanzleien”, der einen tiefen Einblick in die sich entwickelnden Einstellungen zur generativen KI und ChatGPT in Anwaltskanzleien gibt. Dabei werden das Bewusstsein und die Akzeptanz der Technologie sowie die Ansichten der Anw\u00e4lte zu den potenziellen Risiken untersucht.
\nDa sich ChatGPT bzw. Generative KI inzwischen f\u00fcr einen Gro\u00dfteil der Rechtsbranche, von einem blo\u00dfen Konzept zur Realit\u00e4t entwickelt hat, verdienen die Erkenntnisse des Reports besondere Aufmerksamkeit von Anwaltskanzleien und Rechtsexperten. Diese Erkenntnisse umfassen unter anderem:<\/p>\n

Ver\u00e4nderung der Einstellung: Obwohl fast alle Befragten von ChatGPT und generativer KI geh\u00f6rt haben, ist der tats\u00e4chliche Einsatz in Anwaltskanzleien bisher recht begrenzt. Nur 3% der Befragten gaben an, derzeit tats\u00e4chlich generative KI nutzen. Eine deutlich gr\u00f6\u00dfere Anzahl (34%) gab allerdings an, dass ihre Kanzlei dar\u00fcber nachdenke, ob generative KI f\u00fcr juristische Arbeitsabl\u00e4ufe eingesetzt werden sollte.<\/p>\n

Vorsichtiger proaktiver Ansatz: Etwa 15% der Befragten gaben an, dass ihre Kanzleien ihre Mitarbeiter vor unbefugter Nutzung generativer KI am Arbeitsplatz gewarnt, 6% sogar, dass ihre Kanzleien eine unbefugte Nutzung generativer KI vollst\u00e4ndig verboten habe. Dies zeigt, dass viele Anw\u00e4lte die Bedeutung von Schutzma\u00dfnahmen bei der Nutzung generativer KI verstehen. Alle Befragten betonten zudem, dass sie den generativen KI-Tools, insbesondere dem \u00f6ffentlich zug\u00e4nglichen ChatGPT-Tool, nicht vollst\u00e4ndig vertrauen, wenn es um vertrauliche Mandantendaten geht.
\nWachsendes Bewusstsein f\u00fcr Risiken: Ein gro\u00dfer Teil der Befragten (62%) hat Bedenken hinsichtlich der Nutzung generativer KI am Arbeitsplatz, einschlie\u00dflich 80% der Partner oder Managing Partner. Viele der ge\u00e4u\u00dferten Bedenken drehen sich um die Genauigkeit und Sicherheit der Technologie, insbesondere hinsichtlich Privatsph\u00e4re und Mandantenschutz. Dennoch sind sich viele Beobachter der Rechtsbranche bewusst, dass wir in Bezug auf generative KI und ChatGPT noch am Anfang stehen. Zu erwarten ist, dass generative KI und ChatGPT zuk\u00fcnftig in Anwaltskanzleien genauso weit verbreitet sein werden wie die Online-Recherche und die elektronische Vertragsunterzeichnung heute.<\/p>\n

Unabh\u00e4ngig von welcher Seite der Debatte \u00fcber diese aufstrebende Technologie sich ein Anwalt befindet, macht der Bericht eines klar: Egal welches Niveau der Einsatz von ChatGPT und generativer KI letztendlich in Anwaltskanzleien und in der gesamten Rechtsbranche erreicht, diese Technologie hat das Potenzial, die Branche zu ver\u00e4ndern. Selbst in ihrer Anfangsphase wird die zunehmende Akzeptanz von ChatGPT und generativer KI als Wendepunkt betrachtet.<\/p>\n

“Innerhalb der n\u00e4chsten sechs Monate wird jeder in der Kanzlei es nutzen”, sagte Charlotte Woolven-Brown, Leiterin der Abteilung Arbeitsrecht und Partnerin bei der Anwaltskanzlei Sternberg Reed, UK. “Und es gibt absolut keine M\u00f6glichkeit, das aufzuhalten, weil die Menschen sich mehr mit dem besch\u00e4ftigen werden, was passiert und wie schnell sich diese Technologie entwickelt.”<\/p>\n

Ein Beispiel, in dem die Verwendung von AI durch Rechtsanw\u00e4lte nicht funktioniert hat, zeigt folgender Fall aus den USA.
\nAnw\u00e4lte brachten vor einem Bundesgericht von ChatGPT generierte, gef\u00e4lschte Zitate und vollst\u00e4ndig erfundene F\u00e4lle ein.<\/p>\n

Obwohl sie versuchten, die Verantwortung auf die k\u00fcnstliche Intelligenz zu w\u00e4lzen, kam der Richter P. Kevin Castel zu dem Schluss, dass die Anw\u00e4lte selbst in der Verantwortung stehen, die durch generative AI bereitgestellten Informationen zu \u00fcberpr\u00fcfen. Indem sie die F\u00e4lle nicht \u00fcberpr\u00fcften, verstie\u00dfen sie gegen ihre anwaltlichen Sorgfaltspflichten.<\/p>\n

Auch das Argument eines der betroffenen Anw\u00e4lte, er habe die M\u00f6glichkeit, ChatGPT k\u00f6nne fiktive F\u00e4lle zitieren oder sogar erfinden niemals in Betracht gezogen und sie lediglich wie eine Suchmaschine verwendet sei nicht haltbar. Vielmehr betonte der Richter, dass die Anw\u00e4lte die durch GPT bereitgestellten Informationen genauer pr\u00fcfen m\u00fcssen, da sie sich selbst, ihren Mandanten, dem Gericht und der Wahrheit gegen\u00fcber verpflichtet seien. Es handele sich hierbei um ein Versagen der Menschen und nicht um technische M\u00e4ngel.<\/p>\n

Obwohl einige Kritik an den Sch\u00f6pfern gro\u00dfer Sprachmodelle gerichtet werden kann, weil sie Benutzer m\u00f6glicherweise \u00fcber die Glaubw\u00fcrdigkeit der generativen KI in die Irre gef\u00fchrt haben, ist Richter Castel der Ansicht, dass die Verantwortung bei den Anw\u00e4lten liegt. Wenn Technologie als Werkzeug verwendet wird, ist es Aufgabe der Verwendenden Anw\u00e4lte, die Ausgaben zu \u00fcberpr\u00fcfen. Dieser Fall verdeutlicht die Bedeutung menschlicher Verantwortlichkeit und Sorgfalt im Umgang mit neuer Technologie, insbesondere k\u00fcnstlicher Intelligenz.<\/p>\n

 <\/p>\n

KI in der Justiz: Effizientere Entscheidungen durch innovative Technologien<\/span><\/p>\n

In Nordrhein-Westfalen und Bayern: Einsatz k\u00fcnstlicher Intelligenz in der Justiz<\/h3>\n

Der Einsatz k\u00fcnstlicher Intelligenz in der Justiz von Nordrhein-Westfalen und Bayern steht im Fokus. Die beiden Bundesl\u00e4nder setzen auf innovative Technologien, um effizientere und schnellere Entscheidungen zu treffen. Durch den Einsatz von KI-Systemen k\u00f6nnen beispielsweise rechtliche Texte automatisch analysiert und Ausk\u00fcnfte zu Rechtsfragen gegeben werden.
\nZiel ist es, die Arbeitsbelastung der Justizmitarbeiter zu reduzieren und den B\u00fcrgern einen besseren Zugang zum Recht zu erm\u00f6glichen. Der Einsatz von KI in der Justiz ist ein spannender Schritt in Richtung digitaler Transformation und k\u00f6nnte zuk\u00fcnftig weitere Verbesserungen im Rechtssystem bringen.<\/p>\n

 <\/p>\n

Podcast-Tipp<\/span><\/p>\n

NewLaw Radar-Podcast: Legal Tech im Energierecht – Die digitale Transformation einer Branche<\/h3>\n

Warum eignet sich Legal Tech gerade auch im Energierecht? Welche Legal Tech-Anwendungen gibt es in diesem Rechtsgebiet bereits? Und was war der Einfluss der Energiekrise auf die Digitalisierung des Energierechts? Antworten auf diese und weitere Fragen findet ihr in unserer neuesten Folge des NewLaw Radar-Podcasts.<\/p>\n

Hier geht’s zum Podcast<\/a><\/span><\/p>\n

 <\/p>\n

Podcast-Tipp<\/span><\/p>\n

Ref-Pod: Der Podcast f\u00fcr angehende Jurist:innen im Referendariat<\/h3>\n

Die nordrhein-westf\u00e4lische Justiz hat den Podcast “RefPod” gestartet, der sich speziell an Referendar:innen richtet. In diesem Podcast werden relevante Themen rund um das juristische Referendariat behandelt, wie beispielsweise Pr\u00fcfungsvorbereitung, Examensstress und Karrierechancen. Mit dem RefPod m\u00f6chte die Justiz NRW angehenden Jurist:innen eine informative und praxisnahe Unterst\u00fctzung bieten.<\/p>\n

Hier geht’s zum Podcast<\/span><\/a><\/p>\n

 <\/p>\n

 <\/p>","protected":false},"excerpt":{"rendered":"

Editor’s Ramble #64 Wir freuen uns, euch mitteilen zu k\u00f6nnen, dass unser Newsletter ab sofort einmal monatlich erscheint. Durch diese \u00c4nderung k\u00f6nnen wir euch mehr Tiefe und Qualit\u00e4t garantieren. Jeder Newsletter wird sorgf\u00e4ltig geplant, recherchiert und gestaltet, um euch eine umfangreichere Berichterstattung und gr\u00fcndliche Analysen zu bieten. In der heutigen Ausgabe unseres Newsletters werfen wir […]<\/p>","protected":false},"author":17,"featured_media":5316,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_lmt_disableupdate":"no","_lmt_disable":"no","footnotes":""},"categories":[47,276],"tags":[277,303,295,310,308,296,312,302,313,278,319,297,301,286,289,318,306,280,291,285,126,68,305,315,307,314,288,281,309,316,317,294,299,284,292,282,287,304,279,283,290,298,293,300,311],"class_list":["post-5103","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news","category-new-law-radar","tag-ai-act","tag-anwaltliche-sorgfaltspflichten","tag-anwaltskanzleien","tag-arbeitsbelastung","tag-bayern","tag-chatgpt","tag-digitalisierung-des-energierechts","tag-einsatz-von-ai-durch-rechtsanwaelte","tag-energierecht","tag-europaeisches-parlament","tag-european-union","tag-generative-ki","tag-generative-ki-tools","tag-haftung","tag-interpretationen","tag-juristische-karriere","tag-ki-in-der-justiz","tag-ki-entwicklung","tag-ki-unternehmen","tag-kuenstlerentschaedigung","tag-kuenstliche-intelligenz","tag-legal-tech","tag-menschliche-verantwortlichkeit","tag-newlaw-radar-podcast","tag-nordrhein-westfalen","tag-podcast","tag-providerauskunft","tag-reallabore","tag-rechtsfragen","tag-ref-pod","tag-referendariat","tag-risiken-und-chancen","tag-risikobewusstsein","tag-schadensersatz","tag-schutzmassnahmen","tag-standortfaktor","tag-strafrecht","tag-technische-maengel","tag-ueberregulierung-von-innovation","tag-urheberrecht","tag-urheberrechtsgesetz","tag-veraenderung-der-einstellung","tag-vertrauliche-mandantendaten","tag-wendepunkt","tag-zugang-zum-recht"],"acf":[],"modified_by":"Gionatan Sole","_links":{"self":[{"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/posts\/5103","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/users\/17"}],"replies":[{"embeddable":true,"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/comments?post=5103"}],"version-history":[{"count":11,"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/posts\/5103\/revisions"}],"predecessor-version":[{"id":5117,"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/posts\/5103\/revisions\/5117"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/media\/5316"}],"wp:attachment":[{"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/media?parent=5103"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/categories?post=5103"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/tags?post=5103"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}