{"id":2186,"date":"2019-06-21T23:44:14","date_gmt":"2019-06-21T22:44:14","guid":{"rendered":"https:\/\/recode.law\/?p=2186"},"modified":"2021-02-15T23:49:03","modified_gmt":"2021-02-15T22:49:03","slug":"wo-befindet-sich-die-debatte-ueber-die-verleihung-von-rechtspersoenlichkeit-an-kuenstliche-intelligenz","status":"publish","type":"post","link":"https:\/\/recode.law\/en\/wo-befindet-sich-die-debatte-ueber-die-verleihung-von-rechtspersoenlichkeit-an-kuenstliche-intelligenz\/","title":{"rendered":"Wo befindet sich die Debatte \u00fcber die Verleihung von Rechtspers\u00f6nlichkeit an k\u00fcnstliche Intelligenz?"},"content":{"rendered":"

Der technische Fortschritt schreitet voran. K\u00fcnstliche Intelligenz spielt Schach, Go und Jeopardy besser als Menschen. Wir bekommen das \u201eInternet of Things\u201c.\u00a0Die Rechenleistung und Leistungsf\u00e4higkeit von Computern steigt und steigt. KI trifft zunehmend selbst\u00e4ndig Entscheidungen, die unseren Alltag beeinflussen.<\/span><\/p>\n

KI ist aber nicht nur besser als wir in Brettspielen und Quizshows, sondern hilft uns auch in der Praxis. Staubsaugroboter, digitale Sprachassistenten oder riesige Datenanalyse-Tools unterst\u00fctzen uns in unserem Alltag.\u00a0Aufgrund der zunehmenden Einsatzm\u00f6glichkeiten von KI, ihren selbstst\u00e4ndigen Entscheidungsprozessen und der fortschreitenden technischen Entwicklung, stellen sich aus rechtlicher Sicht noch viele Fragen? Wer haftet zum Beispiel, wenn dein digitaler Assistent \u201eaus Versehen\u201c die Dusche anschaltet und einen Wasserschaden bei deinem Nachbarn verursacht? Kann KI selbst\u00e4ndig innerhalb von Sekunden Aktien erwerben und wieder ver\u00e4u\u00dfern? Kann KI dazu gezwungen werden, sich an Gesetze zu halten? Um f\u00fcr diese Fragen eine L\u00f6sung zu finden, m\u00fcssen wir uns die Frage stellen: Wie ordnen wir s\u00e4mtliche Formen k\u00fcnstlicher Intelligenz rechtlich ein?<\/span><\/p>\n

Infolge dieser relevanten Probleme gewinnt die Diskussion \u00fcber die rechtliche Qualit\u00e4t von KI immer mehr an Bedeutung. Dabei lassen sich grunds\u00e4tzlich zwei Ans\u00e4tze erkennen: Einige wollen k\u00fcnstlich intelligente Systeme in vollem Ma\u00dfe rechtlich verselbst\u00e4ndigen, andere erkennen \u00fcberhaupt keinen Handlungsbedarf.<\/span><\/p>\n

Die Problematik ist auch in der Politik angekommen. Sie wurde in einer Entschlie\u00dfung des Europ\u00e4ischen Parlaments vom 16.2.2017 aufgegriffen. Dort wird zumindest f\u00fcr die \u201eh\u00f6chstentwickelten k\u00fcnstlichen Intelligenzen\u201c die Schaffung einer eigenst\u00e4ndigen Rechtspers\u00f6nlichkeit angedacht.\u00a0Daran ankn\u00fcpfend soll dieser Artikel darstellen, wo sich die Debatte \u00fcber die rechtliche Stellung von KI momentan in der Wissenschaft befindet und was m\u00f6gliche L\u00f6sungsans\u00e4tze f\u00fcr einen interessengerechten und angemessenen Umgang mit KI sein k\u00f6nnen.<\/span><\/p>\n

Was sagen die Bef\u00fcrworter?<\/span><\/h4>\n

Was sagen nun diejenigen, die sich f\u00fcr eine Rechtsf\u00e4higkeit von KI einsetzen? F\u00fcr diese Form von Rechtspers\u00f6nlichkeit hat sich \u2013 vor allem von ihren Bef\u00fcrwortern \u2013 der Begriff der \u201eePerson\u201c eingeb\u00fcrgert. Grundkonzept ist, dass die k\u00fcnstliche Intelligenz durch die \u201eePerson\u201c wie eine nat\u00fcrliche Person am Rechtsverkehr teilnehmen soll.\u00a0Damit k\u00f6nnte die einen Schaden verursachende KI direkt auf Schadensersatzzahlung in Anspruch genommen werden.<\/span><\/p>\n

Die Vertreter einer solchen Forderung berufen sich zun\u00e4chst darauf, dass Rechtspers\u00f6nlichkeit nicht zwangsl\u00e4ufig mit der Eigenschaft als nat\u00fcrliche Person verbunden sei. Gerade eine Kapitalgesellschaft in Form einer AG oder GmbH sei rechtlich von den hinter ihr stehenden Personen komplett verselbst\u00e4ndigt. Die Zurechnung von Entscheidungen einer KI sei ein juristischer Kunstgriff, habe aber mit dem aktuellen Stand der Technik nichts zu tun.\u00a0Denn eine KI f\u00e4nde ihre Ergebnisse eben nicht mehr nur auf Basis der ihr durch den Menschen vorgegebenen Kriterien, sondern entwickle solche Kriterien selbst. Manche gehen sogar weiter und verk\u00fcnden, k\u00fcnstliche Intelligenzen h\u00e4tten in ihren F\u00e4higkeiten den Menschen ein- oder sogar \u00fcberholt und es sei demzufolge nur konsequent , ihnen Rechtspers\u00f6nlichkeit zuzusprechen.<\/p>\n

Freilich st\u00fctzen die Vertreter dieser Ansicht die Forderung nach einer \u201eePerson\u201c nicht nur auf rechtsphilosophische Erw\u00e4gungen wie menschliche Willensfreiheit oder das Pers\u00f6nlichkeitsrecht, sondern auch auf praktische Erw\u00e4gungen: \u00a0Ausgangspunkt sei, dass eine KI keinem durch einen Menschen festgelegten Ablauf mehr folge. Der Betreiber oder Urheber habe somit keinen Einfluss auf die Entscheidungsfindung des Systems. Dadurch entst\u00fcnde eine Verantwortungsl\u00fccke, die nach den geltenden rechtlichen Regeln nicht mehr zu bew\u00e4ltigen sei. Der Inhaber des k\u00fcnstlichen Systems w\u00e4re durch Einf\u00fchrung der \u201eePerson\u201c von der Haftung f\u00fcr ein Verhalten befreit, \u00fcber das er selbst nicht entschieden h\u00e4tte.\u00a0Dabei sei zu beachten, dass der Rechtsverkehr zunehmend durch KI abgewickelt werde. So w\u00fcrden in Zukunft sicherlich auch selbst\u00e4ndig Vertr\u00e4ge durch KI geschlossen und ausgef\u00fchrt (so im Falle von\u00a0smart contracts<\/span>). Im Ergebnis w\u00e4re die Konsequenz ein haftungsfreier Raum \u2013 den die selbst\u00e4ndige \u201eePerson\u201c schlie\u00dfen w\u00fcrde. Die notwendige Haftungsmasse lie\u00dfe sich zum Beispiel durch Einrichtungen von Pflichtversicherungen beschaffen.<\/p>\n

Der Teufel liegt aber im Detail. Denn eine uneingeschr\u00e4nkte Rechtssubjektivit\u00e4t hie\u00dfe am Ende auch, dass sich KI wom\u00f6glich sogar auf Grundrechte berufen, dass sie Eigentum erwerben oder Kredite aufnehmen k\u00f6nnten.\u00a0Solche Konsequenzen wollen viele dann doch nicht ziehen. \u00a0Dabei ist den meisten Autoren gemein, dass sie zwischen den verschiedenen Formen der k\u00fcnstlichen Intelligenzen und den durch sie entstehenden Risiken unterscheiden wollen (Smart contracts\u00a0<\/span>seien demnach anders zu behandeln als ein Roboter, der Autos zusammensetzt).\u00a0Sie stehen einer einheitlichen L\u00f6sung also ablehnend gegen\u00fcber.\u00a0 Beispielsweise will\u00a0Teubner<\/span>\u00a0im Bereich der Willenserkl\u00e4rungen k\u00fcnstlichen Intelligenzen beschr\u00e4nkte Rechtssubjektivit\u00e4t verleihen, damit sie als Stellvertreter bindende Vertr\u00e4ge f\u00fcr andere abschlie\u00dfen k\u00f6nnen.<\/p>\n

Was sagen die Gegner?<\/span><\/h4>\n

Dagegen stehen diejenigen, die im Ergebnis an den bestehenden Regelungen festhalten wollen. Auch hier wird vieles vertreten. Gemein ist allen lediglich die strikte Ablehnung jeglicher Form von rechtlicher Eigenst\u00e4ndigkeit f\u00fcr k\u00fcnstliche Intelligenzen.<\/span><\/p>\n

Zun\u00e4chst wird mit dem Wesen des Rechtssubjekts argumentiert. Hinter jedem Rechtssubjekt st\u00fcnde am Ende eine nat\u00fcrliche Person, der Mensch bleibe \u201eAnkn\u00fcpfungspunkt jeder Verantwortlichkeit\u201c. Zu einer Behandlung von KI als \u201eSubjekt\u201c fehle es an einem wirklichen Verst\u00e4ndnis f\u00fcr das Handeln. Auch der Vergleich einer \u201eePerson\u201c mit der Kapitalgesellschaft hinke, denn diese sei in ihrem Handeln letzten Endes doch auf nat\u00fcrliche Personen angewiesen.<\/p>\n

Insofern ist nach dieser Auffassung die juristische Konsequenz recht simpel: Das bestehende zivilrechtliche Instrumentarium sei ausreichend, es m\u00fcsse lediglich im Einzelfall durch Rechtsfortbildung ausgelegt werden.\u00a0Demzufolge muss entweder der Hersteller oder aber der Nutzer einer KI haftbar gemacht werden und die Zurechnung von Willenserkl\u00e4rungen durch die Anwendung der \u00a7\u00a7 116 ff BGB erreicht werden. Teilweise wird auch explizit auf den jetzigen Stand der Technik abgestellt: Die heutzutage existierenden Systeme seien jedenfalls noch nicht ausgereift genug, um eine \u201eAufwertung\u201c vom Rechtsobjekt zum Rechtssubjekt zu rechtfertigen.<\/p>\n

Bemerkenswert ist, dass der Vorsto\u00df des Europ\u00e4ischen Parlaments gerade von Nichtjuristen kritisch gesehen wird. So hat sich eine Gruppe aus 285 KI-Forschern, \u00c4rzten, Philosophen, Theologen und Unternehmern in einem offenen Brief gegen die ePerson ausgesprochen.\u00a0Sie stellen neben dem Menschen als Ausgangspunkt jedes rechtlich relevanten Handelns vor allem eine technische Betrachtung in den Vordergrund:\u00a0Die F\u00e4higkeiten der im Moment eingesetzten KI seien schlicht und ergreifend \u00fcbersch\u00e4tzt.<\/p>\n

Fazit<\/span><\/h4>\n

Die Debatte findet auf zwei Ebenen statt: Zun\u00e4chst wird rechtsphilosophisch gestritten, ob KI ein \u201eSubjekt\u201c im rechtlichen Sinne sein kann. Andererseits stellen sich konkrete rechtliche Probleme, zu deren Handhabung unterschiedliche L\u00f6sungsans\u00e4tze vorgeschlagen werden.<\/span><\/p>\n

Abh\u00e4ngig ist die Diskussion vor allem von den technischen Fortschritten in den n\u00e4chsten Jahren, die sich sehr schlecht prognostizieren lassen. K\u00f6nnen wir wirklich behaupten, dass die F\u00e4higkeiten von KI \u00fcbersch\u00e4tzt werden? Und was gilt dann erst in f\u00fcnf oder zehn Jahren?<\/span><\/p>\n

F\u00fcr die hinter der rechtlichen Problematik stehenden philosophischen und ethischen Fragen m\u00fcssen wir als Gesellschaft eine L\u00f6sung finden: Welche gesellschaftliche Position soll KI zuk\u00fcnftig innehaben? Wieviel Macht darf KI erhalten? Wollen wir einen Roboter tats\u00e4chlich wie einen Menschen behandeln? Und wenn ja \u2013 wollen wir moderne Sklaven oder gleichberechtigte Mitglieder der Allgemeinheit? Diese Fragen m\u00fcssen wir beantworten, fr\u00fcher oder sp\u00e4ter.<\/span><\/p>\n

Innerhalb kurzer Zeit ist diese Problemstellung zur \u201ederzeit dringendsten Frage im IT \u2013 Recht\u201c avanciert. Die in der Fachliteratur vorgebrachten Erw\u00e4gungen werden zunehmend vielschichtiger. \u00a0Auch in der Politik ist Handlungsbedarf erkannt worden: Der Deutsche Bundestag hat 2018 eigens eine Kommission f\u00fcr KI eingesetzt, die bis 2020 eine Handlungsempfehlung im Umgang mit KI formulieren soll.\u00a0Die Europ\u00e4ische Kommission besch\u00e4ftigt sich momentan mit den vorgebrachten ethischen und moralischen Fragen und hat dazu eine Expertenrunde einberufen.\u00a0Die Ergebnisse dieser Gremien werden f\u00fcr die zuk\u00fcnftige rechtliche Handhabung von KI entscheidend sein. Eine differenzierte und zufriedenstellende L\u00f6sung ist aber im Hinblick auf den immer st\u00e4rkeren Einfluss von KI auf unseren Alltag dringend erforderlich.<\/span><\/p>","protected":false},"excerpt":{"rendered":"

Der technische Fortschritt schreitet voran. K\u00fcnstliche Intelligenz spielt Schach, Go und Jeopardy besser als Menschen. Wir bekommen das \u201eInternet of Things\u201c.\u00a0Die Rechenleistung und Leistungsf\u00e4higkeit von Computern steigt und steigt. KI trifft zunehmend selbst\u00e4ndig Entscheidungen, die unseren Alltag beeinflussen. KI ist aber nicht nur besser als wir in Brettspielen und Quizshows, sondern hilft uns auch in […]<\/p>","protected":false},"author":10,"featured_media":2190,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_lmt_disableupdate":"","_lmt_disable":"","footnotes":""},"categories":[50,64],"tags":[],"class_list":["post-2186","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-magazin","category-rechtspolitik"],"acf":[],"modified_by":"Henrik Volkmann","_links":{"self":[{"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/posts\/2186","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/users\/10"}],"replies":[{"embeddable":true,"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/comments?post=2186"}],"version-history":[{"count":3,"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/posts\/2186\/revisions"}],"predecessor-version":[{"id":2189,"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/posts\/2186\/revisions\/2189"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/media\/2190"}],"wp:attachment":[{"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/media?parent=2186"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/categories?post=2186"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/recode.law\/en\/wp-json\/wp\/v2\/tags?post=2186"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}