Das Jahr 2026 begann mit hochaktuellen Themen: Am 13. Januar 2026 veranstalteten wir den Workshop Zivilrechtliche Implikationen von KI-Agenten.<\/p>\n
Die Motivation <\/strong>fu\u0308r den Workshop war vielschichtig<\/strong>:<\/p>\n Der Workshop hatte zwei Ziele<\/strong>:<\/p>\n <\/p>\n KI-Agent <\/u><\/strong><\/p>\n Der Begriff KI-Agent leitet sich aus dem allgemeinen Begriff Agent ab, der in der Informatik schon seit vielen Jahrzehnten existiert. Das Pr\u00e4fix KI- dient als Hinweis darauf, dass der Agent etwas tut, was man einer k\u00fcnstlichen Intelligenz zuordnet. Als K\u00fcnstliche Intelligenz (KI) werden dabei im heutigen Kontext generative gro\u00dfe Sprachmodelle (engl.: Large Language Models, LLMs) verstanden.<\/p>\n Wie kommt also ein LLM bei einem KI-Agenten zum Einsatz? <\/strong><\/p>\n Wer danach auf einschla\u0308gigen Plattformen wie ArXiv sucht, findet unza\u0308hlige Paper mit Konzeptionen und Meta-Paper mit Gruppierungen dieser Definitionen. Kurz gesagt: Es gibt keine einheitliche Definition. Wir haben uns deshalb auf eine funktionale Definition geeinigt, die das technische Kernkonzept gut wiedergibt:<\/p>\n Ein KI-Agent fu\u0308hrt Werkzeuge in einer Schleife aus, um ein Ziel zu erreichen.[2]<\/a><\/em><\/strong><\/p>\n Hierzu haben wir zu Beginn des Workshops die relevanten Begriffe erkla\u0308rt:<\/p>\n KI-Agent:<\/strong> LLM, das durch ein Skript (meist Python) gecalled wird.<\/p>\n Werkzeuge:<\/strong> Vorgefertigte Skripte (meist Python), die das LLM ausf\u00fchren kann.<\/p>\n Ausf\u00fchren von Werkzeugen:<\/strong> Im Anweisungsprompt an das LLM steht u.a., dass es Programme ausf\u00fchren kann, indem es einen bestimmten String generiert. Wenn das LLM dann bspw. den Text \u201erun lawnmower.py\u201c generiert, erkennt das ein Output-Parser (Python-Skript, das jedes Mal automatisch ausgef\u00fchrt wird, wenn das LLM-Text generiert), und \u00fcberpr\u00fcft, ob der Text des LLMs einen String beinhaltet, der eines der Programme (Werkzeuge) referenziert, die hinterlegt sind. Ist das der Fall, f\u00fchrt der Output- Parser dieses Programm aus.<\/p>\n Schleife: <\/strong>Wiederholung eines Vorgangs, bis eine Bedingung erf\u00fcllt ist. Im Fall des KI- Agenten bedeutet das, dass das LLM so lange Text generiert (und jedes Mal den bisherigen Verlauf erh\u00e4lt), bis es der Meinung ist, es habe sein Ziel erf\u00fcllt (und dann das Werkzeug \u201eziel_erreicht.py\u201c) benutzt, um die Schleife zu stoppen.<\/p>\n Ziel:<\/strong> Ziel wird dem KI-Agenten zu Beginn mitgeteilt und kann vielf\u00e4ltig sein. Entweder die Erf\u00fcllung einer spezifischen Aufgabe \u201eKaufe eine Jacke bei Onlineh\u00e4ndler X\u201c, oder eine generelle Aufgabe \u201eK\u00fcmmere dich darum, dass das Haus gepflegt aussieht.\u201c<\/p>\n Diskussion <\/u><\/strong><\/p>\n F\u00fcr den darauffolgenden Diskussionsteil teilten wir die Teilnehmer:innen in zwei Gruppen, die nach 20 Minuten die Breakout- Session wechselten.<\/p>\n <\/p>\n Session 1: Sorgfaltspflichten aus \u00a7 241 Abs. 2 BGB <\/strong><\/p>\n Fallbeispiel: <\/em>Eine Marketing-Agentur verwendet einen KI-Agenten, um kontroverse, aufmerksamkeitsgenerierende Posts f\u00fcr ein Unternehmen zu erstellen. Dabei schl\u00e4gt der KI-Agent \u00fcber die Str\u00e4nge, sodass es zu einem Shitstorm f\u00fcr das Unternehmen kommt. Der Einsatz des KI-Agenten war vertraglich vereinbart. Das Unternehmen ist nunmehr der Meinung, die Marketing-Agentur sei ihren Sorgfaltspflichten nicht nachgekommen.<\/p>\n Frage: <\/em>Hat die Marketing-Agentur ihre Sorgfaltspflichten aus \u00a7 241 Abs. 2 BGB bei der Vertragserfu\u0308llung verletzt? Aufgeworfen wurde eine m\u00f6gliche Anlehnung an die Fallgruppe der technischen Hilfsmittel iRd \u00a7 278 BGB, bei denen der Verwender haftet, wenn das Hilfsmittel…<\/p>\n technisch nicht ausgereift ist, es Wartungsfehler gab Allgemein vertreten wurde die Ansicht, dass es eine Offenlegungspflicht hinsichtlich des Einsatzes des KI- Agenten gibt. Diese umfasst nach der Meinung der Teilnehmenden das verwendete Modell sowie die grobe Funktionsweise des Agenten. Ein technisch nicht ausgereifter Agent ko\u0308nnte erkannt werden, weil ein veraltetes LLM verwendet wird, oder eine Agent-Harness, die nicht zu den aktuellen geho\u0308rt. Eine Agent Harness ist dabei das Geru\u0308st aus Skripten (meist Python) rund um das LLM: Output-Parser, Schleifenlogik und die Anbindung der Werkzeuge. Die Agent-Harness macht aus einem blo\u00dfen Sprachmodell erst einen handlungsfa\u0308higen Agenten. <\/em><\/p>\n Eine daru\u0308ber hinaus gehende Ansicht verlangte, dass die Offenlegungspflicht auch umfasst, eine Benchmark fu\u0308r die verwendete Agent-Harness der anderen Vertragspartei mitzuteilen, damit diese eine Referenz fu\u0308r die Fa\u0308higkeiten des KI-Agenten hat. <\/em><\/p>\n <\/p>\n Hinsichtlich mo\u0308glicher Bedienfehler <\/strong>wurde diskutiert, ob schlechtes Prompting einen Bedienfehler darstellt.<\/p>\n Ein Bedienfehler ko\u0308nnte in der unzureichenden Definition <\/strong>von Grenzen liegen. Das wa\u0308re der Fall, wenn die Marketing-Agentur bspw. die Grenze zwischen erlaubten kontroversen Statements und nicht erwu\u0308nschten Statements nicht mit genug Trennscha\u0308rfe definiert.<\/p>\n Ein Bedienfehler ko\u0308nnte \u2013 so eine strengere Ansicht \u2013 bereits bei Nichtkontrolle des Outputs <\/strong>vorliegen. Da LLMs Anweisungen nicht inhaltlich verstehen, sondern nur den na\u0308chstwahrscheinlichen Token generieren, ist eine Output-Kontrolle erforderlich. Es gibt keine Garantie, dass der Output sich immer im Rahmen des Gewu\u0308nschten bewegt.<\/p>\n Zuletzt wurde auch auf eine Memory-Funktion <\/strong>hingewiesen, die das Verhalten des KI-Agenten umso unvorhersagbarer macht. Dabei kann sich der KI-Agent Notizen (\u201eErinnerungen\u201c) erstellen, welche Posts bspw. gut oder weniger gut gelaufen sind.<\/p>\n <\/p>\n Session 2: Au\u00dfervertragliche Haftung <\/strong><\/p>\n Fallbeispiel: <\/em>H benuzt einen Housekeeping-Agenten (A), der sich um seinen Haushalt und seinen Garten ku\u0308mmert. A startet im Rahmen dieser Funktion einen Rasenma\u0308hroboter, der jedoch nicht lediglich den Rasen ma\u0308ht, sondern dabei auch das Blumenbeet des Nachbarn (N) zersto\u0308rt.<\/p>\n Frage: <\/em>Welche Anspru\u0308che kann N gegen H geltend machen?<\/p>\n In beiden Gruppen fiel an dieser Stelle zun\u00e4chst der Begriff der Sorgfaltspflichten. Schnell wurde problematisiert, wem genau hier welche Pflichten obliegend. Insbesondere wurde dabei immer wieder auch der Hersteller als mo\u0308glicherweise passenderer Haftungsadressat in den Raum geworfen. <\/em><\/p>\n Schlie\u00dflich wurde die Idee einer (analoge) Anwendung von \u00a7 831 BGB aufgeworfen. Angezweifelt wurde dabei, ob bei Einsatz einer KI eine sinnvolle Inzidentpru\u0308fung von \u00a7 823 Abs. 1 BGB mo\u0308glich ist. Weiter wurde die Frage aufgeworfen, wann eine KI als \u201eErfu\u0308llungsgehilfe\u201c einzuordnen sei. Hinsichtlich der Exkulpationsmo\u0308glichkeit gem. \u00a7 831 Abs. 1 S. 2 BGB wurde kritisch angemerkt, dass es (noch) keinen anerkannten Sorgfaltsma\u00dfstab fu\u0308r die Auswahl einer KI-Hilfe gibt. Befu\u0308rchtet wurde, dass eine Exkulpation faktisch fast immer mo\u0308glich sein ko\u0308nnte. <\/em><\/p>\n Spannend war, dass die von den Moderatoren in den Raum geworfene Idee, die Tierhalterhaftung aus \u00a7 833 BGB analo<\/strong>g anzuwenden, in beiden Gruppen positiv aufgenommen wurde. Das gilt vor allem gegenu\u0308ber der auf den ersten Blick naheliegenden Gehilfenhaftung gem. \u00a7 831 BGB<\/strong>. <\/em><\/p>\n <\/p>\n In der Sache wurden Parallelen zwischen der Unvorhersehbarkeit eines Tieres und einer KI gezogen.<\/p>\n Zum einen wurde als Unterschied des Grundes der Unvorhersehbarkeit (tierischer Instinkt vs. auf Wahrscheinlichkeiten basiertes Sprachmodell) ausgearbeitet.<\/p>\n Zum anderen wurde als Unterschied aufgeworfen, dass die Tierhalterhaftung gerade zufa\u0308llige Scha\u0308den im Blick hat, wa\u0308hrend ein KI-Agent in der Regel bewusst eingesetzt wird.<\/p>\n Insbesondere die Privilegierung von Nutztierhaltern wurde in diesem Zusammenhang in Frage gestellt.<\/p>\n In der anschlie\u00dfenden Diskussionsrunde stand erneut die Herstellerhaftung (in Form der Produkthaftung) als mo\u0308glicherweise passendere Haftungsform im Raum. Dabei wurde die Frage gestellt, ob diese Haftung ausreicht oder daneben eine Haftung des Nutzers bestehen sollte \u2013 insbesondere mit Blick auf ggf. bestehende Prompting-Mo\u0308glichkeiten.<\/p>\n Schlie\u00dflich wurde festgestellt, dass weiterhin Haftungslu\u0308cken bestehen. Das gilt insbesondere fu\u0308r Fa\u0308lle, in denen weder der Hersteller noch der Nutzer einen Fehler gemacht hat. Das ist stets dann zutreffend, wenn der KI-Agent schlicht falsch handelt und wenn nicht nachvollziehbar ist, wie sehr ein (Teil-)Prompt das Endergebnis beeinflusst.<\/p>\n <\/p>\n FAZIT <\/u><\/strong><\/p>\n Inhaltlich hat sich besta\u0308tigt, was sich bei vielen neuen Technologien beobachten la\u0308sst: Das deutsche Zivilrecht ist nicht ratlos, aber auch nicht passgenau.<\/p>\n Am Ende blieb die Einsicht, dass die spannendsten Fa\u0308lle gerade jene sind, in denen weder Hersteller noch Nutzer einen Fehler gemacht haben und der KI-Agent schlicht \u201efalsch\u201c gehandelt hat. Hier zeigen sich Haftungslu\u0308cken, die das bestehende Recht (noch) nicht schlie\u00dft. Ob diese durch kreative Analogien, durch die Produkthaftung oder am Ende doch durch den Gesetzgeber gefu\u0308llt werden, bleibt offen. Das \u201eYear of the Agent\u201c du\u0308rfte uns also auch juristisch noch eine Weile bescha\u0308ftigen.<\/p>\n <\/p>\n <\/p>\n VERFASSER: LUKAS FLECHSEL <\/em><\/p>\n <\/p>\n\n
\n
\n
\noder Bedienfehler vorliegen.<\/p>\n\n