Das Jahr 2026 begann mit hochaktuellen Themen: Am 13. Januar 2026 veranstalteten wir den Workshop Zivilrechtliche Implikationen von KI-Agenten.

Die Motivation für den Workshop war vielschichtig:

• Die Nutzung von KI-Agenten nimmt stark zu. Das Jahr 2025 wurde von der Startup-Szene in San Francisco als „Year of the Agent“ ausgerufen. Bislang fand der Hype um dieses Konzept noch keine breite Anwendung – die Entwicklung bleibt abzuwarten. Für 2026 wird damit gerechnet, dass KI- Agenten bis zu 5% des Umsatzes im Onlinehandel ausmachen könnten.[1]
• Das Thema KI als solches ist omnipräsent. Dass KI ein Hype-Thema ist, ist bei jedem Unternehmen, jedem Startup und jede/r LinkedIn-Influencer:in mittlerweile angekommen. Gleichzeitig fehlt es vielen Beiträgen in der Auseinandersetzung mit dem Thema KI an Substanz. Sie bleiben diffus oder oberflächlich. Durch unpräzise Ausdrucksweise und unreflektierte (Mehrfach-)Verwendung des Wortes „KI“ bleiben selbst bei dem/der geneigte/n Leser:in Fragezeichen.

Der Workshop hatte zwei Ziele:

1. Funktionale Definition des Begriffs „KI-Agent“ erarbeiten, um eine differenzierte Betrachtung zu ermöglichen
2. Diskussion anhand zweier hypothetischer Fallkonstellationen der Frage, ob das deutsche Zivilrecht für den Einsatz von KI-Agenten gewappnet ist

KI-Agent

Der Begriff KI-Agent leitet sich aus dem allgemeinen Begriff Agent ab, der in der Informatik schon seit vielen Jahrzehnten existiert. Das Präfix KI- dient als Hinweis darauf, dass der Agent etwas tut, was man einer künstlichen Intelligenz zuordnet. Als Künstliche Intelligenz (KI) werden dabei im heutigen Kontext generative große Sprachmodelle (engl.: Large Language Models, LLMs) verstanden.

Wie kommt also ein LLM bei einem KI-Agenten zum Einsatz?

Wer danach auf einschlägigen Plattformen wie ArXiv sucht, findet unzählige Paper mit Konzeptionen und Meta-Paper mit Gruppierungen dieser Definitionen. Kurz gesagt: Es gibt keine einheitliche Definition. Wir haben uns deshalb auf eine funktionale Definition geeinigt, die das technische Kernkonzept gut wiedergibt:

Ein KI-Agent führt Werkzeuge in einer Schleife aus, um ein Ziel zu erreichen.[2]

Hierzu haben wir zu Beginn des Workshops die relevanten Begriffe erklärt:

KI-Agent: LLM, das durch ein Skript (meist Python) gecalled wird.

Werkzeuge: Vorgefertigte Skripte (meist Python), die das LLM ausführen kann.

Ausführen von Werkzeugen: Im Anweisungsprompt an das LLM steht u.a., dass es Programme ausführen kann, indem es einen bestimmten String generiert. Wenn das LLM dann bspw. den Text „run lawnmower.py“ generiert, erkennt das ein Output-Parser (Python-Skript, das jedes Mal automatisch ausgeführt wird, wenn das LLM-Text generiert), und überprüft, ob der Text des LLMs einen String beinhaltet, der eines der Programme (Werkzeuge) referenziert, die hinterlegt sind. Ist das der Fall, führt der Output- Parser dieses Programm aus.

Schleife: Wiederholung eines Vorgangs, bis eine Bedingung erfüllt ist. Im Fall des KI- Agenten bedeutet das, dass das LLM so lange Text generiert (und jedes Mal den bisherigen Verlauf erhält), bis es der Meinung ist, es habe sein Ziel erfüllt (und dann das Werkzeug „ziel_erreicht.py“) benutzt, um die Schleife zu stoppen.

Ziel: Ziel wird dem KI-Agenten zu Beginn mitgeteilt und kann vielfältig sein. Entweder die Erfüllung einer spezifischen Aufgabe „Kaufe eine Jacke bei Onlinehändler X“, oder eine generelle Aufgabe „Kümmere dich darum, dass das Haus gepflegt aussieht.“

Diskussion

Für den darauffolgenden Diskussionsteil teilten wir die Teilnehmer:innen in zwei Gruppen, die nach 20 Minuten die Breakout- Session wechselten.

• In Session 1 wurde diskutiert, ob und welche Sorgfaltspflichten aus 241 Abs. 2 BGB für den Einsatz von KI-Agenten bei der Erfüllung von Verträgen resultieren.
• In Session 2 ging es währenddessen insbesondere um das Thema der außervertraglichen Haftung bei Einsatz eines KI-Agenten und darum, welche Vorschriften des BGB anwendbar sein könnten.

Session 1: Sorgfaltspflichten aus § 241 Abs. 2 BGB

Fallbeispiel: Eine Marketing-Agentur verwendet einen KI-Agenten, um kontroverse, aufmerksamkeitsgenerierende Posts für ein Unternehmen zu erstellen. Dabei schlägt der KI-Agent über die Stränge, sodass es zu einem Shitstorm für das Unternehmen kommt. Der Einsatz des KI-Agenten war vertraglich vereinbart. Das Unternehmen ist nunmehr der Meinung, die Marketing-Agentur sei ihren Sorgfaltspflichten nicht nachgekommen.

Frage: Hat die Marketing-Agentur ihre Sorgfaltspflichten aus § 241 Abs. 2 BGB bei der Vertragserfüllung verletzt? Aufgeworfen wurde eine mögliche Anlehnung an die Fallgruppe der technischen Hilfsmittel iRd § 278 BGB, bei denen der Verwender haftet, wenn das Hilfsmittel…

technisch nicht ausgereift ist, es Wartungsfehler gab
oder Bedienfehler vorliegen.

Allgemein vertreten wurde die Ansicht, dass es eine Offenlegungspflicht hinsichtlich des Einsatzes des KI- Agenten gibt. Diese umfasst nach der Meinung der Teilnehmenden das verwendete Modell sowie die grobe Funktionsweise des Agenten. Ein technisch nicht ausgereifter Agent könnte erkannt werden, weil ein veraltetes LLM verwendet wird, oder eine Agent-Harness, die nicht zu den aktuellen gehört. Eine Agent Harness ist dabei das Gerüst aus Skripten (meist Python) rund um das LLM: Output-Parser, Schleifenlogik und die Anbindung der Werkzeuge. Die Agent-Harness macht aus einem bloßen Sprachmodell erst einen handlungsfähigen Agenten.

Eine darüber hinaus gehende Ansicht verlangte, dass die Offenlegungspflicht auch umfasst, eine Benchmark für die verwendete Agent-Harness der anderen Vertragspartei mitzuteilen, damit diese eine Referenz für die Fähigkeiten des KI-Agenten hat.

Hinsichtlich möglicher Bedienfehler wurde diskutiert, ob schlechtes Prompting einen Bedienfehler darstellt.

Ein Bedienfehler könnte in der unzureichenden Definition von Grenzen liegen. Das wäre der Fall, wenn die Marketing-Agentur bspw. die Grenze zwischen erlaubten kontroversen Statements und nicht erwünschten Statements nicht mit genug Trennschärfe definiert.

Ein Bedienfehler könnte – so eine strengere Ansicht – bereits bei Nichtkontrolle des Outputs vorliegen. Da LLMs Anweisungen nicht inhaltlich verstehen, sondern nur den nächstwahrscheinlichen Token generieren, ist eine Output-Kontrolle erforderlich. Es gibt keine Garantie, dass der Output sich immer im Rahmen des Gewünschten bewegt.

Zuletzt wurde auch auf eine Memory-Funktion hingewiesen, die das Verhalten des KI-Agenten umso unvorhersagbarer macht. Dabei kann sich der KI-Agent Notizen („Erinnerungen“) erstellen, welche Posts bspw. gut oder weniger gut gelaufen sind.

Session 2: Außervertragliche Haftung

Fallbeispiel: H benuzt einen Housekeeping-Agenten (A), der sich um seinen Haushalt und seinen Garten kümmert. A startet im Rahmen dieser Funktion einen Rasenmähroboter, der jedoch nicht lediglich den Rasen mäht, sondern dabei auch das Blumenbeet des Nachbarn (N) zerstört.

Frage: Welche Ansprüche kann N gegen H geltend machen?

In beiden Gruppen fiel an dieser Stelle zunächst der Begriff der Sorgfaltspflichten. Schnell wurde problematisiert, wem genau hier welche Pflichten obliegend. Insbesondere wurde dabei immer wieder auch der Hersteller als möglicherweise passenderer Haftungsadressat in den Raum geworfen.

Schließlich wurde die Idee einer (analoge) Anwendung von § 831 BGB aufgeworfen. Angezweifelt wurde dabei, ob bei Einsatz einer KI eine sinnvolle Inzidentprüfung von § 823 Abs. 1 BGB möglich ist. Weiter wurde die Frage aufgeworfen, wann eine KI als „Erfüllungsgehilfe“ einzuordnen sei. Hinsichtlich der Exkulpationsmöglichkeit gem. § 831 Abs. 1 S. 2 BGB wurde kritisch angemerkt, dass es (noch) keinen anerkannten Sorgfaltsmaßstab für die Auswahl einer KI-Hilfe gibt. Befürchtet wurde, dass eine Exkulpation faktisch fast immer möglich sein könnte.

Spannend war, dass die von den Moderatoren in den Raum geworfene Idee, die Tierhalterhaftung aus § 833 BGB analog anzuwenden, in beiden Gruppen positiv aufgenommen wurde. Das gilt vor allem gegenüber der auf den ersten Blick naheliegenden Gehilfenhaftung gem. § 831 BGB.

In der Sache wurden Parallelen zwischen der Unvorhersehbarkeit eines Tieres und einer KI gezogen.

Zum einen wurde als Unterschied des Grundes der Unvorhersehbarkeit (tierischer Instinkt vs. auf Wahrscheinlichkeiten basiertes Sprachmodell) ausgearbeitet.

Zum anderen wurde als Unterschied aufgeworfen, dass die Tierhalterhaftung gerade zufällige Schäden im Blick hat, während ein KI-Agent in der Regel bewusst eingesetzt wird.

Insbesondere die Privilegierung von Nutztierhaltern wurde in diesem Zusammenhang in Frage gestellt.

In der anschließenden Diskussionsrunde stand erneut die Herstellerhaftung (in Form der Produkthaftung) als möglicherweise passendere Haftungsform im Raum. Dabei wurde die Frage gestellt, ob diese Haftung ausreicht oder daneben eine Haftung des Nutzers bestehen sollte – insbesondere mit Blick auf ggf. bestehende Prompting-Möglichkeiten.

Schließlich wurde festgestellt, dass weiterhin Haftungslücken bestehen. Das gilt insbesondere für Fälle, in denen weder der Hersteller noch der Nutzer einen Fehler gemacht hat. Das ist stets dann zutreffend, wenn der KI-Agent schlicht falsch handelt und wenn nicht nachvollziehbar ist, wie sehr ein (Teil-)Prompt das Endergebnis beeinflusst.

FAZIT

Inhaltlich hat sich bestätigt, was sich bei vielen neuen Technologien beobachten lässt: Das deutsche Zivilrecht ist nicht ratlos, aber auch nicht passgenau.

• In Session 1 ließen sich die Sorgfaltspflichten aus § 241 Abs. 2 BGB überraschend gut auf den Einsatz von KI-Agenten anwenden, wobei insbesondere die Fragen nach Offenlegungspflichten und der Einordnung von schlechtem Prompting als Bedienfehler zur Sprache kamen.
• In Session 2 wurde hingegen deutlich, dass sich die außervertragliche Haftung deutlich schwerer auf den Einsatz von KI-Agenten übertragen lässt. An mehreren Stellen zeigten sich dogmatische Schwierigkeiten, etwa bei der Inzidentprüfung des § 823 Abs. 1 BGB, der Einordnung der KI als Erfüllungsgehilfe oder der faktisch zu leichten Exkulpation nach § 831 BGB. Dass dabei ausgerechnet die analoge Tierhalterhaftung nach § 833 BGB den größten Zuspruch fand, war eine der unterhaltsameren Erkenntnisse des Abends, auch wenn der Vergleich von tierischem Instinkt und wahrscheinlichkeitsbasiertem Sprachmodell bei näherem Hinsehen Grenzen offenbarte.

Am Ende blieb die Einsicht, dass die spannendsten Fälle gerade jene sind, in denen weder Hersteller noch Nutzer einen Fehler gemacht haben und der KI-Agent schlicht „falsch“ gehandelt hat. Hier zeigen sich Haftungslücken, die das bestehende Recht (noch) nicht schließt. Ob diese durch kreative Analogien, durch die Produkthaftung oder am Ende doch durch den Gesetzgeber gefüllt werden, bleibt offen. Das „Year of the Agent“ dürfte uns also auch juristisch noch eine Weile beschäftigen.

VERFASSER: LUKAS FLECHSEL

[1] https://www.stores-shops.de/technology/ki-agenten-werden-umsatzfaktor-im-e-commerce/ (zuletzt abgerufen am 19.02.2026)

[2] https://simonwillison.net/2025/Sep/18/agents/ (zuletzt abgerufen am 19.02.2026).

Last Updated on 13. Oktober 2026