Editor’s Ramble #71

Liebe Leser:innen,

in dieser Ausgabe unseres Newsletters möchten wir Euch über aktuelle Entwicklungen in den Bereichen Recht, Technologie und Gesellschaft informieren.

Die Europäische Kommission hat ein formelles Verfahren gegen TikTok eingeleitet, um zu prüfen, ob die Plattform gegen den Digital Services Act (DSA) verstößt. Konkret geht es um die Punkte Suchtgefahr, Jugendschutz, Transparenz und Altersüberprüfung. Wir bleiben an diesem Thema dran und werden Euch über die weiteren Entwicklungen informieren.

Der AI Act, der die Entwicklung und Nutzung von künstlicher Intelligenz regelt, wird demnächst in Kraft treten. In unserem Newsletter beleuchten wir die problematischen Aspekte des Gesetzes und zeigen auf, warum die übermäßige Regulierung die Innovation in Europa behindern könnte.

Das Unternehmen Groq will mit einer neuartigen Datenverarbeitungseinheit namens Language Processing Unit (LPU) neue Maßstäbe in Sachen Schnelligkeit und Effizienz von KI-Chatbots setzen. Wir sind gespannt, wie sich diese Technologie in Zukunft entwickeln wird.

Tiktok DSA

DSA: Erst gegen X, jetzt gegen TikTok formelles Verfahren eingeleitet

Im letzten Newsletter wurde der Digital Service Act (kurz DSA) der Europäischen Union vorgestellt. Dieser ist nun seit dem 17. Februar vollständig in Kraft getreten. Das Ziel ist es nicht nur, den digitalen Serviceanbietern durch einheitliche EU-Regelungen eine vereinfachte Rechtssicherheit zu bieten, sondern auch die Rechte der Bürger:innen zu schützen und unsere demokratischen Werte zu stärken.

Bereits im Dezember wurde das erste formelle Verfahren der EU-Kommission im Rahmen des DSA gegen X eingeleitet. Nun folgte die Pressemitteilung, dass nach einer vorläufigen Untersuchung auch gegen TikTok ein solches Verfahren eingeleitet wird. TikTok, mit etwa 135 Millionen Nutzern in der EU, wurde von der Kommission als „Very Large Online Platform“ (VLOP) eingeordnet und hat deshalb zusätzliche Verpflichtungen (gem. Abschnitt 5 des DSA).

Konkrete Gegenstände der weiteren Untersuchung sind unter anderem die DSA-Verpflichtungen zur „Abmilderung systemischer Risiken im Hinblick auf […] negative Auswirkungen“, die sich aus der „Konzeption des TikTok-Systems […] ergeben und die Suchtverhalten und/oder sogenannte Rabbit-Hole-Effekte hervorrufen können“. Überprüft werden auch potenzielle Gefahren für das „Grundrecht auf körperliches und geistiges Wohlbefinden und Kinderrechtsverletzungen“, sowie die von TikTok umgesetzten Änderungen für erhöhte Transparenz der Plattform, insbesondere im Hinblick auf die Zugänglichkeit von Daten für Forschungszwecke. Ebenfalls wird die Verhältnismäßigkeit und Wirksamkeit der Altersüberprüfung der Nutzer (welche im September letzten Jahres schon der Gegenstand eines Bußgelds unter der DSGVO waren) und damit eng einhergehend auch Zugang von Minderjährigen zu möglicherweise unangemessenem Content bewertet.

Erst die eingehende Untersuchung der Kommission wird feststellen, ob TikTok gegen den DSA verstößt. Um dies zu bewerkstelligen, hat die Kommission nun infolge der Einleitung des förmlichen Verfahrens die Möglichkeit, weitere Durchsetzungsmaßnahmen zu ergreifen. Der Umfang der Untersuchungsbereiche allerdings zeigt schon jetzt deutlich, dass die rechtliche Basis, die der DSA bietet, eine relevante Ergänzung zur Datenschutz-Grundverordnung ist. Wie effektiv der DSA letztendlich ist, wird sich jedoch erst noch zeigen.

Regulierung in der EU

Weiterhin: EU im Regulierungswahn?

Am 02. Februar 2024 haben die Mitgliedstaaten dem AI Act in einem Trilogergebnis zugestimmt. Demnach steht nur noch die Zustimmung des EU-Parlaments sowie einer Ratsformation aus, sodass die KI-Verordnung voraussichtlich zum zweiten Quartal 2024 in Kraft tritt.

Das Ziel besteht darin, das Vertrauen in künstliche Intelligenz zu stärken und sicherzustellen, dass diese Technologie in einer Art und Weise eingesetzt wird, die die Grundrechte und die Sicherheit der Bürger:innen der EU respektiert.

Neben anfänglicher Freude über die Vorreiterrolle der EU in Sachen KI-Regulierung wurden auch Stimmen laut, die ein so striktes und voreiliges Vorhaben kritisieren.

Eine Studie aus dem Jahr 2022 zeigt, dass seit 2017 73% der größten Basismodelle von US-amerikanischen Firmen und 15% von chinesischen veröffentlicht werden, für die EU verbleiben demnach weniger als 10%. Eine übermäßige Regulierung muss kritisch betrachtet werden, um die Förderung und Innovation in Europa nicht zu behindern. Es ist von entscheidender Bedeutung, dass die EU im Bereich der künstlichen Intelligenz Fuß fasst und nicht in eine internationale Abhängigkeit gerät, wenn es um eine Schlüsseltechnologie des 21. Jahrhunderts geht.

Ferner entstammen viele fortgeschrittene KI-Systeme in der EU „kleinen und mittleren Unternehmen“ (KMU), für die es häufig schwierig sein wird, die notwendige Compliance zu finanzieren, ohne gleichzeitig die Innovation zu hemmen.

Auch inhaltlich enthält der AI Act einige Lücken und Probleme. Viel zu geringe Umsetzungsfristen, ungenaue Angaben und hohe Bußgelder treffen auf eine zu weite Definition von KI, ein Pflichtenkorsett für Hochrisiko-KI-Systeme und eine strenge Regulierung von Basismodellen, die branchentragend sind wie ChatGPT, Claude, PaLP und Bard, um nur einige zu erwähnen

Bleibt die EU also ein fruchtbarer Boden für die Entwicklung und Forschung von und mit Künstlicher Intelligenz?
Denn im Cloud-Zeitalter ist es einfach, ein KI-System in Nicht-EU-Länder zu verlagern, die technologiefreundlichere Gesetze haben. Obwohl der AI Act auch ausländische KI-Systeme erfasst, deren Ergebnisse in die EU gelangen, stellt sich die Frage, wie Behörden kontrollieren können, ob transatlantische (verschlüsselte) Signale KI-Ergebnisse enthalten.

Ausnahmen oder Verbesserungsvorschläge sind leider nur mangelhaft vorgesehen. Dabei wären diese besonders wichtig, um die von KMU geprägte Innovationskultur in der EU aufrechtzuerhalten. So wäre es zum Beispiel sinnvoll, sogenannte „safe harbours“ festzulegen, in deren Rahmen die Unternehmen frei agieren können. Auf der einen Seite würden sich dafür quantitative Schwellenwerte anbieten, um insbesondere die kleinen und mittleren Unternehmen zu entlasten.
Andererseits könnte man auch an eine vergleichbare Regelung zu Art. 40 DS-GVO denken. Unternehmen, die mit KI arbeiten, könnten demnach Verhaltensregeln entwickeln und diese von einer entsprechenden Aufsichtsbehörde genehmigen lassen, sodass das Unternehmen in diesem Rahmen sicher forschen und arbeiten kann. Auf diese Weise könnten drohende Haftungsszenarien abgewendet und Investoren erhalten werden. Für die Umsetzung würde sich eine entsprechende Anpassung von Art. 69 AI Act anbieten

Abschließend geht die EU mit der Regulierung von KI wahrscheinlich einen Schritt in die richtige Richtung, wenn es um den Schutz der EU-Bürger:innen geht. Ein überstürztes Verfahren und eine eifrige Regulierung führt allerdings zu Problemen hinsichtlich ökonomischer und internationaler Verflechtungen.

KI und Recht

Nachbericht zur AI & Law Conference 2024

Am 15. Februar 2024 fand die zweite AI & Law Conference von recode.law statt. In diesem Jahr stand die Konferenz ganz im Zeichen der Large Language Models (LLMs) und ihrer Auswirkungen auf den Rechtssektor.

Zahlreiche Expert:innen aus Wissenschaft und Praxis beleuchteten die vielfältigen Einsatzmöglichkeiten von LLMs, wie z.B. die automatisierte Generierung von Schriftsätzen, die Analyse von Vertragsdokumenten oder die Unterstützung bei der Rechtsrecherche.

Um die Inspiration der Konferenz aufrechtzuerhalten, haben wir eine Playlist ausgewählter Keynotes und Panels zusammengestellt, die die Themen KI und Recht aufgreifen.
Hier geht’s zur Playlist.

Wir bedanken uns bei allen Teilnehmer:innen der AI & Law Conference 2024 und freuen uns auf die nächste Ausgabe!

Künstliche Intelligenz

Groq – ein neuer Maßstab für KI-Chatbots?

Spätestens seit ChatGPT ist die Nachfrage nach Large Language Models (LLMs) in die Höhe geschossen. Doch die LLMs bringen herkömmliche Prozessoren (GPUs) an ihre Kapazitätsgrenzen, was den Fortschritt zu bremsen droht.

Abhilfe schafft nun Groq mit einer neuartigen Datenverarbeitungseinheit, der sog. Language Processing Unit (LPU). Dabei handelt es sich ebenfalls um eine Art Prozessor – nur zehnmal schneller, zu 1/10 der Kosten und 1/10 des Energieverbrauchs im Vergleich zu herkömmlichen Prozessoren. Groq möchte neue Maßstäbe bezüglich Schnelligkeit und Effizienz setzen und den Weg für noch nie dagewesene Präzision in Sachen LLMs ebnen.

Erste Tests der frei verfügbaren KI-Suche zeigen eine atemberaubende Geschwindigkeit, mit der die Ergebnisse generiert werden. In Sachen Geschwindigkeit ist Groq ChatGPT bereits jetzt meilenweit voraus. Inwieweit Groq damit dazu beitragen kann, den Nutzen generativer KI speziell für den juristischen Bereich zu steigern, bleibt abzuwarten. Durch seine Anpassungsfähigkeit und Fokus auf menschenähnliche Konversationen in Echtzeit könnte Groq vor allem für die Entwicklung juristischer Chatbots spannend werden.

Wenn Du dir selbst einen Eindruck verschaffen möchtest, kannst du das hier tun: www.groq.com

Last Updated on 27. March 2024