Schlagwort: Haftung für Chatbot

KI-Verordnung (2026)
Die KI-Verordnung („KI-VO“, auch „AI-Act“ – VO (EU) 2024/1689) ist seit dem 1. August 2024 in Kraft und wird im Sommer 2026 in ihrer Substanz wirksam. Mit der politischen Einigung zum sogenannten KI-Omnibus vom 7. Mai 2026 verschiebt der Unionsgesetzgeber zentrale Pflichten für Hochrisiko-Systeme; gleichzeitig erweitert er den Verbotskatalog und zieht die Kennzeichnungspflichten für synthetische Inhalte vor. Im Folgenden möchte ich die Verordnung in ihrem aktuellen Stand einordnen und beschreiben, was Geschäftsführungen und Compliance-Abteilungen (voraussichtlich) in den nächsten Monaten beachten müssen.
Hinweis: Der Beitrag wurde im Mai 2026 neu gefasst und hat den Stand 14. Mai 2026, berücksichtigt also die Trilogeinigung zum KI-Omnibus.
(mehr …)
4. Juni 2026
OLG Hamm zur KI-Werbung: Wer den Chatbot einsetzt, haftet für seine Aussagen
Das Oberlandesgericht Hamm (4. Zivilsenat, Urteil vom 12.05.2026 – 4 UKl 3/25) hatte zu klären, ob ein Unternehmen für irreführende Aussagen eines auf seiner Website eingebundenen KI‑Chatbots lauterkeitsrechtlich einsteht. Der Senat bejaht dies klar und qualifiziert die Antworten des Chatbots als eigene geschäftliche Handlungen der Betreiberin – mit weitreichenden Folgen für den Einsatz von KI im Marketing.
(mehr …)
28. Mai 2026
KI-Agenten als Innentäter: Wie OpenClaw & Co. zum Haftungs- & Sicherheitsrisiko werden
KI steht aktuell vorwiegend für Chatbots, die Texte schreiben oder Präsentationen vorbereiten, doch die wirklich brisante Entwicklung spielt sich an anderer Stelle ab: bei agentischen KI‑Systemen, die nicht nur antworten, sondern handeln – E‑Mails verschicken, Software installieren, Konfigurationen ändern, Kalender pflegen und eigenständig im Unternehmensnetzwerk operieren. Die neue Frage im Umgang mit KI sollte daher nicht mehr zentral sein, ob eine KI halluziniert, sondern was passiert, wenn ein solcher Agent mit weitreichenden Rechten Fehler macht, manipuliert wird oder schlicht „kreative“ Wege zur Zielerreichung wählt.
(mehr …)
14. März 2026
Physical AI – Wenn Künstliche Intelligenz Hände und Füße bekommt
Im BMW-Werk Leipzig stehen, wie das Handelsblatt berichtet, seit Februar 2026 humanoide Roboter am Band. In der Hyundai-Fabrik in Georgia sortiert der Atlas von Boston Dynamics Dachträger weitgehend ohne menschliche Hilfe. Und NVIDIA-Chef Jensen Huang proklamierte auf der CES 2026, der „ChatGPT-Moment für die Robotik“ sei gekommen. Was nach Science-Fiction klingt, wird gerade zum Gegenstand industrieller Routineplanung – und wirft eine Reihe rechtlicher Fragen auf, die das bestehende Regulierungsgerüst an seine Grenzen bringen.
(mehr …)
27. Februar 2026
Haftung von Suchmaschine für KI-generierte Suchergebnisse?
Beim Landgericht Frankfurt findet sich ein Urteil vom 10. September 2025 (Az: 2-06 O 271/25) mit einer beachtlichen Entscheidung zur Haftung von Suchmaschinenbetreibern für falsche KI-generierte Informationen: Im Mittelpunkt stand die Frage, ob ein marktbeherrschendes Unternehmen für unzutreffende, durch KI erstellte Übersichten in Suchergebnissen haftbar gemacht werden kann – und ob darin ein Missbrauch der Marktstellung liegt. Es ging also vor allem um kartellrechtliche Fragen.
(mehr …)
28. Januar 2026
LG München I zur Memorisierung von Werken in KI-Sprachmodellen
Urheberrecht in der KI-Ära: Die Entscheidung des Landgerichts München I (42 O 14139/24 – Rechtsmittel beim OLG München anhängig) markiert einen ersten Meilenstein in der juristischen Auseinandersetzung mit den urheberrechtlichen Implikationen generativer Künstlicher Intelligenz. Erstmals hat ein deutsches Gericht klargestellt, dass die Memorisierung urheberrechtlich geschützter Werke in KI-Sprachmodellen eine unzulässige Vervielfältigung darstellt – und dass Betreiber solcher Modelle für die daraus resultierenden Outputs haften. Der Fall betrifft die Nutzung von Liedtexten bekannter deutscher Künstler durch ein großes Sprachmodell und wirft grundsätzliche Fragen zur Zukunft des Urheberrechts im digitalen Zeitalter auf.
Beachten Sie dazu auch meinen Aufsatz „Memorisierung in Large Language Models: Technische Grundlagen und urheberrechtliche Bewertung der Memorisierung bei LLM“ erschienen in Ferner, AnwZert ITR 5/2026 Anm. 3
(mehr …)
29. Dezember 2025
KI-Gigafabrik in Jülich … ?
Nur wenige Kilometer von Alsdorf entfernt entsteht in Jülich vielleicht – so die ganz grosse Hoffnung – in naher Zukunft ein Stück europäischer Digitalgeschichte: Der Supercomputer Jupiter, bereits heute der größte öffentliche Rechner außerhalb der USA, könnte zum Kern einer der ersten KI-Gigafabriken der EU werden. Warum das nicht nur eine technische, sondern auch eine rechtliche Chance ist.
(mehr …)
16. November 2025
Haftung für Chatbot?
Haften Unternehmen für Auskünfte, die ein Ihnen installierter Chatbot gibt? Nachdem in Kanada eine Airline zum Schadensersatz auf Grund einer falschen Chatbot-Auskunft verurteilt wurde, stellt sich die Frage, ob so etwas in Deutschland denkbar ist. Und tatsächlich ist schon zu lesen, dass „vermutlich auch deutsche Gerichte nicht anders entscheiden würden“ (so in BC 2024, 95). Doch bei genauem Blick fragt sich: Auf welcher Rechtsgrundlage soll das geschehen? Dazu im Folgenden ein paar lose Gedanken.
Update, 28. Mai 2026: Die Entscheidungen des LG Hamburg (324 O 461/25) und des OLG Hamm (4 UKl 3/25) wurden berücksichtigt.
(mehr …)
7. November 2025
Halluziniert: Gericht wirft Rechtsanwalt KI-Schriftsatz vor
Für viel Aufsehen sorgt aktuell eine Entscheidung des AG Köln (Familiengericht, 312 F 130/25), in dem vorgeblich ein herbei halluzinierter Schriftsatz Thema ist. Die Entscheidung verdient die Beachtung – aber auch Kritik. Gerichte haben, wie Rechtsanwälte, bei dem Themenkomplex noch viel zu lernen.
(mehr …)
24. Juli 2025
Dirty Payments: Zahlungsdienstleister zwischen Milliarden und Moral
Ein deutsches Unternehmen, kaum bekannt, aber allgegenwärtig: Wer im Einzelhandel mit Karte zahlt, kommt nicht selten mit dem Zahlungsdienstleister PO in Berührung. Das Logo mag unauffällig sein – die Geschäfte im Hintergrund sind es keineswegs. Recherchen zeigen nun, dass PO über Jahre hinweg mit dubiosen Onlineanbietern zusammenarbeitete, deren Geschäftsmodelle häufig auf Täuschung, Ausnutzung und Grenzbereichen der Legalität beruhen.
Hinweis: Dieser Blog-Beitrag basiert auf Berichterstattung des Spiegel sowie weiterer internationaler Medien im Rahmen des Projekts „Dirty Payments“, koordiniert vom European Investigative Collaborations (EIC). Namen habe ich bewusst maskiert.
(mehr …)
10. Juli 2025
Hybride Kriegsführung 2.0: Russische Desinformation infiltriert Künstliche Intelligenz
Künstliche Intelligenz (KI) ist längst nicht mehr nur ein Werkzeug zur Optimierung von Geschäftsprozessen oder zur Unterstützung wissenschaftlicher Forschung – sie wird zunehmend auch zum Schlachtfeld geopolitischer Einflussnahme. Eine aktuelle Studie zeigt, dass Russland wohl gezielt Desinformation in westliche KI-Systeme einspeist, um deren Antworten zu beeinflussen und propagandistische Inhalte als vermeintlich neutrale Information zu verbreiten. Die Untersuchung offenbart alarmierende Erkenntnisse über eine neue Dimension hybrider Kriegsführung.
Update im Mai 2025: Eine aktuelle Analyse des DFRLab und CheckFirst zur russischen Pravda-Desinformationsinfrastruktur brachtete mehrere neue, über die bisher bekannten Fakten hinausgehende Erkenntnisse, die hier aufgenommen wurden.
Hinweis: Zu dem Thema ist inzwischen auch mein juristischer Fach-Aufsatz „Cyberwar, Hackbacks und Desinformation – Juristische und technische Implikationen unklarer Begriffe“ im AnwZert ITR 3/2025 Anm. 2 erschienen.
(mehr …)
16. März 2025
Regulierung von künstlicher Intelligenz durch den AI-Act (KI-Verordnung, 2025)
Die KI-Verordnung (der „AI Act“) reguliert Entwicklung, Vertrieb und Einsatz von KI. Nun bringen es EU-Regeln mit sich, äußerst umfangreich und komplex zu sein – zwar bieten sich hier viele Hilfen beim Verständnis des Textes, aber gerade Laien sind schnell überfordert, die wesentlichen ersten Infos systematisch zu erfassen.
Im Folgenden möchte ich eine kleine Hilfestellung geben, zum Orientieren für diejenigen, die sich mit der Entwicklung von KI beschäftigen. Hinweis: Beachten Sie den Beitrag dazu aus dem Jahr 2026.
Die EU betreibt das Thema KI mit Augenmerk. Das Ziel der EU-Kommission ist nach eigener Aussage ein Aufbau vertrauenswürdiger KI für ein sicheres und innovationsfreundliches Umfeld. Im Blog finden Sie zum Thema KI und KI-VO einige laufend gepflegte Inhalte:
RA JF schreibt hier im Blog und bietet ergänzend Vorträge rund um Datenschutz, Softwarerecht, digitale Ermittlungen & Beweise samt Cybersecurity + Cybercrime!
(mehr …)
4. Februar 2025
Haftung für KI-generierte Texte
Gibt es eine Haftung für KI-generierte Texte: Die Entscheidung des Landgerichts Kiel vom 29. Februar 2024 (Az. 6 O 151/23) ist eine Auseinandersetzung mit der Frage, inwieweit Betreiber von KI-gestützten Systemen für Fehler und Falschinformationen haften, die durch automatisierte Prozesse entstehen. Die Klägerin, ein mittelständisches Unternehmen, wehrte sich erfolgreich gegen die Verbreitung falscher Informationen über ihre angebliche Löschung wegen Vermögenslosigkeit.
(mehr …)
22. November 2024
Datenschutz bei KI – Rechtliche Herausforderungen und Lösungen für Unternehmen
Der Datenschutz im Kontext von Künstlicher Intelligenz (KI) ist ein komplexes und dynamisches Thema, das Unternehmen vor vielfältige Herausforderungen stellt.
Die Entwicklung und der Einsatz von KI-Technologien erfordern nicht nur technische Innovationen, sondern auch die Einhaltung strenger rechtlicher Rahmenbedingungen, insbesondere in der EU und Deutschland. In diesem Blog-Beitrag werden die wichtigsten rechtlichen Probleme und Anforderungen des Datenschutzes bei der Entwicklung und dem Einsatz von KI in Unternehmen erläutert.
(mehr …)
5. Juli 2024
Checkliste Chatbot: Datenschutzrechtliche Voraussetzungen für den Betrieb eines Chatbots
Was braucht man für eine „Checkliste Chatbot“: In der heutigen digitalen Welt haben Chatbots eine immer größere Bedeutung erlangt. Sie sind in der Lage, Kundenanfragen rund um die Uhr zu beantworten und Prozesse zu automatisieren, was sowohl Unternehmen als auch Kunden viele Vorteile bringt.
Allerdings bringt der Einsatz von Chatbots, insbesondere solchen, die auf großen Sprachmodellen (LLMs) wie ChatGPT basieren, erhebliche datenschutzrechtliche Herausforderungen mit sich. Datenschutz ist in diesem Kontext besonders wichtig, weil Chatbots oft mit personenbezogenen Daten interagieren und diese verarbeiten. Die Einhaltung der Datenschutz-Grundverordnung (DSGVO) ist daher unerlässlich, um rechtliche Konsequenzen zu vermeiden und das Vertrauen der Nutzer zu sichern.
(mehr …)
11. Juni 2024

Anwaltskanzlei Ferner Alsdorf (Rechtsanwalt für Strafrecht & IT-Recht)

Anwaltskanzlei Ferner Alsdorf (Rechtsanwalt für Strafrecht & IT-Recht)