KI steht aktuell vorwiegend für Chatbots, die Texte schreiben oder Präsentationen vorbereiten, doch die wirklich brisante Entwicklung spielt sich an anderer Stelle ab: bei agentischen KI‑Systemen, die nicht nur antworten, sondern handeln – E‑Mails verschicken, Software installieren, Konfigurationen ändern, Kalender pflegen und eigenständig im Unternehmensnetzwerk operieren. Die neue Frage im Umgang mit KI sollte daher…WeiterlesenKI-Agenten als Innentäter: Wie OpenClaw & Co. zum Haftungs- & Sicherheitsrisiko werden
Kategorie: Künstliche Intelligenz (KI)
In Teheran und anderen iranischen Städten haben Bilder jubelnder Menschen nach dem Tod von Ali Khamenei weltweit Aufmerksamkeit erregt – nicht wegen der Berichterstattung der staatlichen Medien, sondern wegen der stillen Begleiter im Hintergrund: Kameras, die längst nicht mehr nur aufzeichnen, sondern identifizieren. Eine aktuelle, internationale Recherchekooperation um Forbidden Stories und Le Monde legt offen,…WeiterlesenBiometrische Überwachung im Iran
Europa hat sich mit der KI-Verordnung ein ehrgeiziges Regelwerk gegeben, das weltweit Maßstäbe setzen soll. Doch ausgerechnet an der Stelle, an der Klarheit am nötigsten wäre, herrscht Nebel. Was genau ein „KI-System“ ist und wo die Grenze zu herkömmlicher Software verläuft, vermag bis heute niemand verlässlich zu sagen. Das ist ein strukturelles Defizit, mit dem…WeiterlesenAuslegungsprobleme beim Begriff KI-System
Im BMW-Werk Leipzig stehen, wie das Handelsblatt berichtet, seit Februar 2026 humanoide Roboter am Band. In der Hyundai-Fabrik in Georgia sortiert der Atlas von Boston Dynamics Dachträger weitgehend ohne menschliche Hilfe. Und NVIDIA-Chef Jensen Huang proklamierte auf der CES 2026, der „ChatGPT-Moment für die Robotik“ sei gekommen. Was nach Science-Fiction klingt, wird gerade zum Gegenstand…WeiterlesenPhysical AI – Wenn Künstliche Intelligenz Hände und Füße bekommt
Die Frage, ob durch Künstliche Intelligenz erzeugte Werke urheberrechtlichen Schutz genießen, ist seit Jahren Gegenstand kontroverser Diskussionen. Mit Urteil vom 13. Februar 2026 hat das Amtsgericht München nun eine klare Position bezogen: KI-generierte Logos, die ohne hinreichenden menschlichen schöpferischen Einfluss entstehen, sind nicht als Werke im Sinne des Urheberrechtsgesetzes (UrhG) schutzfähig. Die Entscheidung (Az. 142…WeiterlesenUrheberrecht an KI-generierten Logos?
ChatGPT besteht (angeblich) Anwaltsexamen und medizinische Prüfungen – also kann man mit seinen Fragen sich dorthin wenden und alles ist gut? Mitnichten, wie eine aktuelle Studie zeigt, die bestätigt, was ich hier seit Monaten erlebe: Die dauernde Selbstüberschätzung der User gepaart mit vollkommener Fehleinschätzung, was ein Anwalt eigentlich leistet, neben professioneller, erfahrungsbasierter Kommunikation nämlich insbesondere…WeiterlesenStudie: KI als Berater scheitert am Menschen
Haftungsrisiko KI-Agent: Der gerade im Hype stehende Moltbot OpenClaw steht exemplarisch für die nächste Welle „persönlicher KI‑Agenten“, die nicht mehr nur Texte beantworten, sondern unseren digitalen Alltag komfortabel steuern sollen: Sie lesen Mails, bewegen Dateien, führen Shell‑Befehle aus, steuern Browser und automatisieren Arbeitsabläufe quer durch Messaging‑Dienste – bevorzugt auf einem bezahlbaren Rechner wie einem durchlaufenden…WeiterlesenLokale KI-Agenten wie OpenClaw als Haftungsrisiko begreifen
Beim Landgericht Frankfurt findet sich ein Urteil vom 10. September 2025 (Az: 2-06 O 271/25) mit einer beachtlichen Entscheidung zur Haftung von Suchmaschinenbetreibern für falsche KI-generierte Informationen: Im Mittelpunkt stand die Frage, ob ein marktbeherrschendes Unternehmen für unzutreffende, durch KI erstellte Übersichten in Suchergebnissen haftbar gemacht werden kann – und ob darin ein Missbrauch der…WeiterlesenHaftung von Suchmaschine für KI-generierte Suchergebnisse?
Das Verwaltungsgericht Hamburg hat mit Beschluss vom 15. Dezember 2025 (Aktenzeichen 2 E 8786/25) klargestellt, dass die unzulässige Verwendung von LLM („KI“) als Täuschungshandlung gewertet werden kann – selbst wenn explizite Verbote fehlen. Dabei ging es um einen Schüler, der ein Lesetagebuch mithilfe von KI erstellte und dafür die Note „ungenügend“ erhielt. Hinweis: Es ist…WeiterlesenTäuschungsvorwurf: ChatGPT in der Schule
Eine undeklarierte Nutzung künstlicher Intelligenz durch Sachverständige in einem Prozess kann nicht nur die Verwertbarkeit eines Gutachtens infrage stellen, sondern sogar zur vollständigen Streichung der Vergütung führen – so das Landgericht Darmstadt (19 O 527/16). Endlich einmal wird hier der Einsatz von KI in der Justiz aus anderem Blickwinkel betrachtet, fernab von Anwälten und Richtern;…WeiterlesenKein Honorar für intransparentes KI-Gutachten vor Gericht
Im Juni 2022 einigten sich die EU-Mitgliedstaaten auf ein Mandat für Verhandlungen mit dem Europäischen Parlament über den Vorschlag für eine Verordnung über Maschinenprodukte. Mit diesem Vorschlag wurde die Maschinenrichtlinie aus dem Jahr 2006 schließlich in eine Verordnung umgewandelt und diese neue EU-Maschinenverordnung verschiebt die Verantwortung für die Maschinensicherheit bei Produkten mit integrierter KI noch…WeiterlesenEU-Maschinenverordnung (Verordnung über sichere Maschinenprodukte 2027)
Die EU und die Bundesregierung stellen das Produkthaftungsrecht bis 2026 grundlegend neu auf. Software und KI-Systeme werden künftig ausdrücklich als Produkte behandelt, verbunden mit erweiterten Haftungsrisiken, neuen Beweiserleichterungen für Geschädigte und einer Ausweitung des Kreises haftender Akteure. Ich hatte bereits auf LinkedIn dazu etwas geschrieben, medial wird das Thema längst reflektiert, etwa bei Handelsblatt oder…WeiterlesenReform des Produkthaftungsrechts: Software und KI
Urheberrecht in der KI-Ära: Die Entscheidung des Landgerichts München I (42 O 14139/24 – Rechtsmittel beim OLG München anhängig) markiert einen ersten Meilenstein in der juristischen Auseinandersetzung mit den urheberrechtlichen Implikationen generativer Künstlicher Intelligenz. Erstmals hat ein deutsches Gericht klargestellt, dass die Memorisierung urheberrechtlich geschützter Werke in KI-Sprachmodellen eine unzulässige Vervielfältigung darstellt – und dass…WeiterlesenLG München I zur Memorisierung von Werken in KI-Sprachmodellen
Das Hanseatische Oberlandesgericht Hamburg (Az.: 5 U 104/24) hat in seinem Urteil zur Nutzung urheberrechtlich geschützter Werke für das Training Künstlicher Intelligenz eine prägende Entscheidung getroffen, die die Grenzen zwischen urheberrechtlichem Schutz und den Möglichkeiten des Text und Data Mining im Kontext generativer KI-Systeme auslotet. Der Fall betrifft die Klage eines Fotografen gegen einen Verein,…WeiterlesenKI-Training und Urheberrecht: Zulässigkeit des Webscrapings für Trainingsdatensätze (OLG HH)
Unternehmen, die Künstliche Intelligenz einsetzen, diskutieren derzeit vor allem Datenschutz, Urheberrecht und die kommende EU‑KI‑Verordnung. Weit weniger im Blick ist dagegen eine Rechtsmaterie, die der Nutzung bestimmter KI‑Modelle ganz handfest im Weg stehen kann: das deutsche Lieferkettensorgfaltspflichtengesetz (LkSG) … und auch der generelle ethische Einsatz. Denn: Menschen wurden und werden ausgebeutet beim Training von KI –…WeiterlesenKI-Washing 2.0: Ausbeutung von Menschen bei KI-Modellen