Kategorie: Künstliche Intelligenz (KI)

Anwaltskanzlei Ferner Alsdorf: Kontakt zu Rechtsanwalt Ferner im Raum Aachen

Rechtsanwalt Ferner in Alsdorf, Aachen; Fachanwalt für Strafrecht und Fachanwalt für IT-Recht in der Städteregion Aachen, leicht verfügbar für Betroffene in Alsdorf, Aachen, Würselen, Baesweiler, Herzogenrath, Eschweiler, Übach-Palenberg, Geilenkirchen und Aldenhoven
  • KI-Verordnung (2026)

    KI-Verordnung (2026)

    Die KI-Verordnung („KI-VO“, auch „AI-Act“ – VO (EU) 2024/1689) ist seit dem 1. August 2024 in Kraft und wird im Sommer 2026 in ihrer Substanz wirksam. Mit der politischen Einigung zum sogenannten KI-Omnibus vom 7. Mai 2026 verschiebt der Unionsgesetzgeber zentrale Pflichten für Hochrisiko-Systeme; gleichzeitig erweitert er den Verbotskatalog und zieht die Kennzeichnungspflichten für synthetische Inhalte vor. Im Folgenden möchte ich die Verordnung in ihrem aktuellen Stand einordnen und beschreiben, was Geschäftsführungen und Compliance-Abteilungen (voraussichtlich) in den nächsten Monaten beachten müssen.

    Hinweis: Der Beitrag wurde im Mai 2026 neu gefasst und hat den Stand 14. Mai 2026, berücksichtigt also die Trilogeinigung zum KI-Omnibus.

    (mehr …)
  • Tokenmaxxing am Arbeitsplatz: Dürfen Unternehmen die KI-Nutzung ihrer Mitarbeiter überwachen?

    Tokenmaxxing am Arbeitsplatz: Dürfen Unternehmen die KI-Nutzung ihrer Mitarbeiter überwachen?

    KI-Assistenten gehören längst zum Arbeitsalltag. Mit ihnen entsteht aber eine neue betriebliche Messgröße: der Token-Verbrauch. Wer viele Token verbraucht, gilt schnell als „produktiv“ – und genau das setzt Fehlanreize. Bei Amazon und anderen US-Konzernen ist daraus bereits ein Phänomen geworden, das unter dem Stichwort Tokenmaxxing diskutiert wird. Für das Management stellen sich zwei Fragen, die juristisch sauber zu trennen sind: Darf der Arbeitgeber die Tokennutzung seiner Beschäftigten überhaupt überwachen? Und wie ist es arbeitsrechtlich zu bewerten, wenn Mitarbeiter ihren Token-Verbrauch künstlich aufblähen?

    (mehr …)
  • OLG Hamm zur KI-Werbung: Wer den Chatbot einsetzt, haftet für seine Aussagen

    OLG Hamm zur KI-Werbung: Wer den Chatbot einsetzt, haftet für seine Aussagen

    Das Oberlandesgericht Hamm (4. Zivilsenat, Urteil vom 12.05.2026 – 4 UKl 3/25) hatte zu klären, ob ein Unternehmen für irreführende Aussagen eines auf seiner Website eingebundenen KI‑Chatbots lauterkeitsrechtlich einsteht. Der Senat bejaht dies klar und qualifiziert die Antworten des Chatbots als eigene geschäftliche Handlungen der Betreiberin – mit weitreichenden Folgen für den Einsatz von KI im Marketing.

    (mehr …)
  • KI-Bildgenerierung und Lichtbildschutz: OLG Düsseldorf setzt Maßstäbe

    KI-Bildgenerierung und Lichtbildschutz: OLG Düsseldorf setzt Maßstäbe

    Mit Urteil vom 2. April 2026 (20 W 2/26) hat der 20. Zivilsenat des Oberlandesgerichts Düsseldorf die sofortige Beschwerde einer Unterwasserfotografin zurückgewiesen, die einem ehemaligen Kooperationspartner die weitere Verbreitung eines mittels Bild-zu-Bild-KI erstellten Folgewerks untersagen lassen wollte. Die Entscheidung liefert die bislang präziseste obergerichtliche Dogmatik zur Schnittstelle zwischen dem klassischen Lichtbildschutz und der Nutzung menschlich geschaffener Bilder als Input generativer KI-Systeme und schließt systematisch an die jüngsten unionsgerichtlichen Vorgaben (EuGH, Mio und konektra, C-580/23, C-795/23) an.

    Hinweis: Mein Blog-Beitrag wurde in der Presse umfangreich aufgegriffen, u.a. bei Heise, BusinessPunk und bei HNA:

    (mehr …)
  • Hybride Schöpfungsprozesse: LG Frankfurt zum Urheberrechtsschutz eines teilweise KI-generierten Liedes

    Hybride Schöpfungsprozesse: LG Frankfurt zum Urheberrechtsschutz eines teilweise KI-generierten Liedes

    Mit Urteil vom 17. Dezember 2025 (2-06 O 401/25) hat die 6. Zivilkammer des Landgerichts Frankfurt am Main eine einstweilige Verfügung bestätigt, die einem digitalen Vertrieb die weitere Verwertung eines Liedes untersagt, dessen Text in wesentlichen Teilen aus einem menschlich verfassten Originaltext übernommen worden war – obwohl in den Produktionsprozess das KI-System SunoAI eingebunden war. Die Entscheidung ordnet die beweisrechtlichen Lasten bei KI-gestützten Werken neu und entwickelt eine praktikable Dogmatik für die Abgrenzung menschlicher und maschineller Schöpfungsanteile im einstweiligen Rechtsschutz.

    (mehr …)
  • KI und Cybersicherheit

    KI und Cybersicherheit

    Im Frühjahr 2026 hat sich im Verhältnis von Künstlicher Intelligenz und IT-Sicherheit etwas verschoben, das über den üblichen Takt technischer Innovation hinausgeht. Anthropic stellte mit „Claude Mythos Preview“ ein Modell vor, das in OpenBSD eine 27 Jahre alte Schwachstelle aufspürte, in FFmpeg eine seit 16 Jahren schlummernde Lücke fand und insgesamt Tausende Schwachstellen in Betriebssystemen und Browsern identifizierte.

    Das Modell wird nicht öffentlich angeboten, sondern nur rund vierzig Unternehmen – darunter Apple, Amazon, Microsoft, Cisco, Crowdstrike und Palo Alto Networks – im Rahmen von „Project Glasswing“ zugänglich gemacht. US-Finanzminister Scott Bessent und Notenbankchef Jerome Powell beriefen eine Dringlichkeitssitzung mit den Chefs der systemrelevanten Wall-Street-Banken ein, das BSI spricht von einer „Verschiebung der Angriffsvektoren“ und einem „Paradigmenwechsel“ in der Cyberbedrohungslage.

    Der IWF hat wenige Tage später, am 7. Mai 2026, in einem Blogbeitrag festgehalten, dass KI-getriebene Cyberrisiken zu einem makro-finanziellen Schock eskalieren können, wenn Entdeckung und Ausnutzung von Schwachstellen in Maschinentempo parallel in vielen Instituten erfolgen.

    Für den juristischen Beobachter ist das keine schlichte Randnotiz der Technikgeschichte: Der europäische Regulierungsrahmen für KI und Cybersicherheit wird nun an einer Realität gemessen, die schneller ist als der Gesetzgebungsprozess.

    (mehr …)
  • KI-Agenten als Innentäter: Wie OpenClaw & Co. zum Haftungs- & Sicherheitsrisiko werden

    KI-Agenten als Innentäter: Wie OpenClaw & Co. zum Haftungs- & Sicherheitsrisiko werden

    KI steht aktuell vorwiegend für Chatbots, die Texte schreiben oder Präsentationen vorbereiten, doch die wirklich brisante Entwicklung spielt sich an anderer Stelle ab: bei agentischen KI‑Systemen, die nicht nur antworten, sondern handeln – E‑Mails verschicken, Software installieren, Konfigurationen ändern, Kalender pflegen und eigenständig im Unternehmensnetzwerk operieren. Die neue Frage im Umgang mit KI sollte daher nicht mehr zentral sein, ob eine KI halluziniert, sondern was passiert, wenn ein solcher Agent mit weitreichenden Rechten Fehler macht, manipuliert wird oder schlicht „kreative“ Wege zur Zielerreichung wählt.

    (mehr …)
  • Biometrische Überwachung im Iran

    Biometrische Überwachung im Iran

    In Teheran und anderen iranischen Städten haben Bilder jubelnder Menschen nach dem Tod von Ali Khamenei weltweit Aufmerksamkeit erregt – nicht wegen der Berichterstattung der staatlichen Medien, sondern wegen der stillen Begleiter im Hintergrund: Kameras, die längst nicht mehr nur aufzeichnen, sondern identifizieren.

    Eine aktuelle, internationale Recherchekooperation um Forbidden Stories und Le Monde legt offen, dass der Iran sich dafür hochentwickelte Gesichtserkennungssoftware aus Russland beschafft haben soll, und zwar über ein Geflecht aus Tarnfirmen und staatsnahen Technologieunternehmen. Im Zentrum steht die Software FindFace des russischen Unternehmens NtechLab, die in Russland bereits zur Überwachung von Oppositionellen und Regimekritikern eingesetzt worden sein soll und nun offenbar Bestandteil des iranischen Sicherheitsapparats ist.

    Die technischen Fähigkeiten der eingesetzten Systeme sind dabei für sich genommen nicht außergewöhnlich. Sie stehen exemplarisch für eine globale Überwachungsindustrie, in der Gesichtserkennungslösungen in immer größeren Maßstab verfügbar sind. Bemerkenswert ist, wer diese Technologie einsetzt, wie sie beschafft wird und in welchen rechtlichen und politischen Strukturen sie verankert ist. Gerade im Vergleich mit den europäischen Debatten um biometrische Fernidentifizierung, KI‑Regulierung und Datenschutz zeigt der Fall Iran, wie stark der normative Rahmen darüber entscheidet, ob ein und dieselbe Technologie als Instrument moderner Strafverfolgung oder als Baustein einer repressiven Überwachungsordnung wirkt.

    (mehr …)
  • Auslegungsprobleme beim Begriff KI-System

    Auslegungsprobleme beim Begriff KI-System

    Europa hat sich mit der KI-Verordnung ein ehrgeiziges Regelwerk gegeben, das weltweit Maßstäbe setzen soll. Doch ausgerechnet an der Stelle, an der Klarheit am nötigsten wäre, herrscht Nebel. Was genau ein „KI-System“ ist und wo die Grenze zu herkömmlicher Software verläuft, vermag bis heute niemand verlässlich zu sagen. Das ist ein strukturelles Defizit, mit dem die gesamte Architektur der Regulierung untergraben wird.

    (mehr …)
  • Physical AI – Wenn Künstliche Intelligenz Hände und Füße bekommt

    Physical AI – Wenn Künstliche Intelligenz Hände und Füße bekommt

    Im BMW-Werk Leipzig stehen, wie das Handelsblatt berichtet, seit Februar 2026 humanoide Roboter am Band. In der Hyundai-Fabrik in Georgia sortiert der Atlas von Boston Dynamics Dachträger weitgehend ohne menschliche Hilfe. Und NVIDIA-Chef Jensen Huang proklamierte auf der CES 2026, der „ChatGPT-Moment für die Robotik“ sei gekommen. Was nach Science-Fiction klingt, wird gerade zum Gegenstand industrieller Routineplanung – und wirft eine Reihe rechtlicher Fragen auf, die das bestehende Regulierungsgerüst an seine Grenzen bringen.

    (mehr …)
  • Studie: KI als Berater scheitert am Menschen

    Studie: KI als Berater scheitert am Menschen

    ChatGPT besteht (angeblich) Anwaltsexamen und medizinische Prüfungen – also kann man mit seinen Fragen sich dorthin wenden und alles ist gut? Mitnichten, wie eine aktuelle Studie zeigt, die bestätigt, was ich hier seit Monaten erlebe: Die dauernde Selbstüberschätzung der User gepaart mit vollkommener Fehleinschätzung, was ein Anwalt eigentlich leistet, neben professioneller, erfahrungsbasierter Kommunikation nämlich insbesondere die Vermeidung eines Bestätigungsfehlers.

    (mehr …)
  • Lokale KI-Agenten wie OpenClaw als Haftungsrisiko begreifen

    Lokale KI-Agenten wie OpenClaw als Haftungsrisiko begreifen

    Haftungsrisiko KI-Agent: Der gerade im Hype stehende Moltbot OpenClaw steht exemplarisch für die nächste Welle „persönlicher KI‑Agenten“, die nicht mehr nur Texte beantworten, sondern unseren digitalen Alltag komfortabel steuern sollen: Sie lesen Mails, bewegen Dateien, führen Shell‑Befehle aus, steuern Browser und automatisieren Arbeitsabläufe quer durch Messaging‑Dienste – bevorzugt auf einem bezahlbaren Rechner wie einem durchlaufenden Mac mini im eigenen Heimnetz.

    Gleichzeitig aber zeigen Sicherheitsforschende bereits binnen weniger Wochen Hunderte offen im Netz stehende Instanzen, unsichere Protokolle und reale Angriffsversuche; die Euphorie über den „24/7‑Mitarbeiter im Wohnzimmer“ sollte daher als konkrete Risiko‑Debatte mit juristischem Einschlag gesehen werden.

    Hinweis: Im Rahmen meines Aufsatzes zum LLM-Hacking (erschienen in KIR 2025, 374ff.) habe ich herausgearbeitet, dass die unten thematisierten Prompt Injections strafbare Handlungen sind. Der Beitrag wurde aktualisiert mit Blick auf neue Entwicklungen in Punkte Sicherheit und natürlich den erneuten Namenswechsel.

    (mehr …)
  • Haftung von Suchmaschine für KI-generierte Suchergebnisse?

    Haftung von Suchmaschine für KI-generierte Suchergebnisse?

    Beim Landgericht Frankfurt findet sich ein Urteil vom 10. September 2025 (Az: 2-06 O 271/25) mit einer beachtlichen Entscheidung zur Haftung von Suchmaschinenbetreibern für falsche KI-generierte Informationen: Im Mittelpunkt stand die Frage, ob ein marktbeherrschendes Unternehmen für unzutreffende, durch KI erstellte Übersichten in Suchergebnissen haftbar gemacht werden kann – und ob darin ein Missbrauch der Marktstellung liegt. Es ging also vor allem um kartellrechtliche Fragen.

    (mehr …)
  • Täuschungsvorwurf: ChatGPT in der Schule

    Täuschungsvorwurf: ChatGPT in der Schule

    Das Verwaltungsgericht Hamburg hat mit Beschluss vom 15. Dezember 2025 (Aktenzeichen 2 E 8786/25) klargestellt, dass die unzulässige Verwendung von LLM („KI“) als Täuschungshandlung gewertet werden kann – selbst wenn explizite Verbote fehlen. Dabei ging es um einen Schüler, der ein Lesetagebuch mithilfe von KI erstellte und dafür die Note „ungenügend“ erhielt.

    Hinweis: Es ist eine von mehreren Entscheidungen zum Thema und weitere werden folgen. Ich gehe hart mit unserem Bildungssystem aber auch unserer Justiz ins Gericht, die wie andere Ewiggestrige versuchen, durch schlichtes Verleugnen die Zeit anzuhalten. Aber weder Verleugnen noch Verbote helfen, wir müssen lernen, mit dieser Neuen Welt zu lernen – und Schulen, die noch zu unfähig sind, klare KI-Regeln vorzugeben und KI-Lernmethoden zu vermitteln, stehen da an erster Front.

    (mehr …)