Kategorie: Künstliche Intelligenz (KI)

Anwaltskanzlei Ferner Alsdorf: Kontakt zu Rechtsanwalt Ferner im Raum Aachen

Rechtsanwalt Ferner in Alsdorf, Aachen; Fachanwalt für Strafrecht und Fachanwalt für IT-Recht in der Städteregion Aachen, leicht verfügbar für Betroffene in Alsdorf, Aachen, Würselen, Baesweiler, Herzogenrath, Eschweiler, Übach-Palenberg, Geilenkirchen und Aldenhoven
  • KI-Kennzeichnungspflicht nach Art. 50 KI-VO: Pflichten, Fristen, Bußgelder

    KI-Kennzeichnungspflicht nach Art. 50 KI-VO: Pflichten, Fristen, Bußgelder

    KI: Kennzeichnungspflicht, Transparenz, Deepfakes und digitale Gewalt bei künstlicher Intelligenz (Update 2026)

    Für viele Unternehmen war KI lange ein technisches Thema: spannend fürs Marketing, interessant für die IT, aber ohne existenzielle Relevanz für das eigene Risiko‑Profil. Diese Phase ist vorbei. Generative KI erzeugt heute in Sekunden Bilder, Videos, Stimmen und Texte, die sich von „echten“ Inhalten kaum noch unterscheiden – und genau das ist der Punkt, an dem Recht und Compliance sehr ungemütlich werden.

    Mit Art. 50 der KI‑Verordnung, flankiert vom Digital Services Act, Datenschutzrecht, Persönlichkeitsrecht und einem neuen Gesetz gegen digitale Gewalt, wird Transparenz zur Pflichtaufgabe. Wer KI‑Inhalte nutzt, muss künftig nicht nur abstrakt „verantwortungsvoll“ handeln, sondern konkret kennzeichnen, wie Inhalte entstanden sind, welche Systeme im Einsatz waren und wo synthetische Medien im Spiel sind. Das ist kein kosmetisches Thema, sondern berührt Haftung, Governance und letztlich das Vertrauen in die eigene Kommunikation.

    Im Folgenden geht es deshalb um drei Ebenen: zunächst die rechtliche Einordnung von Deepfakes und synthetischen Medien aus Sicht des Persönlichkeits‑ und Strafrechts, danach um die (durchaus kritische) Rolle des geplanten Gesetzes gegen digitale Gewalt und schließlich um Art. 50 KI‑VO und dessen praktische Umsetzung im Management, abgeschlossen mit einer bewusst ausführlichen Checkliste. Den früheren Beitrag habe ich im August 2026 unter Berücksichtigung des EU-Verhaltenskodex für die Kennzeichnung KI-generierter Inhalte aktualisiert.

    Genau diese Fragen unterrichte ich Übrigens im Rahmen meines IT-Compliance-Lehrauftrags an der FH Aachen mit den Schwerpunkten KI-Kompetenz und strategisches Denken: Wie ordnet man die eigene Rolle als Anbieter oder Betreiber zu, wo endet der Anwendungsbereich des Art. 50 KI-VO, welche Kennzeichnung ist verhältnismäßig – und wo wird aus einem Transparenzversäumnis ein haftungs- oder gar strafrechtlich relevanter Sachverhalt?

    Die Erfahrung aus den Lehrveranstaltungen deckt sich mit der Beratungspraxis: Nicht die Norm selbst bereitet Schwierigkeiten, sondern ihre Übersetzung in Prozesse, Freigabewege und Zuständigkeiten. Die nach Art. 4 KI-VO ohnehin geschuldete KI-Kompetenz ist deshalb eigentliche Voraussetzung dafür, dass Kennzeichnungspflichten im Alltag überhaupt erfüllt werden können … ein Punkt, den ich sowohl in der Lehre als auch in Inhouse-Schulungen für Unternehmen konsequent an den Anfang stelle.

    (mehr …)
  • Biowaffen und KI: „Das Szenario“ als (fast) neues Genre

    Biowaffen und KI: „Das Szenario“ als (fast) neues Genre

    Im Frühjahr 2026 sequenzierte der britische Mediziner und Machine-Learning-Spezialist Seth Howes sein eigenes Genom auf dem Küchentisch. Das Gerät kostete bei eBay knapp 3.000 Euro, eine KI führte ihn Schritt für Schritt durch das Verfahren. Wer daraus schließt, dass der nächste Pandemieerreger aus einer Hobbyküche kommt, hat einen Denkschritt zu viel gemacht. Wer daraus schließt, dass nichts passiert ist, hat einen zu wenig.

    Meine These vorweg: Das Zusammenspiel von KI und synthetischer Biologie verdient Aufmerksamkeit, aber es verdient sie nicht in der Schärfe, in der es aus meiner Sicht gerade thematisiert wird. Es verhält sich für mich vielmehr ähnlich wie schon die (schwelende) Diskussion zu Waffen aus dem 3D-Drucker. Technisch nachweisbar, medial dankbar, praktisch bislang randständig, regulatorisch an genau einer Stelle sinnvoll adressierbar. Für Fiktion reicht es allerdings glänzend.

    (mehr …)
  • OpenAI greift Hugging Face an: Strafrechtliche Folgen, wenn die eigene KI zum Angreifer wird

    OpenAI greift Hugging Face an: Strafrechtliche Folgen, wenn die eigene KI zum Angreifer wird

    Ein Sicherheitsteam von OpenAI startet einen Testlauf, will die Cyberfähigkeiten neuer Modelle vermessen, und wenige Stunden später steht der Angriff nicht im Testlabor, sondern in der fremden Infrastruktur von Hugging Face. Für ein Unternehmen, das mit Kontrolle über seine Technik wirbt, ist das ein unangenehmer Moment, und für alle anderen ein Vorgeschmack darauf, was auf sie zukommt.

    Ich greife den Vorgang auf, weil ich in KIR 2025, 374 den meines Wissens ersten juristischen Fachaufsatz zum LLM-Hacking, speziell zur strafrechtlichen Relevanz von Cyberangriffen mittels und gegen LLM, publiziert habe. Hier gehe ich konkret auf strafrechtliche Fragen der Zuordnung und Verantwortlichkeit KI-getriebener Angriffe ein und ordne das im Folgenden anhand des nunmehr praktisch aufgetretenen Szenarios kurz ein. Update: Meine Anmerkung wurde bei Heise-Online, NAU sowie beim Juristischen Internetprojekt Saarbrücken aufgegriffen.

    (mehr …)
  • KI-Gigafabrik in Jülich (Update 2026)

    KI-Gigafabrik in Jülich (Update 2026)

    Nur wenige Kilometer von Alsdorf entfernt entsteht in Jülich vielleicht – so die ganz grosse Hoffnung – in naher Zukunft ein Stück europäischer Digitalgeschichte: Der Supercomputer Jupiter, bereits heute der größte öffentliche Rechner außerhalb der USA, könnte zum Kern einer der ersten KI-Gigafabriken der EU werden. Warum das nicht nur eine technische, sondern auch eine rechtliche Chance ist.

    Update im Juni 2026: Irgendwie läuft es nicht rund (siehe unten …)

    (mehr …)
  • Vom Mietvertrag zur Wegwerfware: Wie KI das IT-Vertragsrecht neu ordnet

    Vom Mietvertrag zur Wegwerfware: Wie KI das IT-Vertragsrecht neu ordnet

    KI-generierte „Wegwerfsoftware“ verschiebt den Schwerpunkt des IT-Vertragsrechts weg von Dauerschuldverhältnissen wie Cloud-Abonnements hin zu Werkverträgen und Haftungsfragen, wobei Urheberrecht und Produkthaftung zu den zentralen Streitfeldern werden. Der folgende Beitrag ordnet diese Verschiebung ein und erweitert die bisherige Analyse um die urheberrechtliche Schutzfähigkeit von KI-Code und die konkreten Haftungsrisiken fehlerhafter KI-Ausgaben.

    (mehr …)
  • Rechenzentrumsboom in NRW … und die Gesellschaft?

    Rechenzentrumsboom in NRW … und die Gesellschaft?

    Wer in Grevenbroich, Bergheim oder Bedburg wohnt, hat in den vergangenen Monaten erlebt, wie schnell aus einer wirtschaftspolitischen Erfolgsmeldung eine Frage nach dem eigenen Alltag wird: Was bedeutet es eigentlich, wenn neben dem Dorf ein Gebäude entsteht, das so viel Strom verbraucht wie eine Kleinstadt, aber kaum jemanden aus der Nachbarschaft beschäftigt.

    Microsoft hat seine Rechenzentrumspläne im Rheinischen Revier gerade um einen vierten Standort in Grevenbroich erweitert, nachdem bereits Bergheim, Bedburg und Elsdorf angekündigt worden waren. Insgesamt stehen für die bestehenden Standorte 3,2 Milliarden Euro im Raum, eine Summe, die mit dem vierten Projekt weiter wachsen dürfte. Wie NRW sich damit als KI-Standort positioniert, hat der WDR in seiner Sendung „Neues Microsoft-Rechenzentrum: Wie ist NRW bei KI aufgestellt?“ eingeordnet.

    (mehr …)
  • KI-Einsatz durch Behörden bei Auswertung von Luftbildern bleibt begrenzt

    KI-Einsatz durch Behörden bei Auswertung von Luftbildern bleibt begrenzt

    Wenn die Kommune das eigene Wohngrundstück aus der Luft befliet und dabei digitale Orthofotos erzeugt, ist das Unbehagen greifbar: Wer schaut da eigentlich in den Garten – und was passiert mit diesen Bildern, wenn Künstliche Intelligenz ins Spiel kommt? Genau diese Befürchtung einer Grundstückseigentümerin hat das Oberverwaltungsgericht Münster im Beschluss vom 22. Juni 2026 (Az. 16 B 169/25 – Vorinstanz hier bei uns im Blog) aufgegriffen und im Ergebnis verneint: Der bloße Umstand, dass Luftbildaufnahmen theoretisch mit KI „geschärft“ werden können, hebt eine in sich geringe Eingriffsintensität nicht automatisch in einen schweren Grundrechtseingriff.

    (mehr …)
  • Compliance-Versagen durch KI-Agenten: Wer haftet wenn Chatbots Grenzen überschreiten?

    Compliance-Versagen durch KI-Agenten: Wer haftet wenn Chatbots Grenzen überschreiten?

    Vorgestellt: Ein Kundenberater würde einer offensichtlich verwirrten älteren Dame am Telefon zuerst Verständnis signalisieren, fürsorglich fragen, ob sie Hilfe holen möchte – um ihr dann trotzdem einen Vertrag aufzuschwatzen. Kein seriöser Verkäufer würde das tun, so wenig wie ein Mensch mit Gewissen und Berufserfahrung. Ein KI-Agent hingegen macht es, in jedem getesteten Fall, ohne Ausnahme.

    Das ist kein Gedankenexperiment, sondern der Befund einer Studie, die Ende Mai 2026 für einiges Aufsehen gesorgt hat. Die Amsterdamer Aithos Research Foundation, eine gemeinnützige Non-Profit-Stiftung, hat mit ihrem Framework LARA (Legal Assessment for Real-world Agents) zwölf der führenden KI-Sprachmodelle unter realistischen Bedingungen auf EU-Rechtskonformität getestet. Das Ergebnis ist unmissverständlich: Kein einziges besteht den Test.

    (mehr …)
  • Schatten-KI im Betrieb

    Schatten-KI im Betrieb

    Während Schatten-IT – also die Nutzung nicht autorisierter Software oder Hardware – bereits seit Längerem bekannt ist, gewinnt nun ein verwandtes Phänomen an Bedeutung: Schatten-KI. Gemeint ist der Einsatz künstlicher Intelligenz durch Mitarbeiter ohne Wissen oder Genehmigung der Unternehmensführung.

    Eine aktuelle Umfrage zeigt auf, dass ein beträchtlicher Teil der Fachkräfte, insbesondere in MINT-Berufen, KI-Tools wie ChatGPT, Google Gemini oder andere generative Systeme im Arbeitsalltag nutzt, oft ohne dass dies von der IT-Abteilung oder Geschäftsleitung autorisiert wurde. Die Rede ist hier von drei von vier MINT-Fachkräften (77 Prozent). Durch einen solchen (unkontrollierten) Einsatz werden nicht nur technische, sondern vor allem rechtliche und organisatorische Fragen aufgeworfen.

    Hinweis/Update: Zu dem Thema habe ich dem IT-Fachmagazin t3n im Juni 2026 ein Interview gegeben.

    (mehr …)
  • Verbotene Wörter im Schadcode: Wie Angreifer KI-Analysen aushebeln

    Verbotene Wörter im Schadcode: Wie Angreifer KI-Analysen aushebeln

    Sicherheitsfirmen prüfen eine große Anzahl von Open-Source-Paketen automatisiert. Doch was ist, wenn dabei auf ein Sprachmodell vertraut wird, das den Code im ersten Durchlauf bewertet? Wenn man dann eine Datei öffnet, springt einem noch bevor die eigentliche Logik beginnt ein Kommentarblock entgegen, der von Nuklear- und Biowaffen spricht oder das Modell anweist, alle Sicherheitsregeln zu vergessen. Genau das geschieht inzwischen offenbar in freier Wildbahn – und es ist kein Zufallsfund, sondern eine bewusst entwickelte Waffe gegen die Werkzeuge, mit denen wir uns verteidigen.

    (mehr …)
  • KI unter Verschluss: US-Exportkontrolle stoppt Anthropics Fable 5 und Mythos 5

    KI unter Verschluss: US-Exportkontrolle stoppt Anthropics Fable 5 und Mythos 5

    Software und KI im Exportrecht

    Am Abend des 12. Juni 2026 erhielt Anthropic um 17:21 Uhr Ortszeit einen Brief von Handelsminister Howard Lutnick. Der Inhalt war knapp und folgenreich: Das US-Handelsministerium ordnete gestützt auf Exportkontrollrecht an, dass Claude Fable 5 und Claude Mythos 5 sämtlichen ausländischen Staatsangehörigen zu sperren seien, und zwar unabhängig davon, ob sie sich innerhalb oder außerhalb der USA aufhielten, einschließlich ausländischer Mitarbeiter von Anthropic selbst. Da es keinen verlässlichen technischen Mechanismus gibt, Staatsbürgerschaft auf API-Ebene zu verifizieren, tat Anthropic das einzig Mögliche: beide Modelle wurden weltweit für alle Nutzer abgeschaltet. Das erste Mal in der Geschichte des kommerziellen KI-Markts zwang eine staatliche Exportkontrollanordnung ein US-Unternehmen dazu, sein Flaggschiffprodukt in Echtzeit vom Netz zu nehmen.

    Wer das für eine Kuriosität hält, unterschätzt die Tragweite. Es geht nicht um einen Einzelfall, sondern um eine grundlegende Verschiebung: KI-Modellgewichte werden rechtlich immer deutlicher als Exportgut behandelt – mit allen Konsequenzen, die das für Unternehmen, Nutzer und Strafverteidiger in Deutschland und der EU hat.

    (mehr …)
  • Deutschland bekommt ein KI-Gesetz: Bündelung der nationalen KI-Aufsicht bei der Bundesnetzagentur

    Deutschland bekommt ein KI-Gesetz: Bündelung der nationalen KI-Aufsicht bei der Bundesnetzagentur

    Mit dem am 10. Juni 2026 vom Ausschuss für Digitales und Staatsmodernisierung zur Annahme empfohlenen und sodann beschlossenen Gesetz zur Durchführung der Verordnung (EU) 2024/1689 schafft der Bund die nationale Vollzugsarchitektur für den AI Act. Kernstück des Artikelgesetzes ist Artikel 1, mit dem das KI-Marktüberwachungs- und Innovationsförderungs-Gesetz (KI‑MIG) geschaffen wird und das die Bundesnetzagentur (BNetzA) zur zentralen Marktüberwachungsbehörde, Anlaufstelle und Beschwerdestelle bestimmt … und zugleich ein verschachteltes System sektoraler und föderaler Zuständigkeiten konserviert.

    (mehr …)
  • LG München I zur Haftung für KI-generierte Äußerungen

    LG München I zur Haftung für KI-generierte Äußerungen

    Mit dem ganz aktuellen Endurteil des LG München I vom 28.05.2026 (26 O 869/26) und dem Urteil des OLG Hamm vom 12.05.2026 (4 UKl 3/25, hier im Blog) liegen nun innerhalb weniger Tage zwei Entscheidungen der Oberlandesgerichte vor, die KI-generierte Inhalte dem Betreiber als eigene Äußerung zurechnen – das LG München I äußerungsrechtlich, das OLG Hamm lauterkeitsrechtlich. Beide Entscheidungen verwerfen den Rückzug auf Provider- und Störerprivilegien.

    Parallel dazu beschäftigt sich die Literatur mit der Frage, ob die revidierte Produkthaftungs-RL für fehlerhaften Chatbot-Output greift. Im Folgenden ordne ich diese Linien (wenn auch recht gerafft) dogmatisch ein, zeige ihren gemeinsamen Nenner – die Verlagerung des Zurechnungsschwerpunkts vom Einzeloutput auf das Systemdesign – auf und führe sie mit der hier bereits früher entwickelten vertrags- und deliktsrechtlichen Betrachtung zusammen.

    (mehr …)