Rechtsanwalt für AI-Act: Rechtsanwalt Jens Ferner, Fachanwalt für IT-Recht, ist Ihr Rechtsanwalt für den AI-Act. Der „AI-Act“ ist die Kurzbezeichnung für den Verordnungsentwurf zur Regulierung der Künstlichen Intelligenz in der Europäischen Union, den die Europäische Kommission im April 2021 vorgelegt hat. Der vollständige Name lautet „Verordnung über einen europäischen Ansatz für Künstliche Intelligenz“ und ist Teil der umfassenden Digitalstrategie der EU, mit der ein Rechtsrahmen für die Nutzung von KI-Technologien in den Mitgliedstaaten geschaffen werden soll.
Hauptziel des AI-Act ist es, ein Gleichgewicht zwischen der Förderung von Innovation und Wettbewerbsfähigkeit im Bereich der KI und dem Schutz der Grundrechte, der Sicherheit und der Privatsphäre der Bürgerinnen und Bürger der EU herzustellen. Einige der wichtigsten rechtlichen Fragen und Aspekte, die sich aus dem AI Act ergeben, sind folgende
Klassifizierung von KI-Systemen: Der AI-Act teilt KI-Systeme in verschiedene Risikokategorien ein, wobei für Systeme mit hohem Risiko strengere Anforderungen gelten. Rechtliche Fragen ergeben sich hier z.B. hinsichtlich der genauen Abgrenzung dieser Kategorien und der Definition von Risiken.
Transparenz und Dokumentation: Der AI Act verpflichtet Hersteller und Anwender von KI-Systemen zu einer umfassenden Dokumentation ihrer Systeme, um die Einhaltung der gesetzlichen Anforderungen nachweisen zu können. Dies wirft Fragen zu Umfang und Art der erforderlichen Dokumentation sowie zu datenschutzrechtlichen Aspekten auf.
Haftung und Sanktionen: Das KI-Gesetz schlägt auch eine Änderung der bestehenden Haftungsregelungen vor, um KI-Systemen und ihren Entwicklern eine angemessene Verantwortung zuzuweisen. Rechtsfragen betreffen hier unter anderem die Festlegung von Haftungsgrundsätzen und die Festlegung von Sanktionen bei Verstößen gegen die Regelung.
Aufsicht und Kontrolle: Das KI-Gesetz sieht die Einrichtung nationaler Aufsichtsbehörden vor, die die Einhaltung der Verordnung überwachen sollen. Rechtsfragen betreffen hier die Kompetenzen dieser Behörden, die Zusammenarbeit zwischen den Mitgliedstaaten und die Rolle der EU-Kommission bei der Koordinierung der Aufsicht.
Internationale Zusammenarbeit: Da KI-Technologien global eingesetzt werden, ist die internationale Zusammenarbeit bei der Regulierung von KI von entscheidender Bedeutung. Rechtliche Fragen stellen sich in Bezug auf die Harmonisierung von Rechtsvorschriften und die Zusammenarbeit mit Drittstaaten.
Der AI-Act ist also ein wichtiger Schritt auf dem Weg zu einem gemeinsamen europäischen Rechtsrahmen für Künstliche Intelligenz. Die hier aufgeworfenen Rechtsfragen werden in den kommenden Jahren intensiv diskutiert und weiterentwickelt werden.
Die KI-Verordnung („KI-VO“, auch „AI-Act“ – VO (EU) 2024/1689) ist seit dem 1. August 2024 in Kraft und wird im Sommer 2026 in ihrer Substanz wirksam. Mit der politischen Einigung zum sogenannten KI-Omnibus vom 7. Mai 2026 verschiebt der Unionsgesetzgeber zentrale Pflichten für Hochrisiko-Systeme; gleichzeitig erweitert er den Verbotskatalog und zieht die Kennzeichnungspflichten für synthetische Inhalte vor. Im Folgenden möchte ich die Verordnung in ihrem aktuellen Stand einordnen und beschreiben, was Geschäftsführungen und Compliance-Abteilungen (voraussichtlich) in den nächsten Monaten beachten müssen.
Hinweis: Der Beitrag wurde im Mai 2026 neu gefasst und hat den Stand 14. Mai 2026, berücksichtigt also die Trilogeinigung zum KI-Omnibus.
Mit Urteil vom 2. April 2026 (20 W 2/26) hat der 20. Zivilsenat des Oberlandesgerichts Düsseldorf die sofortige Beschwerde einer Unterwasserfotografin zurückgewiesen, die einem ehemaligen Kooperationspartner die weitere Verbreitung eines mittels Bild-zu-Bild-KI erstellten Folgewerks untersagen lassen wollte. Die Entscheidung liefert die bislang präziseste obergerichtliche Dogmatik zur Schnittstelle zwischen dem klassischen Lichtbildschutz und der Nutzung menschlich geschaffener Bilder als Input generativer KI-Systeme und schließt systematisch an die jüngsten unionsgerichtlichen Vorgaben (EuGH, Mio und konektra, C-580/23, C-795/23) an.
Hinweis: Mein Blog-Beitrag wurde in der Presse umfangreich aufgegriffen, u.a. bei Heise, BusinessPunk und bei HNA:
Im Juni 2022 einigten sich die EU-Mitgliedstaaten auf ein Mandat für Verhandlungen mit dem Europäischen Parlament über den Vorschlag für eine Verordnung über Maschinenprodukte. Mit diesem Vorschlag wurde die Maschinenrichtlinie aus dem Jahr 2006 schließlich in eine Verordnung umgewandelt und diese neue EU-Maschinenverordnung verschiebt die Verantwortung für die Maschinensicherheit bei Produkten mit integrierter KI noch stärker ins Management.
Wer Maschinen entwickelt, beschafft oder betreibt, muss seine Produktstrategie, Compliance und Governance bis 2027 an das deutlich komplexere Zusammenspiel von Maschinenverordnung, KI-Verordnung, Cyber-Resilience-Act und allgemeinem Produktsicherheitsrecht anpassen. Zugleich eröffnet der Rechtsrahmen die Chance, Safety, Cybersecurity und datengetriebene Geschäftsmodelle konsistent zu verzahnen. Wer früh strukturiert vorgeht, kann Rechtssicherheit und Wettbewerbsvorteile verbinden.
Am 2. August 2025 beginnt eine neue Etappe der europäischen KI-Regulierung: Die Vorschriften des AI Acts zur sogenannten General-Purpose Artificial Intelligence (GPAI) treten in Kraft. Gemeint sind damit KI-Modelle, die nicht für einen spezifischen Zweck trainiert wurden, sondern grundsätzlich in verschiedensten Anwendungen eingesetzt werden können – etwa Sprachmodelle wie ChatGPT oder Bildgeneratoren wie DALL-E.
Die Europäische Kommission verfolgt mit ihrer Regulierung ein ambivalentes Ziel: Einerseits soll Innovation ermöglicht und technologische Souveränität gestärkt, andererseits sollen Risiken für Grundrechte, Sicherheit und demokratische Ordnung minimiert werden. Der nun veröffentlichte Verhaltenskodex (Code of Practice) und die Leitlinien zur Auslegung der GPAI-Pflichten zeigen exemplarisch, wie komplex dieses Spannungsfeld ist – und wie sehr die praktische Umsetzung noch in der Schwebe hängt.
Strafbarkeit von Deepfakes: Ein ganz Vorschlag für ein Gesetz aus dem Bundesrat zielt darauf ab, den strafrechtlichen Schutz von Persönlichkeitsrechten vor sogenannten Deepfakes zu verbessern. Ansatzpunkt ist die Schaffung eines neuen Straftatbestandes in Form eines neuen §201b StGB. Ich selbst habe mich klar gegen dieses Ansinnen postiert.
Update Juli 2025: Der erste Anlauf aus Mitte 2024 ist mit dem Scheitern der Regierung der sachlichen Diskontinuität anheim gefallen, hatte sich also inhaltlich erledigt. Am 05.07.2025 hat der Bundesrat nun erneut das Thema beschlossen und der Bundestag wird sich wieder damit zu beschäftigen haben. Inhaltlich hat sich nichts geändert, es ist exakt die Vorlage die aus dem Mai 2024 bekannt.
Hintergrund: Deepfakes sind realistisch wirkende Medieninhalte, die mithilfe von Künstlicher Intelligenz (KI) erzeugt oder verändert werden. Diese Inhalte bergen erhebliche Gefahren, da sie Täuschungen erzeugen können, die sowohl individuelle Persönlichkeitsrechte als auch den demokratischen Willensbildungsprozess beeinträchtigen.
KI-Verordnung (KI-VO, auch AI-Act): Die EU möchte Entwicklung und Einsatz künstlicher Intelligenz regulieren. Hierzu liegt inzwischen ein Vorschlag für eine Verordnung über ein europäisches Konzept für Künstliche Intelligenz vor, wobei aus meiner Sicht zuvorderst besonders spannend die Frage sein dürfte, was man überhaupt unter künstlicher Intelligenz verstehen möchte.
Im Übrigen ist es noch recht früh für eine umfassende Übersicht der KI-Verordnung. Wichtig ist: Es soll einen Katalog absolut verbotener Einsatz-Szenarien von KI geben, es soll eine „High-Risk“-KI geben, für die besondere Vorgaben gelten; darüber hinaus gibt es Transparenzpflichten bei eingesetzter KI.
Die EU betreibt das Thema KI mit Augenmerk. Das Ziel der EU-Kommission ist nach eigener Aussage ein Aufbau vertrauenswürdiger KI für ein sicheres und innovationsfreundliches Umfeld. Im Blog finden Sie zum Thema KI und KI-VO einige laufend gepflegte Inhalte:
Update zum Stand der KI-Verordnung: Am 19.10.2022 hat die (tschechische) EU-Ratspräsidentschaft einen neuen Kompromiss vorgeschlagen, Ziel ist gegen Ende des Jahres 2022 eine Einigung für ein „KI-Gesetz“ zu finden. In dem 8. Vorschlag werden wesentliche Streitpunkte aufgegriffen. Am 11.5. wurde dann ein Kompromissvorschlag gefunden und beschlossen (der aber noch durch die weitere Gesetzgebung muss). Mehr dazu unten im Abschnitt „laufende Updates“.
Hinweis: Hier geht es um den Entwurf einer Verordnung zur Regulierung von KI („KI-Verordnung“, auch „AI Act“). Dies ist nicht zu verwechseln mit dem zugleich laufenden Versuch der EU, zivilrechtliche Haftungsregelung für künstliche Intelligenz aufzustellen, dazu siehe beispielsweise den zwischenzeitlich beschlossenen Text hier.
Die KI-Verordnung (der „AI Act“) reguliert Entwicklung, Vertrieb und Einsatz von KI. Nun bringen es EU-Regeln mit sich, äußerst umfangreich und komplex zu sein – zwar bieten sich hier viele Hilfen beim Verständnis des Textes, aber gerade Laien sind schnell überfordert, die wesentlichen ersten Infos systematisch zu erfassen.
Im Folgenden möchte ich eine kleine Hilfestellung geben, zum Orientieren für diejenigen, die sich mit der Entwicklung von KI beschäftigen. Hinweis: Beachten Sie den Beitrag dazu aus dem Jahr 2026.
Die EU betreibt das Thema KI mit Augenmerk. Das Ziel der EU-Kommission ist nach eigener Aussage ein Aufbau vertrauenswürdiger KI für ein sicheres und innovationsfreundliches Umfeld. Im Blog finden Sie zum Thema KI und KI-VO einige laufend gepflegte Inhalte:
Ihr Rechtsanwalt für Vertragsrecht und künstliche Intelligenz: Der Einsatz von Künstlicher Intelligenz (KI) ist eine der treibenden Kräfte der digitalen Transformation und ist in jedem größeren Unternehmen ein Thema. Doch wie so oft bei Technik geht es auch hier schnell nach dem Prinzip „erst mal machen“, vor allem weil man den Anschluss nicht verlieren möchte – da werden grundlegende Fragen zum Vertragsrecht schnell aus dem Blick verloren. Im Folgenden geht es um die wichtigsten vertraglichen Herausforderungen mit dem Versuch praxisorientierter Impulse für Softwareentwickler und das Management.
Die digitale Transformation bringt Risiken mit sich, insbesondere für die Sicherheit von Geschäftsgeheimnissen. Für Unternehmen, die in einem wettbewerbsintensiven Umfeld agieren, ist der Schutz von sensiblen Informationen eine essenzielle Grundlage ihres Erfolgs. Hier treffen Cybersicherheit und Geschäftsgeheimnisschutz aufeinander – ein Bereich, in dem Managemententscheidungen häufig über die Zukunftsfähigkeit und Integrität des Geschäftsmodells des Unternehmens entscheiden.
In der heutigen digitalen Welt sind künstliche Intelligenz (KI) und maschinelles Lernen mehr als nur Schlagworte – sie sind technologische Treiber, die in vielen Branchen transformative Auswirkungen haben. Für Softwareentwickler, die an der Spitze dieser Bewegung stehen, eröffnen sich neue Möglichkeiten, aber auch komplexe Herausforderungen.
Besonders juristische Fallstricke können den Entwicklungsprozess erschweren und rechtliche Konsequenzen nach sich ziehen. In diesem Artikel werfen wir einen Blick auf die zentralen Probleme und Unwägbarkeiten, die sich bei der Programmierung von KI-Systemen aus rechtlicher Sicht ergeben.
Im aktuellen Spiegel-Artikel „Microsoft: Wie der Tech-Konzern so mächtig wurde – und noch mächtiger wird“ wird die immense Macht und Dominanz von Microsoft in der modernen digitalen Welt und die weitreichende Abhängigkeit beleuchtet, die sowohl Unternehmen als auch Staaten von den Technologien des Tech-Giganten haben. Der Artikel zeigt auf, dass Microsoft, einst durch Windows und Office bekannt, heute mit seiner Cloud-Plattform und KI-Lösungen tief in vielen Lebensbereichen verankert ist – von Schulen über Behörden bis hin zur Landwirtschaft.
Bußgeld in der KI-VO (AI-Act): Der AI-Act oder auch die KI-VO, die neue Verordnung der Europäischen Union zur Regulierung von Künstlicher Intelligenz, sieht strenge Regelungen vor, die den sicheren und ethischen Einsatz von KI-Systemen gewährleisten sollen. Ein zentrales Element dieser Verordnung sind die hohen Bußgelder, die bei Verstößen gegen die Vorschriften drohen. Doch wie genau sieht das Sanktionsregime in der Praxis aus, und welche zusätzlichen Maßnahmen können Mitgliedstaaten ergreifen?
Rechtsanwalt zur Ethik bei künstlicher Intelligenz: Der AI-Act der Europäischen Union integriert ethische Grundsätze in verschiedenen Artikeln und Abschnitten, um sicherzustellen, dass KI-Systeme sicher, vertrauenswürdig und im Einklang mit den Werten der EU gestaltet und genutzt werden. Ich möchte eine kurze Übersicht der wesentliche Artikel des AI_Act geben, in denen Ethik oder ethische Überlegungen eine Rolle spielen.
Die EU betreibt das Thema KI mit Augenmerk. Das Ziel der EU-Kommission ist nach eigener Aussage ein Aufbau vertrauenswürdiger KI für ein sicheres und innovationsfreundliches Umfeld. Im Blog finden Sie zum Thema KI und KI-VO einige laufend gepflegte Inhalte:
1. Einhaltung ethischer und beruflicher Standards (Artikel 2)
Artikel 2 betont, dass Forschungs- und Entwicklungsaktivitäten im Bereich KI in Übereinstimmung mit anerkannten ethischen und professionellen Standards für wissenschaftliche Forschung durchgeführt werden müssen.
2. Risikobasierter Ansatz und ethische Leitlinien (Erwägungsgrund 27)
Der AI-Act verfolgt einen risikobasierten Ansatz und verweist auf die 2019 veröffentlichten Ethikleitlinien für vertrauenswürdige KI der unabhängigen Hochrangigen Expertengruppe für Künstliche Intelligenz (AI HLEG). Diese Leitlinien beinhalten sieben ethische Prinzipien: menschliche Handlungsfähigkeit und Aufsicht, technische Robustheit und Sicherheit, Datenschutz und Datenmanagement, Transparenz, Vielfalt, Nichtdiskriminierung und Fairness, gesellschaftliches und ökologisches Wohlergehen sowie Rechenschaftspflicht.
3. Förderung von Codes of Conduct (Artikel 56 und Artikel 95)
Anbieter von KI-Systemen werden ermutigt, freiwillige Verhaltenskodizes zu erstellen, die Elemente der ethischen Leitlinien der EU für vertrauenswürdige KI enthalten. Diese Verhaltenskodizes sollen helfen, die ethischen Anforderungen in der Praxis umzusetzen und sicherzustellen, dass KI-Systeme inklusiv und nachhaltig entwickelt und genutzt werden.
4. Menschliche Kontrolle und Aufsicht (Erwägungsgrund 7)
Der AI-Act betont die Bedeutung der menschlichen Kontrolle und Aufsicht über KI-Systeme, um sicherzustellen, dass diese als Werkzeuge dienen, die den Menschen unterstützen und deren Würde und Autonomie respektieren.
Anwendung philosophischen Wissens zur Ethik
Philosophisches Wissen zur Ethik kann bei der Umsetzung des AI-Acts in mehreren Bereichen von großer Bedeutung sein: Durch die Integration philosophischen Wissens in die Umsetzung des AI-Acts können Unternehmen sicherstellen, dass ihre KI-Systeme nicht nur rechtlichen Anforderungen entsprechen, sondern auch ethisch verantwortungsvoll und gesellschaftlich akzeptabel sind. Dies fördert Vertrauen und damit Absatz sowie Bindung an Kunden.
Risikobewertung und Management: Philosophische Ansätze zur Ethik können helfen, eine fundierte Risikobewertung durchzuführen, indem sie tiefere Einblicke in die potenziellen sozialen und moralischen Auswirkungen von KI-Systemen bieten.
Entwicklung ethischer Leitlinien: Philosophisches Wissen ist entscheidend für die Entwicklung und Implementierung von Verhaltenskodizes und ethischen Leitlinien, die sicherstellen, dass KI-Systeme im Einklang mit den Werten der Gesellschaft stehen.
Transparenz und Erklärbarkeit: Philosophische Diskussionen über Transparenz und Verantwortung können dazu beitragen, dass KI-Systeme so gestaltet werden, dass ihre Funktionsweise und Entscheidungen für die Nutzer nachvollziehbar und verständlich sind.
Nichtdiskriminierung und Fairness: Philosophische Theorien zur Gerechtigkeit und Fairness können dabei helfen, Diskriminierung zu erkennen und zu vermeiden sowie sicherzustellen, dass KI-Systeme gerecht und inklusiv sind.
Nachhaltigkeit und gesellschaftliches Wohlergehen: Ethische Überlegungen zur Nachhaltigkeit können dazu beitragen, dass KI-Systeme entwickelt werden, die langfristig positive Auswirkungen auf die Gesellschaft und die Umwelt haben.
5. Technische Robustheit und Sicherheit (Artikel 9)
Artikel 9 fordert, dass KI-Systeme robust und widerstandsfähig gegenüber Problemen und Versuchen sind, die Nutzung oder Leistung des KI-Systems zu ändern. Dies soll unrechtmäßige Nutzung durch Dritte verhindern und unbeabsichtigte Schäden minimieren.
6. Datenschutz und Datenmanagement (Artikel 10)
KI-Systeme müssen gemäß den Datenschutzbestimmungen entwickelt und genutzt werden. Dies umfasst die Verarbeitung von Daten, die hohe Standards in Bezug auf Qualität und Integrität erfüllen, und die Gewährleistung, dass die Rechte der Betroffenen respektiert werden.
7. Transparenz (Artikel 13 und Artikel 52)
Der AI-Act legt großen Wert auf Transparenz bei der Entwicklung und Nutzung von KI-Systemen. Nutzer müssen darüber informiert werden, dass sie mit einem KI-System interagieren, und über die Fähigkeiten und Grenzen des Systems sowie über ihre Rechte aufgeklärt werden.
8. Vielfalt, Nichtdiskriminierung und Fairness (Erwägungsgrund 27 und Artikel 95)
KI-Systeme sollen so entwickelt und genutzt werden, dass sie verschiedene Akteure einbeziehen und gleichen Zugang, Geschlechtergerechtigkeit und kulturelle Vielfalt fördern. Diskriminierende Auswirkungen und unfaire Voreingenommenheiten müssen vermieden werden.
9. Gesellschaftliches und ökologisches Wohlergehen (Erwägungsgrund 7 und Artikel 9)
KI-Systeme sollen nachhaltig und umweltfreundlich entwickelt und genutzt werden und dem Wohlergehen aller Menschen dienen. Die langfristigen Auswirkungen auf Individuen, Gesellschaft und Demokratie sollen kontinuierlich überwacht und bewertet werden.
Der AI-Act integriert ethische Grundsätze in verschiedenen Artikeln und Abschnitten, um sicherzustellen, dass KI-Systeme im Einklang mit den Werten der EU entwickelt und genutzt werden. Diese umfassenden ethischen Anforderungen fördern das Vertrauen der Öffentlichkeit in KI und unterstützen die Schaffung eines europäischen Ökosystems für sichere und vertrauenswürdige KI.
Der AI-Act der Europäischen Union (EU) legt fest, dass Künstliche Intelligenz (KI)-Systeme, die in der EU verwendet werden, bestimmte Anforderungen erfüllen müssen, um sicherzustellen, dass sie sicher und vertrauenswürdig sind. Eine zentrale Komponente dieser Anforderungen ist die CE-Konformitätsprüfung.
Die EU betreibt das Thema KI mit Augenmerk. Das Ziel der EU-Kommission ist nach eigener Aussage ein Aufbau vertrauenswürdiger KI für ein sicheres und innovationsfreundliches Umfeld. Im Blog finden Sie zum Thema KI und KI-VO einige laufend gepflegte Inhalte:
Biometrische Daten spielen eine zunehmend wichtige Rolle: Von der Gesichtserkennung bis hin zur Authentifizierung per Fingerabdruck – die Nutzung biometrischer Funktionen in KI-Systemen bietet zahlreiche Möglichkeiten, bringt jedoch auch Herausforderungen und Risiken mit sich.
Der AI Act der Europäischen Union setzt hier klare Regeln, um den verantwortungsvollen und ethischen Einsatz dieser Technologien sicherzustellen. In diesem Blog-Beitrag gehe ich kurz darauf ein, unter welchen Bedingungen biometrische Funktionen in KI-Systemen zulässig sind und wann sie verboten sind.
