Am 2. August 2025 beginnt eine neue Etappe der europäischen KI-Regulierung: Die Vorschriften des AI Acts zur sogenannten General-Purpose Artificial Intelligence (GPAI) treten in Kraft. Gemeint sind damit KI-Modelle, die nicht für einen spezifischen Zweck trainiert wurden, sondern grundsätzlich in verschiedensten Anwendungen eingesetzt werden können – etwa Sprachmodelle wie ChatGPT oder Bildgeneratoren wie DALL-E. Die…WeiterlesenNeue EU-Vorgaben für General-Purpose AI-Modelle
Schlagwort: AI-Act
Rechtsanwalt für AI-Act: Rechtsanwalt Jens Ferner, Fachanwalt für IT-Recht, ist Ihr Rechtsanwalt für den AI-Act. Der “AI-Act” ist die Kurzbezeichnung für den Verordnungsentwurf zur Regulierung der Künstlichen Intelligenz in der Europäischen Union, den die Europäische Kommission im April 2021 vorgelegt hat. Der vollständige Name lautet “Verordnung über einen europäischen Ansatz für Künstliche Intelligenz” und ist Teil der umfassenden Digitalstrategie der EU, mit der ein Rechtsrahmen für die Nutzung von KI-Technologien in den Mitgliedstaaten geschaffen werden soll.
Hauptziel des AI-Act ist es, ein Gleichgewicht zwischen der Förderung von Innovation und Wettbewerbsfähigkeit im Bereich der KI und dem Schutz der Grundrechte, der Sicherheit und der Privatsphäre der Bürgerinnen und Bürger der EU herzustellen. Einige der wichtigsten rechtlichen Fragen und Aspekte, die sich aus dem AI Act ergeben, sind folgende
- Klassifizierung von KI-Systemen: Der AI-Act teilt KI-Systeme in verschiedene Risikokategorien ein, wobei für Systeme mit hohem Risiko strengere Anforderungen gelten. Rechtliche Fragen ergeben sich hier z.B. hinsichtlich der genauen Abgrenzung dieser Kategorien und der Definition von Risiken.
- Transparenz und Dokumentation: Der AI Act verpflichtet Hersteller und Anwender von KI-Systemen zu einer umfassenden Dokumentation ihrer Systeme, um die Einhaltung der gesetzlichen Anforderungen nachweisen zu können. Dies wirft Fragen zu Umfang und Art der erforderlichen Dokumentation sowie zu datenschutzrechtlichen Aspekten auf.
- Haftung und Sanktionen: Das KI-Gesetz schlägt auch eine Änderung der bestehenden Haftungsregelungen vor, um KI-Systemen und ihren Entwicklern eine angemessene Verantwortung zuzuweisen. Rechtsfragen betreffen hier unter anderem die Festlegung von Haftungsgrundsätzen und die Festlegung von Sanktionen bei Verstößen gegen die Regelung.
- Aufsicht und Kontrolle: Das KI-Gesetz sieht die Einrichtung nationaler Aufsichtsbehörden vor, die die Einhaltung der Verordnung überwachen sollen. Rechtsfragen betreffen hier die Kompetenzen dieser Behörden, die Zusammenarbeit zwischen den Mitgliedstaaten und die Rolle der EU-Kommission bei der Koordinierung der Aufsicht.
- Internationale Zusammenarbeit: Da KI-Technologien global eingesetzt werden, ist die internationale Zusammenarbeit bei der Regulierung von KI von entscheidender Bedeutung. Rechtliche Fragen stellen sich in Bezug auf die Harmonisierung von Rechtsvorschriften und die Zusammenarbeit mit Drittstaaten.
Der AI-Act ist also ein wichtiger Schritt auf dem Weg zu einem gemeinsamen europäischen Rechtsrahmen für Künstliche Intelligenz. Die hier aufgeworfenen Rechtsfragen werden in den kommenden Jahren intensiv diskutiert und weiterentwickelt werden.
Strafbarkeit von Deepfakes: Ein ganz Vorschlag für ein Gesetz aus dem Bundesrat zielt darauf ab, den strafrechtlichen Schutz von Persönlichkeitsrechten vor sogenannten Deepfakes zu verbessern. Ansatzpunkt ist die Schaffung eines neuen Straftatbestandes in Form eines neuen §201b StGB. Ich selbst habe mich klar gegen dieses Ansinnen postiert. Update Juli 2025: Der erste Anlauf aus Mitte…WeiterlesenGesetzentwurf zur Strafbarkeit von Deepfakes (Update 2025)
Die KI-Verordnung (der “AI Act”) reguliert Entwicklung, Vertrieb und Einsatz von KI. Nun bringen es EU-Regeln mit sich, äußerst umfangreich und komplex zu sein – zwar bieten sich hier viele Hilfen beim Verständnis des Textes, aber gerade Laien sind schnell überfordert, die wesentlichen ersten Infos systematisch zu erfassen. Im Folgenden möchte ich eine kleine Hilfestellung…WeiterlesenRegulierung von künstlicher Intelligenz durch den AI-Act (KI-Verordnung)
Ihr Rechtsanwalt für Vertragsrecht und künstliche Intelligenz: Der Einsatz von Künstlicher Intelligenz (KI) ist eine der treibenden Kräfte der digitalen Transformation und ist in jedem größeren Unternehmen ein Thema. Doch wie so oft bei Technik geht es auch hier schnell nach dem Prinzip “erst mal machen”, vor allem weil man den Anschluss nicht verlieren möchte…WeiterlesenKünstliche Intelligenz und Vertragsrecht
Die digitale Transformation bringt Risiken mit sich, insbesondere für die Sicherheit von Geschäftsgeheimnissen. Für Unternehmen, die in einem wettbewerbsintensiven Umfeld agieren, ist der Schutz von sensiblen Informationen eine essenzielle Grundlage ihres Erfolgs. Hier treffen Cybersicherheit und Geschäftsgeheimnisschutz aufeinander – ein Bereich, in dem Managemententscheidungen häufig über die Zukunftsfähigkeit und Integrität des Geschäftsmodells des Unternehmens entscheiden.WeiterlesenCybersicherheit und der Schutz von Geschäftsgeheimnissen
In der heutigen digitalen Welt sind künstliche Intelligenz (KI) und maschinelles Lernen mehr als nur Schlagworte – sie sind technologische Treiber, die in vielen Branchen transformative Auswirkungen haben. Für Softwareentwickler, die an der Spitze dieser Bewegung stehen, eröffnen sich neue Möglichkeiten, aber auch komplexe Herausforderungen. Besonders juristische Fallstricke können den Entwicklungsprozess erschweren und rechtliche Konsequenzen…WeiterlesenHerausforderungen bei der Entwicklung von KI-Systemen: Juristische Fallstricke für Softwareentwickler
Im aktuellen Spiegel-Artikel „Microsoft: Wie der Tech-Konzern so mächtig wurde – und noch mächtiger wird“ wird die immense Macht und Dominanz von Microsoft in der modernen digitalen Welt und die weitreichende Abhängigkeit beleuchtet, die sowohl Unternehmen als auch Staaten von den Technologien des Tech-Giganten haben. Der Artikel zeigt auf, dass Microsoft, einst durch Windows und…WeiterlesenLokale KI-Lösungen als starke Nischenprodukte?
Bußgeld in der KI-VO (AI-Act): Der AI-Act oder auch die KI-VO, die neue Verordnung der Europäischen Union zur Regulierung von Künstlicher Intelligenz, sieht strenge Regelungen vor, die den sicheren und ethischen Einsatz von KI-Systemen gewährleisten sollen. Ein zentrales Element dieser Verordnung sind die hohen Bußgelder, die bei Verstößen gegen die Vorschriften drohen. Doch wie genau…WeiterlesenBußgelder im AI-Act: Ein Überblick über das Sanktionsregime der KI-VO
Rechtsanwalt zur Ethik bei künstlicher Intelligenz: Der AI-Act der Europäischen Union integriert ethische Grundsätze in verschiedenen Artikeln und Abschnitten, um sicherzustellen, dass KI-Systeme sicher, vertrauenswürdig und im Einklang mit den Werten der EU gestaltet und genutzt werden. Ich möchte eine kurze Übersicht der wesentliche Artikel des AI_Act geben, in denen Ethik oder ethische Überlegungen eine…WeiterlesenKünstliche Intelligenz: Ethik im AI-Act
Der AI-Act der Europäischen Union (EU) legt fest, dass Künstliche Intelligenz (KI)-Systeme, die in der EU verwendet werden, bestimmte Anforderungen erfüllen müssen, um sicherzustellen, dass sie sicher und vertrauenswürdig sind. Eine zentrale Komponente dieser Anforderungen ist die CE-Konformitätsprüfung.WeiterlesenCE-Kennzeichen für KI-Systeme?
Biometrische Daten spielen eine zunehmend wichtige Rolle: Von der Gesichtserkennung bis hin zur Authentifizierung per Fingerabdruck – die Nutzung biometrischer Funktionen in KI-Systemen bietet zahlreiche Möglichkeiten, bringt jedoch auch Herausforderungen und Risiken mit sich. Der AI Act der Europäischen Union setzt hier klare Regeln, um den verantwortungsvollen und ethischen Einsatz dieser Technologien sicherzustellen. In diesem…WeiterlesenAI-Act: Zulässigkeit von Biometrischen Funktionen in KI-Systemen
Was ist ein KI-System im Sinne der KI-VO: Die KI-Verordnung (der “AI Act”) reguliert europaweit KI-Systeme. Dabei ist die erste und wichtigste Frage: Was ist überhaupt ein KI-System?WeiterlesenWas ist ein KI-System?
Die Bundesregierung hat zu der zunehmenden Gefahr von durch Künstliche Intelligenz (KI) hergestelltem kinderpornografischen Material im Internet Stellung genommen (BT-Drucksache 20/11301). Diese Thematik wird immer relevanter, da moderne KI-Tools wie Stable Diffusion, die ohne Sicherheitsmechanismen auskommen, für die Erstellung solcher verstörenden Inhalte missbraucht werden. Hier ist ein umfassender Überblick über die Stellungnahme der Bundesregierung und…WeiterlesenGefahr von durch Künstliche Intelligenz hergestelltem kinderpornografischen Material im Internet
Es ist sinnvoll, sich zunächst mit der aktuellen globalen politischen Landschaft im Bereich Künstliche Intelligenz (KI) zu befassen – insbesondere mit den Entwicklungen in den USA, da viele marktbeherrschende Lösungen von dort stammen. In vielen Ländern wird an eigenen Lösungen gearbeitet, etwa schon länger in Brasilien, während manche Länder wie die Schweiz oder Japan von…WeiterlesenKI in der weltweiten Politik
Rechtsanwalt für die Richtlinie zur KI-Haftung (“KI-Haftungsrichtlinie”): Der Entwurf für eine Richtlinie des Europäischen Parlaments und des Rates zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz (KI-Haftung) zielt darauf ab, einheitliche Anforderungen für die Haftung bei Schäden, die durch KI-Systeme verursacht werden, zu schaffen. Update: Die EU-Kommission hat am 12.02.2025 in ihrem…WeiterlesenKI-Haftungsrichtlinie: Richtlinie zur KI-Haftung