AI-Act: Der nächste Schritt ist getan (Juni 2023)

Das Europäische Parlament hat den nächsten großen Schritt zur Regulierung der Nutzung von Künstlicher Intelligenz (KI) in Europa gemacht. Das kürzlich verabschiedete KI-Gesetz (, auch KI-Verordnung genannt, hier schon etwas ausführlicher vorgestellt) ist das weltweit Erste seiner Art und schafft einen umfassenden Rechtsrahmen für KI-Anwendungen.

Das KI-Gesetz unterscheidet zwischen verschiedenen Risikostufen und legt entsprechende Pflichten für Anbieter und Nutzer fest. Besonderes Augenmerk liegt dabei auf der Kategorisierung in „unannehmbares Risiko“, „hohes Risiko“, „generative KI“ und „begrenztes Risiko“.

KI-Systeme mit „unannehmbarem Risiko“, die als für den Menschen angesehen werden, sind verboten. Beispiele hierfür sind KI-Anwendungen, die kognitiv auf Menschen oder gefährdete Gruppen einwirken, soziale Bewertungssysteme oder Echtzeit-Biometrie. In bestimmten Fällen sind jedoch Ausnahmen zulässig, z. B. bei der post-biometrischen Identifizierung zur Verfolgung schwerer Straftaten.

„Generative KI“ wie OpenAIs ChatGPT unterliegt besonderen Transparenzanforderungen. Dazu gehören die Offenlegung, dass die Inhalte durch KI generiert wurden, die Verhinderung der Generierung illegaler Inhalte und die Veröffentlichung von Zusammenfassungen der für das Training verwendeten Daten.

KI-Systeme mit „hohem Risiko“, die sich auf die Sicherheit oder die Grundrechte von Personen auswirken könnten, werden streng reguliert und müssen in einer EU-Datenbank registriert werden. Solche Systeme werden in einer Vielzahl von Bereichen eingesetzt, von der biometrischen Identifizierung bis hin zur Migrationssteuerung und Grenzkontrolle.

„KI-Systeme mit begrenztem Risiko“ müssen Mindestanforderungen an die Transparenz erfüllen, damit die Nutzer fundierte Entscheidungen treffen können. Dazu gehört beispielsweise, dass die Nutzer darüber informiert werden, dass sie mit einer KI interagieren, insbesondere wenn es sich um Deepfakes und andere KI-generierte Inhalte handelt.

Das neue KI-Gesetz ist ein entscheidender Schritt bei der Regulierung von KI in Europa. Nachdem das Parlament am 14. Juni 2023 seine Verhandlungsposition festgelegt hat, beginnen nun die Gespräche mit den EU-Ländern im Rat, um die endgültige Form des Gesetzes auszuarbeiten. Ziel ist es, bis Ende des Jahres eine Einigung zu erzielen und damit einen Rechtsrahmen für den Einsatz von KI in der EU zu schaffen.

Rechtsanwalt Jens Ferner (Fachanwalt für IT- & Strafrecht)
Letzte Artikel von Rechtsanwalt Jens Ferner (Fachanwalt für IT- & Strafrecht) (Alle anzeigen)
Benutzerbild von Rechtsanwalt Jens Ferner (Fachanwalt für IT- & Strafrecht)

Von Rechtsanwalt Jens Ferner (Fachanwalt für IT- & Strafrecht)

Ich bin Fachanwalt für Strafrecht + Fachanwalt für IT-Recht und widme mich beruflich ganz der Tätigkeit als Strafverteidiger und dem IT-Recht. Vor meinem Leben als Anwalt war ich Softwareentwickler. Ich bin Autor sowohl in einem renommierten StPO-Kommentar als auch in Fachzeitschriften.

Erreichbarkeit: Per Mail, Rückruf, Threema oder Whatsapp.

Unsere Kanzlei ist spezialisiert auf Starke Strafverteidigung, seriöses Wirtschaftsstrafrecht und anspruchsvolles IT-Recht / Technologierecht - ergänzt um Arbeitsrecht.