Zukunft der KI-Regulierung in Deutschland: Ein Blick auf den aktuellen Beschluss der Datenschutzaufsichtsbehörden zu KI (2024)

Am 3. Mai 2024 hat die Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder einen beachtlichen Beschluss zur Regelung der nationalen Zuständigkeiten im Rahmen der Künstlichen Intelligenz-Verordnung (KI-VO) gefasst. Dieser Beschluss verdeutlicht die entscheidende Rolle, die Datenschutzbehörden in der Überwachung von KI-Systemen einnehmen werden, eine Entwicklung, die weitreichende Implikationen für Entwickler, Unternehmen und Nutzer von KI-Technologien in Deutschland hat.

Hintergrund der KI-VO

Die KI-VO wurde vom Europäischen Parlament im März 2024 verabschiedet und zielt darauf ab, ein harmonisiertes Regelwerk für den Umgang mit Künstlicher Intelligenz in der EU zu schaffen. Die Verordnung tritt in eine entscheidende Phase, da innerhalb von 12 Monaten nach ihrem Inkrafttreten eine strukturierte behördliche Aufsicht in den Mitgliedsstaaten eingerichtet werden muss. In Deutschland stellt dies die Gesetzgeber vor die Herausforderung, effektive Strukturen zu schaffen, die den neuen Anforderungen gerecht werden.

Die EU betreibt das Thema KI mit Augenmerk. Das Ziel der EU-Kommission ist nach eigener Aussage ein Aufbau vertrauenswürdiger KI für ein sicheres und innovationsfreundliches Umfeld. Hierzu hat die Kommission vor allem drei miteinander verbundene Rechtsinitiativen auf den Weg gebracht:

RA JF schreibt hier im Blog und bietet ergänzend Vorträge rund um Datenschutz, Softwarerecht, digitale Ermittlungen & Beweise samt Cybersecurity + Cybercrime!

Die Rolle der Datenschutzaufsichtsbehörden

Der Beschluss unterstreicht die Bereitschaft und Eignung der Datenschutzaufsichtsbehörden, eine zentrale Rolle in der Marktüberwachung für KI-Systeme zu übernehmen. Ihre langjährige Erfahrung und etablierte Kompetenz im Bereich des digitalen Grundrechtsschutzes sowie bestehende kooperative Aufsichts- und Abstimmungsmechanismen machen sie zu idealen Kandidaten für diese Aufgabe. Insbesondere die Verarbeitung personenbezogener Daten durch KI-Systeme, eine häufige Praxis, bleibt unter der strengen Aufsicht dieser Behörden, da die KI-VO die -Grundverordnung () in ihrem Anwendungsbereich nicht ersetzt.

Strukturelle Überlegungen und Zuständigkeiten

Die KI-VO wird als Teil des „New Legislative Frameworks“ angesehen, das sich hauptsächlich auf Produktregulierung konzentriert. Hierbei wird die Zuständigkeit für die Marktüberwachung nach der KI-VO sowohl dem Bund als auch den Ländern zugeteilt, wobei Landesbehörden grundsätzlich die Aufsicht führen und eine Bundesbehörde für die Regelung gesamtstaatlicher Sachverhalte zuständig ist. Diese Struktur spiegelt die bereits existierende Organisation im Produktsicherheitsrecht wider und soll eine einheitliche Anwendung der Verordnung gewährleisten.

Empfehlungen der Datenschutzkonferenz

Die DSK empfiehlt, dass die allgemeinen Marktüberwachungsbehörden in Deutschland für die Zwecke der KI-VO der Bundesbeauftragte für den Datenschutz und die Informationsfreiheit (BfDI) sowie die Landesdatenschutzbehörden benannt werden sollten. Diese Empfehlung reflektiert das Bestreben, eine klare und effiziente Aufsichtsstruktur zu schaffen, bei der Bürger und Unternehmen in den meisten Fällen nur mit einer Behörde interagieren müssen.


Fazit

Der aktuelle Beschluss setzt ein klares Signal für die Zukunft der KI-Regulierung in Deutschland. Die Benennung der Datenschutzaufsichtsbehörden als zentrale Marktüberwachungsbehörden für KI-Systeme stärkt den Schutz persönlicher Daten und unterstützt die harmonisierte Anwendung der KI-VO. Dieser Ansatz bietet nicht nur Rechtssicherheit für alle Beteiligten, sondern fördert auch das Vertrauen in und die Akzeptanz von KI-Technologien im digitalen Zeitalter.

Rechtsanwalt Jens Ferner (Fachanwalt für IT- & Strafrecht)
Letzte Artikel von Rechtsanwalt Jens Ferner (Fachanwalt für IT- & Strafrecht) (Alle anzeigen)
Benutzerbild von Rechtsanwalt Jens Ferner (Fachanwalt für IT- & Strafrecht)

Von Rechtsanwalt Jens Ferner (Fachanwalt für IT- & Strafrecht)

Ich bin Fachanwalt für Strafrecht + Fachanwalt für IT-Recht und widme mich beruflich ganz der Tätigkeit als Strafverteidiger und dem IT-Recht. Vor meinem Leben als Anwalt war ich Softwareentwickler. Ich bin Autor sowohl in einem renommierten StPO-Kommentar als auch in Fachzeitschriften.

Erreichbarkeit: Per Mail, Rückruf, Threema oder Whatsapp - und immer aktuell mit unserem Infodienst! samt WhatsApp-Kanal.

Unsere Kanzlei ist spezialisiert auf Starke Strafverteidigung, seriöses Wirtschaftsstrafrecht und anspruchsvolles IT-Recht / Technologierecht - ergänzt um Arbeitsrecht.