AI-Act: Zulässigkeit von Biometrischen Funktionen in KI-Systemen

Biometrische Daten spielen eine zunehmend wichtige Rolle: Von der Gesichtserkennung bis hin zur Authentifizierung per Fingerabdruck – die Nutzung biometrischer Funktionen in KI-Systemen bietet zahlreiche Möglichkeiten, bringt jedoch auch Herausforderungen und Risiken mit sich.

Der AI Act der Europäischen Union setzt hier klare Regeln, um den verantwortungsvollen und ethischen Einsatz dieser Technologien sicherzustellen. In diesem Blog-Beitrag gehe ich kurz darauf ein, unter welchen Bedingungen biometrische Funktionen in KI-Systemen zulässig sind und wann sie verboten sind.

Was sind biometrische Daten?

Biometrische Daten sind persönliche Daten, die aus spezifischen, physischen, physiologischen oder verhaltensbezogenen Eigenschaften einer Person gewonnen werden. Dazu gehören zum Beispiel Fingerabdrücke, Gesichtserkennungsdaten, Iris-Scans und Stimmabdrücke. Diese Daten können zur eindeutigen Identifizierung oder Verifizierung einer Person verwendet werden.

Die Verarbeitung dieser Daten ist speziell im Arbeitsrecht von großer Bedeutung, nämlich bei der Frage der Zulässigkeit (automatisierter) Erfassung von Arbeitszeiten von Angestellten.

Zulässige Nutzung von biometrischen Funktionen

Der AI Act legt fest, dass biometrische Funktionen in bestimmten Kontexten zulässig sind, jedoch strengen Vorschriften unterliegen. Besonders hervozuheben sind:

  1. Biometrische Verifizierung, Einsatz zur Authentifizierung: Biometrische Verifizierungssysteme, die zur Authentifizierung und Überprüfung der Identität einer Person dienen, sind zulässig.

    Ein Beispiel hierfür ist die Nutzung von Fingerabdrücken oder Gesichtserkennung zur Entsperrung von Smartphones oder zum Zugang zu gesicherten Bereichen. Diese Anwendungen gelten als weniger invasiv und haben in der Regel geringere Auswirkungen auf die Grundrechte der betroffenen Personen.
  2. Strafverfolgung unter strengen Bedingungen, Spezifische Anwendungen: In bestimmten Ausnahmefällen kann die biometrische Erfassung für Strafverfolgungszwecke eingesetzt werden. Dazu gehören die Identifikation von Opfern, die Suche nach vermissten Personen oder die Abwehr unmittelbarer terroristischer Bedrohungen.

    Solche Anwendungen erfordern jedoch eine ausdrückliche Genehmigung durch eine richterliche oder unabhängige administrative Autorität. Diese Maßnahmen müssen strikt notwendig und verhältnismäßig sein, um Missbrauch zu verhindern und die Rechte der betroffenen Personen zu schützen.

Verbotene Nutzung von biometrischen Funktionen

Der AI Act enthält auch klare Verbote für bestimmte Anwendungen biometrischer Funktionen, um die Privatsphäre und die Grundrechte der Menschen zu schützen. Hier sind die zentralen Verbote:

  1. Echtzeit-Remote-Biometrie in öffentlich zugänglichen Räumen für Strafverfolgungszwecke, Einschränkungen: Der Einsatz von Systemen zur Echtzeit-Remote-Biometrie, wie zum Beispiel Gesichtserkennungskameras, in öffentlich zugänglichen Räumen für Strafverfolgungszwecke ist grundsätzlich verboten. Ausnahmen gelten nur unter den oben genannten strengen Bedingungen.
  2. Biometrische Kategorisierung, Diskriminierungsgefahr: Systeme, die Personen auf Basis ihrer biometrischen Daten kategorisieren und dabei sensitive Attribute wie Rasse, politische Meinung oder sexuelle Orientierung ableiten, sind untersagt. Diese Verbote sollen und den Missbrauch persönlicher Daten verhindern und sicherstellen, dass solche Technologien nicht zur ungerechtfertigten Benachteiligung von Personen oder Gruppen führen.
  3. Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, Schutz der Privatsphäre: Systeme, die Emotionen von Personen am Arbeitsplatz oder in Bildungseinrichtungen erkennen, sind verboten, außer sie dienen spezifischen medizinischen oder sicherheitsrelevanten Zwecken. Diese Einschränkung zielt darauf ab, die Privatsphäre der betroffenen Personen zu schützen und eine übermäßige Überwachung zu verhindern.

Fazit

Der AI Act der EU setzt klare Rahmenbedingungen für die Nutzung biometrischer Funktionen in KI-Systemen. Während bestimmte Anwendungen unter strengen Bedingungen zulässig sind, sind andere, die ein hohes Risiko für die Rechte und Freiheiten der Menschen darstellen, ausdrücklich verboten. Diese Regulierung stellt sicher, dass der Einsatz von KI und biometrischen Daten ethisch, verantwortungsvoll und im Einklang mit den Grundrechten der Menschen erfolgt.

Durch die strikte Kontrolle und Regulierung biometrischer Funktionen wird nicht nur der Missbrauch dieser Technologien verhindert, sondern auch das Vertrauen der Öffentlichkeit in die Entwicklung und Nutzung von KI-Systemen gestärkt. Unternehmen und Entwickler, die biometrische KI-Systeme einsetzen wollen, müssen sich daher an diese Vorgaben halten und sicherstellen, dass ihre Systeme den hohen ethischen und rechtlichen Standards entsprechen, die der AI Act vorgibt.

Rechtsanwalt Jens Ferner (Fachanwalt für IT- & Strafrecht)
Letzte Artikel von Rechtsanwalt Jens Ferner (Fachanwalt für IT- & Strafrecht) (Alle anzeigen)
Benutzerbild von Rechtsanwalt Jens Ferner (Fachanwalt für IT- & Strafrecht)

Von Rechtsanwalt Jens Ferner (Fachanwalt für IT- & Strafrecht)

Ich bin Fachanwalt für Strafrecht + Fachanwalt für IT-Recht und widme mich beruflich ganz der Tätigkeit als Strafverteidiger und dem IT-Recht. Vor meinem Leben als Anwalt war ich Softwareentwickler. Ich bin Autor sowohl in einem renommierten StPO-Kommentar als auch in Fachzeitschriften.

Erreichbarkeit: Per Mail, Rückruf, Threema oder Whatsapp.

Unsere Kanzlei ist spezialisiert auf Starke Strafverteidigung, seriöses Wirtschaftsstrafrecht und anspruchsvolles IT-Recht + Kunst & Medien - ergänzt um Arbeitsrecht.