OECD-Empfehlung: Definition von KI-System und verantwortungsvoller Umgang mit Künstlicher Intelligenz

Die Künstliche Intelligenz (KI) ist eine der bedeutendsten Technologien unserer Zeit und hat das Potenzial, zahlreiche Bereiche unseres Lebens zu revolutionieren. Gleichzeitig bringt sie jedoch auch erhebliche Herausforderungen mit sich.

Um diesen gerecht zu werden und die Vorteile der KI verantwortungsvoll zu nutzen, hat die OECD im Mai 2019 die „Empfehlung des Rates zur Künstlichen Intelligenz“ verabschiedet. Diese Empfehlung wurde 2023 und 2024 überarbeitet, um den technologischen Fortschritten und neuen Herausforderungen gerecht zu werden. Dieser Blog-Beitrag stellt die wesentlichen Inhalte und Ziele der aktualisierten OECD-Empfehlung vor. Dazu beachten Sie auch die OECD-Webseite.

Hintergrund und Zielsetzung

Die OECD-Empfehlung zur Künstlichen Intelligenz wurde entwickelt, um Innovation und Vertrauen in KI zu fördern und gleichzeitig den Schutz der Menschenrechte und demokratischen Werte zu gewährleisten.

Die Empfehlung umfasst fünf wesentliche Prinzipien und fünf politische Empfehlungen, die als Leitfaden für den verantwortungsvollen Einsatz von KI dienen sollen. Im Zuge der jüngsten Überarbeitungen wurde insbesondere die Definition eines KI-Systems aktualisiert, um die Entwicklungen im Bereich der generativen KI zu berücksichtigen und die Relevanz der Empfehlung zu erhalten.

Die EU betreibt das Thema KI mit Augenmerk. Das Ziel der EU-Kommission ist nach eigener Aussage ein Aufbau vertrauenswürdiger KI für ein sicheres und innovationsfreundliches Umfeld. Hierzu hat die Kommission vor allem drei miteinander verbundene Rechtsinitiativen auf den Weg gebracht:

RA JF schreibt hier im Blog und bietet ergänzend Vorträge rund um Datenschutz, Softwarerecht, digitale Ermittlungen & Beweise samt Cybersecurity + Cybercrime!

OECD-Definition eines KI-Systems

Die aktualisierte Definition eines KI-Systems lautet:

„Ein KI-System ist ein maschinenbasiertes System, das für explizite oder implizite Ziele aus den empfangenen Eingaben ableitet, wie es Ausgaben generiert, wie z. B. Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen, die physische oder virtuelle Umgebungen beeinflussen können. Verschiedene KI-Systeme variieren in ihrem Grad der Autonomie und Anpassungsfähigkeit nach der Bereitstellung.“

Diese Definition berücksichtigt die unterschiedlichen Ziele, die ein KI-System haben kann, die Art der Eingaben, die es verarbeitet, sowie die verschiedenen Ausgaben, die es generieren kann. Zudem wird darauf hingewiesen, dass KI-Systeme unterschiedliche Grade an Autonomie und Anpassungsfähigkeit aufweisen können, insbesondere nach ihrer Bereitstellung.

Wichtige Punkte der Definition sind:

  1. Ziele: Die Ziele eines KI-Systems können explizit (klar definiert) oder implizit (aus den Daten abgeleitet) sein.
  2. Eingaben: KI-Systeme erhalten Eingaben, die sie verarbeiten, um Ausgaben zu generieren. Diese Eingaben können von Menschen oder Maschinen bereitgestellt werden.
  3. Ausgaben: Die Ausgaben eines KI-Systems können Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen umfassen, die physische oder virtuelle Umgebungen beeinflussen.
  4. Autonomie und Anpassungsfähigkeit: KI-Systeme unterscheiden sich in ihrem Autonomiegrad (wie unabhängig sie arbeiten können) und in ihrer Anpassungsfähigkeit (wie gut sie sich nach der Bereitstellung weiterentwickeln und anpassen können).

Diese Definition soll die Komplexität und Vielfalt der heutigen KI-Technologien erfassen und eine Grundlage für die Entwicklung und Regulierung von KI-Systemen bieten.

Die fünf Prinzipien der OECD-Empfehlung

  1. Inklusives Wachstum, nachhaltige Entwicklung und Wohlstand: KI soll zum Wohlstand und zur nachhaltigen Entwicklung beitragen, indem sie menschliche Fähigkeiten erweitert, die Inklusion fördert und ökologische Nachhaltigkeit unterstützt.
  2. Achtung der Rechtsstaatlichkeit, der Menschenrechte und der demokratischen Werte: KI-Akteure sollen die Rechtsstaatlichkeit und die Menschenrechte respektieren, einschließlich , Vielfalt, Gerechtigkeit und international anerkannter Arbeitsrechte. Zudem sollen Mechanismen zur Bekämpfung von Desinformation und zur Gewährleistung der Informationsintegrität implementiert werden.
  3. Transparenz und Erklärbarkeit: KI-Systeme sollen transparent und erklärbar sein. Die Akteure sollen relevante Informationen bereitstellen, um das Verständnis der Funktionsweise von KI zu fördern und den Betroffenen die Möglichkeit zu geben, Entscheidungen von KI-Systemen nachzuvollziehen und anzufechten.
  4. Robustheit, Sicherheit und Zuverlässigkeit: KI-Systeme sollen robust, sicher und zuverlässig sein. Mechanismen sollen vorhanden sein, um Risiken zu minimieren und bei Fehlfunktionen oder unerwünschtem Verhalten eingreifen zu können.
  5. Verantwortlichkeit: KI-Akteure sollen für das ordnungsgemäße Funktionieren von KI-Systemen und die Einhaltung der oben genannten Prinzipien verantwortlich sein. Dies umfasst auch die Nachverfolgbarkeit von Daten und Prozessen sowie ein systematisches Risikomanagement.

Fünf Empfehlungen für nationale und internationale Politik

  1. Investitionen in KI-Forschung und -Entwicklung: Regierungen sollen langfristige öffentliche und private Investitionen in KI-Forschung und -Entwicklung fördern, um Innovationen zu unterstützen und gesellschaftliche, rechtliche und ethische Implikationen zu adressieren.
  2. Förderung eines inklusiven KI-Ökosystems: Es soll ein inklusives, dynamisches und interoperables digitales Ökosystem für vertrauenswürdige KI geschaffen werden. Dies umfasst unter anderem Daten, Technologien und Infrastruktur.
  3. Gestaltung eines förderlichen und interoperablen Governance- und Politikrahmens: Regierungen sollen einen agilen Politikrahmen fördern, der die Entwicklung und den Einsatz von vertrauenswürdiger KI unterstützt. Dies beinhaltet auch die Zusammenarbeit zwischen verschiedenen Rechtsordnungen.
  4. Aufbau menschlicher Kapazitäten und Vorbereitung auf den Wandel des Arbeitsmarktes: Regierungen sollen Maßnahmen ergreifen, um Menschen auf den Wandel des Arbeitsmarktes vorzubereiten und sicherzustellen, dass die Vorteile der KI fair verteilt werden.
  5. Internationale Zusammenarbeit für vertrauenswürdige KI: Regierungen sollen international zusammenarbeiten, um den verantwortungsvollen Umgang mit KI zu fördern und gemeinsame Standards zu entwickeln.

Fazit

Die aktualisierte OECD-Empfehlung zur Künstlichen Intelligenz bietet einen umfassenden Rahmen für den verantwortungsvollen Einsatz von KI. Sie betont die Bedeutung von Transparenz, Sicherheit und Verantwortlichkeit und fördert gleichzeitig Innovation und Inklusion. Durch die Umsetzung dieser Prinzipien und Empfehlungen können Regierungen und andere Akteure dazu beitragen, das Vertrauen in KI zu stärken und ihre positiven Auswirkungen auf die Gesellschaft zu maximieren.

Rechtsanwalt Jens Ferner (Fachanwalt für IT- & Strafrecht)
Benutzerbild von Rechtsanwalt Jens Ferner (Fachanwalt für IT- & Strafrecht)

Von Rechtsanwalt Jens Ferner (Fachanwalt für IT- & Strafrecht)

Ich bin Fachanwalt für Strafrecht + Fachanwalt für IT-Recht und widme mich beruflich ganz der Tätigkeit als Strafverteidiger und dem IT-Recht. Vor meinem Leben als Anwalt war ich Softwareentwickler. Ich bin Autor sowohl in einem renommierten StPO-Kommentar als auch in Fachzeitschriften.

Erreichbarkeit: Per Mail, Rückruf, Threema oder Whatsapp.

Unsere Kanzlei ist spezialisiert auf Starke Strafverteidigung, seriöses Wirtschaftsstrafrecht und anspruchsvolles IT-Recht + Kunst & Medien - ergänzt um Arbeitsrecht.