Gefahr von durch Künstliche Intelligenz hergestelltem kinderpornografischen Material im Internet

Die Bundesregierung hat zu der zunehmenden Gefahr von durch Künstliche Intelligenz (KI) hergestelltem kinderpornografischen Material im Internet Stellung genommen (BT-Drucksache 20/11301). Diese Thematik wird immer relevanter, da moderne KI-Tools wie Stable Diffusion, die ohne Sicherheitsmechanismen auskommen, für die Erstellung solcher verstörenden Inhalte missbraucht werden. Hier ist ein umfassender Überblick über die Stellungnahme der Bundesregierung und die rechtlichen Konsequenzen.

Hintergrund und Ausmaß des Problems

Die Bundesregierung gibt an, dass das tatsächliche Aufkommen von KI-generiertem kinderpornografischem Material schwer zu quantifizieren ist. Zwar sind die gemeldeten Fälle solcher Inhalte im Vergleich zu realen kinderpornografischen Inhalten bisher eher gering, doch internationale Organisationen wie das National Center for Missing and Exploited Children (NCMEC) berichten von einem Anstieg solcher Fälle. Allein im Jahr 2023 wurden 4700 Berichte über KI-generierte Missbrauchsdarstellungen an die CyberTipline des NCMEC gemeldet.

Erwartete Entwicklungen und Plattformen

In den kommenden Jahren wird eine Zunahme der Verfügbarkeit und Qualität frei zugänglicher KI-Tools erwartet. Ob dies zu einer Zunahme von durch KI erstelltem kinderpornografischen Material führt, lässt sich derzeit nicht abschätzen. Die Bundesregierung rechnet jedoch mit einer plattformunabhängigen Verfügbarkeit solcher Inhalte, ähnlich wie bei realem kinderpornografischen Material.

Maßnahmen der Bundesregierung

Das Bundeskriminalamt erhält seit 2012 täglich Hinweise auf potenziell kinderpornografisches Material durch das NCMEC, bedingt durch gesetzliche Verpflichtungen US-amerikanischer Provider. Seit 2021 gibt es zusätzlich eine Zentrale Meldestelle für strafbare Inhalte im Internet, die ebenfalls Hinweise auf solche Inhalte sammelt. Nationale Beschwerdestellen ergänzen diese Meldungen.

Schutzmaßnahmen durch KI-Anbieter

Die Mehrheit der Anbieter von KI-Tools setzt sogenannte „Ethik-Filter“ ein, die missbräuchliche Nutzungen verhindern sollen. Diese Filter klassifizieren die Eingaben der Nutzer und generieren keine Bilder oder Videos, wenn eine missbräuchliche Nutzung erwartet wird. Ein Verstoß kann zur Löschung des Nutzerkontos führen. Allerdings gibt es bereits Strategien, diese Filter zu umgehen. Besonders problematisch sind frei verwendbare KI-Tools ohne solche Ethik-Filter, die ein hohes Missbrauchspotential aufweisen.

Rechtliche Grundlagen und Maßnahmen

Auf EU-Ebene soll die KI-Verordnung eine für KI-erstellte Bilder und Videos einführen. Diese Pflicht zur Transparenz soll durch digitale Wasserzeichen und automatisierte Erkennungsverfahren sichergestellt werden. Bisher sind Defizite im materiellen Strafrecht nicht erkennbar, da Taten, die KI-generierte kinderpornografische Inhalte betreffen, bereits nach geltender Rechtslage sanktioniert werden können.

Zusammenarbeit mit Plattformbetreibern

Die Bundesregierung steht in verschiedenen Austauschformaten mit Plattformbetreibern in Kontakt. Dazu gehören Diskursformate wie die „ZUKUNFTSWERKSTATT“ der Bundeszentrale für Kinder- und Jugendmedienschutz (BzKJ) sowie regelmäßige Round-Table-Gespräche des Bundeskriminalamts mit großen Anbietern wie Meta, TikTok und . Diese Kooperationen sollen sicherstellen, dass Verdachtsfälle schnell gemeldet und entsprechende Inhalte zügig gelöscht werden.

Fazit

Die Bekämpfung von durch KI generiertem kinderpornografischem Material erfordert ein umfassendes Vorgehen auf nationaler und internationaler Ebene. Die Bundesregierung arbeitet eng mit internationalen Organisationen und Plattformbetreibern zusammen, um dieses ernste Problem zu adressieren. Trotz der bestehenden Maßnahmen bleibt die Herausforderung bestehen, die technischen Möglichkeiten der KI mit den notwendigen ethischen und rechtlichen Rahmenbedingungen in Einklang zu bringen.

Rechtsanwalt Jens Ferner (Fachanwalt für IT- & Strafrecht)
Benutzerbild von Rechtsanwalt Jens Ferner (Fachanwalt für IT- & Strafrecht)

Von Rechtsanwalt Jens Ferner (Fachanwalt für IT- & Strafrecht)

Ich bin Fachanwalt für Strafrecht + Fachanwalt für IT-Recht und widme mich beruflich ganz der Tätigkeit als Strafverteidiger und dem IT-Recht. Vor meinem Leben als Anwalt war ich Softwareentwickler. Ich bin Autor sowohl in einem renommierten StPO-Kommentar als auch in Fachzeitschriften.

Erreichbarkeit: Per Mail, Rückruf, Threema oder Whatsapp.

Unsere Kanzlei ist spezialisiert auf Starke Strafverteidigung, seriöses Wirtschaftsstrafrecht und anspruchsvolles IT-Recht / Technologierecht - ergänzt um Arbeitsrecht.