Das Europäische Parlament hat den nächsten großen Schritt zur Regulierung der Nutzung von Künstlicher Intelligenz (KI) in Europa gemacht. Das kürzlich verabschiedete KI-Gesetz (AI-Act, auch KI-Verordnung genannt, hier schon etwas ausführlicher vorgestellt) ist das weltweit Erste seiner Art und schafft einen umfassenden Rechtsrahmen für KI-Anwendungen.
(mehr …)Schlagwort: Deepfake
Deepfakes stellen nicht nur eine technische, sondern zunehmend eine rechtliche Herausforderung dar: Ob für Erpressung, Rufschädigung oder Betrug – die gezielte Fälschung von Inhalten kann Straftatbestände wie Verletzung des höchstpersönlichen Lebensbereichs durch Bildaufnahmen (§ 201a StGB), Beleidigung (§ 185 StGB) oder Betrug (§ 263 StGB) erfüllen. Diese Übersicht zeigt, wie Betroffene gegen Deepfake-Angriffe vorgehen, welche Beweismittel Gerichte akzeptieren und wie Plattformen zur Löschung verpflichtet werden können. Besonders relevant wird dies in Zeiten politischer Desinformation und digitaler Erpressung.
ENISA zu Angriffen auf die digitale Identität
Die digitale Identifizierung steht im Mittelpunkt zweier neuer Berichte der Agentur der Europäischen Union für Cybersicherheit (ENISA): eine Analyse der Self-Sovereign Identity (SSI) und eine Studie über größere Angriffe auf Gesichtsdarstellungen:
- Im Bereich der Identifizierung hat sich in den letzten Jahren ein neuer Trend bei den selbstverwalteten Identitätstechnologien, auch als „SSI“ bezeichnet, herausgebildet. Der Bericht hierzu erklärt, was diese Technologien sind, und untersucht ihr Potenzial, eine größere Kontrolle der Nutzer über ihre Identitäten und Daten, grenzüberschreitende Interoperabilität, gegenseitige Anerkennung und Technologieneutralität zu erreichen, wie es in der eIDAS-Verordnung gefordert wird.
- Der Bericht über Remote Identity Proofing baut auf dem vorherigen Bericht Remote ID Proofing der ENISA auf, der eine Analyse der verschiedenen Methoden zur Durchführung von Identitätsnachweisen aus der Ferne enthält. Der aktualisierte Bericht analysiert die verschiedenen Arten von Angriffen auf die Gesichtserkennung und schlägt Gegenmaßnahmen vor. Außerdem werden die im vorherigen Bericht eingeführten Sicherheitskontrollen validiert und weitere Empfehlungen zur Abschwächung der festgestellten Bedrohungen gegeben.
Deepfake
Bei einem Deepfake wird ein täuschend echtes virtuelles Bild einer Person geschaffen, die wie die originale person klingt, spricht und aussieht. Es ist mit üblicher Betrachtung bei einem guten Deepfake kaum mehr möglich, Original und Fälschung zu unterscheiden.
Diese „Deepfake-Technologie“ nutzt hierzu die Leistungsfähigkeit der Deep-Learning-Technologie für Audio- und audiovisuelle Inhalte. Richtig eingesetzt, können diese Modelle dann Inhalte produzieren, die absolute überzeugend den Anschein erwecken, dass Menschen Dinge sagen oder tun, die sie nie getan haben – oder auch Menschen erschaffen, die nie existiert haben!
(mehr …)