Generative KI verlangt unserer Gesellschaft viel ab: Schon jetzt ist immer weniger das, wonach es aussieht. Man darf (und sollte) weder seinen Ohren noch seinen Augen trauen – und es wird immer einfacher, selbst ohne erhebliche eigene Ressourcen oder technische Fertigkeiten, Angriffsszenarien mithilfe von KI aufzubauen.
Die Analyse „GenAI against humanity: nefarious applications of generative artificial intelligence and large language models“ bietet eine tiefgreifende Analyse der missbräuchlichen Anwendungen von Generativer Künstlicher Intelligenz (GenAI) und Großen Sprachmodellen (LLMs). Diese Studie, verfasst von Emilio Ferrara, betrachtet die dunkle Seite dieser Technologien, indem sie verschiedene schädliche Szenarien und deren potenzielle Auswirkungen auf Gesellschaft und Individuen aufzeigt.
Einleitung
Ganz besonders generative KI kann genutzt werden, um böswillige Szenarien zu entwickeln; also Angriffsszenarien, in denen die Möglichkeiten generativer KI gegen Menschen eingesetzt werden. Insoweit überrascht es auch nicht, wenn die Studie hervor hebt, dass, obwohl GenAI und LLMs transformative Möglichkeiten bieten, sie auch erhebliche Risiken bergen.
Spannend ist, dass die Studie (in Tabelle 1) eine Sammlung von Zeitungsartikeln mit diversen Angriffsszenarien unter Verwendung generativer KI bietet.
Taxonomie des GenAI-Missbrauchs
Unter der Überschrift „Verstehen von GenAI-Missbrauch: eine Taxonomie“ in der Studie „GenAI against humanity“ wird eine systematische Kategorisierung der potenziellen Gefahren im Zusammenhang mit dem Missbrauch generativer KI-Modelle vorgestellt.
Diese Taxonomie dient dazu, die unterschiedlichen Arten von Schäden, die durch missbräuchliche Anwendungen von GenAI entstehen können, zu klassifizieren und die zugrundeliegenden Absichten der böswilligen Akteure zu verstehen.
Arten von Schäden
- Schaden für die Person: Umfasst Identitätsdiebstahl, Datenschutzverletzungen oder persönliche Verleumdung.
- Finanzieller und wirtschaftlicher Schaden: Beinhaltet finanziellen Verlust, Betrug, Marktmanipulation und ähnliche ökonomische Schäden.
- Informationsmanipulation: Kategorisiert die Verzerrung des Informationsökosystems, einschließlich der Verbreitung von Falschinformationen, Fake News und anderen Formen betrügerischer Inhalte.
- Gesellschaftlicher, sozio-technischer und infrastruktureller Schaden: Umfasst breitere Schäden, die Gemeinschaften, gesellschaftliche Strukturen und kritische Infrastrukturen betreffen können, einschließlich Bedrohungen für demokratische Prozesse und sozialen Zusammenhalt.
Absichten von böswilligen Akteuren:
- Täuschung: Beinhaltet die irreführende Beeinflussung von Individuen oder Einheiten für verschiedene Zwecke wie Betrug, Identitätsfälschung oder andere betrügerische Aktivitäten.
- Propaganda: Die Absicht, eine bestimmte politische, ideologische oder kommerzielle Agenda zu fördern, oft durch Verdrehung von Fakten oder Manipulation von Emotionen.
- Unehrlichkeit: Deckt ein Spektrum von Aktivitäten ab, bei denen die Wahrheit verborgen oder falsch dargestellt wird, um persönlichen Gewinn, Wettbewerbsvorteile oder andere Hintergedanken zu erzielen.
In dieser Taxonomie wird jede Zelle der Matrix als eine einzigartige Kombination aus Schadensart und böswilliger Absicht dargestellt, um die vielfältigen Formen des Missbrauchs mit generativer KI aufzuzeigen.
Beispielsweise könnte AI-generierte Identitätsfälschung für Identitätsdiebstahl im Schnittpunkt von „Schaden für die Person“ und „Täuschung“ gefunden werden, während AI-getriebene Fake-News-Kampagnen zur Beeinflussung der öffentlichen Meinung an der Kreuzung von „Informationsmanipulation“ und „Propaganda“ verortet werden könnten. Sie bietet einen Rahmen, um die potenziellen Bedrohungen durch GenAI-Missbrauch besser zu verstehen und spezifische Minderungsstrategien zu entwickeln.
Die dargestellten böswilligen Einsatzmöglichkeiten
Die Bedrohung durch Deepfakes
- AI-Generierte Gesichter: GenAI kann realistische Bilder von nicht existierenden Personen erstellen, die in betrügerischen Aktivitäten verwendet werden.
- Einsatz Synthetischer Personas: Diese Identitäten erscheinen im Internet und werden für Spionage, Propaganda oder Online-Belästigung genutzt.
- Der Perfekte Alibi: GenAI ermöglicht die Erstellung von gefälschten Beweisen und Alibis, was schwerwiegende rechtliche und ethische Fragen aufwirft.
GenAI gegen Personen
- AI gegen Nutzer: AI-Technologie kann persönliche Daten sammeln und für detailliertere und überzeugendere Social-Engineering-Angriffe als traditionelle Angreifer verwenden.
- Maßgeschneidertes Spear Phishing: GenAI ermöglicht personalisierte Phishing-Angriffe, die effektiver sind als herkömmliche Methoden.
- Automatisierte Belästigung: GenAI kann für Online-Belästigungskampagnen eingesetzt werden, was zu Dienstunterbrechungen, Rufschädigungen oder traditionelleren Formen von Online-Belästigung führen kann.
Fake People, Real Consequences
- Fake User, Real Money Scams: GenAI wird verwendet, um synthetische persönliche Daten, einschließlich gefälschter Konten und Transaktionen, zu generieren.
- Entführt durch einen Bot?: GenAI kann Stimmen und Erscheinungen kopieren, was Betrügern ermöglicht, überzeugende Betrugsszenarien zu erstellen.
Fluttor für Desinformation
- LLMs und Desinformation: Die Fähigkeit von LLMs, überzeugende Inhalte zu erstellen, kann zur Verbreitung von Falschinformationen und Verschwörungstheorien genutzt werden.
- ChatGPTs Fähigkeiten: Tests haben gezeigt, dass ChatGPT überzeugende Inhalte auf der Grundlage von Verschwörungstheorien und falschen Narrativen generieren kann.
All Systems Down
- Hyperzielgerichtete Überwachung: GenAI-basierte Überwachungstechnologien können ein beispielloses Genauigkeitsniveau erreichen.
- Totale Informationskontrolle: Die Kombination von GenAI mit Inhaltmoderation und Zensur stellt eine erhebliche Herausforderung für demokratische Werte dar.
- Völlig synthetische Realitäten: GenAI kann komplexe und von der physischen Welt nicht zu unterscheidende virtuelle Umgebungen erschaffen.
Dual Nature Technologies: GenAIs Zweischneidiges Schwert
Im Abschnitt „Dual Nature Technologies“ der Studie „GenAI against humanity“ wird detailliert auf die zwiespältige Natur von Generativer Künstlicher Intelligenz (GenAI) und Großen Sprachmodellen (LLMs) eingegangen. Dabei wird betont, dass diese Technologien sowohl immense Vorteile als auch erhebliche Risiken mit sich bringen. Die Autoren illustrieren, wie GenAI in verschiedenen Bereichen sowohl förderlich als auch schädlich sein kann.
Einerseits hat GenAI das Potenzial, in vielen Sektoren revolutionäre Veränderungen herbeizuführen. Beispielsweise können GenAI-Systeme genutzt werden, um historische Artefakte zu rekonstruieren oder zu restaurieren, wodurch unser kulturelles Erbe bereichert wird. Im medizinischen Bereich können durch GenAI erzeugte Bilder zur Ausbildung von Medizinstudenten beitragen, ohne die Privatsphäre von Patienten zu beeinträchtigen. In der personalisierten Content-Erstellung ermöglicht GenAI eine auf den individuellen Nutzer zugeschnittene Erfahrung, etwa auf Streaming-Plattformen oder in Online-Shops.
Andererseits besteht die Gefahr, dass diese Technologien für schädliche Zwecke missbraucht werden. Die gleichen Fähigkeiten, die zur Rekonstruktion von Artefakten genutzt werden, könnten auch eingesetzt werden, um gefälschte historische Objekte zu erschaffen, die Historiker und Sammler irreführen. Im medizinischen Bereich könnten durch GenAI erzeugte Bilder zu Fehldiagnosen, betrügerischer Forschung und Versicherungsbetrug führen. In der Content-Erstellung könnten personalisierte Inhalte für die Verbreitung von Desinformation oder Propaganda missbraucht werden, was die Meinungen und Verhaltensweisen von Einzelpersonen manipuliert.
Die Studie hebt hervor, dass es von entscheidender Bedeutung ist, die dualen Eigenschaften von GenAI und LLMs zu erkennen und eine ausgewogene Herangehensweise zu verfolgen. Dies erfordert eine gründliche Risiko-Nutzen-Analyse vor der Implementierung dieser Technologien und eine kontinuierliche Überwachung ihrer Anwendung, um sicherzustellen, dass sie für positive Zwecke eingesetzt werden und nicht zum Schaden der Gesellschaft beitragen.
Schlussfolgerungen
Wir müssen als Gesellschaft aufwachen – nicht mehr Technik ist die Antwort, sondern mehr (technische) Bildung und intellektuelle Fertigkeiten. Selbst Regulation wird uns nur einen kleinen Gewinn bringen, denn böswillige Akteure interessieren sich nicht für das, was erlaubt oder verboten ist.
Die hier angesprochene Analyse unterstreicht insoweit die Notwendigkeit robuster Minderungsstrategien, ethischer Richtlinien und kontinuierlicher Überwachung, um einen verantwortungsvollen Einsatz von GenAI und LLMs sicherzustellen. Ein ausgewogener Ansatz, der sowohl das transformative Potenzial als auch die inhärenten Risiken von GenAI erkennt, wird als entscheidend für die Nutzung dieser Technologien angesehen.
Erreichbarkeit: Per Mail, Rückruf, Threema oder Whatsapp
Unsere Kanzlei ist spezialisiert auf Starke Strafverteidigung, seriöses Wirtschaftsstrafrecht und anspruchsvolles IT-Recht / Technologierecht - ergänzt um Arbeitsrecht.