In der Forschungsarbeit „Assessing the risks and opportunities posed by AI-enhanced influence operations on social media“ von Rolf Fredheim und James Pamment wird ein tiefgreifendes Verständnis für die Risiken und Chancen von KI-gestützten Beeinflussungsoperationen in sozialen Medien dargelegt.
(mehr …)Schlagwort: Desinformation
Desinformation ist eine Waffe im Cyberwar und Rechtsanwalt Jens Ferner beschäftigt sich wissenschaftlich mit dem Thema Desinformation: Gezielte Manipulation von Informationen kann Staaten destabilisieren, Wahlen beeinflussen und das Vertrauen in Institutionen untergraben. Cybersecurity-Strategien müssen deshalb nicht nur Netzwerke schützen, sondern auch Informationsflüsse absichern. Cyberkriminelle nutzen diese Dynamik aus: Fake News, Social Engineering und Deepfakes erleichtern Betrug, Identitätsdiebstahl und politische Einflussnahme. Gleichzeitig verschwimmen die Grenzen zwischen staatlich gesteuerten Cyberoperationen und organisierter Kriminalität, da Desinformationskampagnen oft von denselben Methoden und Akteuren profitieren, die auch für klassische Cybercrime-Angriffe verantwortlich sind.
Beachten Sie dazu meinen juristischen Fachaufsatz: „Cyberwar, Hackbacks und Desinformation – Juristische und technische Implikationen unklarer Begriffe (Ferner, AnwZert ITR 3/2025 Anm. 2)“
Anwaltskanzlei Ferner Alsdorf: Kontakt zu Rechtsanwalt Ferner im Raum Aachen
- Spezialisierung auf Straf- & IT-Recht sowie Cybercrime
- Wir übernehmen von Privatpersonen ausschließlich Strafverteidigungen in ausgewählten Bereichen – und sind für Unternehmen im (Wirtschafts‑)Strafrecht, Softwarerecht inkl. IT-Vertragsrecht, Cyberstrafrecht und Cybersicherheitsrecht beratend tätig.
- Fachlich hochqualifiziert: Alle unsere Strafverteidiger sind Fachanwälte für Strafrecht; RA JF ist zudem Fachanwalt für IT-Recht mit fortlaufenden Publikationen und Lehrbeauftragter für IT-Compliance und Wirtschaftsstrafrecht (FH Aachen)
- Kontakt per Telefon indem Sie einen Rückruf buchen oder per Mail an kontakt@ferner-alsdorf.de – Termine nur nach Vereinbarung und kein Kontakt per SMS!
Der Missbrauch von Generativer KI und großen Sprachmodellen (LLM)
Generative KI verlangt unserer Gesellschaft viel ab: Schon jetzt ist immer weniger das, wonach es aussieht. Man darf (und sollte) weder seinen Ohren noch seinen Augen trauen – und es wird immer einfacher, selbst ohne erhebliche eigene Ressourcen oder technische Fertigkeiten, Angriffsszenarien mithilfe von KI aufzubauen.
Die Analyse „GenAI against humanity: nefarious applications of generative artificial intelligence and large language models“ bietet eine tiefgreifende Analyse der missbräuchlichen Anwendungen von Generativer Künstlicher Intelligenz (GenAI) und Großen Sprachmodellen (LLMs). Diese Studie, verfasst von Emilio Ferrara, betrachtet die dunkle Seite dieser Technologien, indem sie verschiedene schädliche Szenarien und deren potenzielle Auswirkungen auf Gesellschaft und Individuen aufzeigt.
(mehr …)
Cyberkriminalität in Nordkorea und die Bedrohung der Kryptowährungsindustrie
Nordkorea ist einer der Hauptverantwortlichen für die zunehmende Bedrohung der Cybersicherheit. Spätestens seit dem Angriff auf Sony Pictures im Jahr 2014 wird das Land als wichtiger Cyber-Akteur auf der internationalen Bühne wahrgenommen. Seitdem hat Pjöngjang seine Hackerfähigkeiten genutzt, um internationale Sanktionen zu umgehen und Gelder zu stehlen.
Mit den erbeuteten Geldern konnte Pjöngjang die Entwicklung seines Atom- und Raketenprogramms finanzieren. Nordkorea nutzt Cyberoperationen auch zur (digitalen) Spionage. Die Ziele sind breit gefächert: Sie richten sich unter anderem gegen Universitäten, Menschenrechtsorganisationen und Medienunternehmen, erzeugen Unzufriedenheit oder Misstrauen durch Wahlbetrug und greifen kritische nationale Infrastrukturen an. Die zunehmende Bedeutung Nordkoreas im Bereich Cybercrime und Cybersecurity ist auch der Grund, warum wir hier einen eigenen Blog-Post zu dem Thema pflegen.
Als Beispiel sei hier eine Studie der Insikt Group von Recorded Future aufgegriffen, die ein alarmierendes Bild der nordkoreanischen Cyberkriminalität zeichnet. Diese Aktivitäten, die seit 2017 zugenommen haben, zielen auf die Kryptowährungsindustrie ab und haben es Nordkorea ermöglicht, geschätzte 3 Milliarden Dollar an Kryptowährungen zu stehlen.
(mehr …)
Populismus in modernen Gesellschaften
Populismus hat in den letzten Jahrzehnten einen bemerkenswerten Aufstieg erlebt und prägt mittlerweile die politischen Landschaften vieler Länder. Doch während populistische Bewegungen oft mit der Hoffnung auf eine Rückbesinnung auf die „wahre Stimme des Volkes“ antreten, zeigt sich zunehmend, dass populistische Regierungen erhebliche negative Auswirkungen auf die demokratischen Institutionen und die gesellschaftliche Stabilität haben.
Von der Aushöhlung der Gewaltenteilung über die Einschränkung der Pressefreiheit bis hin zur Polarisierung der Gesellschaft – die Folgen populistischer Machtausübung sind tiefgreifend und besorgniserregend. Dieser Artikel beleuchtet die schleichende Erosion demokratischer Werte unter populistischen Regierungen und zeigt auf, wie sie langfristig die Fundamente unserer Demokratien gefährden.
(mehr …)
Die Schattenseite der sozialen Medien: Wie sie unsere Demokratie untergraben
Soziale Medien haben die Art und Weise, wie wir kommunizieren und Informationen konsumieren, revolutioniert. Plattformen wie Facebook, Twitter und Instagram ermöglichen es Menschen, sich weltweit zu vernetzen, Meinungen auszutauschen und politische Debatten zu führen. Doch diese scheinbar grenzenlosen Möglichkeiten haben auch eine dunkle Seite, die zunehmend die Grundlagen unserer Demokratie bedroht.
(mehr …)
Erste politische Überlegungen zur generativen Künstlichen Intelligenz (KI)
Generative Künstliche Intelligenz (KI) hat in den letzten Jahren erheblich an Bedeutung gewonnen und bietet transformative Potenziale in verschiedenen Sektoren wie Bildung, Unterhaltung, Gesundheitswesen und wissenschaftlicher Forschung.
Diese Technologien sind jedoch auch mit erheblichen gesellschaftlichen und politischen Herausforderungen verbunden, die von den politischen Entscheidungsträgern angegangen werden müssen. Der Bericht „Initial Policy Considerations for Generative Artificial Intelligence“, veröffentlicht von der OECD im September 2023, beleuchtet diese Herausforderungen und bietet wichtige Überlegungen für die Gestaltung zukünftiger politischer Rahmenbedingungen.
(mehr …)
KI-Textgeneratoren als Dual-Use-Technologie?
In der Studie „Dual-use implications of AI text generation“ von Julian J. Koplin wird das Konzept von KI-Textgeneratoren als Technologien mit doppeltem Verwendungszweck (Dual Use) ausführlich beleuchtet.
Der Autor argumentiert, dass KI-Textgeneratoren sowohl legitime Vorteile als auch potenziell gravierende Missbrauchsmöglichkeiten bieten, wie die Automatisierung der Erzeugung überzeugender Fake News oder die Flutung von Social-Media-Plattformen mit maschinengenerierter Desinformation.
Der Artikel stellt die interessante These auf, dass KI-Textgeneratoren als eine Dual-Use-Technologie konzeptualisiert werden sollten, zieht Lehren aus früheren Debatten über Dual-Use-Forschung in den Lebenswissenschaften und ruft zu einer engeren Zusammenarbeit zwischen Ethikern und der Machine-Learning-Community auf, um die Dual-Use-Implikationen von KI-Sprachmodellen zu adressieren.
(mehr …)
ENISA: Threat Landscape Report 2022
Anfang November 2022 wurde der alljährliche ENISA-Report zur Cyber-Bedrohungslandschaft vorgestellt. Neben dem BSI-Lagebericht ist dies eine besonders bedeutende Quelle für aktuelle Entwicklungen im Bereich Cybersicherheits-Bedrohungen.
Quelle: ENISA THREAT LANDSCAPE 2022, S.10, Figure 1: ENISA Threat Landscape 2022 – Prime threats Schon auf den ersten Blick zeigt sich duchaus eine Überraschung: Die allgegenwärtigen und noch 2021 ausdrücklich hervorgehobenen „Mail-Bedrohungen“Mail related threats“ sind verschwunden, stattdessen steht das Social Enginnering im Fokus. Die wesentlichen Erkenntnisse stellen im Gesamtbild das dar, was man in den vorgangenen 1,5 Jahren miterlebt hat – im Detail gibt es aber Informationen die aufhorchen lassen.
(mehr …)
ENISA: Threat Landscape Report 2021
Die europäische Cybersicherheits-Agentur ENISA stellt jährlich den Threat Landscape Report (kurz: „ETL“) vor. Im Jahr 2021 warnt die ENISA davor, dass „Auftragshacker“ ´ die Entwicklung der Bedrohungslandschaft voran treiben. Hier sieht die ENISA einen Hauptgrund für den Anstieg derjenigen Cyberkriminalität, die durch Ransomware oder Cryptojacking Geld verdienen will.
(mehr …)
