Fachlich hochqualifiziert: Alle unsere Strafverteidiger sind Fachanwälte für Strafrecht; RA JF ist zudem Fachanwalt für IT-Recht mit fortlaufenden Publikationen und Lehrbeauftragter für IT-Compliance und Wirtschaftsstrafrecht (FH Aachen)
Was Dario Amodei von Anthropic gerade publiziert hat, ist nichts Neues – aber vielleicht rüttelt es wach. Denn wir stehen an einem immer grenzwertigeren Scheideweg – nicht nur in den USA oder Europa, sondern ganz konkret auch hier in Deutschland. Die meisten sind sich immer noch nicht bewusst, was technisch eigentlich möglich ist und schon passiert ist.
Bei Polymarket, einer Blockchain-basierten Wettplattform, können Menschen mit Kryptowährung auf politische Ereignisse, Wahlen, Kriege und Katastrophen wetten. Was als innovatives Prognoseinstrument vermarktet wird – „die Weisheit der Vielen”, monetarisiert durch Smart Contracts – entpuppt sich bei näherer Betrachtung jedoch als rechtliches Minenfeld und ethischer Abgrund. Die Plattform weigert sich aktuell, über 10,5 Millionen US-Dollar an Venezuela-Wetten auszuzahlen, da eine Militäroperation angeblich „keine Invasion” sei. Gleichzeitig läuft in den USA ein Gesetzgebungsverfahren gegen Insiderhandel auf Prognosemärkten.
In Deutschland ist die Nutzung solcher Plattformen nicht nur verboten, sondern auch strafrechtlich verfolgt. Nach Einschätzung der Glücksspielbehörden ist sie nicht einmal genehmigungsfähig. Dabei sollte man im Blick halten, dass es hier nicht einfach nur um Glücksspiel oder Geschmacklosigkeiten geht! Vielmehr handelt es sich bei Polymarket um ein geschicktes Instrument zur Desinformation für diejenigen, die es zu nutzen wissen.
Hinweis: Rechtsanwalt Jens Ferner wurde im Handelsblatt zu diesem Thema interviewt und der vorliegende Beitrag wurde zuletzt im Februar 2026 aktualisiert! Das Thema schlägt auch weiter hohe Wellen, so berichtet die Mitteldeutsche Zeitung unter Bezugnahme auf meine Ausführungen hier von einer Wette auf den Ausgang der Landtagswahl in Sachsen-Anwalt 2026.
Unternehmen, die Künstliche Intelligenz einsetzen, diskutieren derzeit vor allem Datenschutz, Urheberrecht und die kommende EU‑KI‑Verordnung. Weit weniger im Blick ist dagegen eine Rechtsmaterie, die der Nutzung bestimmter KI‑Modelle ganz handfest im Weg stehen kann: das deutsche Lieferkettensorgfaltspflichtengesetz (LkSG) … und auch der generelle ethische Einsatz. Denn: Menschen wurden und werden ausgebeutet beim Training von KI – und wir wissen das doch längst.
Das LkSG zwingt in meiner folgenden Überlegung dazu, die menschenrechtliche „Vorgeschichte“ eines Modells mitzudenken – und zwar auch dann, wenn dieses nur als fertiges Produkt eingekauft oder als Open‑Source‑Gewicht von Hugging Face heruntergeladen wird.
Moderne Technologien haben das Potenzial, die Effizienz und Genauigkeit von Ermittlungen erheblich zu verbessern. Gleichzeitig werfen sie jedoch tiefgreifende Fragen zur Rechtmäßigkeit, Fairness und ethischen Vertretbarkeit ihrer Anwendung auf. Mit dem Leitfaden „Assessing Technologies in Law Enforcement – A Method for Ethical Decision-Making“, der unter der Federführung von Europol und der Strategic Group on Technology and Ethics erstellt wurde, liegt nun ein methodischer Rahmen vor, der die Einführung neuer Technologien in der Strafverfolgung systematisch bewertet.
Der Leitfaden zielt darauf ab, Technologieentscheidungen nicht nur anhand juristischer Vorgaben, sondern auch nach ethischen Kriterien zu prüfen. Er liefert eine methodische Herangehensweise, um die Balance zwischen technologischer Effizienz und fundamentalen Rechten zu wahren. In einem Bereich, in dem gesetzliche Regelungen oft hinter der technologischen Entwicklung zurückbleiben, wird hiermit ein Instrument geschaffen, das ethische Reflexion und rechtsstaatliche Grundsätze in den Mittelpunkt stellt. Doch was bedeutet das konkret für juristische Fachleute, die sich mit der zunehmenden Technologisierung der Justiz und Strafverfolgung auseinandersetzen müssen?
Düsterer Blick in die Zukunft der Kriegsführung: Was vor wenigen Jahren noch nach dystopischer Science-Fiction klang, ist nun Realität: Militärische Roboterhunde mit Gewehren auf dem Rücken und Kampfdrohnen, die in urbanen Kriegszonen operieren. China hat jüngst nicht nur solche bewaffneten Roboterhunde vorgestellt, sondern auch Tests mit thermobarischen Waffen auf autonomen Kampfrobotern durchgeführt. Diese Entwicklungen werfen nicht nur technische, sondern vor allem ethische Fragen auf.
Eine neue Ideologie macht sich in den Zentren technologischer Macht breit: TESCREAL. Das Kunstwort steht für eine Mischung aus Transhumanismus, Extropianismus, Singularitarismus, Kosmismus, Rationalismus, Effektivem Altruismus und Longtermism – kurz gesagt: eine techno-utopische Weltsicht, die darauf abzielt, den Menschen technologisch zu transformieren oder gar zu ersetzen.
Ihre Anhänger sehen in der heutigen Menschheit lediglich eine Vorstufe, eine biologische Schranke auf dem Weg zu einer posthumanen Zukunft, in der Maschinen, künstliche Intelligenzen und digitale Wesen das Zepter übernehmen. Was auf den ersten Blick nach einer harmlosen Science-Fiction-Vision klingt, entpuppt sich bei genauerem Hinsehen als eine gefährliche technokratische Ideologie, die nicht nur ethische Prinzipien missachtet, sondern gezielt staatliche Kontrollstrukturen abbauen will, um ihre Vision ungehindert zu verwirklichen.
Das Barrierefreiheitsstärkungsgesetz (BFSG): Die Vision einer inklusiven Gesellschaft, in der alle Menschen unabhängig von ihren Fähigkeiten ein selbstbestimmtes Leben führen können, ist zentral für die europäische Sozialpolitik. Mit dem Barrierefreiheitsstärkungsgesetz (BFSG), das am 16. Juli 2021 vom Bundestag verabschiedet wurde, wird die EU-Richtlinie (EU) 2019/882, bekannt als European Accessibility Act (EAA), in deutsches Recht umgesetzt.
Das Gesetz zielt darauf ab, die gleichberechtigte Teilhabe von Menschen mit Behinderungen, älteren Menschen sowie Menschen mit sonstigen Einschränkungen zu fördern. Indem es Barrieren bei der Nutzung von Produkten und Dienstleistungen abbaut, soll es diese für alle Menschen zugänglich und nutzbar machen. Gleichzeitig harmonisiert es die Anforderungen an Barrierefreiheit innerhalb der EU und unterstützt dadurch auch Unternehmen, insbesondere kleine und mittlere Betriebe, beim Zugang zum europäischen Binnenmarkt.
Rechtsanwalt zur Ethik bei künstlicher Intelligenz: Der AI-Act der Europäischen Union integriert ethische Grundsätze in verschiedenen Artikeln und Abschnitten, um sicherzustellen, dass KI-Systeme sicher, vertrauenswürdig und im Einklang mit den Werten der EU gestaltet und genutzt werden. Ich möchte eine kurze Übersicht der wesentliche Artikel des AI_Act geben, in denen Ethik oder ethische Überlegungen eine Rolle spielen.
Die EU betreibt das Thema KI mit Augenmerk. Das Ziel der EU-Kommission ist nach eigener Aussage ein Aufbau vertrauenswürdiger KI für ein sicheres und innovationsfreundliches Umfeld. Im Blog finden Sie zum Thema KI und KI-VO einige laufend gepflegte Inhalte:
1. Einhaltung ethischer und beruflicher Standards (Artikel 2)
Artikel 2 betont, dass Forschungs- und Entwicklungsaktivitäten im Bereich KI in Übereinstimmung mit anerkannten ethischen und professionellen Standards für wissenschaftliche Forschung durchgeführt werden müssen.
2. Risikobasierter Ansatz und ethische Leitlinien (Erwägungsgrund 27)
Der AI-Act verfolgt einen risikobasierten Ansatz und verweist auf die 2019 veröffentlichten Ethikleitlinien für vertrauenswürdige KI der unabhängigen Hochrangigen Expertengruppe für Künstliche Intelligenz (AI HLEG). Diese Leitlinien beinhalten sieben ethische Prinzipien: menschliche Handlungsfähigkeit und Aufsicht, technische Robustheit und Sicherheit, Datenschutz und Datenmanagement, Transparenz, Vielfalt, Nichtdiskriminierung und Fairness, gesellschaftliches und ökologisches Wohlergehen sowie Rechenschaftspflicht.
3. Förderung von Codes of Conduct (Artikel 56 und Artikel 95)
Anbieter von KI-Systemen werden ermutigt, freiwillige Verhaltenskodizes zu erstellen, die Elemente der ethischen Leitlinien der EU für vertrauenswürdige KI enthalten. Diese Verhaltenskodizes sollen helfen, die ethischen Anforderungen in der Praxis umzusetzen und sicherzustellen, dass KI-Systeme inklusiv und nachhaltig entwickelt und genutzt werden.
4. Menschliche Kontrolle und Aufsicht (Erwägungsgrund 7)
Der AI-Act betont die Bedeutung der menschlichen Kontrolle und Aufsicht über KI-Systeme, um sicherzustellen, dass diese als Werkzeuge dienen, die den Menschen unterstützen und deren Würde und Autonomie respektieren.
Anwendung philosophischen Wissens zur Ethik
Philosophisches Wissen zur Ethik kann bei der Umsetzung des AI-Acts in mehreren Bereichen von großer Bedeutung sein: Durch die Integration philosophischen Wissens in die Umsetzung des AI-Acts können Unternehmen sicherstellen, dass ihre KI-Systeme nicht nur rechtlichen Anforderungen entsprechen, sondern auch ethisch verantwortungsvoll und gesellschaftlich akzeptabel sind. Dies fördert Vertrauen und damit Absatz sowie Bindung an Kunden.
Risikobewertung und Management: Philosophische Ansätze zur Ethik können helfen, eine fundierte Risikobewertung durchzuführen, indem sie tiefere Einblicke in die potenziellen sozialen und moralischen Auswirkungen von KI-Systemen bieten.
Entwicklung ethischer Leitlinien: Philosophisches Wissen ist entscheidend für die Entwicklung und Implementierung von Verhaltenskodizes und ethischen Leitlinien, die sicherstellen, dass KI-Systeme im Einklang mit den Werten der Gesellschaft stehen.
Transparenz und Erklärbarkeit: Philosophische Diskussionen über Transparenz und Verantwortung können dazu beitragen, dass KI-Systeme so gestaltet werden, dass ihre Funktionsweise und Entscheidungen für die Nutzer nachvollziehbar und verständlich sind.
Nichtdiskriminierung und Fairness: Philosophische Theorien zur Gerechtigkeit und Fairness können dabei helfen, Diskriminierung zu erkennen und zu vermeiden sowie sicherzustellen, dass KI-Systeme gerecht und inklusiv sind.
Nachhaltigkeit und gesellschaftliches Wohlergehen: Ethische Überlegungen zur Nachhaltigkeit können dazu beitragen, dass KI-Systeme entwickelt werden, die langfristig positive Auswirkungen auf die Gesellschaft und die Umwelt haben.
5. Technische Robustheit und Sicherheit (Artikel 9)
Artikel 9 fordert, dass KI-Systeme robust und widerstandsfähig gegenüber Problemen und Versuchen sind, die Nutzung oder Leistung des KI-Systems zu ändern. Dies soll unrechtmäßige Nutzung durch Dritte verhindern und unbeabsichtigte Schäden minimieren.
6. Datenschutz und Datenmanagement (Artikel 10)
KI-Systeme müssen gemäß den Datenschutzbestimmungen entwickelt und genutzt werden. Dies umfasst die Verarbeitung von Daten, die hohe Standards in Bezug auf Qualität und Integrität erfüllen, und die Gewährleistung, dass die Rechte der Betroffenen respektiert werden.
7. Transparenz (Artikel 13 und Artikel 52)
Der AI-Act legt großen Wert auf Transparenz bei der Entwicklung und Nutzung von KI-Systemen. Nutzer müssen darüber informiert werden, dass sie mit einem KI-System interagieren, und über die Fähigkeiten und Grenzen des Systems sowie über ihre Rechte aufgeklärt werden.
8. Vielfalt, Nichtdiskriminierung und Fairness (Erwägungsgrund 27 und Artikel 95)
KI-Systeme sollen so entwickelt und genutzt werden, dass sie verschiedene Akteure einbeziehen und gleichen Zugang, Geschlechtergerechtigkeit und kulturelle Vielfalt fördern. Diskriminierende Auswirkungen und unfaire Voreingenommenheiten müssen vermieden werden.
9. Gesellschaftliches und ökologisches Wohlergehen (Erwägungsgrund 7 und Artikel 9)
KI-Systeme sollen nachhaltig und umweltfreundlich entwickelt und genutzt werden und dem Wohlergehen aller Menschen dienen. Die langfristigen Auswirkungen auf Individuen, Gesellschaft und Demokratie sollen kontinuierlich überwacht und bewertet werden.
Der AI-Act integriert ethische Grundsätze in verschiedenen Artikeln und Abschnitten, um sicherzustellen, dass KI-Systeme im Einklang mit den Werten der EU entwickelt und genutzt werden. Diese umfassenden ethischen Anforderungen fördern das Vertrauen der Öffentlichkeit in KI und unterstützen die Schaffung eines europäischen Ökosystems für sichere und vertrauenswürdige KI.
Das sogenannte „LLM-Hacking“ bezieht sich auf Techniken und Strategien, um diese Modelle zu manipulieren oder ihre Funktionen auf unvorhergesehene Weise zu nutzen.
Große Sprachmodelle sind in gewisser Hinsicht besonders gefahrgeneigt, weil diese versuchen autonom zu agieren und dabei notwendigerweise auf Eingaben von Außen angewiesen sind: Mal durch die Aufgaben, die ihnen erteilt werden, mal durch Daten, mit denen sie gefüttert werden. Die zunehmende Verbreitung von LLM sollte dabei Anlass sein, sich mit grundsätzlichem Wissen zur Cybersicherheit bei LLM auseinanderzusetzen. Im Folgenden möchte ich darum als Einstieg verständlich darauf eingehen, was LLM-Hacking ist und typische Angriffsszenarien beschreiben.
Die Innovationskraft eines Landes hängt stark von der Fähigkeit ab, Risiken einzugehen und aus Fehlern zu lernen. Gerade in der öffentlichen Verwaltung, die einen erheblichen Einfluss auf die wirtschaftliche und gesellschaftliche Entwicklung hat, sind diese Fähigkeiten entscheidend.
Die aktuelle Studie der acatech beleuchtet die Effizienz und Agilität der öffentlichen Verwaltung in Deutschland und bietet wertvolle Einblicke in die Notwendigkeit einer ausgeprägten Fehlerkultur und eines effektiven Risikomanagements. Diese Analyse zeigt, wie wichtig es ist, die Struktur und Kultur der öffentlichen Verwaltung zu modernisieren. Ein Wandel hin zu mehr Agilität und Risikobereitschaft ist notwendig, um die Innovationsfähigkeit zu steigern und den Wohlstand zu sichern.
In einer zunehmend technologiegestützten Welt ist es von großer Bedeutung, die Wahrnehmung und Präferenz von Entscheidungen durch Algorithmen im Vergleich zu menschlichen Entscheidungsträgern zu verstehen.
Die Forschungsarbeit „Ruled by Robots: Preference for Algorithmic Decision Makers and Perceptions of Their Choices“ von Marina Chugunova und Wolfgang J. Luhan, veröffentlicht im März 2022, untersucht diese Thematik mittels eines Laborexperiments. Im Fokus stehen dabei Umverteilungsentscheidungen und die Frage, ob Menschen Algorithmen aufgrund ihrer Unvoreingenommenheit gegenüber menschlichen Entscheidungsträgern bevorzugen.
Die Studie „Being Black in the EU“ der FRA (Fundamental Rights Agency) zeigt alarmierende Ergebnisse über die Diskriminierung von Menschen afrikanischer Abstammung in Deutschland – und offenbart den in allen Institutionen und Ebenen verhafteten Alltagsrassismus. Der vergleichende Blick auf andere Länder macht deutlich, dass Deutschland den Anschluss bei dem Thema verloren hat.
Im Folgenden werden die wichtigsten Erkenntnisse für Deutschland ohne weitere Kommentierung zusammengefasst.
KI-generierte Medien werden zu einer zunehmenden Herausforderung: Sie können in großem Maßstab automatisch erstellt werden, was zu einer Vielzahl von Fälschungen oder fehlerhaften Inhalten führt – zugleich aber können Sie das Erstellen von Inhalten drastisch unterstützen.
Trotz zahlreicher technischer Fortschritte bei der automatischen Erkennung solcher künstlichen Medien wurde die menschliche Wahrnehmung dieser Medien bisher nicht ausreichend untersucht. Dabei mehren sich (aus gutem Grund) inzwischen die Forschungspapiere zu der Frage, wie gut Menschen in der Lage sind, KI-generierte Inhalte zu erkennen.
Datenkultur, oft als „Data Culture“ bezeichnet, ist ein integraler Bestandteil der Unternehmenskultur, der die Art und Weise beeinflusst, wie Daten in einer Organisation betrachtet, behandelt und genutzt werden.
Es geht dabei nicht nur um die bloße Verfügbarkeit von Daten, sondern vielmehr um die Schaffung eines Umfelds, in dem Daten als wertvolle Ressource für Entscheidungsfindungen angesehen und aktiv genutzt werden. Diese Kultur fördert ein kollektives Verhalten und Überzeugungen innerhalb eines Unternehmens, das Daten wertschätzt und strategisch einsetzt, um Ziele zu erreichen und Innovationen voranzutreiben.
