Fachlich hochqualifiziert: Alle unsere Strafverteidiger sind Fachanwälte für Strafrecht; RA JF ist zudem Fachanwalt für IT-Recht mit fortlaufenden Publikationen und Lehrbeauftragter für IT-Compliance und Wirtschaftsstrafrecht (FH Aachen)
PFAS-Chemikalien, auch bekannt als „Ewigkeits-Chemikalien“, sind eine der größten Umweltbedrohungen unserer Zeit. Sie finden sich in alltäglichen Produkten wie beschichteten Pfannen, Regenjacken und sogar in Solarzellen. Doch hinter ihrer Nützlichkeit verbirgt sich eine ökologische und gesundheitliche Katastrophe, deren Ausmaß immer deutlicher wird.
Neue Recherchen legen nahe, dass die Kosten zur Sanierung der durch PFAS verursachten Schäden in Europa Hunderte Milliarden Euro erreichen könnten. Im Folgenden geht es um die Hintergründe der Verschmutzung, die finanziellen Folgen und die von Journalisten aufgedeckte intensive Lobbyarbeit der Chemieindustrie, die das Problem verschärft.
Am 13. Januar 2025 veröffentlichte die Biden-Administration eine neue Regulierungsstruktur, die den Export fortschrittlicher KI-Technologien, darunter spezifische Chips und KI-Modelle, streng kontrolliert. Diese Maßnahmen dienen dem Schutz der nationalen Sicherheit der USA und stellen einen weiteren Schritt in der Eskalation des globalen Handelskriegs dar, insbesondere im Kontext der Beziehungen zu China.
Ein umfassender Bericht von Sophos deckt ein fünfjähriges Katz-und-Maus-Spiel mit staatlich unterstützten chinesischen Cyberkriminellen auf und zeigt die dringende Notwendigkeit verstärkter Cybersicherheitsmaßnahmen.
In einem aufsehenerregenden Schritt haben chinesische Forscher kürzlich ein KI-System namens „ChatBIT“ auf Basis von Metas Llama 2-Modell für militärische Anwendungen entwickelt. Die Arbeit, im Juni 2024 veröffentlicht, beschreibt detailliert die Anpassung des Llama 2 13B-Modells für Aufgaben wie die Sammlung und Verarbeitung von Informationen sowie die Unterstützung in operativen Entscheidungsprozessen. Diese KI-Entwicklung, die auf einem öffentlich zugänglichen Modell basiert, wird zurzeit kontrovers diskutiert und wirft zentrale Fragen zur militärischen Nutzung von Open-Source-KI auf.
Was bedeutet das für die Zukunft der Kryptographie: In einem beunruhigenden Durchbruch ist es chinesischen Forschern gelungen, mit Hilfe eines Quanten-Annealers einen Verschlüsselungsalgorithmus anzugreifen. Die Entwicklung deutet auf ernsthafte Bedrohungen für Verschlüsselungsmethoden hin, die aktuell als sicher gelten und weltweit in sensiblen Sektoren wie dem Bankwesen und Militär eingesetzt werden.
Ein aktuelles Urteil des Landgerichts Hamburg (LG Hamburg, Urteil vom 27.09.2024 – 310 O 227/23) beschäftigt sich mit einer urheberrechtlichen Streitigkeit im Kontext der Nutzung eines Bildes in einem für das Training von Künstlicher Intelligenz (KI) erstellten Datensatz. Es gilt: Die Aufnahme eines urheberrechtlich geschützten Fotos in einen Trainingsdatensatz für KI-Systeme stellt eine Vervielfältigung dar und benötigt daher grundsätzlich die Zustimmung des Urhebers.
Die Nutzung generativer KI-Modelle wie ChatGPT, DALL-E oder Stable Diffusion ist in den letzten Jahren enorm gestiegen. Diese Modelle sind in der Lage, auf Basis von Nutzeranweisungen kreative Inhalte zu generieren, wie z.B. Texte, Bilder oder Musikstücke. Diese Fähigkeit zur autonomen Kreativität basiert darauf, dass die KI-Modelle aus großen Datenmengen „gelernt“ haben, wie sie entsprechende Inhalte erstellen können. Ein erheblicher Teil dieser Datenbestände ist urheberrechtlich geschützt, was zu erheblichen rechtlichen Herausforderungen führt.
Deutschland steht bei der Entwicklung und Nutzung Künstlicher Intelligenz (KI) vor großen Chancen, aber auch erheblichen Herausforderungen. Laut der aktuellen Analyse der KfW Research zeigt sich ein gemischtes Bild: Während Deutschland in der KI-Forschung stark ist, hinkt es bei der Kommerzialisierung und dem internationalen Handel mit KI-Produkten hinterher. Diese Schwächen müssen angegangen werden, um die Chancen von KI für Produktivitätssteigerungen, Wirtschaftswachstum und die Bewältigung gesellschaftlicher Herausforderungen vollständig zu nutzen.
In der modernen Welt der Künstlichen Intelligenz (KI) haben generative Modelle eine Revolution ausgelöst. Diese Modelle erzeugen Bilder, Texte und andere Datentypen, die zunehmend von Unternehmen und in Konsumentendiensten eingesetzt werden. Doch was passiert, wenn diese Modelle beginnen, sich selbst zu konsumieren? Die kürzlich durchgeführte Studie, „Self-Consuming Generative Models Go MAD“, beleuchtet diese Frage und liefert besorgniserregende Einblicke.
Eine aktuelle Forschungsarbeit beschreibt bahnbrechende Fortschritte im Bereich des Quantencomputings. Der Artikel mit dem Titel „Scalable, high-fidelity all-electronic control of trapped-ion qubits“ stellt eine innovative Methode zur elektronischen Steuerung von Ionentrap-Qubits vor, die das Potenzial hat, die Skalierbarkeit und Präzision von Quantencomputern erheblich zu verbessern.
Generative, multimodale Künstliche Intelligenz (GenAI) hat das Potenzial, viele Branchen zu revolutionieren. Doch genauso groß wie die Möglichkeiten sind auch die Risiken, die durch den Missbrauch dieser Technologie entstehen. Eine kürzlich veröffentlichte Studie beleuchtet die verschiedenen Taktiken des Missbrauchs von GenAI und gibt wertvolle Einblicke und Empfehlungen. Hier sind die wichtigsten Erkenntnisse und Empfehlungen aus dieser Studie.
Am 21. Juni 2023 entschied das Bundespatentgericht (BPatG) in München (Aktenzeichen: 18 W (pat) 28/20) erneut, dass eine künstliche Intelligenz (KI) nicht als Erfinder im Sinne des deutschen Patentgesetzes (PatG) anerkannt werden kann. Diese Entscheidung bestätigt die bisherige Rechtslage und betont, dass nur natürliche Personen als Erfinder benannt werden dürfen.
Rechtsanwalt zur Ethik bei künstlicher Intelligenz: Der AI-Act der Europäischen Union integriert ethische Grundsätze in verschiedenen Artikeln und Abschnitten, um sicherzustellen, dass KI-Systeme sicher, vertrauenswürdig und im Einklang mit den Werten der EU gestaltet und genutzt werden. Ich möchte eine kurze Übersicht der wesentliche Artikel des AI_Act geben, in denen Ethik oder ethische Überlegungen eine Rolle spielen.
Die EU betreibt das Thema KI mit Augenmerk. Das Ziel der EU-Kommission ist nach eigener Aussage ein Aufbau vertrauenswürdiger KI für ein sicheres und innovationsfreundliches Umfeld. Im Blog finden Sie zum Thema KI und KI-VO einige laufend gepflegte Inhalte:
1. Einhaltung ethischer und beruflicher Standards (Artikel 2)
Artikel 2 betont, dass Forschungs- und Entwicklungsaktivitäten im Bereich KI in Übereinstimmung mit anerkannten ethischen und professionellen Standards für wissenschaftliche Forschung durchgeführt werden müssen.
2. Risikobasierter Ansatz und ethische Leitlinien (Erwägungsgrund 27)
Der AI-Act verfolgt einen risikobasierten Ansatz und verweist auf die 2019 veröffentlichten Ethikleitlinien für vertrauenswürdige KI der unabhängigen Hochrangigen Expertengruppe für Künstliche Intelligenz (AI HLEG). Diese Leitlinien beinhalten sieben ethische Prinzipien: menschliche Handlungsfähigkeit und Aufsicht, technische Robustheit und Sicherheit, Datenschutz und Datenmanagement, Transparenz, Vielfalt, Nichtdiskriminierung und Fairness, gesellschaftliches und ökologisches Wohlergehen sowie Rechenschaftspflicht.
3. Förderung von Codes of Conduct (Artikel 56 und Artikel 95)
Anbieter von KI-Systemen werden ermutigt, freiwillige Verhaltenskodizes zu erstellen, die Elemente der ethischen Leitlinien der EU für vertrauenswürdige KI enthalten. Diese Verhaltenskodizes sollen helfen, die ethischen Anforderungen in der Praxis umzusetzen und sicherzustellen, dass KI-Systeme inklusiv und nachhaltig entwickelt und genutzt werden.
4. Menschliche Kontrolle und Aufsicht (Erwägungsgrund 7)
Der AI-Act betont die Bedeutung der menschlichen Kontrolle und Aufsicht über KI-Systeme, um sicherzustellen, dass diese als Werkzeuge dienen, die den Menschen unterstützen und deren Würde und Autonomie respektieren.
Anwendung philosophischen Wissens zur Ethik
Philosophisches Wissen zur Ethik kann bei der Umsetzung des AI-Acts in mehreren Bereichen von großer Bedeutung sein: Durch die Integration philosophischen Wissens in die Umsetzung des AI-Acts können Unternehmen sicherstellen, dass ihre KI-Systeme nicht nur rechtlichen Anforderungen entsprechen, sondern auch ethisch verantwortungsvoll und gesellschaftlich akzeptabel sind. Dies fördert Vertrauen und damit Absatz sowie Bindung an Kunden.
Risikobewertung und Management: Philosophische Ansätze zur Ethik können helfen, eine fundierte Risikobewertung durchzuführen, indem sie tiefere Einblicke in die potenziellen sozialen und moralischen Auswirkungen von KI-Systemen bieten.
Entwicklung ethischer Leitlinien: Philosophisches Wissen ist entscheidend für die Entwicklung und Implementierung von Verhaltenskodizes und ethischen Leitlinien, die sicherstellen, dass KI-Systeme im Einklang mit den Werten der Gesellschaft stehen.
Transparenz und Erklärbarkeit: Philosophische Diskussionen über Transparenz und Verantwortung können dazu beitragen, dass KI-Systeme so gestaltet werden, dass ihre Funktionsweise und Entscheidungen für die Nutzer nachvollziehbar und verständlich sind.
Nichtdiskriminierung und Fairness: Philosophische Theorien zur Gerechtigkeit und Fairness können dabei helfen, Diskriminierung zu erkennen und zu vermeiden sowie sicherzustellen, dass KI-Systeme gerecht und inklusiv sind.
Nachhaltigkeit und gesellschaftliches Wohlergehen: Ethische Überlegungen zur Nachhaltigkeit können dazu beitragen, dass KI-Systeme entwickelt werden, die langfristig positive Auswirkungen auf die Gesellschaft und die Umwelt haben.
5. Technische Robustheit und Sicherheit (Artikel 9)
Artikel 9 fordert, dass KI-Systeme robust und widerstandsfähig gegenüber Problemen und Versuchen sind, die Nutzung oder Leistung des KI-Systems zu ändern. Dies soll unrechtmäßige Nutzung durch Dritte verhindern und unbeabsichtigte Schäden minimieren.
6. Datenschutz und Datenmanagement (Artikel 10)
KI-Systeme müssen gemäß den Datenschutzbestimmungen entwickelt und genutzt werden. Dies umfasst die Verarbeitung von Daten, die hohe Standards in Bezug auf Qualität und Integrität erfüllen, und die Gewährleistung, dass die Rechte der Betroffenen respektiert werden.
7. Transparenz (Artikel 13 und Artikel 52)
Der AI-Act legt großen Wert auf Transparenz bei der Entwicklung und Nutzung von KI-Systemen. Nutzer müssen darüber informiert werden, dass sie mit einem KI-System interagieren, und über die Fähigkeiten und Grenzen des Systems sowie über ihre Rechte aufgeklärt werden.
8. Vielfalt, Nichtdiskriminierung und Fairness (Erwägungsgrund 27 und Artikel 95)
KI-Systeme sollen so entwickelt und genutzt werden, dass sie verschiedene Akteure einbeziehen und gleichen Zugang, Geschlechtergerechtigkeit und kulturelle Vielfalt fördern. Diskriminierende Auswirkungen und unfaire Voreingenommenheiten müssen vermieden werden.
9. Gesellschaftliches und ökologisches Wohlergehen (Erwägungsgrund 7 und Artikel 9)
KI-Systeme sollen nachhaltig und umweltfreundlich entwickelt und genutzt werden und dem Wohlergehen aller Menschen dienen. Die langfristigen Auswirkungen auf Individuen, Gesellschaft und Demokratie sollen kontinuierlich überwacht und bewertet werden.
Der AI-Act integriert ethische Grundsätze in verschiedenen Artikeln und Abschnitten, um sicherzustellen, dass KI-Systeme im Einklang mit den Werten der EU entwickelt und genutzt werden. Diese umfassenden ethischen Anforderungen fördern das Vertrauen der Öffentlichkeit in KI und unterstützen die Schaffung eines europäischen Ökosystems für sichere und vertrauenswürdige KI.
Das sogenannte „LLM-Hacking“ bezieht sich auf Techniken und Strategien, um diese Modelle zu manipulieren oder ihre Funktionen auf unvorhergesehene Weise zu nutzen.
Große Sprachmodelle sind in gewisser Hinsicht besonders gefahrgeneigt, weil diese versuchen autonom zu agieren und dabei notwendigerweise auf Eingaben von Außen angewiesen sind: Mal durch die Aufgaben, die ihnen erteilt werden, mal durch Daten, mit denen sie gefüttert werden. Die zunehmende Verbreitung von LLM sollte dabei Anlass sein, sich mit grundsätzlichem Wissen zur Cybersicherheit bei LLM auseinanderzusetzen. Im Folgenden möchte ich darum als Einstieg verständlich darauf eingehen, was LLM-Hacking ist und typische Angriffsszenarien beschreiben.
Die Integration von Künstlicher Intelligenz (KI) in die industrielle Arbeit steht im Zentrum einer umfassenden Expertise des Forschungsbeirats Industrie 4.0. Diese Analyse beleuchtet die aktuelle Situation, Herausforderungen und zukünftige Gestaltungsoptionen. Basierend auf einer Literaturrecherche, Interviews und Workshops mit Fachleuten, bietet die Expertise wertvolle Einblicke in den Stand der Technik und die Auswirkungen von KI auf die Arbeitswelt.
