In einem aufsehenerregenden Schritt haben chinesische Forscher kürzlich ein KI-System namens „ChatBIT“ auf Basis von Metas Llama 2-Modell für militärische Anwendungen entwickelt. Die Arbeit, im Juni 2024 veröffentlicht, beschreibt detailliert die Anpassung des Llama 2 13B-Modells für Aufgaben wie die Sammlung und Verarbeitung von Informationen sowie die Unterstützung in operativen Entscheidungsprozessen. Diese KI-Entwicklung, die auf einem öffentlich zugänglichen Modell basiert, wird zurzeit kontrovers diskutiert und wirft zentrale Fragen zur militärischen Nutzung von Open-Source-KI auf.
Militärische Anwendungen und „ChatBIT“ – Mehr als ein einfacher Chatbot
ChatBIT ist nicht irgendein KI-gestützter Assistent; das Modell wurde speziell für die Bedürfnisse militärischer Einsätze konzipiert. Berichten zufolge übertrifft es die Leistung vergleichbarer Systeme und bietet durch seine maßgeschneiderte Struktur präzise Antworten für Situationen in Echtzeit – eine Funktion, die gerade in dynamischen und risikoreichen Umfeldern entscheidend sein kann.
Forscher des Instituts für Militärwissenschaften der Volksbefreiungsarmee (PLA) beschrieben das System als hocheffektiv in der Sammlung und Analyse von Informationen und als hilfreich für die Entscheidungsfindung bei komplexen militärischen Operationen. ChatBIT bietet beispielsweise Echtzeitanalysen und fusioniert Daten aus verschiedenen Quellen, wie Satellitenbildern oder abgefangenen Kommunikationseinheiten, um präzisere Lagebilder zu erstellen.
Die Risiken von Open-Source-KI und militärischen Interessen
Die wachsende Verfügbarkeit leistungsfähiger Open-Source-KI-Modelle wirft in diesem Zusammenhang schwerwiegende Sicherheitsfragen auf. Open-Source-Modelle wie Metas Llama bieten Entwickler:innen aus aller Welt die Möglichkeit, KI-Systeme nach eigenen Bedürfnissen anzupassen. Diese Flexibilität bedeutet aber auch, dass die Technologie in den falschen Händen in eine Waffe umgewandelt werden kann. Die Forschung an „ChatBIT“ zeigt, wie ein öffentlich zugängliches Modell mit verhältnismäßig geringem Aufwand zu einem militärischen Werkzeug umgebaut werden kann.
Für viele westliche Unternehmen ist die Nutzung offener KI-Systeme ein entscheidender Innovationsmotor. Open-Source-Modelle reduzieren Kosten und bieten den Vorteil der Transparenz. Die Nutzung in sicherheitsrelevanten Bereichen, wie sie hier stattfindet, wirft jedoch die Frage auf, ob restriktivere Maßnahmen zur Verhinderung militärischer Anwendungen nötig wären. Obwohl Meta Llama mit Nutzungseinschränkungen lizenziert hat, sind die Kontrollmöglichkeiten begrenzt, sobald das Modell öffentlich zugänglich gemacht wurde.
Künstliche Intelligenz in der Kriegsführung: Die nächste Stufe nach ChatBIT und LLAMA
Nachdem das Projekt ChatBIT für weltweites Aufsehen sorgt, ist man in China schon jetzt weiter: Chinesische Forscher hatten das Open-Source-Modell Llama 2 von Meta für militärische Zwecke adaptiert. Die Anwendung zielte darauf ab, Informationen in Echtzeit zu sammeln, Daten zu analysieren und menschliche Entscheidungen im militärischen Kontext zu unterstützen. Doch kaum ist die Diskussion über die damit verbundenen Sicherheitsrisiken richtig entbrannt, scheinen diese Fortschritte durch eine neue, noch brisantere Entwicklung bereits überholt.
Nun berichten chinesische Wissenschaftler, dass sie generative KI-Technologie in Drohnen integriert haben, die elektronische Kriegsführung betreiben können. Diese Drohnen sind mit KI ausgestattet, die weit über die Fähigkeiten herkömmlicher, auf maschinellem Lernen basierender Systeme hinausgeht. Anders als ChatBIT, das eine passive unterstützende Rolle für menschliche Entscheidungen einnimmt, kann diese neue KI eigenständig entscheiden und agieren. Die Drohnen sind speziell darauf ausgelegt, gegnerische Radarsysteme und Kommunikationsnetzwerke autonom anzugreifen und haben laut Berichten das Potenzial, erfahrene menschliche Piloten in Entscheidungsprozessen zu übertreffen. Damit stellt diese Technologie einen erheblichen Fortschritt in der KI-gesteuerten Kriegsführung dar.
Diese Entwicklung macht deutlich, wie rasant der technologische Fortschritt in der militärischen Nutzung von KI voranschreitet. Noch vor wenigen Monaten galt ChatBIT als bahnbrechend, doch nun sieht sich die Welt bereits mit einem neuen Level der Bedrohung konfrontiert. Der Einsatz generativer KI zur Steuerung von Waffen- und Angriffssystemen verdeutlicht nicht nur das Tempo dieser Entwicklungen, sondern auch die wachsende Herausforderung, auf internationaler Ebene wirksame Sicherheits- und Kontrollmechanismen zu etablieren.
Es wird immer schwieriger, mit den ethischen und sicherheitspolitischen Implikationen Schritt zu halten, die die Entwicklung solcher autonomen, generativen Systeme in die Realität tragen. Was noch vor wenigen Wochen als Zukunftsvision erschien, ist indessen eine Realität, die dringliche Fragen aufwirft – nicht nur zur Regulierung, sondern auch zu den möglichen Konsequenzen, wenn militärische KI-Technologien zunehmend eigenständig und ohne direkte menschliche Kontrolle agieren.
Künftige Herausforderungen und der Ruf nach Regulierung
Die Anpassung und Nutzung eines Open-Source-Modells durch militärische Einrichtungen verdeutlicht, wie dringend das Thema Regulierung und Kontrolle geworden ist. Die EU verfolgt mit der geplanten KI-Verordnung einen Ansatz, der Hochrisiko-KI-Anwendungen streng regulieren und verbotene Anwendungsfälle wie „unmittelbare militärische Anwendungen“ rechtlich einschränken soll.
China, das sich offiziell für globale KI-Regulierungen aussprach, scheint hier eine andere Strategie zu verfolgen. Es bleibt abzuwarten, wie die internationale Gemeinschaft, darunter auch die USA und die EU, auf die sich verschärfende Konkurrenz und die Bedrohung durch militärisch genutzte KI-Entwicklungen reagieren wird. Letztlich, wenn man Opensource als Gedanken nicht ganz unterbinden möchte, bleiben nur völkerrechtliche Wege.
Erreichbarkeit: Per Mail, Rückruf, Threema oder Whatsapp.
Unsere Kanzlei ist spezialisiert auf Starke Strafverteidigung, seriöses Wirtschaftsstrafrecht und anspruchsvolles IT-Recht + Kunst & Medien - ergänzt um Arbeitsrecht.
- Justizminister wünschen allgemeine Autoschlüssel-Kopie für Ermittler - 7. Dezember 2024
- KCanG: BGH zur Zusammenrechnung von Freimengen - 5. Dezember 2024
- BVerfG zu Encrochat: Keine generellen Beweisverwertungsverbote - 5. Dezember 2024