Kategorien
Cybercrime Blog Künstliche Intelligenz & Blockchain Strafprozessrecht

Künstliche Intelligenz in der Polizeiarbeit verlangt ein Umdenken

Der Einsatz künstlicher Intelligenz im Bereich der Arbeit von Ermittlern findet längst statt, mal unmittelbar als Modellprojekt, mal mittelbar, wenn Unternehmen von sich aus „intelligent“ nach Inhalten suchen. Die Frage ist, welche Auswirkungen dies auf den prozessualen Umgang haben soll, mit den Ergebnissen, die solche Techniken zutage fördern.

Kaum behandeltes Problemfeld

Die Thematik ist, wie ich gleich aufzeigen werde, keineswegs trivial – und vor allem kaum behandelt. Dabei geht man nach meinem Eindruck wenn, dann den üblichen Weg: Man versucht analoges Denken auf digitale Prozesse anzuwenden. So ist durchaus positiv aufzunehmen, dass sich der Bundesdatenschutzbeauftragte mit der Thematik bereits befasst hat. Auch findet sich im „Rechtshandbuch Artificial Intelligence und Machine Learning“ ein (kurzes) Kapitel 12, wo man zumindest fast 4 Seiten zur Thematik geschrieben hat.

Dabei ist der Ruf ebenso einhellig wie auf den ersten Blick einleuchtend: die Nachvollziehbarkeit und fehlende Diskriminierung müssen ganz oben auf der Agenda stehen. Wobei man zugleich einräumen muss, dass es schon technisch bedingt mit einer klassischen Nachvollziehbarkeit beim Einsatz neuronaler Netze eher schwierig wird.

Das Problem liegt aber woanders: Digitale Beweismittel – dazu gehört auch das, was eine KI produziert – bringen unsere Strafprozessordnung und die dazu gefestigte Rechtsprechung an ihre Grenzen.

Künstliche Intelligenz in der Polizeiarbeit verlangt ein Umdenken - Ferner: Rechtsanwalt für Strafrecht, Verkehrsrecht, IT-Recht Aachen
Zunehmend fallen in Wirtschaftsstrafverfahren und Cybercrime-Verfahren regelrechte Datenmassen an, die erst mit moderner Software wie KI sinnvoll aufbereitet werden kann. Das aber muss dazu führen, dass frühzeitig nach Kontrolle und Nachvollziehbarkeit gerufen wird!

Gefahren durch verkannte Probleme

Gerade im Strafprozess bzw. im vorgelagerten Ermittlungsverfahren ergibt sich das Problem, dass die rechtlich und gesellschaftspolitisch hochproblematische Frage vollkommen untergeht, mit Blick auf die deutsche Rechtslage:

Man nehme als sehr einfaches und rudimentäres „Black-Box-Beispiel“, dass eine KI eingesetzt wird, um Datenmengen zu analysieren, etwa nach der Beschlagnahme eines Servers, über den illegale Produkte vertrieben wurden. Durch Aufbereitung der Daten entstehen Verdachtsmomente gegen bisher unbekannte Personen, die als Kunden in Betracht kommen, etwa von Waffen oder BTM-Käufen. Die Identifikation der Kunden funktioniert dabei so, dass die eingesetzte Software selbstständig aus den (wenigen) vorhandenen Daten unter Rückgriff auf vollautomatisierte OSINT-Recherchen Identitäten ausspuckt. Die Nachvollziehbarkeit liegt bei annähernd Null, gleichwohl unterschreibt ein Richter Beschlüsse zur Hausdurchsuchung, bei diesen Hausdurchsuchungen findet man nun zwar keine BTM oder Waffen, dafür andere illegale Dinge.

Das Beispiel ist äußerst einfach und mag zugleich als Dystopie dienen, es soll aber auch eines zeigen: Möglich wäre das geschilderte Szenario schon jetzt. Und selbst in diesem krassen Szenario haben die Betroffenen ein Problem: Man mag sich den Mund fusselig reden über die Rechtswidrigkeit der Maßnahme, die bei der Durchsuchung zutage getretenen Zufallsfunde sind nicht per se unverwertbar, dem BGH sei Dank. Selbst wenn der Einsatz der Software rechtswidrig wäre oder selbst wenn man zu Recht kritisiert, dass die Arbeitsweise der KI gar nicht nachvollziehbar ist – am Ende, wenn etwas gefunden wurde, spielt diese Frage keine Rolle mehr.

Das Strafsystem verkommt unter diesem Aspekt zum Willkürsystem in dem der Anlass der Durchsuchung vom Zufall abhängt, der Zufallsfund aber wiederum zum System wird. Die zu Recht aufgeworfene Frage, ob eine KI überhaupt nachvollziehbar und diskriminierungsfrei arbeitet, spielt, so mein ernüchterndes Fazit, in dem Strafsystem, wie wir es haben und pflegen, am Ende gar keine Rolle.

Künstliche Intelligenz in Strafverfahren: KI als Ermitter?

Künstliche Intelligenz kann bei der Aufbereitung von Daten unheimlich wertvolle Arbeit leisten – zugleich aber auch unkontrolliert Verdachtsmomente schaffen. Dies muss frühzeitig hinterfragt werden!

Ein neues (prozessuales) Beweissystem muss her

Das Ergebnis dieser – zugegeben sehr kurz herbeigeführten – Quintessenz ist, dass am Ende der Ruf nach einer nachvollziehbaren KI nichts bringen wird, wenn sich die mangelnde Nachvollziehbarkeit praktisch ohnehin nicht auswirkt.

Um dieses Problem zu lösen, hilft aus meiner Sicht nur die Erkenntnis, dass unser prozessuales Programm – ohnehin zunehmender Kritik ausgesetzt – durch die Digitalisierung endgültig überholungsbedürftig wird. Es ist eine Tatsache, dass wir umfangreiche Regeln zur Beweiserhebung haben, faktisch keine Regeln zur Beweisverwertung und dass Verstöße gegen die Vorgaben zur Beweiserhebung de facto so lange ohne Auswirkung bleiben, bis man quasi willkürlich dagegen verstößt. Wenn man dieses Denken nun auch noch auf nicht nur digital bereits vorliegende Beweise, sondern digital überhaupt erst erzeugte Beweise überträgt, verbleibt ein für den Betroffenen weder nachprüfbares noch verständliches Strafsystem, das mehr dem der Fiktion Kafkas gleicht als einem modernen Rechtsstaat.

Wer es Ernst meint mit der KI in der Ermittlungsarbeit und zugleich den Rechtsstaat stärken möchte, ruft nicht nur nach nachvollziehbaren Entscheidungen, sondern danach, dass man auch Rechtsmittel hat, um diese Nachvollziehbarkeit einzufordern. Die bisherige Anwendung der Abwägungslehre scheitert hier, da gerade KI-Ermittlungen regelmäßig den Anlass für weitere Ermittlungen geben und später, dann als Vorstufe zu ersten Ermittlungserfolgen verpackt, unter den Tisch fällt.

Digitale Ermittlungsmaßnahmen, die zu unmittelbaren Grundrechtseingriffen führen, müssen zwingend einer rechtlichen Prüfung zugänglich sein – durch jeden Betroffenen in (s)einem Strafverfahren. Das Ziel muss sein, dass ein erzeugtes Verdachtsmoment nicht nachträglich legitimiert wird durch den Verweis auf (andere) Funde im Rahmen einer ansonsten nicht zu rechtfertigenden Hausdurchsuchung.

Bedeutet: Schon die Vorstufe, mit der erst das Auffinden von Beweisen für (andere) Straftaten ermöglicht wird, darf nicht mehr weiter in der Bedeutungslosigkeit verbleiben – vor allem, wenn die hier geschaffenen Beweise unkontrolliert in der Sphäre des Staates geschaffen werden, der damit vollständig in der Hand hat, bei wem unter welchen Umständen wann Durchsuchungen stattfinden. Das klassische strafprozessuale Beweisdenken muss hier auf den Prüfstand gestellt werden.

Avatar of Rechtsanwalt Jens Ferner (Fachanwalt für Strafrecht & Fachanwalt für IT-Recht)
Letzte Artikel von Rechtsanwalt Jens Ferner (Fachanwalt für Strafrecht & Fachanwalt für IT-Recht) (Alle anzeigen)
Avatar of Rechtsanwalt Jens Ferner (Fachanwalt für Strafrecht & Fachanwalt für IT-Recht)

Von Rechtsanwalt Jens Ferner (Fachanwalt für Strafrecht & Fachanwalt für IT-Recht)

Auf Strafverteidigung & Wirtschaftsstrafrecht spezialisiert übernehmen wir ausschließlich Strafverteidigungen, Ordnungswidrigkeiten und Strafvollstreckungssachen.
Rechtsanwalt Jens Ferner ist als Fachanwalt für Strafrecht und Fachanwalt für IT-Recht Ihr Profi in Strafverteidigung, speziell in Cybercrime, Wirtschaftsstrafrecht und Arbeitsstrafrecht sowie bei Unternehmens-Bußgeldern