Für viel Aufsehen sorgt aktuell eine Entscheidung des AG Köln (Familiengericht, 312 F 130/25), in dem vorgeblich ein herbei halluzinierter Schriftsatz Thema ist. Die Entscheidung verdient die Beachtung – aber auch Kritik. Gerichte haben, wie Rechtsanwälte, bei dem Themenkomplex noch viel zu lernen.
Sachverhalt
Der Sachverhalt ist schnell erzählt, man sollte einfach den entsprechenden Abschnitt aus der Entscheidung lesen, der sich wie Folgt darstellt:
Die weiteren von dem Antragsgegnervertreter im Schriftsatz (…) genannten Voraussetzungen stammen nicht aus der zitieren Entscheidung und sind offenbar mittels künstlicher Intelligenz generiert und frei erfunden. Auch die genannten Fundstellen sind frei erfunden.
Viefhues kommentiert nicht im Münchner Kommentar, sondern den juris PraxisKommentar BGB Band 4, dessen Herausgeber er ist. Die 9. Auflage stammt aus dem Jahr 2024, nicht 2021. § 1678 BGB wird von Hennemann kommentiert. § 1687 des jurisPK-BGB Band 4 wird nicht von Brömmelmeyer, sondern von Thormeyer kommentiert. Eine Randziffer 65 ff. gibt es in dem Kommentar nicht. Die Erläuterungen enden bei Rn. 36. Die Fundstelle Brons, Kindeswohl und Elternverantwortung, 2013, S. 175 ff. konnte seitens des Gerichts nicht gefunden werden. Eine Fundstelle Völkl, FamRB 2015, Bl. 74 ist ebenfalls frei erfunden. In der FamRB 2015 findet sich auf Bl. 70 – 77 der Aufsatz: Ist § 17 VersAusglG verfassungsgemäß? – Verfassungsrechtliche Überlegungen zur Kritik an dieser Vorschrift. Auch ein Werk „Meyer-Götz, in: Hauß/Gernhuber, Familienrecht, 6. Aufl. 2022, § 1671 Rn. 33“ gibt es nicht. Hier werden offenbar 3 verschiedene Werke vermengt. Den entsprechenden Rechtssatz, wonach ein Wechselmodel mit einem … Elternteil grundsätzlich unvereinbar ist, gibt es nicht. Auch eine Fundstelle OLG Frankfurt, FamRZ 2021,70 ist frei erfunden. Auf Bl. 67-70 der FamRZ aus dem Jahre 2021 findet sich die Entscheidung des OLG Düsseldorf zur Thematik Zustimmungserfordernis der Ersatznacherben zur Löschung eines Nacherbenvermerks. Auf Bl. 70-70 findet sich die Entscheidung 1 W 1276 / 20 des Kammergerichts, die sich mit der Grundbuchberichtigung aufgrund von Teilerbscheinen auseinandersetzt.
Der Verfahrensbevollmächtige hat derartige Ausführungen für die Zukunft zu unterlassen, da sie die Rechtsfindung erschweren, den unkundigen Leser in die Irre führen und das Ansehen des Rechtsstaates und insbesondere der Anwaltschaft empfindlich schädigen. Er wird darauf hingewiesen, dass es sich um einen Verstoß gegen § 43 a Abs. 3 BRAO handelt, wenn ein Rechtsanwalt bewusst Unwahrheiten verbreitet. Hierzu gehört der wissentlich falsche Vortrag über Inhalt und Aussagen von Gesetzen und Urteilen (…). Der Verfahrensbevollmächtige ist Fachanwalt für Familienrecht und sollte die Rechtslage kennen.
Seltsamer Sachverhalt
Der Kollege hat sich bislang nicht geoutet, was nachvollziehbar ist – für die Aufklärung des Sachverhalts wäre es aber hilfreich, hier echte Interna zu kennen. Insbesondere sollte frühzeitig dafür gesorgt werden, dass dieses Thema gar nicht erst lange in der Schmuddelecke landet, sondern aus dem Schambereich dort landet, wo es hingehört: In den Scheinwerfer-Fokus. Dieser Kollege ist weder der einzige der möglicherweise (!) KI benutzt (dazu sogleich) noch ist hier so abschließend klar, was passiert ist, wie es das Gericht gerne darstellen würde.
Mich verwundert insbesondere – was Laien nicht sofort zugänglich sein wird – wie ein Fachanwalt Standardliteratur falsch benennt: Der Gernhuber im Familienrecht ist ein Standardwerk aus der Reihe der „Großen Lehrbücher“ bei dem auch mir als fachfremden Anwalt sofort die namensgebende Co-Autorin Dagmar Coester-Waltjen bekannt ist. Selbiges beim JurisPK.
„Offenbar“ …
Wenn das Gericht schreibt „sind offenbar mittels künstlicher Intelligenz generiert und frei erfunden“ bin ich überrascht, denn jedenfalls wir guten Juristen wissen doch, dass Worte wie „offenbar“, „offenkundig“ oder „eindeutig“ nichts in seriösen Schriftsätzen verloren haben. Was so offenbar ist, mag argumentativ einfach zu belegen sein: Woraus ergab sich die Offenkundigkeit in dem – nicht weiter zitierten – Schriftsatz? Gleich wie offenkundig es war, die Frage muss zwingend und in jedem Fall gestellt werden, denn hier wird jemand an den Pranger gestellt und seine Arbeit desavouiert, da darf man von einem Gericht doch erwarten, dass eindeutig erklärt wird, warum eine Generierung durch eine KI derart offenkundig im Raum steht.
An der Stelle offenbart sich die bislang wenig in der Öffentlichkeit thematisierte und dringend Kritikwürdige Arbeitsweise des Gerichts, die sich am Ende der Entscheidung auch bitter rächt, wenn das Gericht fabuliert:
Er wird darauf hingewiesen, dass es sich um einen Verstoß gegen § 43 a Abs. 3 BRAO handelt, wenn ein Rechtsanwalt bewusst Unwahrheiten verbreitet. Hierzu gehört der wissentlich falsche Vortrag (…)
Wo soll denn die Wissentlichkeit herkommen? Damit ist man bereits beim zweiten unbelegten und diffamierenden Vorwurf – nämlich nicht nur, dass der Schriftsatz in (weiten?) Teilen mittels KI erzeugt wurde, sondern auch, dass man wissentlich falsch vorgetragen hat. Es wird also der Vorsatz unterstellt, in voller Kenntnis falschen Vortrag gebracht zu haben – ohne wenigstens Ausführungen zu bringen, ob man nun einen direkten- oder lediglich einen eventual-Vorsatz sieht – oder, was naheliegender ist, schlichte Fahrlässigkeit. Spätestens hier offenbart sich, mit welcher Fahrlässigkeit man als Rechtsanwalt seitens der Justiz rechnen muss.
„mittels künstlicher Intelligenz generiert…“
Ein weiterer Punkt der – leider mich immer weniger überzeugenden – gerichtlichen Entscheidung ist der generelle Vorhalt der Generierung durch KI. Man merkt an solchen Punkten schnell, ob jemand technisch gebildet ist oder an Basics scheitert – letzteres dürfte hier der Fall sein: Ich kann nur (naheliegend) vermuten, dass der gerichtliche Vorhalt ist, der Schriftsatz sei mittels generischer KI erzeugt worden. Dabei gäbe es daneben die Möglichkeit, dass Schreibtools wie DeepL-Write oder auch von Languagetool zum Einsatz kamen. Oder es wurde etwas diktiert, mittels einer KI transkribiert und dann durch eine Schreib-KI gejagt.
Etwas mehr technische Differenzierung wäre insoweit nicht nur sinnvoll, sondern angebracht – solche Tools sind in fachlichen Schriftsätzen leider nicht immer hilfreich, ich habe beispielsweise in Testläufen festgestellt, dass fachliche Beiträge von mir mitunter in Details verhunzt wurden, weswegen ich diese Tools nur begrenzt zum Einsatz bringe. Vielleicht aber – brandgefährlich – wurde etwas diktiert und zur Rechtschreibkorrektur in einen ChatBot gegeben? Ein Szenario, von dem ich aus Gesprächen weiss, dass Kollegen es mitunter nutzen und wovon ich dringend abrate. Der vorliegende Fall ist vielleicht ein Beispiel dafür, vielleicht wird es ja irgendwann mal wissenschaftlich an Hand der Schriftsätze aufgearbeitet (ein Akteneinsichtsrecht jedenfalls dürfte es für den wissenschaftlichen Betrieb geben!).
Juristische Probleme
Juristisch ist es nicht so einfach, wie ich es derzeit oft lese und vor allem nicht so einfach, wie es das Gericht sich hier machen möchte:
- Wissentlich falscher Vortrag in Rechtsfragen ist ein berufsrechtliches Problem, keine Diskussion. Fahrlässig falscher Vortrag ist aber schlichte Dummheit oder Ausdruck schlechter Arbeitsweise – hier berufsrechtlich ran zu kommen wird eher unmöglich. Und einem Anwalt zu unterstellten, er würde sich bewusst blamieren wollen, ist ein absurder Vorhalt. Weder überzeugt die – ohnehin nicht vorhandene – „Argumentation“ des Gerichts, noch ist ein derartiger Vorsatz in einem normalen Lebenssachverhalt naheliegend.
- Wer als Rechtsanwalt mit personenbezogenen Daten versehene Informationen in ChatBots oder sonstige LLM lädt, um sie bearbeiten zu lassen, muss darauf achten, dass hier die entsprechenden rechtlichen Voraussetzungen gegeben sind. Bei ChatGPT & Co. sehe ich das nicht, hier personenbezogene Daten hochladen ist aus meiner Sicht schlicht Wahnsinn. Anders wird es mit den diversen Lösungen aus juristischen Fachhäusern sein, die hierzulande langsam am Markt sind und Vereinbarungen mit Blick auf Art. 28 DSGVO und §203 StGB anbieten, das muss man im Einzelfall bewerten. Ob das hier im Raum steht weiß niemand, Ausführungen dazu sind unangebracht und es sieht auch derzeit eher so aus, als ginge es um rein abstrakte rechtliche Ausführungen.
- Spannender wird es für mich im Mandatsverhältnis: Ich sehe ganz erhebliche Pflichten gegenüber den Mandanten, aufzuklären, wenn KI zur Generierung von Schriftsätzen eingesetzt wird. Wer das nicht tut, dann mittels generischer KI Schriftsätze (teilweise) generiert und auf die Nase fällt, muss sich im Mandatsverhältnis erklären.
Sehr schwer tue ich mich dabei mit Schadensersatz, wenn der Rechtsstreit verloren geht: Auch wenn in der BGH-Rechtsprechung der Richter das Recht schlechter kennt als der Anwalt, so bietet sich ein Umkehrschluss an; wenn das Gericht den Einsatz von KI erkennt und sich fehlerhaften Ausführungen entgegenstellt, gab es ja gerade eine Auseinandersetzung mit der „richtigen Rechtslage“ mit der man sich auseinandergesetzt hat. Zudem dürfte der Nachweis des Kausalzusammenhangs zwischen dem Unterliegen im Prozess und dem fehlerhaften KI-Ergebnis schwerfallen; wobei zu erinnern ist, dass es die Schlechtleistung im Dienstvertragsrecht ohnehin nicht gibt. Wenn aber der Mandant nicht aufgeklärt und Fundstellen auch nicht kontrolliert wurden, mag man überlegen, ob eine nachherige Anfechtung des Anwaltsvertrages denkbar ist … was zumindest zur Rückerstattung der Vergütung führen würde.
Vorwurf des Einsatzes von KI mit rechtlichen Konsequenzen
Wer einem anderen vorwirft oder vorhält er habe (in vorwerfbarer Weise) mit generischer KI etwas erstellt, der muss es belegen – juristisch schon, weil sonst eine strafbare Diffamierung (§186 StGB) anzunehmen sein wird und die Beweislast beim Behaupter liegt, zivilrechtlich wie strafrechtlich. Menschlich aber auch, weil es inzwischen Studien dazu gibt, die belegen, welche psychischen Schäden es verursacht, wenn die eigene Arbeit auf diesem Wege herabgewürdigt wird; dies gilt insbesondere in schutzbedürftigem Umfeld wie bei Leistungen von Schülern aber auch Studenten.
Man sollte sich auch der Konsequenzen klarer bewusst sein: Wenn ein Gericht einem Anwalt ins Stammbuch schreibt, er habe mit KI Mist gebaut, kann das existenzvernichtende Auswirkungen haben. Da ist es doch wohl zu erwarten, dass man einen gewissen Standard in den Ausführungen an den Tag legt und sich nicht mit allzu laienhaften Ausführungen wie „offenkundig“ zufriedengibt. Auch wenn die Haftung von Richtern in gerichtlichen Entscheidungen größtenteils ausgenommen ist – §839 BGB sieht eine Haftungsfreistellung für Urteile vor, so gilt dies nicht für Beschlüsse (freilich wird die Haftungsfreistellung ausgeweitet auf Beschlüsse, die einem Urteil gleichzustellen sind, was vorliegend wohl der Fall ist?). Jedenfalls gehört neben der Arbeitsweise des Anwalts hier auch in die öffentliche Diskussion, welche Macht Gerichten mit solchen Vorhalten an die Hand gegeben wird.
Mehr Humanismus wagen
Die Schlussfolgerungen in der Entscheidung mögen inhaltlich stimmen – sie ist gleichwohl kritikwürdig. Der Kollege hat hier jedoch, das steht dem nicht entgegen, wohl schlicht Mist gebaut. Ich sehe Kritik an beiden Seiten angebracht. Doch auch die bislang erfolgte öffentliche Diskussion, beschränkt auf „den Kollegen der sich blamiert hat“, braucht dingend mehr Reflektion.
Wenn man die Hintergründe nicht kennt, fällt urteilen immer leicht: War der Kollege nervlich und zeitlich überlastet? Gab es menschliche Gründe, die dazu führten, dass jemand als praktikabelsten Ausweg sah, „mal schnell“ etwas zu generieren und dann halt zu verwenden? Und nur weil dieser Kollege nun der Erste ist, der öffentlich auf die Nase fällt: Er wird beileibe nicht der letzte bleiben – und man sollte sich fragen, ob einer allein diese Masse an öffentlichem Druck bei einem zunehmend verbreiteten Verhalten wirklich verdient hat (oder ihr lange standhalten kann). Der Shitstorm bleibt ein Shitstorm, auch wenn er von Fachkreisen geführt wird. Solange man dabei die Rolle des Gerichts nicht ebenfalls kritisch würdigt, ist es mir jedenfalls zu einseitig.
Da bin ich wieder am Anfang, so schwer es sein mag: Das Thema muss aus der Schmuddelecke. Die mitunter krampfartigen Bemühungen in ersten Beiträgen, aus all dem ein strafbares Verhalten zu machen zeigen doch über Gebühr, dass die sachliche Auseinandersetzung derzeit hintansteht. Es muss Differenzierung hinein und zuvorderst muss der eigentliche Fehler aufs Revert: Weniger die Generierung mittels generischer KI ist das Problem als die Tatsache, dass ein Jurist einen Schriftsatz verwendet, dessen Fundstellen er wohl tatsächlich gröblichst nicht kontrolliert hat. Was hier Thema ist, ist aber nicht der einzelne Kollege, sondern eine Arbeitsweise insgesamt – KI ist doch nur die Pointierung … ich habe in meinem Berufsleben genügend Schriftsätze gesehen, die ein schlichtes Sammelsurium von Textbausteinen aus Formularhandbüchern waren.
Rechtsanwalt Jens Ferner ist Lehrbeauftragter für Wirtschaftsstrafrecht und IT-Compliance (FH Aachen), Softwareentwickler, fortgebildet in Kommunikationspsychologie und publiziert fortlaufend.
Erreichbarkeit: Erstkontakt per Mail oder Rückruf.
Unsere Anwaltskanzlei im Raum Aachen ist hochspezialisiert auf Strafverteidigung, Cybercrime, Wirtschaftsstrafrecht samt Steuerstrafrecht. Zudem sind wir für Unternehmen im Softwarerecht und Cybersicherheitsrecht beratend tätig.
- Transitorischer Besitz und faktische Verfügungsgewalt beim Finanzagenten - 8. März 2026
- Cyberfähigkeiten von Israel und Iran - 7. März 2026
- Irans Cyberfähigkeiten und Hacker - 7. März 2026
