Studie offenbart Defizite

Die Studie zeigt, dass moderne Sprachmodelle im „Prüfstand‑Modus“ zwar beeindruckend performen, im Zusammenspiel mit Laien aber bislang keinen Mehrwert für reale Gesundheitsentscheidungen liefern.

Getestet wurden Alltags‑Vignetten zu typischen Symptomen, in denen 1.298 Teilnehmende aus dem Vereinigten Königreich entscheiden mussten, welche Erkrankung vorliegen könnte und ob sie etwa abwarten, den Hausarzt kontaktieren oder eine Notfallversorgung aufsuchen sollten; die Probanden nutzten entweder eines von drei LLMs (GPT‑4o, Llama 3, Command R+) oder ihre üblichen Informationsquellen. Ohne Nutzerinteraktion identifizierten die Modelle in rund 95% der Fälle mindestens eine relevante Diagnose und empfahlen im Mittel in gut der Hälfte der Fälle den zutreffenden Versorgungsweg, lagen also deutlich über Zufallsniveau und vergleichbar mit anderen medizinischen Benchmarks.

Sobald reale Nutzer ins Spiel kamen, brach dieser Vorsprung jedoch weg: Mit LLM‑Unterstützung erkannten die Teilnehmenden relevante Erkrankungen nur in weniger als 34,5% der Fälle und wählten in unter 44,2% der Fälle die adäquate Handlungsoption – und waren damit nicht besser als die Kontrollgruppe mit klassischen Suchmaschinen bzw. eigenen Mitteln. Teilweise schnitten die LLM‑Nutzer bei der Identifikation relevanter und insbesondere „red‑flag“‑Diagnosen sogar schlechter ab als die Kontrollgruppe. In einer manuellen Auswertung von Interaktionen zeigte sich ein doppelter Bruch in der Informationskette: Nutzer gaben unvollständige oder fehlerhafte Angaben ein, während die Modelle zwar oft korrekte Optionen nannten, diese aber nicht so präsentierten, dass Laien die entscheidenden Hinweise erkennen, einordnen und priorisieren konnten.

Normativ lässt sich daraus ablesen, dass LLM‑Leistung auf Prüfungsfragen kein hinreichender Proxy für einen sicheren Einsatz in der direkten Laienberatung ist und dass die Risiken einer Fehleinschätzung (insbesondere bei Notfällen) regulatorisch ernst zu nehmen sind. Die Autor:innen kommen zu dem Ergebnis, dass gegenwärtige Systeme nicht reif für eine Rolle als „digitaler Hausarzt“ oder Triage‑Assistent für die Allgemeinbevölkerung sind; nötig wären speziell gestaltete, auf reale Interaktion, Transparenz und Fehlertoleranz optimierte Werkzeuge, flankiert von klaren Hinweisen, dass sie ärztliche Versorgung nicht ersetzen. Für Gesundheitssysteme und Gesetzgeber deutet die Studie damit eher auf einen vorsichtigen Einsatz als Informations‑ bzw. Bildungsinstrumente hin, verbunden mit strengen Evaluations‑, Haftungs‑ und Aufklärungsanforderungen.

Unsere KI-Politik

Ja, wir setzen KI ein – aber niemals dort, wo es auf Ihr Mandat ankommt. KI nimmt uns die zeitraubende rein mechanische Arbeit ab, ersetzt aber niemals das anwaltliche Denken und schon gar nicht den persönlichen Kontakt zu Ihnen. Weil uns dieses Thema von Anfang an wichtig war, haben wir bereits seit 2023 eine festgeschriebene KI-Politik, die wir laufend aktualisieren und hier öffentlich teilen.

In der Kommunikation mit Ihnen bleibt alles menschlich. Wir verzichten bewusst auf Chatbots, virtuelle Assistenten oder KI-Anrufsysteme. Stattdessen schreiben und sprechen echte Anwälte mit Ihnen. Das kann bedeuten, dass Sie auf eine Antwort einmal ein paar Stunden warten – dafür haben Sie es nie mit einer Pseudo-KI zu tun, sondern immer mit uns. KI nutzen wir hier nur für Rechtschreibhilfen wie LanguageTool und für die redaktionelle Arbeit auf unserer Website. Blogbeiträge auf dieser Website werden teils mit KI-Unterstützung vorstrukturiert, dann von uns überarbeitet, finalisiert und veröffentlicht. Solche Beiträge kennzeichnen wir freiwillig mit einem an das EU-Icon für KI-modifizierte Inhalte angelehntes Symbol.

In der Mandatsarbeit ist KI unser Werkzeug: Wir setzen sie dort ein, wo es nicht auf juristische Qualifikation ankommt, aber früher unnötig Stunden anfielen: bei der Recherche (auf Basis unserer eigenen, seit 25 Jahren gepflegten Datenbank mit Entscheidungen und Fachinformationen), beim Aufbereiten und Bereinigen umfangreicher Ermittlungsakten, beim Auswerten und Visualisieren hunderter Seiten Finanzdaten sowie bei Konsistenzprüfungen und redaktionellen Anmerkungen in fertigen Verträgen. So sichern wir die persönliche „Handarbeit“ und sparen Zeit genau dort, wo sie keinen juristischen Mehrwert schafft.

Und das machen wir bewusst nicht: Wir schreiben keine Schriftsätze mit generativer KI, und wir geben keine Daten oder Informationen aus Mandaten an Cloud-KI-Modelle weiter. Strategisches Denken, kommunikative Überzeugungsarbeit und qualitative anwaltliche Bewertung lagern wir nicht aus – denn Staatsanwälte und Richter überzeugt man nur durch sorgfältige, persönliche Kommunikation. Ihre Daten verlassen unser Haus nicht – technisch sichergestellt durch lokale KI-Systeme (OLLAMA mit selbst programmierten Python-Schnittstellen sowie DEVONthink), ohne jede Cloud-Anbindung.

Schalten Sie Ihr Hirn ein!

Ich kann es nicht nur bei Möchtegern-Mandanten sondern vor allem in meinem sozialen Umfeld beobachten: Gerne wird ein LLM nach einer rechtlichen Einschätzung gefragt – und gibt auch brauchbare Antworten. Allerdings nehmen die Betroffenen im Regelfall nur ihre eigene Sichtweise, ihr eigenes Erleben und scheitern vollends daran sich selbst kritisch zu hinterfragen – oder zumindest vom LLM hinterfragen zu lassen. LLM ist dabei am Ende in verstärktem Maße wie Social Media selbstverstärkend, heisst man wird in seinen schon vorhandenen Ansichten bestärkt und wird nur immer überzeugter von seiner Meinung.

Wenn diese Menschen dann zum Anwalt gehen, sind die Gespräche freudlos: Man ist schon verhärtet, kommunikationsfeindlich und absolut uneinsichtig (weswegen ich diese Mandate auch nicht annehme – es führt zu nichts). Der Umgang mit der Tatsache, dass Wahrheit in Streitigkeiten ein Relativ und kein Objektiv ist, aus dem die Juristerei die prozessuale Wahrheit geformt hat, überfordert Laien seit jeher und ist die Hauptursache schlecht geführter Prozesse. Daneben tritt das Problem der Kommunikation, da in unseren Prozessen – gleich ob Zivilprozess oder Strafprozess – die Überzeugung gilt: Anders als im Fernsehen können Sie sich den Mund fusselig reden … … wenn der Boden einmal verbrannt ist, war es das. Ein guter Anwalt weiß, wo Grenzen sind, und erarbeitet alternative Lösungsszenarien. Ein LLM dagegen kann nur stoisch erklären, wie es doch „wirklich richtig Richtig“ ist und lässt Sie volle Kanne in den Abgrund rennen. Deswegen spreche ich in unserer FAQ auch von „Pay or Pray“: Natürlich können Sie KI nutzen. Ihr grundlegender Fehler ist nur halt die Annahme, Sie würden bei Gericht irgendwas gewinnen, weil die juristische Bewertung Ihrer wahrgenommenen Realität das ausschlaggebende Kriterium ist. Das ist es nicht und gute Anwälte wissen das.