Aufsätze und Kommentarfundstellen, die es nicht gibt, Rechtsprechung zu völlig anderen Sachverhalten: Ein Anwalt hatte einen offenkundig mit KI geschriebenen Schriftsatz eingereicht – fürs Amtsgericht Köln (Beschluss vom 02.07.2025 - 312 F 130/25) ein Berufsrechtsverstoß.
Was war geschehen? Der Rechtsanwalt hatte offenbar ungeprüft einen KI-Schriftsatz übernommen. Das Ergebnis: Zahlreiche Fundstellen existierten entweder gar nicht oder hatten einen völlig anderen Inhalt. Kurz gesagt: Der Schriftsatz war schlicht unbrauchbar und irreführend, wie das AG klarstellte. Ursache waren vermutlich eine KI ohne Zugriff auf eine juristische Fachdatenbank,
Der mit der Familiensache befasste Kölner Amtsrichter hatte offenbar wenig Verständnis für schlampige und von Unwahrheiten durchzogene Eingaben und unterstrich sein Missfallen im Beschluss mit deutlichen Worten. Der Richter ließ es sich auch nicht nehmen, auf Konsequenzen hinzuweisen, die ein solcher KI-Schriftsatz aus seiner Sicht für Anwältinnen und Anwälte haben könne: "Er wird darauf hingewiesen, dass es sich um einen Verstoß gegen § 43a Abs. 3 BRAO handelt, wenn ein Rechtsanwalt bewusst Unwahrheiten verbreitet. Hierzu gehört der wissentlich falsche Vortrag über Inhalt und Aussagen von Gesetzen und Urteilen".
Ob dem so ist mag dahin gestellt sein. Ob Berufsbetreuer mit ähnlichen Konsequenzen zu rechnen hätten wie Anwälte ? Eher nicht.
Die Entscheidung zeigt aber, dass der Umgang mit KI mit Vorbehalten und nur bei großer Sorgfalt erfolgen sollte. KI neigt zu Halluzinationen.
KI-Halluzinationen sind falsche oder irreführende Ergebnisse, die von KI-Modellen generiert werden. Diese Fehler können durch eine Vielzahl von Faktoren verursacht werden, darunter unzureichende Trainingsdaten, falsche Annahmen des Modells oder Bugs in den Daten, die zum Trainieren des Modells verwendet werden.
KI-Halluzinationen sind ein Problem für KI-Systeme sein, die für wichtige Entscheidungen verwendet werden.
Die ungeprüfte und vorbehaltlose Verwendung von KI bei Schriftsätzen sollte also vermieden werden, da durchaus Haftungsrisiken drohen können.
KI wie ChatGPT u.a. ( was immer das wirklich ist ....) hat seinen Sinn z.B. als Einstieg in einen umfangreichen Schriftsatz oder als Korrekturmedium für Grammatik und sprachliche Formulierungen.
Sie ist aber sicher keine Wunderwaffe gegen Arbeitsüberlastung und den aktuellen Bürokratie Wahnsinn.
Quelle zum Fall beck-online
