Eines kann man ihm nicht vorwerfen: dass er faul wäre. Der Text klingt fachlich ausgefeilt, formuliert ist er in hochgestochenem Deutsch, sogar Verweise auf Judikatur hat er ausgegraben. Das einzige Problem: Der ellenlange Schriftsatz, den der Chatbot herausgehauen hat, stimmt hinten und vorne nicht.
Österreichs Gerichte sind vermehrt mit Eingaben konfrontiert, die offensichtlich mithilfe von Künstlicher Intelligenz (KI) verfasst wurden und fehlerhaft sind. „Damit müssen wir Richter uns mit unserer natürlichen Intelligenz auseinandersetzen“, sagt Gernot Kanduth, Präsident der Richtervereinigung, der erst kürzlich zu dem Thema einen Vortrag gehalten hat.
Schlüssig, objektiv, präzise?
Die KI sei bei der Anwaltschaft „voll angekommen“, sagt Kanduth. Dass sie dort für die Rechtsrecherche genutzt wird, oder um sich einen Überblick über den Akt zu verschaffen, dagegen sei „überhaupt nichts einzuwenden“.
Wenn aber ein Antrag ausschließlich von KI verfasst wird, unnötig lang ist und vor dem Einbringen nicht mehr von einem Fachmann geprüft wird – etwa, weil sich Rechtssuchende den Anwalt gleich ganz sparen wollen –, werde es problematisch. Kanduth skizziert vier Kernprobleme.
Erstens den „Automation Bias“: Menschen würden dazu neigen, maschinellen Ergebnissen zu stark zu vertrauen, erklärt er. Was die KI abliefert, klingt schlüssig, objektiv und präzise. Richter, denen die Zeit und die Ressourcen fehlen, um im Detail zu prüfen, könnten darauf hineinfallen.
So geschehen in Leipzig, Deutschland, wo ein Mann in einem Betrugsverfahren mithilfe eines Chatbots einen Antrag auf Befangenheit eines Richters gestellt hat, der gespickt war mit Fehlern – und recht bekam, wie der Spiegel kürzlich berichtete.
Zweites Problem sind „Halluzinationen“. Die KI ist darauf programmiert, zu gefallen – sie muss Lösungen finden, und reiht aufgrund mathematischer Wahrscheinlichkeiten Text aneinander. Wenn sie ansteht, erfindet sie eben etwas.
Ein „Entschuldigung: „Das weiß ich nicht“, liest man von einem Chatbot erst, wenn man ihn wiederholt auf Fehler hinweist. Nicht-Juristen sehen diese Fehler nicht, und Juristen wie Richter müssen sich die Zeit nehmen, nachzurecherchieren.
30 frei erfundene Urteile
Kanduth kennt einen Fall, in dem ein Mann einen Chatbot genutzt hat, um Verfahrenshilfe zu beantragen, damit ihm die Republik für einen Antrag auf Schadenersatz einen „echten“ Anwalt bezahlt. Der Antrag, der sonst nur ein bis zwei Seiten lang sein muss, erstreckte sich über 60 Seiten und enthielt 30 Zitate aus Entscheidungen des Obersten Gerichtshofes. „Keines davon war richtig“, sagt Kanduth – alle waren frei erfunden.
Drittes Problem: die KI neigt dazu, zu übertreiben. In Salzburg gab es laut Kanduth einen Fall, in dem ein Kläger bei Gericht 400 Seiten ablieferte. „Es bleibt uns als Richter nicht erspart, das alles zu lesen“, sagt Kanduth. „Und es ist mitunter frustrierend, wenn man mit etwas belastet wird, das nicht einmal ein Mensch geschrieben hat.“
„Black Box“
In Österreich fehlen aktuell 225 Richterplanstellen. Im Doppelbudget, das am Mittwoch präsentiert wird, sind keine neuen vorgesehen (der KURIER berichtete). Dass die KI dieses Defizit ausgleichen kann, indem Richter sie stärker bei ihrer Arbeit einsetzen, schließt Kanduth aus – und nennt Problem Nummer vier: „Scheinsicherheit“ und fehlende Transparenz.
Die KI verfasst Texte, die den Eindruck größter Objektivität vermitteln. Woher sie ihre Ergebnisse bezieht, wie sie auf ihre Schlussfolgerungen kommt, ist eine „Black Box“. Schon deshalb könne eine KI …read more
Source:: Kurier.at – Politik
