Künstliche Intelligenz kann Richter nicht ersetzen.

Die rasante Entwicklung der künstlichen Intelligenz (KI) in den letzten Jahren hat viele Schlüsselsektoren grundlegend verändert, von Gesundheitswesen und Bildung bis hin zum Finanzwesen. Doch mit dem Einzug dieser Technologie in die Gerichtssäle wächst die Besorgnis um die Fairness und die ethischen Grundlagen des Justizsystems.

Workshop zum Einsatz von KI im estnischen Justizsystem (FOTO: AVALIK)

Es ist nicht immer gut.

Der Einsatz von KI in Gerichtsverfahren birgt erhebliche Risiken. Zu den besorgniserregenden Folgen zählen fehlerhafte Urteile aufgrund irreführender Informationen, diskriminierende Entscheidungen und mangelnde Transparenz. Obwohl KI zur Lösung von Millionen anhängiger Fälle beitragen könnte, stellt die Gefahr einer Aushöhlung der menschlichen Gerechtigkeit eine große Herausforderung für die Rechtssysteme dar.

Der größte Anstoß für den Einsatz von KI in der Justiz war ursprünglich der immense Druck durch ein überlastetes Gerichtssystem. In Indien werden bis 2026 über 55 Millionen Fälle vor Gericht anhängig sein – fast doppelt so viele wie die rund 29 Millionen Fälle im Jahr 2018. Mehr als 17 Millionen dieser Fälle ziehen sich bereits seit über fünf Jahren hin. Schätzungen zufolge könnte die Aufarbeitung dieses Fallrückstands im indischen Justizsystem über 300 Jahre dauern. KI erwies sich dabei als digitale „Rettungsleine“.

Weltweit experimentieren viele Länder mit KI, um Fälle mit geringem Risiko oder automatisierte Verfahren zu bearbeiten. Estland hat ein halbautomatisches System für kleinere Zivilprozesse eingeführt. In Deutschland testet das Frankfurter Gericht das Frauke-System zur Unterstützung bei der Urteilsfindung. Der britische Richter Geoffrey Vos hat die Möglichkeit angeregt, KI zur Kosteneinsparung auch für Entscheidungen wie die Berechnung von Unterhalt oder Schadensersatz einzusetzen.

Die Nutzung von KI hat jedoch zu vielen schwerwiegenden Fehlern geführt. Ein Landstreit in Andhra Pradesh (Indien) wurde zum Warnsignal, als ein Richter den Fall auf Grundlage von vier völlig fiktiven Präzedenzfällen entschied. Diese Urteile klangen logisch, mit korrekten Bezeichnungen und stichhaltigen Argumenten, waren aber in Wirklichkeit lediglich von KI generierte Konstrukte. Der Fehler kam erst ans Licht, als der Beklagte Berufung beim Obersten Gerichtshof einlegte. Dort bezeichneten die Richter das Vorgehen als „Rechtsverstoß“ und nicht nur als beruflichen Fehler. Ähnlich verhielt es sich in Kolumbien: Ein Richter gab zu, ChatGPT zur Unterstützung seiner Argumentation in einem Fall zur medizinischen Behandlung autistischer Kinder eingesetzt zu haben. In New York wurden zwei Anwälte diszipliniert, weil sie juristische Zusammenfassungen eingereicht hatten, in denen sie sechs vom Chatbot GPT „erstellte“ Fälle zitierten. Diese Vorfälle zeigen, dass die Grenze zwischen Unterstützung und Ersatz immer gefährlicher wird, wenn KI im Justizwesen eingesetzt wird.

Mangel an Menschlichkeit

Die größte Sorge beim Einsatz von KI in Studien, selbst in vermeintlich einfachen Fällen, ist das Risiko systemischer Verzerrungen. KI erzeugt nicht von sich aus Verzerrungen; sie spiegelt lediglich bereits in den Daten vorhandene wider und verstärkt sie.

Laut dem deutschen Fernsehsender DW erklärte Mimansa Ambastha, KI-Strategieexpertin beim Rechtsberatungsunternehmen Starlex Consultants (Indien), dass KI das menschliche Gewissen bei der Rechtsprechung nicht ersetzen könne. Bei übermäßigem Einsatz könne KI Urteile verfälschen.

Der brasilianische Anwalt und Forscher Matheus Puppe, Spezialist für das Zusammenspiel von KI und Recht, warnte zudem vor den Gefahren des „ wissenschaftlichen Scheins“, den KI mit sich bringt. Er argumentierte, Richter sollten KI-Analysen nicht als neutral betrachten, da KI auf früheren Fehlurteilen beruhen könne.

Darüber hinaus geht es bei der Rechtsprechung laut Rechtsexperten nicht einfach um die Anwendung mathematischer Formeln auf das Gesetz. Es handelt sich um einen umfassenden Prozess, der direkte zwischenmenschliche Argumente und psychologisches Einfühlungsvermögen erfordert. Künstliche Intelligenz (KI), egal wie fortschrittlich, kann die Stimmung eines Zeugen nicht anhand seiner Augen oder Stimme „verstehen“. Genau diese Elemente der Fairness fehlen der KI.

Internationale Rechtsexperten sind sich einig, dass die Justiz den Grundsatz wahren muss, dass Technologie der Menschheit dient und nicht das Gewissen ersetzt. Die Aufsicht durch Richter aus Fleisch und Blut dient nicht nur der Vermeidung technischer Fehler, sondern auch dem Schutz der humanistischen Werte des Rechts.

Zusammengestellt von Khanh Minh

Quelle: https://www.sggp.org.vn/tri-tue-nhan-tao-khong-the-thay-the-quan-toa-post848882.html