Campus Rostock

Annika Walter gewann mal Silber bei Olympia und ist jetzt Gesellschafterin einer Firma, die mit K.I. arbeitet. Diesen Monat fragt sie sich:

Gibt es bald Robo-Richter?

K.I. ist natürlich auch im Justizsystem angekommen. Der Fall um den Eric Loomis löste 2019 eine Kontroverse aus: Loomis flüchtete in einem gestohlenen Auto vor der Polizei, das äußerst strenge Urteil lautete sechs Jahre Knast. Der Richter griff dafür auf eine Software zurück, die für Mr. Loomis ein hohes Risiko, erneut straffällig zu werden, berechnete. Auch bei Entscheidungen über vorzeitige Haftentlassungen arbeiteten US-Richter mit einem System, das Risikoscores berechnet. Menschrechtsverbände kritisierten, dass diese das Rückfallrisiko von People of Color systematisch zu hoch bewerten. Wenn sie mit Daten trainiert werden, die bereits Ungleichbehandlungen oder Stereotypen abbilden, dann spiegeln die Algorithmen natürlich diese Ungleichbehandlungen oder Stereotypen wider. Ein Problem, dass es noch zu lösen gilt. Aber es gibt auch positive Beispiele für Legal-Tech-Einsätze. Ein Richter in Kolumbien nutzte kürzlich ChatGPT, um ein Urteil zu formulieren, warum eine Versicherung für die medizinischen Kosten eines autistischen Kindes aufkommen muss. Richter Padilla sagt in einem Interview dazu, dass K.I.-Tools wie ChatGPT helfen können, verständliche Sätze zu erstellen oder auch auf Präzedenzfälle zu verweisen. Er betonte aber, dass K.I. keine Auswirkung auf die Autonomie des Richters haben darf. Betrachtet man die rechtlichen Voraussetzungen in Deutschland, lehnen auch diese einen „Robo-Richter“ ab. Es darf nur in das Richterverhältnis berufen werden, wer die "erforderliche soziale Kompetenz" aufweist (§ 9 Nr. 4 DRiG) und "nach besten Wissen und Gewissen" handelt (§ 38 Abs 1 DRiG). Der Einsatz von K.I. als Urteilsfäller ist also hierzulande erst einmal ein No-Go. Dank der Expertin Dr. Maria Börner weiß ich, Optionen zum Einsatz künstlicher Intelligenz gibt es dennoch, vor allem in der Erledigung von Routineaufgaben. Massenklagen sind beispielsweise ein dickes Ding. K.I. kann hier genutzt werden, um wichtige Informationen aus den großen Mengen an Klagen zu filtern oder ähnliche Fälle zu gruppieren und dann den zuständigen Richter:innen zuzuordnen. Bislang kommt in der deutschen Justiz nur die sogenannte schwache K.I. zum Einsatz, also Systeme, die sich selbstoptimierend auf die Lösung einzelner konkreter Anwendungsprobleme fokussieren. Gemeint sind dabei Sprach- und Bilderkennung, Simulationssoftware und Musteranalysen. Urteile fällen, bleibt vorerst Sache der Menschen. 

Liebe Grüße, #thedatadiver