Justiz und KI: Borges zieht die Grenze beim Urteil, Vöneky fordert Kapital für riskante Modelle

Künstliche Intelligenz darf in der Justiz Entscheidungen vorbereiten, aber nicht treffen: Diese Grenze zog der Rechtsinformatiker Georg Borges auf der KI-Woche 2026, wie heise online am 12. November 2026 berichtet. Verbindliche, wertende Urteile bleiben nach seiner Auffassung Menschen vorbehalten, weil Rechtsuchende Anspruch darauf haben, von einem Richter gehört zu werden. Die zusätzlichen Pflichten der EU-KI-Verordnung für Hochrisiko-Systeme nach Anhang III gelten laut dem Bericht erst ab dem 2. Dezember 2027.

Borges: Die Justiz muss KI nutzen, um Rechtsschutz zu sichern

Georg Borges hält den KI-Einsatz in der Justiz für notwendig, weil Gerichte sonst von KI-generierten Schriftsätzen überrollt würden. Borges ist Professor für Rechtsinformatik. Früher war er Richter am Oberlandesgericht Hamm. Ohne KI könne die Justiz Rechtsschutz nicht mehr in angemessener Zeit gewähren, argumentiert er.

Den Konflikt hatte zu Beginn der KI-Woche 2026 Tobias Keber benannt, der baden-württembergische Datenschutzbeauftragte. Laut Keber erhalten Justiz und Verwaltung immer mehr KI-gestützte Eingaben. Ihr Personal ist begrenzt. Assistenzsysteme könnten helfen.

Keber zog zugleich eine Linie. Es müsse klar bleiben, ab welchem Punkt eine Entscheidung aus rechtsstaatlichen Gründen einem Menschen vorbehalten ist. Auch das Grundgesetz gehe davon aus, dass ein Richter ein Mensch ist.

Für Borges ist KI weder grundsätzlich verboten noch eine technische Spielerei. Konkret sieht er Entlastung bei der Recherche, bei der Strukturierung umfangreicher Akten und bei Entwürfen. Für einfache Massenverfahren wie Fluggastrechte hält er sogar eine vollautomatisierte „nullte Instanz“ für denkbar, also eine automatisierte Stufe noch vor der ersten Instanz.

Brasiliens Gerichte bauen Altfälle ab, KI ist dabei ein Faktor unter mehreren

Brasilien dient Borges als Beispiel dafür, wie KI den Zugang zur Justiz verbessern kann. Dort arbeiten Gerichte bereits großflächig mit KI. „Das heißt, ein über Jahrzehnte wachsender Berg wird in Brasilien dank KI innerhalb weniger Jahre signifikant abgetragen und verbessert den Zugang zur Justiz“, sagte Borges. „Das sind Fakten, die man nicht einfach ignorieren kann.“

Die offiziellen Zahlen zeigen einen deutlichen Rückgang. Ende 2023 waren laut dem brasilianischen Nationalen Justizrat (CNJ) 83,8 Millionen Verfahren anhängig. Ende 2025 waren es noch 75,5 Millionen. Der Justizrat nennt dafür mehrere Gründe.

Wer Brasilien als reinen KI-Erfolg zitiert, sollte diese Gründe mitlesen. Als einen Hauptgrund nennt der CNJ die massenhafte Einstellung von Steuervollstreckungsverfahren. Hinzu kamen mehr Richter und mehr Personal. Welchen Anteil die KI am Abbau hat, geht aus den Angaben nicht hervor.

Die Grenze für Richter: KI bereitet vor, ein Mensch entscheidet

Die verbindliche, wertende Entscheidung bleibt nach Borges einem Menschen vorbehalten. Er verweist auf die amerikanische Wendung vom „day in court“, also das Recht, den eigenen Fall vor Gericht vorzutragen und von einem Menschen gehört zu werden. Darin sieht Borges den Kern des Grundrechts auf wirksamen Rechtsschutz. Er spricht vom „Anspruch auf die Zeit des Richters“.

Dieses Bild wurde mit KI generiertProviderhiggsfieldModellgpt_image_2_5 flare high 1k 16:9Promptmagazine cover style illustration, wide frontal view of an empty courtroom judge's bench with tall stacks of case files on both sides and an open laptop in the center, a glowing blue stream of abstract document pages flowing from the laptop toward the empty judge's chair, a thin gate-like barrier before the chair symbolizing a human check, scales of justice emblem on the wall behind, bold flat shapes, clean vector lines, navy, warm gold and soft cream palette, soft directional light, no people, no text. No watermark, no signature.

Heikel sind laut Borges vor allem Systeme, die einen Urteilsentwurf so fertig liefern, dass er kaum noch eigenständig geprüft wird. Ob ein Werkzeug unterstützt oder die Entscheidung faktisch vorwegnimmt, hängt von seiner Einbindung in den Arbeitsablauf ab. Verlangt das System etwa mehrere bewusste Prüfschritte, muss der Richter selbst nachvollziehen, was er entscheidet. Die unbequeme Folge trifft die Justizverwaltungen: Mit der Gestaltung ihrer Software legen sie fest, wie viel eigene richterliche Prüfung im Alltag der Justiz übrig bleibt.

Borges unterscheidet zudem nach Folgenschwere. Technisch könne dieselbe KI über eine Entschädigung für eine Bahnverspätung entscheiden oder über eine Abschiebung. Für Betroffene sind die Folgen nicht vergleichbar.

Vöneky will Anbieter riskanter KI-Modelle zur Kapitalhinterlegung verpflichten

Silja Vöneky, Völkerrechtlerin an der Universität Freiburg, meint mit „Hochrisiko-KI“ katastrophale oder existenzielle Risiken sehr leistungsfähiger Modelle. Die Justiz steht dabei nicht im Fokus. Zu den Risiken zählt sie den Missbrauch für biologische Waffen und groß angelegte Cyberangriffe. Offen ist zudem, ob künftige Systeme kontrollierbar bleiben.

Borges und Vöneky verwenden denselben Begriff also für verschiedene Dinge. Wie wahrscheinlich Vönekys Szenarien sind, ist umstritten. Sie hält es trotzdem für falsch, diese Risiken der Selbstregulierung der Unternehmen zu überlassen. Die EU-KI-Verordnung sieht sie als wichtigen, aber lückenhaften Rahmen.

Die folgende Tabelle zeigt die Lücken, die Vöneky im geltenden Rahmen benennt.

Gemeinsam mit dem Finanzmathematiker Thorsten Schmidt hat Vöneky ein Modell vorgeschlagen, das an die Bankenregulierung erinnert. Anbieter besonders riskanter Modelle hinterlegen vor der Markteinführung Kapital. Unabhängige Fachleute bewerten die Risiken. Bleiben Schäden aus, fließt das Geld nach fünf bis zehn Jahren zurück.

Der Mechanismus setzt einen finanziellen Anreiz, Risiken selbst zu verringern. Beschlossen ist davon nichts. Das Modell ist ein wissenschaftlicher Vorschlag.

Hochrisiko-Pflichten für KI in der Justiz gelten ab dem 2. Dezember 2027

Die EU-KI-Verordnung stuft KI-Systeme zur Unterstützung bestimmter richterlicher Tätigkeiten als möglichen Hochrisikofall ein. „Hochrisiko“ bedeutet dabei nicht „verboten“. Es bedeutet zusätzliche Anforderungen. Nach einer inzwischen beschlossenen Änderung gelten die Regeln für Hochrisiko-Systeme nach Anhang III ab dem 2. Dezember 2027.

Dieselbe Verschiebung betrifft Hochrisiko-KI in der Strafverfolgung. Die konsolidierte Fassung der KI-Verordnung steht bei EUR-Lex bereit. Borges hält Hochrisiko-Systeme für beherrschbar. Sie würden nur teurer, weil mehr dokumentiert werden müsse.

In der Diskussion mit dem grünen baden-württembergischen Landtagsabgeordneten Thomas Hentschel ging es um das Zusammenspiel von Technik und Recht. Für Borges muss Verantwortung immer bei einem Menschen liegen. Das gilt für das Urteil selbst. Es gilt ebenso für die Entscheidung, ein KI-System überhaupt einzusetzen.

Vöneky übertrug den Gedanken auf die Staaten. Aus völkerrechtlich verbindlichen Menschenrechten, allen voran dem Recht auf Leben, ergeben sich laut Vöneky Schutzpflichten. Regierungen können ihre Verantwortung deshalb nicht einfach auf Tech-Konzerne abwälzen. Auch die Rechtsprechung zur Verantwortung für KI-Agenten setzt beim Betreiber an.

Für Betroffene zählt außerdem, ob sie nachvollziehen können, wie ein System an einer Entscheidung beteiligt war; dafür gibt es ein eigenes Erklärungsrecht bei KI-Entscheidungen. Innerhalb der Justiz liegen bereits eigene Papiere vor, etwa ein beim Oberlandesgericht Celle veröffentlichter Beschluss zum Einsatz künstlicher Intelligenz und algorithmischer Systeme in der Justiz.

Bis zum 2. Dezember 2027 müssen Gerichte und Justizverwaltungen festlegen, welche Assistenzsysteme in welche Arbeitsabläufe kommen. Die Frage ist, wie viele bewusste Prüfschritte sie dabei vorschreiben und wer die Einhaltung dieser Vorgaben kontrolliert.