Künstliche Intelligenz hält zunehmend Einzug in Tätigkeiten, die bisher stark von menschlicher Fachkompetenz geprägt waren. Sie kann Texte formulieren, Argumente strukturieren, Informationen auswerten und Entscheidungen vorbereiten. Zwei aktuelle Beispiele aus der Justiz zeigen, was solche Systeme leisten können – und wo ihre Grenzen liegen.
Im Urteil 4A_231/2026 vom 3. Juli 2026 befasste sich das Bundesgericht mit einer Beschwerde, die nach Angaben der Beschwerdeführerin «zur Einsparung von Kosten» mit Hilfe von KI erstellt worden war. Das Gericht bezeichnete es als «sehr fraglich», ob eine derartige Beschwerde überhaupt zulässig sei, liess diese Frage jedoch offen. Die Eingabe scheiterte bereits an den gesetzlichen Begründungsanforderungen. Sie verwies unter anderem auf nicht existente Erwägungen, gab den angefochtenen Entscheid teilweise falsch wieder und ergänzte den Sachverhalt frei.
Ein zweites Beispiel betrifft ein algorithmisches System zur Unterstützung der Strafzumessung. Wie die «Sonntagszeitung» am 23. August 2026 berichtete, hat ein Richter am Luzerner Kriminalgericht eine digitale Urteilsmaschine entwickelt. Das Tool stützt sich auf rechtskräftige Gerichtsentscheide. Es soll für vergleichbare Fälle möglichst vergleichbare und damit «gerechtere» Strafen ermitteln. Die Beurteilung des Gerichtsfalls und den endgültigen Entscheid übernimmt der Richter.
Die beiden Beispiele betreffen unterschiedliche Formen der KI: generative KI auf der einen Seite und ein algorithmisches Entscheidungshilfesystem auf der anderen. Die Grundfrage ist aber dieselbe: Welche Aufgaben darf ein System übernehmen, und an welchem Punkt ist die fachliche Beurteilung durch einen Menschen unverzichtbar?
Bei generativer KI besteht ein wesentliches Risiko darin, dass sprachlich überzeugende Ergebnisse inhaltlich falsch oder unvollständig sein können.
Bei Systemen, die Entscheidungen unterstützen, stellen sich andere Fragen: Werden die massgebenden Kriterien angemessen abgebildet? Werden mögliche Verzerrungen erkannt? Und werden die Besonderheiten des konkreten Einzelfalls ausreichend berücksichtigt?
Für Unternehmen genügt es deshalb nicht, den Einsatz von KI pauschal zu erlauben oder zu verbieten. Entscheidend ist, welche Funktion sie im konkreten Prozess übernimmt: Bereitet sie Informationen auf? Gibt sie Empfehlungen ab? Oder beeinflusst sie eine Entscheidung mit rechtlichen, finanziellen oder persönlichen Folgen?
Je stärker die KI solche Entscheidungen beeinflusst und je grösser die möglichen Auswirkungen eines Fehlers sind, desto höher müssen die Anforderungen an Prüfung des Ergebnisses, Nachvollziehbarkeit des Zustandekommens und klare Zuordnung der Verantwortlichkeit sein. Wirksame menschliche Kontrolle besteht nicht nur darin, dass jemand am Ende auf «Freigeben» klickt. Sie setzt voraus, dass die zuständige Person über die erforderliche Fachkompetenz verfügt und genügend Zeit sowie Informationen hat, um das Ergebnis eigenständig zu beurteilen und so Fehler der KI zu erkennen.
KI kann anspruchsvolle Tätigkeiten erheblich erleichtern. Sie kann Fachpersonen bei der Vorbereitung von Texten, Analysen und Entscheidungen unterstützen. Die fachliche Beurteilung und die Verantwortung dafür, ob und wie ein Ergebnis verwendet wird, lassen sich jedoch nicht an die KI delegieren.
Michèle Balthasar
Michèle Balthasar, Rechtsanwältin, Gründerin und Managing Partnerin von Balthasar Legal mit Standorten in Zürich und Luzern, berät kleine, mittlere und international tätige Unternehmen in den Bereichen Datenschutz, Governance, IT- und Energierecht. In ihrer Kolumne im «Swiss IT Magazine» beleuchtet sie aktuelle Fragestellungen im Spannungsfeld von Digitalisierung, Regulierung und Unternehmenspraxis.
