Ein neues Paper von Henry Han (Baylor University) argumentiert, dass die entscheidende Hürde beim Einsatz autonomer KI im Finanzwesen nicht die Leistungsfähigkeit der Modelle ist, sondern deren Überprüfbarkeit. Neun Modellversionen und drei Studien später steht ein unbequemer Befund: Selbst deterministische Kreditmodelle können ihre eigenen historischen Entscheidungen nicht mehr rekonstruieren – und die Kontrolle über die entscheidenden Reproduktionsparameter liegt ohnehin beim Anbieter, nicht bei der Bank.
Wenn eine Bank einer KI die Befugnis überträgt, autonom Kredite zu vergeben oder Trades auszuführen, entsteht eine Verpflichtung, die über den Moment der Entscheidung hinausreicht: Sie muss im Nachhinein zeigen können, warum so entschieden wurde – und ob dieselbe Entscheidung unter denselben Bedingungen reproduzierbar wäre. Genau an dieser Stelle setzt Henry Han (Baylor University) mit seinem Paper „Governing Agentic AI in FinTech” an. Seine These: Nicht die Modellleistung ist der Flaschenhals der Governance, sondern das, was er die Verifiability Gap nennt – die Differenz zwischen der Verifikation, die eine delegierte Entscheidungsbefugnis eigentlich verlangt, und der Erklärbarkeit bzw. Reproduzierbarkeit, die man nach der Entscheidung tatsächlich erhält.
Die These stützt sich auf drei Studien mit insgesamt neun Modellversionen, von lokal betriebenen 3‑Milliarden-Parameter-Modellen bis zu kommerziellen Frontier-Systemen. Drei Befunde sind für ein Bankpublikum besonders aufschlussreich.
Erstens: Anbieter-Updates verändern historische Finanzentscheidungen nachträglich, weil die Kontrolle über die für einen Replay nötigen Parameter – Temperature, Random Seed und Ähnliches – beim Provider liegt, nicht bei der Bank, die das Modell einsetzt. Lokal betriebene Modelle ließen sich unter strengen Kontrollen zu 100 Prozent reproduzieren; gehostete Modelle scheiterten daran teilweise. Wer sein Kreditentscheidungssystem also bei einem externen Anbieter bezieht, gibt damit auch einen Teil der eigenen Auditierbarkeit aus der Hand – unabhängig davon, wie gut das Modell selbst rechnet.
Zweitens: Bei mehreren zusammengeschalteten Agenten wirkt die Art der Orchestrierung als eine Art verdeckte Policy-Ebene. Architekturänderungen in der Verschaltung führten in Hans Studie 2 zu anderen Entscheidungen, keine Konfiguration war über alle Ausführungen hinweg identisch reproduzierbar. Bemerkenswert ist die Entkopplung von Fähigkeit und Kontrollierbarkeit: Ein leistungsfähigeres Modell liefert einen besseren Startpunkt, aber keine bessere Auditierbarkeit. Governance lässt sich hier also nicht einfach durch bessere Modelle nachrüsten.
Drittens, und am unbequemsten: Selbst deterministische Kreditmodelle konnten in Studie 3 eine historische Entscheidung nicht mehr exakt wiederherstellen, obwohl sie ihre aktuellen Aktionen perfekt reproduzierten. Determinismus im Jetzt schützt also nicht vor Erosion der Nachvollziehbarkeit über die Zeit.
Aus diesen Befunden entwickelt Han eine Theorie der evidenz-kontingenten Delegation. Zentral ist dabei eine Verschiebung im Reproduzierbarkeitsbegriff selbst: weg vom einfachen Ja/Nein hin zu einem Profil aus vier unterscheidbaren Zielen – aktuelle Ergebnis-Reproduzierbarkeit, historische Ergebnis-Reproduzierbarkeit, materielle Prozess-Reproduzierbarkeit und exakte Trace-Reproduzierbarkeit. Die Pointe des Papers liegt in der daraus abgeleiteten Konsequenz: Delegierte Autorität ist nur so lange verteidigbar, wie die tatsächlich erhaltene Evidenz ihre Ausübung stützen kann. Wird die Verifiability Gap zu groß – lässt sich weder erklären noch reproduzieren, warum entschieden wurde –, erlischt die Legitimität der autonomen Entscheidung, unabhängig davon, wie gut sie im Ergebnis war.
Für ein Bankpublikum ist das mehr als eine akademische Feinheit. Regelwerke wie das US-amerikanische Modellrisikomanagement-Rundschreiben SR 11–7 verlangen seit Jahren eine lückenlose Nachvollziehbarkeit von Modellentscheidungen – ein Anspruch, der bislang meist an statischen, deterministischen Modellen entwickelt wurde. Hans Befund zeigt, dass agentische Systeme diesen Anspruch strukturell unterlaufen können, ohne dass ein einziges Modell dabei „schlecht” funktioniert. Die Frage, die sich daraus für die eigene Governance-Praxis stellt, ist entsprechend nüchtern: Nicht ob ein Agent gute Entscheidungen trifft, sondern ob eine Bank im Ernstfall – Regulator, Gericht, interne Revision – die Evidenz liefern kann, die die getroffene Delegation überhaupt erst rechtfertigt. Wo diese Evidenz von der Architektur des Systems her strukturell nicht entsteht, bleibt Governance ein nachträgliches Vertrauensversprechen statt eine belegbare Kontrolle.
Ralf Keuper