Finanzinstitute behandeln KI-Systeme noch immer vorwiegend als Verteidigungswerkzeug—gegen Fraud, gegen Geldwäsche, gegen Kreditausfälle. Ein neuer Survey kehrt die Perspektive um: Was passiert, wenn die KI selbst zum Angriffsziel wird? Die Antwort ist beunruhigend—und sie betrifft nicht nur die Technologieabteilung.
Es gibt eine bequeme Erzählung über künstliche Intelligenz im Finanzsektor: KI erkennt Betrugsmuster, KI bewertet Kreditrisiken, KI überwacht Transaktionsströme. KI als Schild. Was diese Erzählung ausblendet, ist die Rückseite der Medaille—dass dieselben Systeme, die Risiken managen sollen, selbst zum Risiko werden können. Nicht durch Fehlfunktion, sondern durch gezielte Manipulation.
Ein aktueller Forschungssurvey zieht die Grenzen dieser Verwundbarkeit erstmals systematisch nach. Das Ergebnis ist weniger eine Warnung als eine strukturelle Diagnose: KI in Finanzinstituten funktioniert heute als durchgängige Pipeline—von der Datenbeschaffung über Training und Inferenz bis zum operativen Monitoring. Und jede Phase dieser Pipeline exponiert eigene Angriffsflächen.
Vergiftung an der Wurzel
Die gefährlichsten Eingriffe beginnen früh—beim Training. Wer Trainingsdaten kontrollieren oder beeinflussen kann, kontrolliert die Entscheidungslogik des Modells. Der Survey unterscheidet drei Ebenen:
Auf der Label-Ebene genügt es, einen kleinen…