|
Getting your Trinity Audio player ready...
|
Stellen Sie sich vor, ein Computer analysiert Ihr Gesicht und/oder ihre Stimme während eines Beratungsgesprächs und entscheidet darüber, ob und an welche Stelle in der Bank ihr Anliegen weitergeleitet wird. So abwegig ist dieses Szenario nicht.
So gab es bei der Sparkasse Bremen Überlegungen, den in Zusammenarbeit mit S‑Markt & Mehrwert entwickelten Voice Bot um eine Emotionserkennungsfunktion für den Einsatz in Kunden-Service-Centern zu erweitern. Mit der Emotionserkennung sollten Notlagen von Kunden besser erkannt werden, um beispielsweise bei Kartendiebstahl schnell eine Weiterleitung zum Sperr-Notruf veranlassen zu können.[1]Neues Sprachdialogsystem: Voice Bot entlastet Berater und Service-Center[2]Voice Bot soll Berater und Service-Center bei Sparkassen entlasten.
Die Budapest Bank in Ungarn setzte auf automatisierte Emotionserkennung in ihrer Kundenhotline, wobei eine KI aufgezeichnete Telefonate nach Schlüsselwörtern und Tonlage analysierte, um die Kundenzufriedenheit zu ermitteln. Allerdings führte dieser Einsatz zu rechtlichen Problemen: Die ungarische Datenschutzbehörde verhängte eine Geldstrafe von etwa 650.000 Euro, da die Bank gegen die Datenschutzgrundverordnung verstieß. Die Kunden waren nicht über die Analyse informiert und hatten keine Möglichkeit, ihr Einverständnis zu geben oder zu widerrufen[3]Emotionsanalyse:
Ungarische Bank muss deftige Strafe zahlen.
Laut dem EU AI Act sind bestimmte Anwendungen wie Social Scoring oder Emotionserkennung am Arbeitsplatz verboten[4]Scoring und Datenschutz: Neue Grenzen für Algorithmen[5]Welche Konsequenzen ergeben sich aus dem AI Act?[6]EU Kommission: Künstliche Intelligenz – Fragen und Antworten.
Was sagen die Forschung und Stimmen aus der Zivilgesellschaft zum Thema automatisierte Emotionserkennung?
Eine bahnbrechende Überblicksstudie aus dem Jahr 2019 kam zu einem alarmierenden Ergebnis: Es gibt keine verlässlichen wissenschaftlichen Beweise dafür, dass man den emotionalen Zustand einer Person anhand ihres Gesichtsausdrucks zuverlässig ablesen kann[7]Emotional Expressions Reconsidered: Challenges to Inferring Emotion From Human Facial Movements[8]Vgl. dazu: Emotionale KI: Berechnete Gefühle[9]Emotionserkennung mit künstlicher Intelligenz. Möglichkeiten und Grenzen. Trotzdem breitet sich der Einsatz von Emotionserkennungssoftware rasant aus – nicht nur in der Personalauswahl, sondern zunehmend auch in Bereichen der öffentlichen Überwac…
References