|
Getting your Trinity Audio player ready...
|
Nach der Einführung von ChatGPT im November 2022 kam in den Unternehmen und Banken unter den Mitarbeiterinnen und Mitarbeitern schnell der Wunsch auf, ChatGPT bei der Arbeit zu nutzen. Beispielhaft dafür ist Visa. Dort hatte man jedoch ernsthafte Bedenken hinsichtlich der Sicherheit sensibler Kundendaten, insbesondere in Bezug auf deren Schutz vor unbefugtem Zugriff und künftiger Modelltrainings[1]Visa’s AI edge: How RAG-as-a-service and deep learning are strengthening security and speeding up data retrieval.
Bei der Suche nach einer Lösung, wie man die Wünsche der Mitarbeiterinnen und Mitarbeitern auf der einen Seite befriedigen und die Sicherheitsrisiken im Griff behalten konnte, kam Visa auf die Idee, eine eigene Lösung namens >Secure ChatGPT< zu entwickeln. Diese läuft intern auf Microsoft Azure und befindet sich hinter einer Firewall, wodurch Visa die Eingaben und Ausgaben über Datenverlust-Präventionsmaßnahmen (DLP) kontrollieren kann. Visa betont, dass alle Daten verschlüsselt sind und sowohl im Ruhezustand als auch während des Transports sicher bleiben.
Obwohl die Bezeichnung es nahelegt, kann SecureGPT über eine Schnittstelle mit weiteren KI-Modellen verbunden werden, wie Mistral, Claude, Lama oder Gemini. Bei Visa wird dieser Ansatz als „Model-as-a-Service“ oder „RAG-as-a-Service“ beschrieben. Damit kann ein Nutzer das für ihren Anwendungsfall am besten geeignete Modell auswählen. Wenn z.B. eine feine Anpassung nötig ist, wählen sie oft ein kleineres Open-Source-Modell wie Mistral; für komplexere Anforderungen können sie auf leistungsfähigere Modelle wie OpenAI o1 oder o3 zurückgreifen.
Mit der Lösung soll verhindert werden, dass Mitarbeiter auf unautorisierte Modelle zurückgreifen, was zu sogenannten „Shadow AI“-Praktiken führen könnte. Secure ChatGPT fungiert als eine Art Schicht, die es den Nutzern ermöglicht, das gewünschte Modell auszuwählen.
Darüber hinaus wird SecureGPT bei Visa für die Betrugsprävention eingesetzt.
Die wichtigsten Aspekte, wie RAG zur Effizienz und Leistungsfähigkeit der KI-Lösung beiträgt:
- Kombination von Datenabruf und Generierung: RAG kombiniert die Fähigkeit, relevante Informationen aus großen Datenmengen abzurufen, mit der Generierung von Antworten durch KI-Modelle. Dies ermöglicht es Secure ChatGPT, nicht nur generische Antworten zu liefern, sondern auch spezifische, kontextbezogene Informationen bereitzustellen.
- Aktualität und Genauigkeit: Durch die Nutzung von RAG kann Visa sicherstellen, dass die Informationen, die von Secure ChatGPT bereitgestellt werden, stets aktuell und relevant sind. RAG ermöglicht es der KI, auf die neuesten Daten und Dokumente zuzugreifen, was besonders wichtig ist, um den sich ständig ändernden gesetzlichen Rahmenbedingungen in verschiedenen Ländern gerecht zu werden.
- Effizienz bei der Informationssuche: Anstatt dass Mitarbeiter manuell nach relevanten Informationen suchen müssen, kann Secure ChatGPT dank RAG in Sekundenschnelle präzise Antworten auf komplexe Fragen liefern. Dies spart Zeit und Ressourcen und verbessert die Effizienz der Arbeitsabläufe.
- Dokumentierte Antworten: RAG ermöglicht es Secure ChatGPT, nicht nur Antworten zu generieren, sondern auch die Quellen und Dokumente anzugeben, auf denen diese Antworten basieren. Dies erhöht die Vertrauenswürdigkeit der Informationen und gibt den Mitarbeitern die Möglichkeit, die Hintergründe der bereitgestellten Antworten nachzuvollziehen.
- Anpassungsfähigkeit: RAG erlaubt es Visa, die KI-Lösung für verschiedene Anwendungsfälle anzupassen, indem unterschiedliche Modelle und Datenquellen integriert werden. Mitarbeiter können je nach Bedarf das passende Modell auswählen und so maßgeschneiderte Lösungen für ihre spezifischen Anforderungen erhalten.
Insgesamt trägt RAG entscheidend dazu bei, die Leistungsfähigkeit von Secure ChatGPT zu steigern, indem es die KI befähigt, präzise, relevante und gut dokumentierte Informationen schnell bereitzustellen. Dies verbessert nicht nur die Effizienz der internen Prozesse bei Visa, sondern unterstützt auch die Einhaltung von Vorschriften und die Qualität der Entscheidungsfindung.
References