Kundenkommunikation Schatten-KI gefährdet Banken

Zahlreiche Beschäftigte geben an, nicht freigegebene Anwendungen im Kundendialog zu nutzen.

Digitale Assistenten und Übersetzungswerkzeuge prägen inzwischen die Kundenkommunikation. Laut einer aktuellen Erhebung werden bereits viele Interaktionen im Finanzsektor von KI gestützt; zugleich geben zahlreiche Beschäftigte an, nicht freigegebene Anwendungen im Kundendialog zu nutzen. Beides erhöht Tempo und Reichweite – und verschiebt die Risikolage.

Definitionen

Schatten-KI bezeichnet die Nutzung von KI-Diensten ohne Freigabe des Instituts, oft mit privaten Zugängen oder fehlender Protokollierung. Typische Fälle: spontane Übersetzungen sensibler Texte, Zusammenfassungen von Kundengesprächen oder Entwürfe für Antworten – jeweils außerhalb geprüfter Systeme.

Kernaussagen

Schatten-KI spart Zeit – doch sie verschiebt Risiken dorthin, wo Banken sie am wenigsten brauchen: an die Kundenschnittstelle."

Produktivität trifft Kontrollverlust. KI beschleunigt Antworten und Mehrsprachigkeit, gleichzeitig drohen Datenabfluss, Fehlinterpretationen und mangelnde Nachvollziehbarkeit. In Befragungen berichten viele Beschäftigte von Einsätzen nicht freigegebener Werkzeuge.
Haftung bleibt beim Institut. Aufsichtsrechtlich tragen Vorstand und Leitung die Verantwortung, auch wenn Drittanbieter-KI genutzt wird. Kundenschutz und Interessenwahrung dürfen nicht unterlaufen werden.
Rechtsrahmen wird schärfer. Der europäische KI-Rechtsakt legt für viele Anwendungen Pflichten zu Transparenz, Risikosteuerung und Überwachung fest; Vorgaben für allgemeine KI-Modelle gelten seit August 2025 schrittweise.

Risiken entlang der Kundenschnittstelle

Vertraulichkeit und Datenschutz. Ungeprüfte Dienste können Eingaben speichern oder zur Modellverbesserung verwenden. Gelangen Kundendaten in externe Systeme, drohen Meldepflichten, Bußgelder und Reputationsschäden.

Inhaltliche Fehler. Halluzinationen oder falsche Übersetzungen können zu irreführenden Auskünften führen. Ohne Quellenangaben und Protokolle ist eine saubere Korrektur kaum möglich.

Ungleichbehandlung. Nicht dokumentierte Eingaben und Trainingsdaten bergen Verzerrungsrisiken, die zu benachteiligenden Entscheidungen führen können.

Nachvollziehbarkeit. Beratungs-, Beschwerde- und Vertriebsprozesse erfordern dokumentierte Herleitungen. Schatten-KI unterläuft revisionssichere Abläufe und erschwert die Beweisführung.

Vertrags- und Urheberfragen. Nutzungsbedingungen externer Dienste können mit internen Vorgaben kollidieren; zudem sind Rechte an Ausgaben und verwendeten Materialien zu klären.

Praxis-Check: Was Institute jetzt tun sollten

box

Klare Linie „erlauben statt verbieten“. Bereitgestellte, freigegebene KI-Werkzeuge mit geprüften Voreinstellungen (z. B. Datenschutz-Schranken, Deaktivierung der Speicherung, Protokollierung) verringern Ausweichbewegungen in Schatten-Kanäle.
Datenklassen definieren. Festlegen, welche Inhalte niemals in externe Systeme eingegeben werden dürfen (etwa Identitätsdaten, Kontonummern, Vertragsunterlagen).
Leitplanken für Eingabetexte. Pflichtbausteine für Hinweise, Quellenverweise und Stil; verbotene Inhalte und Formulierungen eindeutig benennen.
Zwei-Personen-Prinzip für Kundentexte. KI-Entwürfe sind Entwürfe: fachliche Prüfung und Freigabe vor Versand.
Durchgängige Protokollierung. Eingaben, Ausgaben, verwendete Modelle und Versionen nachvollziehbar speichern – revisionssicher, mit Löschkonzept.
Lieferantenprüfung. Verträge, Sicherheitsnachweise und Standorte der Datenverarbeitung prüfen; Notfall- und Ausstiegspläne vorhalten.
Schulung und Übung. Regelmäßige Trainings zu Risiken, Fällen von Datenabfluss und Meldewegen; kurze Checklisten direkt im Arbeitsfluss.
Aufsicht einbinden. Zuständigkeiten in der ersten, zweiten und dritten Verteidigungslinie festlegen; Schwellen für Tests, Freigaben und Eskalation definieren.

Fazit

Schatten-KI spart Zeit – doch sie verschiebt Risiken dorthin, wo Banken sie am wenigsten brauchen: an die Kundenschnittstelle. Wer produktiven Einsatz will, braucht freigegebene Werkzeuge, klare Verbote für sensible Inhalte, revisionssichere Protokolle und eine belastbare Prüf- und Freigabelogik. Der Rechtsrahmen zieht an; die Verantwortung bleibt beim Institut. Wer jetzt Leitplanken setzt und geprüfte Alternativen bereitstellt, reduziert Risiken und stärkt zugleich die Qualität der Kundenkommunikation.

Kategorie: Finanzierung/Kredit