Fachliche Anpassung und Validierung von DORA KI-Systemen 

Regulatorisches Fine-Tuning, Governance und Qualitätssicherung eines KI-Systems im Bankenumfeld.

  

Mandant: Deutsche Versicherungsgruppe

Herausforderung:

Im Rahmen des Einsatzes eines KI-gestützten Systems bestand das Risiko regulatorisch inkonsistenter oder fachlich fehlerhafter Ergebnisse (u. a. Halluzinationen, unklare Herleitungen, nicht belastbare Aussagen). Gleichzeitig fehlten klare regulatorische Leitplanken zur Nutzung der KI im Kontext von DORA, IT-Risikomanagement und aufsichtsrechtlicher Dokumentation.

Ziel:

Ziel war die regulatorische Ausgestaltung und fachliche Begleitung eines KI-Systems zur sicheren, nachvollziehbaren und kontrollierten Nutzung im Bankenumfeld unter Berücksichtigung von DORA-nahen Anforderungen, Governance-Aspekten und Qualitätskriterien für KI-Outputs.

Vorgehen:

• Fachliche Mitwirkung beim regulatorischen Fine-Tuning eines KI-Systems 
• Ableitung und Definition regulatorischer Leitplanken für KI-gestützte Auswertungen (DORA-, IT-Risikomanagement- und Governance-Bezug) 
• Fachliche Prüfung, Plausibilisierung und Validierung der KI-Ergebnisse vor Nutzung in regulatorischen oder steuerungsrelevanten Kontexten 
• Identifikation, Analyse und Reduktion von KI-Halluzinationen durch strukturierte Reviews, Vergleich mit regulatorischen Quellen und fachlichen Erwartungswerten 
• Unterstützung bei der Definition von Qualitäts- und Kontrollmechanismen für KI-Outputs (Nachvollziehbarkeit, Konsistenz, fachliche Belastbarkeit) 
• Enge Abstimmung mit Fachbereichen zur iterativen Verbesserung der KI-Ergebnisse und zur Sicherstellung der regulatorischen Verwendbarkeit 

Ergebnis:

Ein fachlich abgestimmtes und regulatorisch belastbares KI-System mit deutlich reduzierten Halluzinationsrisiken und klaren Qualitäts- und Governance-Leitplanken. Die KI-Ergebnisse sind konsistent, nachvollziehbar und für den Einsatz im DORA-nahen Bankenumfeld geeignet.