Künstliche Intelligenz: Entscheidungen sollten nachvollziehbar sein

Künstliche Intelligenz - Nachvollziehbarkeit

Künstliche Intelligenz (KI) ist eines der spannendsten Zukunftsvorhaben bei der Digitalisierung der Bankenbranche. Eine kniffelige Aufgabe wird es sein, die KI-Lösungen mit den Standards der Bankenaufsicht zu vereinbaren. Regulatorische Vorgaben werden beim KI-Einsatz eine wichtige Rolle spielen. Sie schaffen die Rahmenbedingungen für den richtigen Umgang mit intelligenten Systemen. Hierfür werden komplett neue und spezifische Regelungen für den Einsatz künstlicher Intelligenz erforderlich sein.

Der Einsatz künstlicher Intelligenz im Bankensektor hat bereits begonnen. Sprachbasierte Assistenten wie Siri oder Alexa können Befehle entgegennehmen, interpretieren und Antworten geben. Digitale Bankberater erkennen aus einem Gespräch das Alter, Geschlecht, Einkommen, den Familienstand und Beruf des Kunden und setzen dies in einen Zusammenhang. Während der Kunde sich zuhause online am Laptop befindet, kann mit Hilfe von Softwarerobotern sein Kreditantrag bearbeitet werden. Eine künstliche Intelligenz schätzt auch die Risiken ein, beispielsweise die Wahrscheinlichkeit des Kreditausfalls. KI sorgt somit für mehr Sicherheit und für einen erheblichen Informationsgewinn bei der Risikosteuerung.

Künstliche Intelligenz - Banking der Zukunft
Quelle: https://www.youtube.com/watch?v=8U57OFSwje0

KI-Entscheidungen müssen nachvollziehbar bleiben

Beim Einsatz von KI sollten Banken allerdings darauf achten, dass sie immer zurückverfolgen können, wie und warum sie zu ihren Ergebnissen kommen. Denn mit zunehmender Automatisierung und Intelligenz der Systeme wächst die Möglichkeit, dass KI-Lösungen Entscheidungen treffen oder Empfehlungen aussprechen, die sich nur noch schwer oder gar nicht mehr nachvollziehen lassen. Im Falle der Risikosteuerung von Kreditrisiken sollten Kreditberater beispielsweise zusammen mit den Trainern der KI-Lösungen ein Reporting entwickeln, um Entscheidungen zu kontrollieren. Damit schließen sie aus, dass sie in Erklärungsnöte kommen.

Verfahrensdokumentation auf KI-Lösungen anwenden

Um derartige Szenarien in der Bankenbranche zu vermeiden, stellt die Bankenaufsicht regulatorische Anforderungen. Diese wirken für Bankinstitute oft wie lästige Pflichten, die sie erfüllen müssen. Gerade am Beispiel KI sollten diese Anforderungen jedoch nicht als Hindernisse verstanden werden, sondern als Selbstschutz der einzelnen Institute, der Bankenbranche und der gesamten Volkswirtschaft.

Die Pflicht zur Verfahrensdokumentation ist eine wichtige Vorschrift, die helfen wird, Risiken durch den Einsatz von KI einzudämmen. Sie stellt bei den Bankinstituten sicher, dass den Entscheidungsträgern alle für das Risikomanagement wesentlichen Informationen exakt und vollständig zur Verfügung stehen. Der gesamte Dokumentationsprozess soll integraler Bestandteil des Risikomanagements sein. Alle wesentlichen Formeln, Parameter, Methoden, Verfahren, Handlungen, Festlegungen und Entscheidungen sollen dabei dokumentiert sein. Die Dokumentation ist nach den Anforderungen der Nachvollziehbarkeit, Nachprüfbarkeit, Vollständigkeit und Richtigkeit zu verfassen, nachzulesen in MaRisk und GoBD. Sie stellt auch gleichzeitig eine Grundlage für die Überprüfung des Risikomanagements durch die Bankenaufsicht dar.

Um der Bankenaufsicht gerecht zu werden, bietet es sich an, auch die Funktionsweise von KI-Anwendungen vollständig und nachvollziehbar zu dokumentieren. Auch künstliche Intelligenz funktioniert mittels Festlegung von Formeln, Parametern, Variablen und Rechenalgorithmen.

Eine Dokumentation ist im Prinzip nicht allzu schwer zu verfassen. In der Risikosteuerung lassen sich Zeitintervalle, Ausfallwahrscheinlichkeiten und Konfidenzniveaus dokumentieren. Künstliche Intelligenz besitzt allerdings auch die Fähigkeit der Interpretation. Dies kann zu Schwierigkeiten bei der Erfüllung regulatorischer Anforderungen führen, da Vorgaben unkontrolliert verwendet werden. Institute sollen deshalb (Zwischen-)Ergebnisse durch Szenario-Analysen und Backtesting überprüfen sowie Kalkulationsergebnisse protokollieren, beispielsweise Risikokorrelationen, Ausfall- und Verlustwahrscheinlichkeiten sowie Ausfall- und Verlusthöhen.

Regulierung von KI-Anwendungen im Gespräch

Das Vorhaben, KI-Anwendungen transparenter und verständlicher zu gestalten, ist bereits heute unter dem Stichwort Explainable AI (XAI) bekannt. Doch die Verfahrensdokumentation ist alleine nicht ausreichend, um KI-Anwendungen erklärbar zu machen. Regulatorische Anforderungen sind heute noch unvollständig. Es werden schon neue Vorschriften speziell für KI-Anwendungen diskutiert, sogar im aktuellen Koalitionsvertrag unter dem Punkt Verbraucherschutz. Für Bankinstitute ist es damit von Vorteil, wenn sie bei ihren kommenden KI-Ausbaustufen gezielt Mechanismen einbauen, um den Überblick über das Machen und Tun ihrer Systeme zu behalten.

XAI – Achtung KI-Kontrolle!

Die Regulierung von KI-Anwendungen für die Bankenaufsicht und Wirtschaftsprüfer wird damit zu einem eigenen Themenblock heranwachsen, um die Risiken in der Bankenbranche auch im KI-Zeitalter im Griff zu behalten. Die Dokumentation der Zielsetzung und Vorgehensweise einer künstlichen Intelligenz sowie die Protokollierung der Daten, die KI zur Ableitung von Korrelationen heranzieht werden ein Anfang sein. An komplexeren Ansätzen bis hin zu KI, die KI kontrolliert, wird bereits gearbeitet. Dazu mehr in einem kommenden Blogartikel.

Foto: Getty Images / Ajr_images


Sebastian Unger

Sebastian Unger ist Berater im Geschäftsbereich Banking von Sopra Steria Consulting. Er ist Ansprechpartner für Risikomanagement und regulatorische Anforderungen und bloggt hier zu den Themen Regulierung und künstliche Intelligenz.


Hinterlassen Sie eine Antwort

Ihre E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind markiert *

Sie können folgende HTML-Tags benutzen: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>