Frankfurt (Reuters) – Das Thema “Erklärbare” Künstliche Intelligenz (KI) spielt einer Studie zufolge in der deutschen Bankenbranche bislang nur eine untergeordnete Rolle.
Nur 47 Prozent der Geldhäuser legten Wert eine KI, deren Entscheidungen für Menschen nachvollziehbar und zuverlässig seien, ergab eine am Donnerstag veröffentlichte Erhebung des KI-Anbieters Snowflake und des Research-Hauses Sapio unter 100 IT-Verantwortlichen aus dem deutschen Finanzsektor. Dabei wollen jeweils mehr als die Hälfte der Institute KI in verschiedenen Bereichen wie dem Kundendienst oder der Betrugsprävention einsetzen.
KI könne Banken dabei helfen, Kosten zu senken, erläuterte Jonah Rosenboom, für Deutschland verantwortlicher Snowflake-Manager. “Doch eine Voraussetzung für den produktiven und ethischen Einsatz ist in deutschen Banken eine erklärbare KI.” Unter den Instituten mit mehr als 5000 Beschäftigten widmeten sich 57 Prozent der Befragten diesem Thema. Bei kleineren Geldhäusern seien es gerade einmal 38 Prozent.
Bisherige KI-Software gilt meist als “Black Box”. Sie wird mit so vielen Daten gefüttert und so aufwendig trainiert, dass am Ende selbst die Entwickler nicht mehr nachvollziehen können, wie die KI zu einer bestimmten Antwort gelangt ist. Gleichzeitig leiden die großen Sprachmodelle, auf denen ChatGPT & Co basieren, unter “Halluzinationen”. Mit diesem Begriff bezeichnen Experten das Phänomen, dass die Software gelegentlich Fakten frei erfindet.
Die deutsche Finanzaufsicht BaFin hatte bereits in einem Diskussionspapier von 2021 eine bessere Nachvollziehbarkeit von Entscheidungen einer KI angemahnt. Denn fehlende Transparenz erschwere nicht nur die Überprüfung der Ergebnisse, sondern könne auch die Akzeptanz dieser Technologie beeinträchtigen.
(Bericht von Hakan Ersen. Redigiert von Olaf Brenner. Bei Rückfragen wenden Sie sich bitte an unsere Redaktion unter berlin.newsroom@thomsonreuters.com (für Politik und Konjunktur) oder frankfurt.newsroom@thomsonreuters.com (für Unternehmen und Märkte).)
