Zwischen Euphorie und Dystopie: Wie gerecht sind automatische Entscheidungssysteme im (Versicherungs) Alltag?

„Alle Tiere sind gleich, aber machen sind gleicher.“, heißt es in der 1945 erschienenen Fabel Animal Farm von George Orwell. Der Autor – vor allem bekannt durch seinen dystopischen Zukunftsroman 1984 – setzte sich lange vor der digitalen Revolution mit elementaren Fragen von Gerechtigkeit, Diskriminierung und Machtmissbrauch auseinander. Im digitalen Zeitalter rücken diese Fragen plötzlich erneut in den Mittelpunkt der Diskussion um algorithmische Entscheidungssysteme. Während in den meisten Science-Fiction-Romane der Mensch den  Algorithmen wie eine Marionette ausgeliefert ist, gestaltet sich die Realität in demokratischen Systemen erfrischend anders. Innovation ist hier in aller Regel getrieben von der Vorstellung, Dinge besser zu machen. So auch bei der Generali Deutschland und ihrer Smart Insurance Initiative „Aus Versicherung wird Verbesserung.“ Dennoch sind digitale Innovationen sehr häufig von kontroversen Diskussionen begleitet. Der mündige Bürger und die ihn vertretenden Interessengruppen fordern einen gesellschaftlichen Aushandlungsprozess darüber, wie viel Selbstbestimmung nötig und wie viel Diskriminierung zum Beispiel durch algorithmische Entscheidungen möglich ist.

Diese und andere Fragen standen am 21. November 2018 im Generali Hauptstadtbüro im Mittelpunkt der letzten Veranstaltung der Reihe „Generali // Open minded“ des Jahres 2018.

Nach einer spannenden Impulsrede von Lorena Jaume-Palasí, Gründerin und Geschäftsführerin der Ethical Tech Society, diskutierten im „Lindencorso by Generali“ über die Fairness von Algorithmen: Daniela Kluckert, MdB (FDP), stellv. Vorsitzende des Ausschusses für Verkehr und digitale Infrastruktur und Mitglied der Enquete-Kommission „Künstliche Intelligenz“, Prof. Dr. Peter Dabrock, Ordinarius für Systematische Theologie an der Universität Erlangen sowie Vorsitzender des Deutschen Ethikrats, Prof. Horst Müller-Peters, Direktor der Forschungsstelle Versicherungsmarkt des Instituts für Versicherungswesen an der TH Köln und Dr. med. Nils Opel, Assistenzarzt in der Klinik für Psychiatrie und Psychotherapie am Universitätsklinikum Münster. Moderiert wurde die Diskussion von Dr. Andrea Timmesfeld, Head of Public Affairs & Community Engagement und Hauptstadtbüroleiterin der Generali Deutschland AG.

Doch welche Vorstellung von Gerechtigkeit haben Kunden und Verbraucher? Laut Horst Müller-Peters bedeutet für sie „gerecht“, dass Entscheidungen nachvollziehbar, transparent und objektiv sein sollten. Auch die Ergebnisse müssten darüber hinaus auch als „gerecht“ empfunden werden, wobei die verschiedene Vorstellungen von Gerechtigkeit des Einzelnen ein Problem darstellen würden, das nicht einfach zu lösen sei.

Die Genauigkeit automatischer Entscheidungen ist dabei für die Mehrheit der Deutschen einer der zentralen Punkte. In diesem Sinne, so Nils Opel, sei ein Algorithmus per se nicht gerecht oder ungerecht und liefere, soweit er ausreichend trainiert sei, konsistent immer die gleichen Ergebnisse.

Peter Dabrock unterstrich, dass Ungerechtigkeiten sowohl beim Input als beim Outcome auftreten können. Aus seiner Sicht sollten die Experten, die Algorithmen programmieren und pflegen, einen Ethikkurs absolvieren. Das Stichwort „Transparenz“ fiel oft in der Debatte. Dabei forderte Dabrock keine allgemeine „Algorithmustransparenz“. Sie sei unrealistisch und widerspräche dem Geschäftsgeheimnis. Gefordert wäre stattdessen eine Transparenz der den Algorithmus leitenden Kriterien.

Am Ende war sich die Runde einig, dass algorithmische Entscheidungsprozesse große Potenziale bieten – wie und in welchem Umfang diese schließlich genutzt würden, hänge maßgeblich von den politischen, gesellschaftlichen und wirtschaftlichen Rahmenbedingungen ab. Daniela Kluckert, MdB, unterstrich, dass der Verbraucher heute bereits auf viele algorithmische Entscheidungen zurückgreifen könne, die gut und sicher funktionierten: Man solle mit den Debatten über KI nicht hinter das bislang Erreichte zurückfallen.

An die Panelrunde schloss sich eine lebhafte Diskussion mit den Teilnehmern an – unter anderem Abgeordnete aus dem Deutschen Bundestag, Vertreter aus verschiedenen Ministerien und Verbänden, Vertreter der Branche und Wissenschaftler. Die Generali Deutschland konnte sich erneut als gesprächs- und kritikoffener digitaler Vorreiter in der Hauptstadt präsentieren.