Künstliche Intelligenz setzt Ethik und Vertrauen voraus – Infografik

Die technische Umsetzung von künstlicher Intelligenz schreitet in immer mehr Unternehmen weiter voran. Verbraucher erwarten jedoch auch Ethik und Vertrauenswürdigkeit. Eine aktuelle Studie zeigt, dass hier noch Nachholbedarf besteht.

Technologie ist nicht erst seit der Digitalisierung ein wichtiger Faktor für Finanzdienstleister. Im Bank Blog finden Sie Studien zu den wichtigsten Trends und Entwicklungen.

Partner des Bank Blogs

Das Bewusstsein für ethische Fragestellungen beim Einsatz Künstlicher Intelligenz (KI) steigt in Wirtschaft und Gesellschaft. Der Fokus auf ethische Aspekte ist entscheidend, um das transformative Potenzial von Künstlicher Intelligenz (KI) für Umwelt, Wirtschaft und Gesellschaft auszuschöpfen. Das erkennen auch immer Mehr Unternehmen. Eine Studie des Beratungsunternehmens Capgemini zeigt jedoch, dass im Vergleich zum Vorjahr nur in Teilbereichen Verbesserungen erzielt werden konnten.

Ein Grund: Nur 53 Prozent der Organisationen verfügen über eine Führungskraft, die für ethische und vertrauenswürdige KI-Systeme verantwortlich ist. Zugleich sind im Vergleich zum Vorjahr mit 62 statt 76 Prozent weniger Verbraucher der Ansicht, dass Unternehmen vollständig transparent offenlegen, wie persönliche Daten verwendet werden.

Die Gefahr von Diskriminierung durch KI

Organisationen sehen zunehmend den Handlungsbedarf hinsichtlich ethischer KI-Systeme: 45 Prozent haben 2020 eine KI-Charta definiert, 2019 waren es nur 5 Prozent. 65 Prozent der Führungskräfte sind sich zudem bewusst, dass KI-Systeme potenziell zu diskriminierenden Entscheidungen führen können. 58 Prozent geben an, ihre Mitarbeiter über die möglichen Auswirkungen der KI-Nutzung aufgeklärt zu haben.

Dennoch verzeichnen KI-Systeme 2020 allein in der ethischen Dimension Erklärbarkeit Fortschritte gegenüber 2019. Zudem meinen nur 40 Prozent der KI-Entwickler sowie 27 Prozent der KI-Anwender aus Marketing und Vertrieb nachvollziehen zu können, wie Entscheidungen durch KI getroffen werden. Auf Seiten der Verbraucher erwarten hingegen 71 Prozent, dass Unternehmen solche Entscheidungen genau herleiten können. Weiterhin setzen 66 Prozent voraus, dass KI-Modelle fair und vorurteilsfrei agieren und Interaktionen transparent ablaufen.

COVID-19 wirkt sich negativ auf die Transparenz von KI-Verfahren aus

Viele öffentliche und private Institutionen haben zusätzliche KI-Technologien eingeführt, um den Folgen der Corona-Pandemie zu begegnen. Entsprechend wird das Vertrauen der Verbraucher in KI-Interaktionen künftig umso wichtiger. Zugleich erhöhen gesetzliche Rahmenbedingungen den Druck auf Unternehmen. So hat die Europäischen Kommission ethische Leitlinien entwickelt und die US-Handelskommission FTC hat Anfang 2020 Richtlinien für mehr Transparenz bei Künstlicher Intelligenz aufgestellt.

Letztere sehen vor, dass Verbrauchern bei negativen Entscheidungen – beispielsweise einem abgelehnten Kredit – die zur Entscheidungsfindung zentralen Datenpunkte offengelegt werden. Damit sollen sie die Chance erhalten, falsche oder irreführende Angaben zu korrigieren. Von den Unternehmen geben 62 Prozent (Deutschland: 67 Prozent) an, in ihrer Region geltende Datenschutzbestimmungen wie GDPR zu erfüllen, eine Steigerung um 13 Prozentpunkte im Vergleich zu 2019.

KI mit geringer Akzeptanz bei den Verbrauchern

Die Studienautoren zeigen auf, dass Datensätze mitunter tatsächlich soziale und kulturelle Vorurteile (einen sogenannten „Bias“) aufweisen, wobei sich 65 Prozent der Führungskräfte des Problems diskriminierender Verzerrungen bewusst sind. Einer rechtlichen Prüfung wurden bereits 60 Prozent der Unternehmen (Deutschland: 54 Prozent) unterzogen.  Insgesamt 22 Prozent (Deutschland: 21 Prozent) der Unternehmen wurden in den letzten drei Jahren von Kunden damit konfrontiert, dass sie KI-basierte Entscheidungen anzweifeln, beziehungsweise die Entscheidungsfindung nachvollziehen wollen.

Hierin liege ein Erfolgsrisiko, da 45 Prozent der Kunden negative Erfahrungen mit Freunden und Verwandten teilten und sie dazu anhalten würden, nicht mit den entsprechenden Unternehmen in Kontakt zu treten. Jeweils 39 Prozent würden bei fragwürdigen Entscheidungen eine Erklärung verlangen, beziehungsweise auch höhere Kosten in Kauf nehmen, um zu einem menschlichen Ansprechpartner zu wechseln. 27 Prozent der Verbraucher würden den Kontakt zur entsprechenden Organisation abbrechen.

Unternehmen brauchen einen Chief Ethics Officer

Unternehmen sollten nach Ansicht der Studienautoren eine verantwortliche Führungskraft, etwa einen Chief Ethics Officer, etablieren, um ethisch robuste KI-Systeme sicherzustellen. Momentan ist diese Funktion in 53 Prozent der Unternehmen vorhanden. Über einen Ombudsmann oder eine Hotline, an die sich Kunden und Mitarbeiter bezüglich ethischer Fragen zu KI-Systemen wenden können, verfügt ebenfalls nur jedes zweite Unternehmen.

Zudem sollten auch Führungskräfte der Geschäfts- wie Technologieebenen gewährleisten können, dass die in ihrem Bereich eingesetzten KI-Anwendungen ethische Ergebnisse liefern.

7 Maßnahmen für ein ethisch robustes KI-System

Zusammenfassend heben die Studienautoren sieben zentrale Maßnahmen hervor, die für den Aufbau eines ethisch robusten KI-Systems entscheidend sind und auf einem belastbaren Fundament aus Führung, Steuerung („Governance“) und internen Prozessen basieren müssen. Organisationen sollten:

1. den beabsichtigen Zweck des KI-Systems präzise beschreiben können und die potenzielle Gesamtwirkung ermitteln,
2. KI aktiv zum Nutzen von Gesellschaft und Umwelt einsetzen,
3. die Prinzipien von Vielfalt und Inklusion im gesamten Lebenszyklus der KI-Systeme verankern,
4. die Transparenz mit Hilfe geeigneter Technologie-Werkzeuge optimieren,
5. sicherstellen, dass KI-Erfahrungen auf den Menschen ausgerichtet sind und KI-Systeme unter menschlicher Aufsicht stehen,
6. gewährleisten, dass KI-Systeme technisch robust sindsowie
7. die Privatsphäre schützen, indem Nutzern die Kontrolle über ihre KI-Interaktionen gegeben wird.

In Deutschland würden die ethischen Dimensionen von Künstlicher Intelligenz häufig recht eindimensional betrachtet und dabei stark auf die Risikominimierung fokussiert. Deutsche Unternehmer sollten die Chance ergreifen und das transformative Potential von KI nutzen, um gesellschaftlichen Nutzen zu stiften und gesellschaftliche Verantwortung zu übernehmen. Dies wirke sich nicht nur positiv auf die Reputation des Unternehmens aus. Das Gelernte könne auch einen maßgeblichen Beitrag zur Geschäftsentwicklung leisten. Die Studienautoren liefern dazu konkrete Vorschläge, wie Risiken begegnet und auf Regulierungsmaßnahmen reagiert werden kann, um sich langfristig einen Wettbewerbsvorteil zu sichern.

Infografik: Künstliche Intelligenz und Ethik

Die folgende Infografik fasst wichtige Ergebnisse der Studie zusammen und zeigt, wie Unternehmen Künstliche Intelligenz ethisch eiwandfrei nutzen können und so bei Verbrauchern Vertrauen gewinnen.

Wie Unternehmen ethisch eiwandfreie KI-Systeme aufbauen und so bei Verbrauchern Vertrauen gewinnen können.

Premium Abonnenten des Bank Blogs haben direkten kostenfreien Zugriff auf die Bezugsinformationen zu Studien und Whitepapern.