Unternehmen möchten Kunden mithilfe von Daten Mehrwerte bieten und so Geld verdienen. Das funktioniert nur, wenn Kunden Daten zur geschäftlichen Verwendung preisgeben und auf den sorgsamen Umgang vertrauen können. Ein methodisches Vorgehen unterstützt Unternehmen dabei, gemeinsam mit verantwortlichen Interessengruppen eine Datenethik zu entwickeln und zu verankern.
Unsere Informationsgesellschaft mit den zahlreichen Datenprojekten, Dateninfrastrukturen sowie datengetriebenen Geschäftsmodellen löst zunehmend ethische Konflikte bei Unternehmen aus. Bedenken bei Kunden und Mitarbeitern häufen sich, denn inzwischen werden Algorithmen vielfach in Bereichen genutzt, die einen großen Einfluss auf das Leben vieler Menschen haben. Das Problem dabei: Algorithmen sind codierte Vorurteile. Ein klassisches Beispiel sind trainierte Bilderkennungs-Tools, die in der Tendenz Frauen mit Shopping und Männer mit Shooting in Verbindung bringen. Im schlimmsten Fall kommt es zu Diskriminierungen mit erheblichen negativen Folgen.
| Unkritisch | Kritisch |
| Ein Kunde bestellt online bei verschiedenen Händlern Schallplatten und erhält daher bei seinem nächsten Besuch auf Amazon entsprechende Produktvorschläge – von Schutzhüllen über Plattenspieler bis zu Ersatznadeln. | Eine arbeitssuchende Mutter erhält keine weitere Förderung, weil sie bzgl. ihrer Arbeitsmarktchancen einer niedrigen Kategorie zugeteilt wurde. Die Entscheidung basiert auf einem Arbeitsmarkt-Chancen-Modell, dass arbeitssuchenden Müttern grundsätzlich Punkte wegen ihrer Betreuungspflichten abzieht – Vätern aber nicht. |
Digital-Ethik erreicht den Geschäftsbetrieb
Unternehmen sind verstärkt gefordert, die ethischen Auswirkungen beim Design ihrer Apps, digitalen Dienstleistungen sowie datengetriebenen Geschäftsmodellen zu berücksichtigen und die Ergebnisse von KI auch nachvollziehbar erklären zu können. Rein philanthropische Motive sind dabei als Antrieb nicht einmal das Entscheidende: Das Befolgen ethischer Grundsätze wird künftig nötig sein, um wettbewerbsfähig zu bleiben. Wer das Vertrauen bei den Stakeholdern stärkt, dass im gesamten Geschäftsbetrieb ethische Standards eingehalten werden, wird das in den Bilanzen ablesen können – in Form einer erhöhten Kaufbereitschaft und Loyalität der Kunden – und nicht mehr nur in den CSR-Jahresberichten.
Daten ethisch nutzen
Daten sind der Treibstoff vieler neuer Geschäftsmodelle und gute Kenntnisse in Datenethik somit von Vorteil. Datenethik (oder Digitale Ethik, Algorithmenethik) geht der Frage nach, wie unsere Informationsgesellschaft mit Daten umgehen sollte und setzt ethische sowie rechtliche Grenzen für die Speicherung, Verarbeitung und Analyse von Daten. Bosch hat beispielsweise einen Kodex zu KI und Ethik entwickelt, der nun in einem Umsetzungsprojekt operationalisiert wird. Boschs Ziel ist, bei der Entwicklung daten- und KI-getriebener Geschäftsmodelle auf einem klaren Wertegerüst aufzusetzen.
Datenethische Grundsätze können beispielsweise folgende Prinzipien berücksichtigen:
- Das Richtige für Mensch und Gesellschaft tun und aktiv Falsches (z.B. Entscheidungen zu Ungunsten einer Minderheit) vermeiden.
- Die Würde des Menschen und seine informationelle, bzw. digitale Selbstbestimmung anerkennen.
- Aktiv eine hohe Datenqualität anstreben.
- Sicherheit bspw. in der Mensch-Maschine-Interaktion oder der Resilienz von Systemen gegenüber missbräuchlicher Verwendung sicherstellen.
- Ehrliche und echte Transparenz im Datenmanagement und für getroffene Entscheidungen gewährleisten.
- Die Autonomie der menschlichen Entscheidungen nicht in Frage stellen.
- Erklärbare und nachvollziehbare Entscheidungen treffen.
Datenethik in die Organisation integrieren
Für die Verankerung datenethischer Grundsätze braucht es ein Regelwerk, eine Art Handbuch oder Governance, die allen Stakeholdern klar sein und regelmäßig überprüft werden sollte.
Darüber hinaus sollten Unternehmen die digitale Kompetenz und kritische Reflexion fördern. Alle Stakeholder, interne und externe, sollten für datenethisches Handeln sensibilisiert werden. Sie sollten Entscheidungen algorithmischer Systeme hinterfragen und ggf. korrigieren können.
Um das zu erreichen, gilt es für Unternehmen, drei Teilziele zu verfolgen:
- Transparenz: Gemeinsames Verständnis über Datenethik & Ziele der Initiative schaffen
- Kommunikationskonzept (intern und extern)
- Kennzeichnung algorithmischer Systeme, inkl. Umfang ihres Einsatzes
- Bewertung verwendeter Systeme hinsichtlich des Schädigungspotenzials
- Methodik: Definition der Grundsätze zur ethischen Nutzung von Daten in der Organisation
- Vorgehensmodell zur datenethischen Prüfung, inkl. Einstufung der „System-kritikalität“ algorithmischer Systeme
- Ableitung von Richtlinien und Leitfäden
- Konzept zur Mitarbeiterbefähigung
- Governance: Einrichtung eines Ethikbeirats für Grundsatzfragen bzw. zur Sicherstellung der Nachhaltigkeit von Algorithmen
- Festlegung der Prozessverantwortung und Rollenbeschreibungen
- Risikomanagement zum Handling möglicher Risiken einzelner Systeme
Datenethik mit Methode implementieren
Wichtig ist, dass Unternehmen im Ergebnis einen Prozess an der Hand haben, mit dem sie Anwendungsfälle mit datenethischer Relevanz erkennen, prüfen und bearbeiten können. Das funktioniert am besten mit einem methodischen Vorgehensmodell.
In einer Voruntersuchung können Organisationen den Status quo bisheriger Grundsätze, Anwendungsfälle sowie Best Practices ermitteln und die betroffenen Prozesse und Systeme identifizieren. Auf dieser Grundlage entsteht der Entwurf eines Zielbildes zur Nutzung von Daten unter Berücksichtigung datenethischer Prinzipien.
In dieser Phase wird auch die IT-Landschaft vermessen, wie geschäftskritisch sie ist und welches Schadenpotenzial von ihr ausgeht. Unternehmen sollten Prüfkriterien entwickeln, eine Dokumentation entwerfen und die Rollen bestimmen, die für den Datenethik-Prozess verantwortlich sein sollen. Das kann der Compliance-Officer sein, Datenethik kann aber auch bei der CIO oder dem CDO aufgehängt werden. Wenn ein Ethikbeirat als Gremium eingesetzt wird, sollte dieser möglichst heterogen besetzt sein.
Zur systematischen Einführung einer Datenethik gehört zudem ein gezielter Wissenstransfer, beispielsweise durch Entwicklung einer Datenethik-Toolbox sowie die Ableitung notwendiger Schulungs- und Qualifizierungsbedarfe.
Nach Abstimmung von Governance, Vorgehensmodell, Kontrollverfahren, fachlichen Vorgaben, Schulungskonzept sowie begleitender Change- und Kommunikationsmaßnahmen erfolgt der unternehmensweite Rollout und die Einbindung ins Tagesgeschäft.
Typische Widerstände abbauen
Aufgrund der großen strategischen Bedeutung, der nicht immer offensichtlichen Auswirkungen auf Systeme und Prozesse sowie der meist großen Zahl an Beteiligten, vergeht zwischen Voruntersuchung und Rollout einige Zeit. Das birgt die Gefahr von Akzeptanzproblemen.
Wenn das passiert und die mit datenethischen Grundsätze am Ende nicht „gelebt“ werden, arbeiten Organisationen häufig mit Druck daran, die verabschiedeten Vorgaben irgendwie zu durchlaufen. Doch sobald Nutzer sich unbeobachtet fühlen, schleichen sich erneut „Workarounds“ ein. Häufig wird auch der Nutzen der Datenethik in Frage gestellt.
Drei Methoden helfen dabei, das Risiko derartiger Akzeptanzprobleme zu senken:
- Mischung agiles und klassisches Projektmanagement: Schnelles Erreichen von Quick Wins unter Berücksichtigung der Organisations- und Entscheidungsstrukturen
- Iterativer Entwicklungsprozess: Risikominimierte Entscheidungsfindung durch ständige Validierung des Projekt-Scopes und der geplanten Maßnahmen
- Kombination aus User Research, Forschung und Best Practices: Fundierte Entwicklung von Lösungen für komplexe Probleme durch die Berücksichtigung unterschiedlicher (interner und externer) Sichtweisen
Diese Maßnahmen sollte Unternehmen durch weitere vier Faktoren unterstützen:
- Frühzeitige Einbindung aller relevanten Stakeholder
- Kontinuierliche Kommunikation der Projektstände und -ergebnisse
- Gezieltes Change Management zur Begleitung der Implementierung
- Individuelle Mitarbeiterbefähigung statt Pauschalschulungen
Wer das Thema Datenethik vertiefen möchte, dem empfehle ich die Website der
Datenethikkommission des Bundesministerium des Innern (BMI).
Beitragsbild: Getty Images / fatido
