Datenethik – neben Datenschutz ist jetzt auch Mut gefragt

Jamie Barnard ist Anwalt und General Counsel for Global Marketing and Media bei Unilever und Vorsitzender des Data Ethics Board der World Federation of Advertisers (WFA). Unter seiner Aufsicht veröffentlichte die WFA im Sommer 2020 den Bericht Data Ethics: The Rise of Morality in Technology. Im Gespräch mit Pedro Pina, Vice President of Global Client & Agency Solutions bei Google, spricht er über seine Sicht auf das Thema Datenethik in unserer digitalen Gesellschaft – und darüber, warum es gerade für Führungskräfte so wichtig ist.

Pedro Pina von Google: Als wir uns einmal über Online-Datenschutz und die dazu bestehenden Regulierungen unterhielten, haben Sie mir gesagt, dass Unternehmen mehr Mut zeigen sollten. Übermäßige Vorsicht, Zurückhaltung und das starre Einhalten von Gesetzen und Regelungen allein seien im Moment nicht das Richtige. Aber genau so denken doch die meisten Menschen: Die Einhaltung der DSGVO und anderer Vorschriften steht an erster Stelle. Wie sehen Sie das ‒ und wie sollte sich die Einstellung der Menschen Ihrer Meinung nach ändern?

Jamie Barnard von Unilever: Das mag jetzt hart klingen, aber innovative Unternehmen haben mehr als nur die Einhaltung von Gesetzen im Blick. Datenschutz bildet sozusagen das Fundament: So werden grundlegende Menschenrechte geschützt und es wird gewährleistet, dass Unternehmen nicht in Konflikt mit dem Gesetz geraten. Allerdings ist das in der öffentlichen Wahrnehmung nur von geringer Bedeutung, wenn Verbraucherinnen und Verbraucher glauben, dass ein Unternehmen bei der Datennutzung unmoralisch vorgeht. Da stellt selbst eine offizielle Versicherung, dass alle Vorschriften eingehalten werden, den guten Ruf nicht wieder her. Deshalb sollten Unternehmen einen Verhaltenskodex einführen.

Verbraucher bringen einigen Firmen ein hohes Maß an Vertrauen entgegen, weil sie Vorreiter in Fragen von Ethik und Integrität sind. Und manchmal sind es die kleinen Dinge, die den Unterschied ausmachen.

Lassen Sie mich das an einem Beispiel erklären: Vor einigen Jahren wollte ich eine Social-Media-App herunterladen. Bei der Registrierung erschien ein Pop-up: Ich sollte zustimmen, dass die App auf meine Kontaktdaten zugreifen darf. Normalerweise klingeln da bei mir gleich die Alarmglocken. Aber in diesem Fall wurde ganz klar beschrieben, dass meine Informationen verschlüsselt und nur dazu verwendet werden würden, mich mit Freunden zu verknüpfen, die die App ebenfalls nutzen. Danach würden die Daten dauerhaft gelöscht. Dadurch wurden meine Bedenken beseitigt. Noch heute weiß ich zu schätzen, dass das Unternehmen Datenschutz nicht nur ernst nimmt, sondern das auch offen und transparent kommuniziert.

Wer sich zu ethischen Grundsätzen bekennt, beweist Mut und fördert langfristig das Vertrauen.

Pina: Datenschutz wird meist als eher trockenes Thema gesehen: wichtig, aber alles andere als spannend. Wie überzeugen Sie Ihre Kolleginnen und Kollegen und andere Unternehmen davon, dass sich mit der Einführung von Datenethik ganz neue Möglichkeiten bieten?

Barnard: Spannend an dem Thema ist, dass sich daran zwei zentrale Herausforderungen knüpfen: Wie lässt sich datengetriebene Innovation mit den Erwartungen der Verbraucher an den Datenschutz vereinen? Und inwieweit können Unternehmen technische Neuerungen vorantreiben, ohne dabei die Sicherheit, die Privatsphäre und das Wohlergehen der Nutzer zu vernachlässigen?

Wenn Sie progressiv sein und etwas noch nie Dagewesenes tun möchten, dabei aber trotzdem alle Ihre Wertvorstellungen einhalten wollen, legen Sie die Messlatte für sich ein ganzes Stück höher. Wenn Sie Privatsphäre als Grundrecht ansehen, dann kann Datenschutz eine sehr lohnenswerte und dankbare Aufgabe sein.

Ich erkläre das einmal am Beispiel künstliche Intelligenz (KI): Ein Unternehmen entwickelt ein KI-System und verfolgt dabei ganz ehrenwerte Absichten. Erst läuft alles einwandfrei. Nach sechs Monaten fällt den Entwicklerinnen und Entwicklern jedoch auf, dass das System Entscheidungen trifft, die unbeabsichtigte Folgen haben. Solche komplexen Herausforderungen zu erkennen und zu meistern, kann sehr spannend sein. Intelligente Systeme so anzupassen, dass moralische und ethische Grundsätze berücksichtigt werden – das treibt viele Menschen an. Der Spaß liegt also in der Schwierigkeit der Aufgabe.

Pina: Bei Google arbeiten wir derzeit gemeinsam mit der Industrie an der Privacy Sandbox, um Nutzerinnen und Nutzern mehr Kontrolle über ihre Daten zu geben. Wir wollen damit eine Vorreiterrolle einnehmen. Was hält Führungskräfte, Unternehmerinnen und Unternehmer davon ab, insbesondere in diesem Bereich notwendige Änderungen vorzunehmen? Wie können sie die ethischen Fragen angehen?

Barnard: Wer ein gesundes System entwickeln möchte, muss ethische Grundsätze berücksichtigen, bevor sie zum Problem werden können. Dabei sind drei Dinge wichtig.

Erstens: Wir müssen uns Schwächen eingestehen. Wenn das Bewusstsein für ethische Probleme nicht besonders ausgeprägt ist, werden wir solche Probleme öfter übersehen. Deshalb müssen wir lernen, sie zu erkennen und Lösungen dafür zu finden.

Ein Beispiel: Ein Entwickler konstruiert ein System, um Klickraten zu optimieren. Unter Umständen fällt ihm nicht direkt auf, wenn die durch den Algorithmus getroffenen Entscheidungen sich negativ auf die Diversität auswirken oder bestimmte Personengruppen ausschließen. Achten Sie aber aktiv auf diese Aspekte, können Sie einschreiten und Anpassungen vornehmen, um bei der Erfolgsmessung niemanden zu benachteiligen. Hier tragen Mitarbeiterinnen und Mitarbeiter gemeinsam Verantwortung – und zwar bereits in der Entwurfsphase. Deswegen empfiehlt es sich für das Management, beispielsweise Schulungen durchzuführen, damit ethische Risiken direkt von den Teams erkannt werden.

Voraussetzung dafür ist allerdings eine vollständige Sichtbarkeit des Datenflusses von Anfang bis Ende. Es kann schwierig sein, Risiken zu erkennen und wichtige Rahmenbedingungen zu gewährleisten, wenn ein Teil des Datenflusses unbekannt ist. Das ist in der Regel dann der Fall, wenn er außerhalb des eigenen Unternehmens beginnt oder endet. Darum ist es so wichtig, transparent mit Partnern zu arbeiten, die für die gleichen Werte und ethischen Grundsätze einstehen.

Zweitens: Wir müssen alle Verantwortung übernehmen. Manchmal erkennt eine Mitarbeiterin, ein Mitarbeiter oder ein Team, dass in einem alten System oder einem seit Langem etablierten Prozess ein ethischer Grundsatz verletzt wird. In einer perfekten Welt würde das Problem direkt angesprochen und gelöst. Allerdings kann es schwierig sein, den Fehler in einem schon länger betriebenen System zu finden und zu korrigieren. Möglicherweise fühlt sich auch niemand für das Problem zuständig, weil er es nicht verursacht hat. Womit wir wieder bei der gemeinsamen Verantwortung wären: Es muss unternehmensweit kommuniziert werden, dass jede und jeder Einzelne zuständig ist und die Initiative ergreifen sollte, wenn Schwierigkeiten auftreten.

Drittens: Wir müssen sicher und ohne Vorbehalte miteinander umgehen können und so psychologische Sicherheit schaffen. Führungskräfte möchten, dass Mitarbeiterinnen und Mitarbeiter Dinge offen ansprechen, etwa wenn sie potenzielle ethische Probleme erkennen. Aber viele trauen sich das nicht. Das gilt besonders für jüngere bzw. neuere Mitarbeiterinnen und Mitarbeiter, die sich an ihrem Arbeitsplatz noch profilieren müssen. Sie möchten Abläufe nicht unterbrechen oder verlangsamen, weil sie dann möglicherweise in einem schlechten Licht dastehen. Deshalb müssen Führungskräfte für ein Arbeitsklima sorgen, in dem alle alles offen ansprechen können – selbst dann, wenn sie nur eine Vermutung hegen, dass etwas nicht richtig ist –, ohne dafür verurteilt oder belächelt zu werden. Andernfalls bleiben Probleme bestehen und verschlimmern sich möglicherweise im Lauf der Zeit.

Pina: Ihr WFA-Bericht war weltweit der erste Leitfaden zum Thema Datenethik für Marken. Wie sind Sie darauf gekommen, ihn zu verfassen, und haben sich Ihre Ansichten seitdem geändert?

Barnard: Der WFA-Bericht war eine gemeinschaftliche Arbeit des WFA Data Ethics Board. Als verantwortliche Werbetreibende wollten wir dazu beitragen, Transparenz zu fördern und das Vertrauen bei Verbraucherinnen und Verbrauchern zu stärken. Das Problem ist ja nach wie vor, dass die Datennutzung sehr komplex ist. Und die oft schwer zu treffende Entscheidung, was wie verwendet werden darf, wird auf die Konsumentinnen und Konsumenten abgewälzt. Datenschutzhinweise sind einfach keine nutzerfreundliche Lösung dafür.

Das Data Ethics Board kam überein, dass ethische Grundsätze hier Abhilfe schaffen. Wenn sie in der Branche etabliert werden, können wir Nutzerinnen und Nutzern mehr Sicherheit bieten, was wiederum zu mehr Vertrauen und Glaubwürdigkeit führt.

Mit dem WFA-Bericht wollen wir die Branche darüber aufklären, dass wir verändern müssen, wie über Datenschutz gedacht und gesprochen wird: Er darf nicht länger nur als Risikofaktor angesehen werden. Stattdessen sollten Datenschutz und Datenethik die Stütze einer gesunden digitalen Gesellschaft bilden.

Einer der positivsten Aspekte von Datenethik ist für mich, dass Diversität und Inklusivität gefördert werden. Durch entsprechende Anpassungen können verzerrte Daten herausgefiltert und ausgeschlossene Personengruppen berücksichtigt werden. So lässt sich die Vielfalt unserer Gesellschaft auch digital widerspiegeln.

Pina: Verfolgt Unilever aufgrund des Berichts jetzt einen anderen Ansatz bei Datenschutz und Datenethik? Wird das Thema im Vorstand und in den oberen Führungsebenen diskutiert?

Barnard: Das WFA Data Ethics Board hat die Erstellung des Berichts im Frühling 2019 angestoßen. Er enthält unsere gemeinsamen Ansichten. Unser Ziel war es immer, über unsere Erfahrungen zu informieren, damit Unternehmen davon profitieren können.

Bei Unilever haben wir uns beim Thema Datenethik zuerst auf Best Practices im Bereich Künstliche-Intelligenz- und Machine-Learning-Systeme fokussiert. Die Erweiterung auf andere Bereiche ist allerdings relativ schnell im Anschluss erfolgt.

Dabei genießen wir die volle Unterstützung unserer Vorgesetzten. Aktuell sind wir dabei, ethische Grundsätze praktisch anzuwenden. Das trägt zu einem besseren Risikomanagement bei und hilft zudem, zeitnah intelligente sowie fundierte Entscheidungen zu treffen. Das meinte ich, als ich vorhin sagte, dass es nicht nur darum geht, vorsichtig zu sein oder Richtlinien einzuhalten. Vielmehr geht es darum, noch eine Schippe draufzulegen, also clever und innovativ den nächsten Schritt zu gehen – ohne dabei unsere Werte aus den Augen zu verlieren.

Es freut mich zu sehen, wie viele das Prinzip der Datenethik annehmen und dadurch kreativer und entschlossener agieren. Ich bin guter Dinge, dass wir positiv in die Zukunft blicken können und auf dem Weg zu einer gesunden digitalen Gesellschaft sind.

Pina: Wenn die Leserinnen und Leser des WFA-Berichts nur eine Sache mitnehmen, welche sollte das sein?

Barnard: Da gibt es tatsächlich zwei Dinge, die aber zusammengehören.

Erstens: Mit der Ethik ist es wie mit der sportlichen Fairness. Eine gute Sportlerin und ein guter Sportler betrügen nicht. Sie tun das Richtige, auch wenn sie dafür Entbehrungen in Kauf nehmen müssen. Ehrlichkeit, Integrität und Fair Play sind für sie selbstverständlich. Dafür arbeiten sie doppelt so hart im Vergleich zu denen, die kein Fair Play an den Tag legen. Aber ihr Erfolg ist dafür umso größer.

Zweitens: Vertrauen aufbauen ist ein Mannschaftssport – um im Thema zu bleiben. Wir sind gemeinsam dafür verantwortlich, die Datenerfassung und ‑nutzung sicher, ethisch korrekt und transparent zu gestalten. Für eine branchenweite Einführung von Datenethik müssen wir alle an einem Strang ziehen und eng zusammenarbeiten. Dabei müssen Werbetreibende, Vermarkter, Entwickler sowie Anbieter von Technologie und entsprechenden Plattformen eine führende Rolle einnehmen. Wenn wir gemeinsam daran arbeiten, profitieren wir auch alle davon.