Kritik der digitalen Vernunft | Interview mit Ulrich Hemel

Eine digitale Avatarin wird erstellt.Foto: Charles Deluvio | Unsplash

 

Wir brauchen stets eine Art von »Kritik der digitalen Vernunft«

Interview mit Ulrich Hemel

Herr Hemel, vor wenigen Jahren war auf Wahlplakaten einer Partei zu lesen »Digital first, bedenken second«. Warum sollten wir uns nicht erst im Nachhinein über Digitalisierung Gedanken machen?

Mit der digitalen Transformation stehen wir heute vor einem echten Epochenbruch, vergleichbar dem Übergang vom Nomadentum zur bäuerlichen Gesellschaft. Das bedeutet, dass sich alle Bereiche des Lebens, vom Alltag bis zum Beruf, radikal ändern. Wir erleben schon heute eine analog-digitale Mischform des Lebens. Manche Personen gehen sogar mit ihrem Smartphone ins Bett. Und weil eine hybride Form der menschlichen Existenz zum Normalfall wird, müssen wir uns mit dieser neuen Technik auch in ihren sozialen und ethischen Auswirkungen auseinandersetzen. Und das sollten wir tun, bevor wir es mit nicht bedachten Nebenfolgen einer neuen Technik zu tun bekommen. Also: Nachdenken first, Handeln second.

 

In Ihrem Buch Kritik der digitalen Vernunft. Warum Humanität der Maßstab sein muss schreiben Sie, die Digitalisierung sei in vielerlei Hinsicht eine soziale und eine Machtfrage. Können Sie kurz skizzieren, wie Sie das meinen?

Wie bei jeder großen Veränderung zieht ein Wandel der Lebensform auch Unterschiede im Zugang zu Macht nach sich. Wenn wir heute von einer sozial gerechten Gesellschaft sprechen, geht es immer auch um digitale Teilhabe. Das fängt bei der Infrastruktur an, bei Funklöchern und fehlenden Breitbandkabeln. Es geht aber auch weiter beim individuellen Zugang zur Technik. Die Diskussion um die Corona-Warn-App der Bundesregierung hat es gezeigt: Etwa 20 Prozent der Bevölkerung kann sie schon technisch gar nicht nutzen, weil ausreichend moderne Geräte fehlen. Soziale Inklusion und Exklusion hat heute eben auch eine digitale Facette. Wenn in Schulen vermehrt digital kommuniziert wird, bekommt dann jede Lehrkraft ein dienstliches Tablet? Was passiert mit Familien, die weniger gut ausgestattet sind? Und wie vermitteln wir die Kompetenz, die digitale Welt sinnvoll und nicht im Sinn einer sozialen Abwärtsspirale zu nutzen, etwa mit Blick auf Fake News und Hassreden?

Wir haben auf diese Fragen noch keine gute Antwort. Dazu kommt die ewige Frage nach der Machtverteilung in der Gesellschaft. Bleibt digitale Verfügungsmacht bei großen Digitalkonzernen im Sinn einer durchgängigen digitalen Kommerzialisierung? Oder greift der Staat durch und wird zum Träger eines digitalen Staatspaternalismus wie in China? Können wir als Europäer und Europäerinnen ein zivilgesellschaftliches Modell der Datennutzung und des digitalen Lebens entwickeln, so dass es definierte digitale Bürger- und Menschenrechte geben wird?

 

»Garbage in, garbage out« lautet eine digitale Grundregel. Als solchen garbage oder Müll lässt sich auch Datenmaterial verstehen, das von eklatanter Benachteiligung gegenüber bestimmten sozialen Gruppen geprägt ist. Ein Personalentscheidungssystem, das auf solchem Datenmaterial basiert, wird diese Diskriminierung reproduzieren. Wie können wir dieses Problem lösen? Verweist es uns nicht darauf, dass Digitalisierung uns die Arbeit an den sozialen Fragen nicht abnimmt, sie eher sogar noch verschärft?

Wie bei jeder Technik entstehen mit ihrer Nutzung neue Fragen. In meinem Buch argumentiere ich ja dafür, dass nicht jede digitale Applikation vernünftig ist. Wir brauchen vielmehr einen Wertmaßstab und müssen fragen: Fördert oder hemmt eine digitale Applikation Menschlichkeit?

Mit diesem Leitstern der Humanität liegt es nahe, ethische Forderungen an den Umgang mit digitalen Entwicklungen, auch der Künstlichen Intelligenz, zu stellen. Ein Teil davon ist der Gedanke von »Ethics by Design«, das heißt der Berücksichtigung ethischer Fragen schon bei der Planung und Auslegung von Software. Dann kann beispielsweise Diskriminierung zu einem erheblichen Teil vermieden werden. Es gibt aber immer auch »unsichtbare Entscheidungen«, die wir treffen, ohne dass wir uns bewusst Rechenschaft darüber ablegen. So werden beispielsweise Testpuppen für Crashtests bei Autounfällen bis heute überwiegend mit männlichen Körpern mittlerer Größe getestet. Die Eigenschaften »klein« und »weiblich« werden dann ausgeblendet, ohne dass eine diskriminierende Absicht der Entwickler oder Hersteller erkennbar wäre. Trotzdem ist die Diskriminierungswirkung real. Dahinter stecken eben unsichtbare Entscheidungen, die wir ans Licht und zur Sprache bringen müssen.

Deshalb setze ich mich auch stark für Ethik-Workshops mit Software-Entwickler*innen, Forscher*innen und Informatiker*innen ein. Denn ein ethisches Grundwissen ist förderlich für eine höhere ethische Sensibilität von Anfang an. Personalentscheidungssoftware ist hier eines von vielen Beispielen, gerade auch mit Blick auf gesellschaftliche Entwicklungen. Denn auch die Gesellschaft entwickelt sich weiter, so dass auch die besten Programme einer gewissen soziokulturellen Alterung oder »Obsoleszenz« unterliegen. Anhand des konkreten Beispiels könnten wir etwa feststellen, dass Stellenausschreibungen vor 20 Jahren nur als »männlich/weiblich« gekennzeichnet wurden. Heute sprechen wir grundsätzlich von »männlich/weiblich/divers«. Solche Veränderungen, die man im Voraus nicht kennt, kann man aber nicht von Anfang an in eine Software hineinprogrammieren. Wir müssen uns also immer wieder und immer neu fragen, welche Werte in einem digitalen Programm verankert sind, brauchen also stets und ständig eine Art von »Kritik der digitalen Vernunft«.

 

Die Digitalisierung von Wirtschaft und Gesellschaft ist zunächst einmal enorm ressourcen- und energiehungrig. Wie kann uns Digitalisierung trotzdem zu mehr Nachhaltigkeit verhelfen?

Vielen jungen Menschen ist nicht bewusst, dass Streamingdienste in etwa so viel CO2 verbrauchen wie der Flugverkehr. Trotzdem hat Digitalisierung zwei Seiten. Gerade während der Corona-Pandemie wird ja deutlich, wie viele Reisen eine Videokonferenz tatsächlich einsparen kann.

Das ist aber nur ein Beispiel für smarte Technik. Ein anderes findet sich, für viele überraschend, in der Landwirtschaft. Der Trend zum »digital Farming« spart tatsächlich wertvolle Ressourcen, beispielsweise Wasser. Wenn wir über regenerative Energien ausreichend Kühltechnik entwickeln, können wir auch den Energiebedarf der digitalen Welt besser aussteuern. Aber es ist ein langer Weg, der großer Aufmerksamkeit und einer intensiven öffentlichen Diskussion bedarf. Die digitale Epochenwende ist eben auch als groß angelegter gesellschaftlicher Lernprozess zu begreifen.

Das agora42-Probeabo

Testen Sie die agora42 mit unserem Probeabo!

Sie erhalten zwei Ausgaben für 20€ – sowie unser Heft zu GESELLSCHAFTLICHER WANDEL? gratis dazu!

Ein Abschnitt Ihres Buches trägt den verheißungsvollen Titel »Digitale Solidarität als Zukunftsraum globaler Zivilgesellschaft«. Wie können wir uns diese digitale Solidarität vorstellen?

Digitale Solidarität steht für die Aufgabe, den genauen Spielraum herauszufinden, den wir als freie Individuen nutzen wollen und können und diesen von den Spielregeln abzugrenzen, den wir als Gesellschaft wollen sollten und politisch durchsetzen müssen. Hinter der Frage nach digitaler Solidarität steht die Frage nach einem gelingenden Zusammenleben in einer immer stärker digitalen Zivilgesellschaft, lokal und global.

Auf der Seite der staatlichen Daseinsvorsorge bedeutet dies eine Förderung digitaler Teilhabe durch die Ermöglichung digitaler Inklusion, also der Teilhabe am sozialen Leben in digitaler Form. Das gilt dann beispielsweise auch für behinderte Menschen, für Menschen in Pflegeheimen, aber auch für Obdachlose. Nötig ist dies, weil Zugänge zu Bildung, Gesundheitsdienstleistungen und vielem mehr heute eine digitale Gestalt gewonnen haben. In vielen Fällen werden wir als menschliche Person ja nicht mehr unmittelbar in unserer körperlichen Gestalt, sondern nur über unsere digitale Repräsentation wahrgenommen. Wenn dies so ist, dann dürfen nicht ganze Bevölkerungsgruppen aus der Wahrnehmung verschwinden, weil sie im digitalen Raum nicht erlebbar werden.

Auf der Unternehmensebene stellt sich die Frage in Gestalt von »Digitaler Fairness«. Wem gehören die von mir produzierten Daten? Wenn wir diese tatsächlich als Rohstoff ansehen, wie soll dann die Machtverteilung zwischen Unternehmen und Individuen aussehen? Ich spreche mich hier für ein bürgerschaftliches Modell aus, für eine »Verwertungsgesellschaft Daten«, an die ich in freier Entscheidung die kommerzielle Nutzung meiner Daten delegieren kann, während der Staat Unternehmen gesetzlich verpflichtet, bei diesem öffentlich regulierten Unternehmen nachzufragen, ob für meine Daten Nutzungsentgelte zu zahlen sind.

Auf staatlicher und marktwirtschaftlicher Seite gehört zur digitalen Solidarität auch die Frage der Zerschlagung digitaler Konzerne. Denn wer Monopole nicht will, der muss sie zerschlagen, nötigenfalls auch mehrmals. Beispiele dafür gibt es nicht zuletzt aus den USA aus der Zeit der ersten Eisenbahnen, des Öls bei der automobilen Motorisierung wie bei Rockefeller, aber auch bei den Telefongesellschaften. Die Zerschlagung von Monopolen ist ein sinnvoller Ausdruck der sozialen Marktwirtschaft, keineswegs ihr Gegenteil.

Ein anderes Beispiel digitaler Solidarität bezieht sich auf die internationale Ebene. Wenn Staaten Geoblocking betreiben, um beispielsweise Demos zu verhindern, muss ich als Bürger oder Bürgerin das Recht haben, eine Klage bei einem künftigen Internationalen Datengerichtshof einzureichen. Schließlich träume ich von einem Digitalwaffensperrvertrag. Wie wir alle wissen, hat die Welt ja auch einen Atomwaffensperrvertrag zustande gebracht.

 

Wie kann uns die Ethik bei der Lösung der Probleme helfen, die sich mit der Digitalisierung stellen? Was muss Ethik hier leisten?

Ethik gründet in einer Haltung des Nachdenkens über die Folgen von Handlungen. Dabei haben wir ethisches Handwerkszeug ja reichhaltig zur Verfügung, ob es um die Klärung der zugrundeliegenden Werte und Prinzipen, um die Abschätzung von Handlungsfolgen in technischer, kultureller und sozialer Sicht oder um eine Betrachtung von Nutzen und Risiken einer digitalen Anwendung geht. Nur finden ethische Abwägungen nie im luftleeren Raum statt, sondern stets im sozialen Raum von Macht und Ohnmacht.

Ethik macht klar, wie wir als einzelne handeln können und welche Optionen wir haben, um friedlich zusammenzuleben. Um genau diese Aufgabe aber geht es: Wie können wir es schaffen, in einer zunehmend digitalen Welt friedlich und nachhaltig zusammenzuleben? In welcher Gesellschaft wollen wir leben? Und was müssen wir tun, um eine solche friedliche und nachhaltige Gesellschaft zu realisieren?

Herr Hemel, vielen Dank!

Prof. Dr. Dr. Ulrich Hemel ist Direktor des Weltethos-Instituts in Tübingen, Gründungsdirektor des Instituts für Sozialstrategie und Professor für Religionspädagogik an der Universität Regensburg. Er war als Unternehmensberater tätig, leitet eigene Unternehmen und ist Bundesvorsitzender des Bundes Katholischer Unternehmer. Kürzlich zum Thema erschienen: Kritik der digitalen Vernunft. Warum Humanität der Maßstab sein muss (Herder Verlag, 2020).

Mehr dazu: