Müller-Mall, Sabine: Freiheit und Kalkül. Die Politik der Algorithmen. Ditzingen: Reclam 2020. 80 Seiten. [978-3-15-014043-7]

Rezensiert von Florian Pistrol (Universität Innsbruck) und Anna Weithaler (Universität Wien)

Von Homeoffice und Fernlehre über das Streamen von Kulturveranstaltungen und Online-Shopping bis hin zu Corona-Warn-Apps – wie kaum ein anderes Ereignis der jüngeren Vergangenheit treibt die COVID-19-Pandemie die Digitalisierung voran. In den letzten zwei pandemischen Jahren hat sich, sofern möglich, sowohl das Sozial- als auch das Arbeitsleben in den digitalen Raum verlagert. Ein neuer gesellschaftlicher Strukturwandel scheint sich abzuzeichnen. Obwohl Sabine Müller-Mall ihr Buch Freiheit und Kalkül. Die Politik der Algorithmen zu einem Zeitpunkt verfasst hat, zu dem der Verlauf der Pandemie noch kaum erahnt werden konnte, ist ihr – und das ist durchaus beachtlich – eine hellsichtige und weiterhin relevante Darstellung der gesellschaftspolitischen Rolle von Algorithmen, die für die Strukturierung der digitalen Welt entscheidend sind, gelungen.

Es ist ein nicht zu vernachlässigendes Verdienst Müller-Malls, dem so omnipräsenten wie schwammigen Begriff der Digitalisierung Profil zu geben. Sie fasst ihn als „sich selbst verstärkende und in alle Bereiche der sozialen Welt ausgreifende Bündelung von Computerisierung, Mobilisierung und Algorithmisierung“ (12). Die erste Komponente dieses Trios beschreibt den universellen Einsatz von Computern in sämtlichen Bereichen des Lebens; die zweite die Portabilität sowie Vernetztheit derselben, deren Konsequenz eine ubiquitäre Präsenz ist – „eine Existenzweise, die so umfassend alles durchwirkt, dass sie gar nicht mehr besonders auffällt“ (10); die dritte die „Eigenlogik von Computerprogrammen“ (10) und damit im Weiteren die Art und Weise, wie sie dem gesellschaftlichen Zusammenleben ihren Stempel aufdrücken.

Müller-Mall konzentriert sich ganz auf die dritte Komponente. Denn die politische Bedeutung des Digitalisierungsprozesses, die den Fluchtpunkt ihrer Überlegungen bildet, sieht sie in der genuinen „Politizität algorithmischer Mechanismen“ (25) fundiert. Es muss sich also genau dieser annehmen, wer jene verstehen will. Was aber sind Algorithmen überhaupt? „[I]n einem ganz allgemeinen Sinne“, so die Antwort, sind es „eindeutig festgelegte Schrittfolgen, um ein Problem zu lösen oder zu einer Entscheidung zu gelangen“ (10), wobei im Fall von Computern freilich Komplexität und Spezifität beträchtlich zunehmen (Stichwort: lernfähige Algorithmen). Im alltäglichen Gebrauch sind Algorithmen meist eine „Chiffre für Techniken künstlicher Intelligenz“ (12).

Wenn die Autorin nun „[d]as Politische“ als die zukunftsorientierte „Gestaltung, Anordnung oder Veränderung des Sozialen“ (13) definiert, dann besteht die schon im Untertitel des Buches genannte Politik der Algorithmen gerade darin, dass dieselben auf diesen Prozess Einfluss nehmen (auf die Engführung von das Politische und die Politik kommen wir weiter unten kurz zurück). Näher besehen schreiben Algorithmen die für sie maßgeblichen „Prinzipien der Berechnung und der Wahrscheinlichkeit“ in die Frage ein, „wie wir Zukunft denken und gestalten: wie wir als Gesellschaft zu Vorstellungen über die Zukunft gelangen und welche Gesellschaftsideen wir aus diesen Vorstellungen entwickeln“ (15).

Wie Müller-Mall im ersten Teil ihres Buches überzeugend darlegt, ist diese algorithmische Intervention gleichermaßen bedenkenswert wie bedenklich. Zunächst, so führt sie aus, ist da der Umstand, dass Algorithmen nur kraft eines strukturellen bias funktionieren. Zurückgreifend auf einen Satz von Annahmen, Regeln und Zielen sortieren, klassifizieren und hierarchisieren sie eine Datenmenge – und sind dadurch unvermeidbar „normativ voreingenommen“ (21). Die Perfidie liegt dabei darin, dass dem so errechneten Output der „Anschein von Neutralität, ja von Objektivität“ (21) zuteilwird. Ohne dass wir es merken würden, gelangten Algorithmen daher dazu, das Wie sowohl unseres Wahrnehmens als auch unseres Handelns zu verändern. Sodann ist es Algorithmen wesentlich, über den Zusammenhang von Input und Output ein Verhältnis zwischen Kollektiv und Individuum zu etablieren. Konkret heißt das, dass etwa die aggregierten Verhaltensdaten vieler herangezogen werden, um die Wahrscheinlichkeit eines bestimmten Verhaltens einzelner zu prognostizieren. Was wie ein unschuldig-trockenes Prozedere erscheint, wird von Müller-Mall gekonnt in seiner eminent politischen Dimension entlarvt:

Wenn ich beispielsweise in einem Stadtviertel wohne, dessen Bewohner*innen häufiger Kredite nicht oder verspätet zurückzahlen, dann, so rechnet die Schufa mit ihrem Scoring-Algorithmus aus, ist die Wahrscheinlichkeit groß, dass auch ich meinen Kredit nicht oder verspätet zurückzahle. (23)

Wiederum wird unmissverständlich klar, dass Algorithmen mitbestimmen, wie die Dinge gesehen werden – und dadurch in der Folge mitunter erwirken, dass manchen Menschen bestimmte Handlungs- oder Gestaltungsoptionen verwehrt bleiben. Das nachgerade Skandalöse daran ist nicht zuletzt, dass „ich keine Möglichkeit habe, auf Input und Verfahren der Output-Generierung Einfluss zu nehmen oder überhaupt Kenntnis davon zu erlangen, wie ein bestimmter Output zustande kommt“ (25).

In der Konsequenz ergibt all das nach Müller-Malls Dafürhalten ein „anderes Paradigma der Ordnungsbildung, das sich deutlich von den Paradigmen liberaler (westlicher) politischer Verfassungen unterscheidet“ (26). Dieses algorithmische Paradigma sucht die Autorin gegen Ende des ersten Teils ihres Buches anhand einiger Punkte griffiger zu machen. Am Beginn steht hier die Feststellung, dass bei Algorithmen Normativität und Normalisierung Hand in Hand gehen. Der Grund, warum Algorithmen bestimmte Optionen präferieren, ist deren höhere Wahrscheinlichkeit. Mit anderen Worten: Algorithmen kommen strukturell nicht umhin, das (vermeintlich) Normale positiv zu bewerten – und das heißt freilich: „sie […] agieren niemals wertneutral, können das letztlich gar nicht“ (29). Des Weiteren konfrontieren Algorithmen die Freiheit menschlichen Handelns mit einer Verwaltung der Welt: An die Stelle des Neuanfangs, der Initiative, die mit dem Bisherigen (zumindest bis zu einem gewissen Grad) bricht, so Müller-Mall mit Arendt’scher Emphase, setzt die algorithmische Logik die Prognose des wahrscheinlichsten Ergebnisses und verleitet in diesem Sinne dazu, „unsere Freiheit nicht zu gebrauchen“ (32), dem politischen Handeln also zu entsagen. Sodann geht Müller-Mall auf das Verhältnis von Ubiquität und Herrschaft ein. Zwar stimme es, „dass es so gut wie keine Handlung, kein Ereignis und keinen kommunikativen Akt gibt, der vollkommen ohne (digitale) algorithmische Strukturen auskommt“, es sei aber dennoch nicht einfach einer „‚Herrschaft‘ der Algorithmen“ (37) das Wort zu reden. Stattdessen spricht Müller-Mall von einem Konkurrenzverhältnis zwischen der Logik der Algorithmen und politischer Freiheit. Und schließlich – das ist vielleicht die kardinale Erkenntnis der Autorin – befördern Algorithmen einen Prozess der Entpolitisierung. Wiederum ist das Problem ein strukturelles: Gerade weil der algorithmischen Funktionsweise die de facto unberechtigte Auszeichnung zukommt, vollkommen neutral zu sein – „[z]u versuchen, die Logik der Wahrscheinlichkeit auch nur zu hinterfragen, gleicht dem Unterfangen, Naturgesetze diskutieren zu wollen“ (39–40), so eine wunderbare Passage –, eignet den Outputs der Algorithmen der Status des Unumstößlichen. Damit geht jeglicher Handlungsspielraum verloren:

Wenn wir mithilfe von Algorithmen eine Frage beantworten oder ein Problem lösen, dann entziehen wir die Frage, das Problem oder die Entscheidung für die Zukunft dem Raum des Politischen. (40)

Womit Algorithmen in Berührung kommen, das entpolitisieren sie. Eben darin liegt ihre politische Signifikanz.

II.

Im zweiten Teil des Buches entwirft Müller-Mall eine „Politik der Algorithmen“ entlang von drei zentralen Strängen: (1) Prognose, (2) Kalkül und (3) Form/Verfahren:

(1) Die Verwendung von Algorithmen für Prognosen bedeutet, dass anhand von Wahrscheinlichkeiten das voraussichtliche Eintreten bestimmter Ereignisse berechnet wird. „‚Wie werden die Dinge sich entwickeln?‘ ist dabei eine fundamental andere Frage als ‚Wie wollen wir, dass die Dinge sich entwickeln?’“ (46), gibt Müller-Mall zu Recht zu bedenken. Das Problem zu wissen, wie eine gute Zukunft aussehen könnte, wird so von der Frage nach der voraussichtlichen Erfüllung unterschiedlicher Zukunftsvorstellungen verdeckt. Die Unterscheidung zwischen deskriptiver und normativer Ebene, zwischen Sein und Sollen, fällt aus dem Blickfeld.

Insofern der Fokus auf die Effizienz der Zukunftsgestaltung gerichtet wird, könne dies dazu führen, dass politische Freiheit überflüssig erscheint (48). Müller-Mall veranschaulicht dies exemplarisch an Wahlprognosen: Wenn Parteiprogramme und politische Entscheidungen nach Erfolgsaussichten ausgerichtet werden, wird „die Wahl zum Selbstzweck und die Arbeit der Parteien nicht als Mitwirkung an einer politischen Willensbildung […] verstanden“ (55).

(2) Algorithmen basieren auf Berechnungen, auf einem Kalkül. Nun kann dies bei klar definierbaren Problemen, die berechenbaren Lösungen zugeführt werden können, in der Tat zu erstaunlichen Erleichterungen führen. Bei normativen, politischen Fragen stellt sich die Lage gleichwohl anders dar, zeichnen diese sich doch gerade durch eine Vielfalt unterschiedlicher, ja, bisweilen divergierender Antwortmöglichkeiten aus. Die direkte Ableitung einer unstrittigen Lösung aus deskriptiven Datensätzen ist hier unmöglich. Werden dennoch Algorithmen zur Bearbeitung normativer Problemstellungen herangezogen, untergräbt das die „Mündigkeit“ (57) der Betroffenen. Das Heimtückische daran ist nach Müller-Mall, dass uns Algorithmen erlauben, „von unserer Mündigkeit keinen Gebrauch zu machen, ohne uns unmündig zu fühlen – denn jede Entscheidung bleibt (anscheinend) doch unsere eigene“ (59). Als Beispiel verweist sie auf Meditationsapps, die Nutzer:innen daran erinnern, „wann sie meditieren müssen, um ein gutes Leben zu führen“ (58).

Anhand algorithmisch strukturierter digitaler Öffentlichkeiten erörtert Müller-Mall im Anschluss, wie ein bestimmtes Kalkül die politische Meinungsbildung einseitig lenken kann. Die Grenzen der algorithmischen Berechnung veranschaulicht sie hingegen mithilfe der „lebendige[n] Sprache“ (60). Sprache entwickelt sich im ständigen Vollzug und ist „offen […] für neuen, anderen Gebrauch“ (61). Algorithmisches Kalkül kann dieser Offenheit und Kreativität, so Müller-Mall, nicht gerecht werden.

(3) Demokratische Verfassungen zeichnen sich durch ein nicht auflösbares Spannungsverhältnis zwischen einem rechtlich stabilisierenden und einem befragenden, möglicherweise verändernden Moment aus. Müller-Mall fasst die konstituierten und konstituierenden Elemente demokratischer Ordnungen als Dichotomie zwischen „Recht und Politik“. Eine einseitige Auflösung ist demnach vor einem demokratischen Hintergrund undenkbar:

Politik ohne Verrechtlichung würde einen dauernden Kampf um Interessen und Macht bedeuten, während Recht ohne die Möglichkeit seiner Politisierung zu einem Instrument der Sicherung bloßer Herrschaft würde. (69)

Algorithmen bedrohen dieses konstitutive Spannungsverhältnis der Demokratie durch Berechnungen und Prognosen. An die Stelle von politischen Aushandlungen treten Datenberechnungen. Zwar sind auch Algorithmen zukunftsgerichtet; ein offenes demokratisches Moment kann von statischen Daten aber nicht abgeleitet werden. Stattdessen wird Bestehendes verfestigt. Kurz: Die zukunftsorientierte Offenheit der Demokratie wird durch Algorithmen gefährdet.

Ebenso zeichnen sich Demokratien durch sowohl formale als auch informale Verfahren aus. So geht beispielsweise der Wahl, einem formalen Prozedere, ein informales, der Wahlkampf, voran. Am Beispiel des US-amerikanischen Wahlkampfs im Jahr 2012 weist Müller-Mall exemplarisch nach, dass durch gezielte algorithmische Nutzung diese Unterscheidung untergraben wird. So sprach Barack Obamas Wahlkampf-Team mithilfe algorithmischer Selektion unentschlossene Wähler:innen mit gezielter Wahlwerbung im Internet an – mit der Intention, die politische Meinungsbildung zu beeinflussen. Dadurch kam es zu einer Formalisierung, „wo informale Prozesse ursprünglich einen Ausgleich zu streng formalen Momenten schaffen sollten“ (67) – eine Bedrohung des demokratischen Systems.

Eindrücklich zeigt Müller-Mall auf, dass und wie Algorithmen auf das Verhältnis von Politik und Recht und den Zusammenhang von Formalem und Informalem wirken. Dass Algorithmen durch das Recht bisher unzureichend erfasst wurden, führt sie darauf zurück, dass sie im Hintergrund und damit zumeist unbeobachtet arbeiten. Die Notwendigkeit der Politisierung von Algorithmen wird aus dieser Perspektive noch deutlicher. Wie eine solche aussehen könnte, wird am Ende des Buches entlang der Dimensionen „des Designs, des Einsatzes und der Nutzung von Algorithmen“ (75) kurz umrissen. Unter algorithmischem Design fasst Müller-Mall „rechtliche Regeln“ (75). Diese sollen sich nicht nur auf konkrete, bereits bestehende Steuerungstechniken beziehen, sondern „vielmehr (grundlegend und entsprechend drängend) […] verhandeln, was die jeweilige Gestaltung dieser Algorithmen für die Möglichkeiten, Freiheit und Autonomie zu verwirklichen, bedeutet“ (75). Die Forderung Müller-Malls lautet demnach, Digitalisierung nicht als alternativlos hinzunehmen. Erfrischend unzeitgemäß stellt sie die Grundlagenfrage: Müssen respektive wollen wir die Digitalisierung so vorantreiben wie bisher? Für die Autorin steht fest, dass der Einsatz von Algorithmen nicht alleine aus Annahmen der Effizienz begründet werden darf. Denn dergestalt läuft man Gefahr, die mitschwingende politische Dimension zu übersehen. Es gilt, „die Politik der Algorithmen ihrer Effizienz gegenüberzustellen, um dann im Einzelfall politisch zu entscheiden, ob der Einsatz gut oder schlecht ist“ (77). Erst durch die allgegenwärtige Nutzung können Algorithmen ihre politische Wirkmächtigkeit entfalten. Müller-Mall plädiert für ein breites Bewusstsein dafür, dass es sich nicht um eine „folgenlose konsumatorische Praxis“ handelt und es (vermeintlich) eine Entscheidung der/s Einzelnen sei, „wie und wo wir algorithmische Techniken einsetzen wollen“ (77).

III.

Insgesamt liefert Müller-Mall eine gut lesbare und luzide Einführung in das Problemfeld der Algorithmen. Dabei gelingt es ihr, dasselbe trotz der dem Reclam-Format [Was bedeutet das alles?] geschuldeten geringen Seitenzahl des Buches in befriedigender Breite zu umreißen. Kleine Unschärfen, die sich da und dort in den Text eingeschlichen haben, stören kaum: Wenn etwa der prognostische Blick der Algorithmen, der über die Errechnung von Wahrscheinlichkeiten auf das plausibelste Szenario schließt, der normativen Perspektive einer gemeinsam ausgehandelten Zukunft gegenübergestellt wird, wiewohl einige Seiten zuvor von der spezifischen Normativität der Algorithmen die Rede ist, drohen die Konturen des Normativitätsbegriffs, mit dem die Autorin operiert, zu verschwimmen. Ebenso scheint der Hinweis auf Jacques Derridas démocratie à venir zur Stärkung des Arguments, dass „Demokratie […] etwas [ist], das sich immer nur in der Zukunft zeigen kann“ (71), verkürzend. Denn Derrida stellt keineswegs auf ein planes Noch-Nicht ab; die Idee einer Demokratie im Kommen verlangt vielmehr gerade nach der Transformation des Hier und Jetzt (vgl. Zeillinger 2007, 82–83). Die unbedarfte Synonymisierung von das Politische und die Politik, die sich durch den gesamten Text zieht, muss zumindest von radikaldemokratischer Warte aus irritieren. Gewiss, die radikale Demokratietheorie bildet nicht den Mainstream in der gegenwärtigen politikphilosophischen Diskussion; eine ernst zu nehmende Stimme ist sie aber allemal. Und schließlich untergräbt an ganz wenigen Stellen eine an sich nicht unsympathische rhetorische Zuspitzung den Punkt, den Müller-Mall zu machen wünscht. So muss die Einschätzung, dass die Politik der Algorithmen qua Sicherung des Bestehenden „eine undemokratische Politik“ (72) ist, die Frage provozieren, ob denn nicht auch Demokratie auf Formen der Verstetigung angewiesen ist. Tatsächlich wird dergleichen von Müller-Mall kurz davor mit Bezug auf das Recht selbst angedeutet, gerät aber wegen genannter Zuspitzung aus dem Blickfeld.

Stärker ins Gewicht fallen hingegen folgende zwei Kritikpunkte. Der erste betrifft die von Müller-Mall in Aussicht gestellte Politisierung von Algorithmen – die Möglichkeit also, deren Verwendung zum Gegenstand eines demokratischen Aushandlungsprozesses zu machen. Diese wird von der Autorin lediglich auf den letzten Seiten angerissen und nimmt sich ernüchternd vage aus. Das kann insofern nicht überraschen, als angesichts der zuvor konstatierten De-facto-Ubiquität, vielfachen Alternativlosigkeit und strukturellen Voreingenommenheit von Algorithmen eine Politisierung vor großen Herausforderungen steht. Einerseits wird den Nutzer:innen individuelle Verantwortlichkeit und Handlungsfähigkeit zugeschrieben und der Anschein erweckt, als wäre der Verzicht auf algorithmisch strukturierte Techniken geboten; andererseits wird im Buch zugestanden, dass wir uns diesen „kaum entziehen und nicht entgegentreten können, wenn wir an der sozialen Welt teilhaben wollen“ (34). Ja, eine Politisierung mag gelingen; umfassendere Hinweise auf das Wie wären aber nicht nur hilfreich, sondern geradezu geboten gewesen.

Der zweite Kritikpunkt bezieht sich auf die vermeintliche Neutralität der liberalen Demokratie. Die Argumentation von Müller-Mall erweckt an einigen Stellen den Eindruck, als wären liberale Demokratien herrschaftsfreie Ordnungen – beispielsweise dann, wenn „Paradigmen liberaler (westlicher) politischer Verfassungen“ (26) in Kontrast zu algorithmisch strukturierten Öffentlichkeiten gesetzt werden. In letzteren sei kein „freie(r) Diskurs mündiger Bürger:innen“ (64) möglich. Damit wird suggeriert, dass sich liberale Demokratien notwendig durch freien, ebenbürtigen Austausch auszeichnen würden. Davon kann allerdings keineswegs die Rede sein. Abgesehen von unterschiedlichen sprachlichen Fähigkeiten, welche unter anderem von Bildungschancen abhängen, müssen auch Prozesse politischer Subjektivierung selbst problematisiert werden. Wie radikaldemokratische Ansätze aufgezeigt haben, wird theoretisch gleichwertigen Stimmen in der Praxis verschiedenes Gehör und Gewicht geschenkt – oder gar jegliche Sprachfähigkeit abgesprochen. Müller-Malls überzeugender Punkt, dass Algorithmen einen freien Austausch erschweren, darf nicht darüber hinwegtäuschen, dass auch analoge politische Konstellationen von Macht- und Herrschaftsverhältnissen durchzogen sind. Formulierungen wie die folgende, dass Politik „nicht notwendiger-, aber möglicherweise ein Begriff der Herrschaft, der Macht oder der Ordnung“ (13) sei, werden vor diesem Hintergrund fraglich. Macht- und Ordnungsverhältnisse sind konstitutiv für Politik. Selbst liberale, scheinbar neutrale Grundrechte wie Freiheit, Gleichheit, Solidarität und Selbstbestimmung sind historisch gewachsen und umstritten.

Literatur

Zeillinger, Peter. „Jacques Derrida: Gott im-Kommen“. In: Für eine schwache Vernunft? Beiträge zu einer Theologie nach der Postmoderne, hg. von Peter Hardt und Klaus von Stosch, 66–83. Ostfildern: Matthias-Grünewald-Verlag, 2007.