Algorithmen – ein Fremdwort im Alltag

Sind sie eine reale Bedrohung für Menschen?

Algorithmen begegnen uns täglich sowohl auf der Arbeit als auch in unseren Freizeitbeschäftigungen. Sei es nun bei Wahlprogrammen, der Partnersuche oder der autonomen Fahrassistenz, ein Leben ohne sie ist heutzutage kaum mehr vorstellbar. Was steckt aber genau dahinter? Wer setzt Ihnen Grenzen? Braucht es eine Moral der Algorithmen? Muss man einen Algorithmus des Algorithmus festlegen? Das „65. Zeit Forum Wissenschaft“ geht der Sache auf die Spur, um die Wahrheit ans Licht zu bringen.

Teslas Algorithmus übernimmt das Steuer unserer Fahrzeuge, derjenige von Google bestimmt die Priorität von Informationen, und Facebook sortiert uns damit gewieft den beständigen Nachrichtenstrom. Sogar in der Partnersuche haben die Algorithmen ihre Hand im Spiel. Wenn auch auf virtuelle Art, die Realität wird durchaus beeinflusst. Wer sich dabei des langen Wartens nicht mehr geduldig ist, greift schnell mal zum Handy und überlässt so manchem Algorithmus sein/ihr Glück; dieser wird für jene/r schon die wahre Liebe finden. Ebenso empfehlen Algorithmen uns neue Bücher, Kleider oder sogar Wahlprogramme und schlagen uns das nächste Ferienziel vor. Auch bei Bewerbungen durchkämmen Programme Lebensläufe und Motivationsschreiben, analysieren Daten und suchen Muster, um den besten Kandidaten herauszufiltern. Ob nun das autonome Fahren oder der Wunsch nach einem Partnermatch angestrebt wird, aus allen Milieus quellt das Verlangen nach findigen Algorithmen hervor.

Wir setzen Algorithmen als selbstverständlich voraus, aber ohne sie – und ohne diejenigen, die ihnen Form verleihen – könnten wir nicht arbeiten: Suchmaschinen verlören ihren Sinn und Nutzen; Spam E-Mails würden nicht mehr als dergleichen eingeordnet und Ampeln liessen Autos ineinander verkeilen. Eins steht fest: wir befinden uns im Zeitalter der Algorithmen. Umso wichtiger ist es deshalb, dass wir die Situation wahrnehmen und uns der Bedeutung der Algorithmen und deren Handhabung bewusstwerden. Wir haben das Recht, zu wissen, was damit (über uns) berechnet wird. Angrenzend zu diesen Äusserungen diskutierten Prof. Verena V. Hafner, Prof. Michael Pauen, Prof. Martin Grötschel und Matthias Spielkamp am 23.02.2017 beim „65. Zeit Forum Wissenschaft“ den Stellenwert von Algorithmen und ihre potenziellen Auswirkungen – dabei stellt sich sowohl ein ermutigendes, als auch ein beunruhigendes Fazit heraus.

Was sind Algorithmen?

Dem populären Wissenschaftsbuch „Algorithmen – Eine Einführung“ nach ist ein Algorithmus eine „Rechenvorschrift, die eine Grösse oder eine Menge von Grössen als Eingabe verwendet und eine Grösse oder eine Menge von Grössen als Ausgabe erzeugt“. Die Herkunft des Wortes „Algorithmus“ liegt etliche Jahrhunderte zurück, genauer gesagt im Jahre 800 n. Chr. und findet seinen Ursprung beim arabischen Mathematiker und Universalgelehrten Abu Dscha’far Muhammad ibn Musa al-Chwarimi. Dieser verfasste ein Standardwerk mit einer Sammlung mathematischer Methoden. Er selber stammte aus Choresmien und wurde demzufolge „al-Charizmi“ genannt: der, der aus der Gegend südlich des Aral-Sees kommt. Dieser Spitzname wurde allerdings mit „Algorismi“ (Deutsch: Rhythmus) inadäquat ins Latein übersetzt, und hat daher mit Rhythmus nur wenig am Hut.

Unter Algorithmen verstehen wir nun eine Vorgehensweise oder einer Reihe von Rechenschritten, die Eingabedaten in Ausgabedaten umwandeln, welche fortwährend verflochtener auftreten. Wir können den Algorithmus auch als Hilfsmittel betrachten, das ein genau festgelegtes Rechenproblem zu lösen versucht. Dabei folgt er einem bestimmten (sich wiederholenden) Schema, das womöglich im lateinischen Begriff „Algorismi“ (Rhythmus) Nachhall gefunden hat und somit die abweichende Übersetzung erklärt. Was auch immer zur Missdeutung des Begriffes beigesteuert haben soll, das Wichtige ist: Algorithmen sind Handlungsanweisungen, die uns ermöglichen eine bestimmte Arbeit auszuführen. Um sich Algorithmen besser vorzustellen, vergleicht Professor und Mathematiker Martin Grötschel von der Berlin-Brandenburgischen Akademie der Wissenschaften sie mit dem Kochen:

Man nehme – und das sind die Daten – so viele Eier und Milch und dann macht man Pfannkuchen daraus. Anschliessend werden die Schritte beschrieben, wie man den Teig zusammenmischt und ihn ruhen lässt. Worauf einer hinweist, man könne noch etwas Butter hinzufügen, somit der Teig etwas weicher und geschmeidiger wird. Dann wird gebraten zu bestimmten Temperaturen.“ [Audioausschnitt 1.44 -2.05]

Wieso brauchen wir Algorithmen?

Wie hier die Kochvorgehensweise hinweist, sind Algorithmen schon seit Jahrhunderte Teil unseres Lebens. Aber nur durch die Einführung von elektronischen Geräten und deren exorbitanter Ansammlung gesellten sich Algorithmen im Laufe der Zeit an unsere Gewohnheiten bei und wurden ubiquitär. Heutzutage nehmen sie derart Einfluss, dass ihr Stellenwert stets an zentralerer Bedeutung gewinnt und sie in immer mehr Lebensbereiche vordrängen. Sie werden nicht nur in Computerwissenschaften eingesetzt, denn ihre rein mathematische Einheit findet in jeglichen Sphären ihren Nutzen (Soziale Netzwerke, Robotik, Wahlen, usw.). Unterdessen sind komplexe Algorithmen möglich, die endlose Berge von Daten verschlucken. Der alltägliche Zufluss steigt dementsprechend und wirkt immer wie mehr von aussen auf uns ein. Kein Wunder also, dass wir ihnen zunehmende Aufmerksamkeit schenken. Sie haben es sich auch regelrecht verdient, da sie uns die Arbeit durchgehend vereinfachen – zumindest in den Augen der Hersteller und Besitzer. Diese behaupten, dass wir Algorithmen brauchen, um weiterhin so zu funktionieren, wie wir es uns bislang gewöhnt sind – oder sogar noch besser. Ausserdem versprechen sie uns, dass Algorithmen auch in Zukunft unsere Lebensqualität absichern, ergänzen und uns die Arbeit vereinfachen.

Welche Auswirkungen haben Algorithmen?

Algorithmen mögen wohl Innovation mit sich bringen, deren Wirkungen sehen allerdings in der Realität nicht immer so erfreulich aus. Letzthin kam ein Autofahrer ums Leben, weil das autonome Fahrsystem eines LKV ihn fälschlicherweise als leeren Raum oder Himmel wahrgenommen hat. Dies verursachte einen immensen Aufschrei in der Öffentlichkeit: Algorithmen sollen makellos auftreten, denn Fauxpas sind in diesem Kontext reinweg nicht tolerierbar. Derartige Aussprüche sind laut Professor Spielkamp nicht statthaft, denn oftmals vergessen wir, wie äusserst positiv die Wirkungen der Algorithmen sind. Er argumentiert, dass Autos mit Fahrassistenz statistisch gesehen um etliches weniger Unfälle auslösen als jene ohne. Es ist ausschliesslich eine Frage der Abwägung zwischen verschiedenen Risiken, die für Einzelpersonen belastende Dilemma Situationen veranlassen: Wenn der Unfall nicht mehr zu verhindern ist, fahre ich in die Gruppe von Kindern, die von älteren Leuten oder selbst in den Baum? In jenem Beispiel könnte man den Algorithmus auf den Randomisierungs-Modus einstellen, welche genaue Risikoprognosen bietet und somit verhindert, dass wir in eine ethische Zwangslage geraten. Gerade deshalb – trotz unglücklichem Unfall – sollten wir unser Vertrauen in die Hände der Algorithmen legen, weil ihre Risikokalkulationen zuversichtlicher sind als jene der Menschen. Zu welchem Ausmass und ob ein solches Tun schlau ist, ist sehr wohl diskutierbar.

Obwohl Ereignisse dergleichen auftreten, bleiben es Sonderfälle. Algorithmen bewirken, generell gesprochen, mehr Aufbauendes als Zerstörendes. Dazu zählen: Robotermaschinen in Form einer Hand, die durch ein clever aufgebautes System arbeitsfähig werden; die Fahrassistenz, welche die Unfallrate bei Autos und Flugzeugen um etliches reduziert; Projekte wie „bob-emploi“, die uns zu Arbeitsplätzen verhelfen oder Bahnrouten, die analysiert werden, um optimale Fahr- und Arbeitspläne zu erzielen. Daraus schließt Professor Grötschel: „[Insgesamt] vereinfachen Algorithmen unsere Arbeit und verbessern unsere Sicherheit, auch wenn sich darunter einige Ausnahmen verbergen.

Haben Algorithmen Macht über uns?

Eine dieser Ausnahme, welche die Schattenseite der Algorithmen reflektiert und die Gründung einer AlgorithmWatch legitimiert, ist der Gebrauch von Risikoprognosen in den Gefängnissen der USA. Dort entscheiden Programme, wer auf Bewährung aus der Haftanstalt entlassen werden darf. Da sich aber diese Risikoprognosen auf falschen Aussagen beruhen, sind die Resultate verzerrt und stellen sich allenfalls diskriminierend heraus – in diesem Fall gegen die Afroamerikaner. Sobald Algorithmen Entscheidungen über Menschen treffen, desto verzwickter wird die Lage. Dabei stellen wir fest, wie Algorithmen zum Verhängnis werden können und in gewissen Situationen mehr Schaden anrichten, als dass sie Gutes tun. Dazu aber meint Martin Spielkamp:

dass das Meiste von dem, was Algorithmen zugeschrieben wird, gesellschaftliche Probleme sind, die ohne die Algorithmen es genauso geben würde – oder zumindest in vergleichbarer Weise. Viele Dinge werden verstärkt vom Einsatz von elektronischen Mitteln und Methoden, aber das ist nicht das zugrundeliegende Problem. […] Diese automatisierenden Entscheidungssysteme – wenn es dann welche sind – [sollten] besser in Augenschein [genommen werden] und [man sollte] vor allem darüber nachdenk[en], wo wir sie einsetzen wollen und sollten als Gesellschaft. Bei AlgorithmWatch sind wir der festen Überzeugung, dass es da ganz viele Bereiche gibt, bei denen es erstens ja sowieso schon passiert, aber zweitens auch gut ist, dass das passiert und man das sogar noch ausweiten kann. Es [gibt] aber auch Einsatzgebiete, bei denen man ganz genau hinschauen sollte und auch eine Debatte darüber führen muss, ob wir das in Kauf nehmen wollen oder nicht, und wenn nicht, was wir überhaupt tun können.“ [Audioausschnitt 3.45 – 4.40]

Demzufolge ist das Essenzielle, dass die Funktionsfähigkeit geprüft wird, damit der Algorithmus also das tut, wofür er eingesetzt worden ist, um jegliche Fehler zu vermeiden.

Die kühle Brillanz von Algorithmen hinterlässt tatsächlich Eindruck und erobert das Ansehen vieler Leute. Aber wie, unter anderem, das Beispiel der Gefängnisentlassungen aufzeigt, sind Algorithmen nicht ausnahmslos zuverlässig. Deshalb äussern sich nicht nur Befürworter in der Sache: Skeptische Wissenschaftler werfen engagiert einen Blick hinter die Kulissen. Sie reisst es nicht vom Hocker. Lieber steigen sie auf den Stuhl, um sich mit Kritik zu Wort melden und die zugrundliegende Machtausübung aufzuweisen. Darunter befindet sich auch Nicholas Diakopoulos von der University of Maryland, der befürchtet, dass Algorithmen heute weitgehend unreguliert sind und Macht über die Menschen ausüben (siehe Artikel von „Die Zeit“ http://www.zeit.de/2016/16/computer-algorithmen-macht-buerger-stadt). Professor Pauen denkt einen Schritt weiter:

Die Frage nach der Macht der Algorithmen führt ein bisschen in den Abweg. Ich glaube die eigentliche Macht wird nicht von den Algorithmen ausgeübt, und gut und schlecht sind auch nicht die Algorithmen, sondern die Leute die dahinterstehen. Die Leute, die mit Hilfe der Algorithmen ihre Macht zu äussern versuchen,  ihre ökonomische, politische Macht oder ihre politische oder ökonomische Agenda betreiben.“ [Ausschnitt 6.59 – 7.23]

Demnach hat der Algorithmus an sich keine Macht und ist weder böse noch gut, noch ist er neutral. Wir dürfen auch nicht vergessen, dass Algorithmen niemals ausserhalb der Gesellschaft entwickelt und eingesetzt werden. Sie sind lediglich das Resultat eines Prozesses, welcher von Menschen und deren Begehren initiiert und gesteuert wird. Computercodes sind daher nicht wertneutral, denn letztendlich entscheiden Menschen, welche Algorithmen erstrebenswert sind, wofür sie eingesetzt werden und auch wer von ihnen profitieren soll. Es ist also deren Verwendung, die hier die eigentliche Problematik ist, zudem Hersteller und Eigentümer, die Algorithmen zu eigenen Zwecken nutzen. Somit haben selbst Algorithmen Vorurteile, weil subjektive Menschen sie programmieren.

Benötigen wir ein wachsameres Auge auf Algorithmen?

Statt kühle Brillanz müssen wir feststellen, dass wir von gewürdigten Non-Bias-Algorithmen noch weit entfernt sind. Ob es diese jemals geben wird ist eine Frage, für die Manche Millionen ausgeben würden, und ihr Andere artig ausweichen, um Algorithmen lieber zu Ihren Gunsten nutzen zu können. Eine Tatsache wird dabei immer deutlicher: der Überblick entgleit uns langsam aus den Händen. Wir merken weder wo Algorithmen überall wirksam werden, noch nach welchen Regeln sie es werden. Algorithmen sind einerseits ungemein hilfreich und andererseits genauso unheimlich. Deshalb ergreift uns die Angst, vor allem wenn wir unbekannten Technologien in die Augen schauen. Je mehr wir aber über sie wissen, desto geringer wird die Angst ihnen gegenüber. Dabei fällt uns auf, dass das wirkliche Problem nicht die Algorithmen selber sind, sondern wie sie eingesetzt werden. Eine reale Bedrohung stellen sie demnach nicht dar, es ist rein eine Frage ihrer Verwendung und dessen möglichen Missbrauch. Daher auch die Gründung von AlgorithmWatch welchen es wichtig ist, sich einem nicht-kommerzielles Ziel zu fügen: „Prozesse algorithmischer Entscheidungsfindung zu betrachten und einzuordnen, die eine gesellschaftliche Relevanz haben – die also entweder menschliche Entscheidungen vorhersagen oder vorbestimmen, oder Entscheidungen automatisiert treffen“ (https://algorithmwatch.org/mission-statement/). Von gerechter Objektivität kann sonach nicht die Rede sein – ob diese beiden Wörter überhaupt kompatibel sind oder utopisch klingen, veranlasst uns zu der Meinung, zähere Regulierungen zu erfordern. Es drehe sich nicht nur um die der Algorithmen, auch ihre Erschaffer und Eigentümer sollen ins Visier genommen werden. Nur somit entwischen wir einem Kontrollverlust und setzen Algorithmen in jenen Bereichen ein, die für die Gesamtheit der Bevölkerung von Vorteil sind.

Link zur vollständigen Konferenz

Für all diejenige, welche von Neugier gepackt wurden und die vollständige Konferenz anhören wollen, können am 31. März um 19:15 Uhr auf UKW (Deutschlandfunk) einschalten. Die sehr Ungeduldigen können ab heute schon unter folgendem Link die Debatte online anhören: https://soundcloud.com/dlf-wissenschaft/die-macht-der-algorithmen-65-zeitforum-wissenschaft

Ihre Meinung ist gefragt

Nun möchten auch wir Ihre Meinung wissen. Was denken Sie, wie prägen Algorithmen Ihr Alltagsleben? Erinnern Sie sich an eine Situation, in welcher Algorithmen Mitspracherecht hatten? Wie glauben Sie, können wir vermeiden, dass die Algorithmen in falsche Hände gelangen? Ist dies überhaupt noch kontrollierbar? Sollte die AlgorithmWatch zu einem Hersteller-Inhaber-AlgorithmWatch befördert werden, welche sowohl die Erschaffer, Eigentümer als auch die Käufer beinträgt und überprüft?

Teilen Sie uns ihre Ansichten im untenstehenden Kommentarfeld mit. Ihre Meinungen interessieren uns!