“Das hat mir der Instagram-/TikTok/-LinkedIn-/Facebook-Algorithmus vorgeschlagen.” Sicher hast du solche oder ähnliche Aussagen schon einmal irgendwann gehört oder sogar selbst ausgesprochen. Dass die sozialen Netzwerke, die wir beinahe täglich nutzen, bestimmte Kriterien nutzen, um uns neue Inhalte vorzuschlagen, dürfte jedem bekannt sein. Mit den Mechanismen, die dahinter stecken, sieht es sicher anders aus.
Was ist überhaupt ein Algorithmus?
Verkürzt gesagt ist ein Algorithmus eine endliche Abfolge wohldefinierter Handlungsschritte, um ein bestimmtes Problem zu lösen. Dabei muss es sich nicht zwangsläufig um eine Rechenvorschrift handeln, allerdings meint der alltägliche Sprachgebrauch meist die Verwendung von Algorithmen in Computerprogrammen. Die Komplexität des Problems, das durch den Algorithmus gelöst werden soll, kann dabei sehr unterschiedlich sein – eine Methode, die zwei Zahlen addiert ist streng genommen auch ein Algorithmus, ebenso wie die Funktion auf Instagram, die den Plattform-Nutzer:innen auf Basis dutzender Kriterien neue Inhalte und Bekanntschaften vorschlägt.
Moderne Algorithmen und Machine Learning
Diese Eigenschaften von Algorithmen führen dazu, dass sie mittlerweile fast überall zum Einsatz kommen – dabei werden die Probleme, die sie lösen, immer komplexer. Während die klassischen Algorithmen, mit denen sich alle Informatik-Studierenden früher oder später beschäftigen müssen, häufig von einzelnen (theoretischen) Informatiker:innen oder Mathematiker:innen entworfen wurden, arbeiten heute oft ganze Teams an der Entwicklung. Auch programmieren die beteiligten Entwickler:innen den Algorithmus meist nicht selbst, sondern wenden sogenanntes Machine Learning an, eine Unterart von Algorithmen, die auf Basis von sehr großen Datensets Muster in bisherigen Zusammenhängen finden können und damit in der Lage sind, zukünftige Ergebnisse vorherzusagen.
So kommt es, dass Algorithmen mittlerweile nicht nur Zahlenreihen sortieren, den kürzesten Weg in einem Graphen finden oder Eingaben verarbeiten, sondern Fahrzeuge steuern, menschliche Sprache verstehen, Aktienmärkte analysieren und Versicherungskonditionen errechnen.
Mit großer Macht kommt große Verantwortung
Moderne, mit Hilfe von Machine Learning entwickelte Algorithmen sollen unser Leben sicherer und einfacher machen. Selbstfahrende Autos sollen weniger Unfälle verursachen, Sprachassistenten auf Zuruf Musik abspielen und unser Kühlschrank soll automatisch unsere Lebensmittel bestellen, wenn diese beinahe aufgebraucht sind. Aber nicht nur in unserem direkten Alltag finden wir algorithmische Unterstützung – Algorithmen berechnen die Kreditwürdigkeit von Bankkunden, die Wahrscheinlichkeit einer Erkrankung bestimmter Organe bei einem MRT-Scan oder im Rahmen von Predictive Policing sogar die kriminelle Rückfallwahrscheinlichkeit nach einer Gefängnisstrafe.
Bei so großen Auswirkungen auf unser Leben zeigt sich schnell, dass das Schadenpotenzial von Algorithmen durchaus hoch ist. Gerade im Kontext von Machine Learning werden Millionen von Datensätzen benötigt, die oft nicht mit dem expliziten Wissen der Nutzer gesammelt werden. Auch sind die Algorithmen an manchen Stellen bei Weitem nicht so gut wie ihr menschliches Äquivalent – gerade Bilderkennungsalgorithmen fallen oft durch bizarre Fehlklassifizierungen auf. Die heutigen Algorithmen werden aber immer genauer. Auch Gesichtserkennungsalgorithmen können nicht nur für finstere Zwecke missbraucht werden, sondern sind manchmal auch latent rassistisch. So gab es bereits mehrere Vorfälle, in denen die Gesichtserkennung von Google Photos oder dem iPhone X People of Color nicht erkannte oder nicht als Menschen klassifizierte.
Ein lustiges Beispiel für bizarre Fehlklassifizierungen
Chihuahua oder Muffin?
Hund oder Wischmop?
Auswirkungen von Algorithmen im Alltag
Viele solcher Fehlentscheidungen können massive Auswirkungen auf das Leben des Einzelnen, aber auch unsere Gesellschaft als Ganzes haben. Wird eine Person aufgrund von ihr unbekannten Kriterien für einen Kredit abgelehnt, so kann diese sich vielleicht keine eigene Wohnung oder ein eigenes Auto leisten, was sich langfristig auf den Wohlstand auswirkt. Wird eine früher straffällig gewordene Person zu Unrecht häufig verdächtigt, weitere Straftaten begangen zu haben, so wirkt sich das negativ auf ihr Leben aus, sei es durch mehr Stress oder einem Nachteil bei Wohnungs- und Arbeitssuche.
Beispiel: KI schickt Menschen fälschlich ins Gefängnis
Klassifizierungssysteme sollten daher in sensiblen Bereichen als Entscheidungshilfe genutzt werden, niemals aber selbstständig und ohne menschliche Intervention Entscheidungen treffen, die wohlmöglich andere diskriminieren.
Tipps für Algorithmen im Alltrag
Algorithmen, die den für uns zugänglichen Content auf sozialen Netzwerken oder bei einer Suchmaschine filtern, können verhindern, dass wir uns umfassend zu einem Thema informieren oder mit Menschen außerhalb unserer eigenen Echokammer in Kontakt kommen. So bilden sich auf Dauer starke Meinungen, die nicht immer auf Fakten basieren und zu Spaltungen in Familie und Freundeskreis führen können.
Aus diesen Gründen sollte man insbesondere sein eigenes Verhalten online öfter hinterfragen und Quellen doppelt prüfen. Ebenso können Suchmaschinen wie Ecosia und DuckDuckGo helfen, die Suchergebnisse möglichst objektiv zu halten, da dort keine Profile auf Basis der Suchhistorie erstellt werden.
Du möchtest selbst Algorithmen gestalten und die digitale Zukunft nicht den anderen überlassen? Dann schau doch mal in unsere Artikel zum Informatikstudium oder zu Zukunftsberufen.