Zur Ausgabe
Artikel 19 / 25
Vorheriger Artikel
Nächster Artikel

Gesellschaft Wenn der Algorithmus diskriminiert

Auch auf Onlineplattformen werden Menschen je nach Geschlecht und Herkunft unterschiedlich behandelt. So können Anbieter für mehr Fairness sorgen.
aus Harvard Business manager 6/2017
Foto: Stephen Chan

Ende der 80er Jahre wollten die amerikanischen Rechtsprofessoren Ian Ayres und Peter Siegelman herausfinden, ob Schwarze und Frauen beim Kauf eines neuen Autos dieselben Konditionen erhielten wie weiße Männer. Sie ließen 38 Versuchspersonen – weiß und schwarz, männlich und weiblich – nach einem vorgegebenen Verhandlungsmuster ein Auto kaufen. Das Ergebnis war beunruhigend: Bei allen 153 untersuchten Händlern zahlten Schwarze und Frauen für das gleiche Auto durchweg mehr als weiße Männer, wobei schwarze Frauen am meisten zahlten – im Schnitt fast 900 Dollar mehr als weiße Männer. Auch wenn diese Ergebnisse kaum jemanden wirklich überraschten – schon gar nicht Schwarze oder Frauen –, so waren sie doch ein eindrücklicher Beleg dafür, wie stark die Märkte tatsächlich Diskriminierung ausübten.

Machen wir einen Zeitsprung über ein Dutzend Jahre in die Anfangszeit des Internethandels, als Entrepreneure mit dem webbasierten Verkauf jeder erdenklichen Ware experimentierten, darunter natürlich auch Autos. Die Ökonomen Fiona Scott Morton, Florian Zettelmeyer und Jorge Silva-Risso analysierten die neue Art des Fahrzeugverkaufs und kamen zu dem Schluss, dass der Internethandel eine Rassen- und Geschlechterdiskriminierung – wie auch diese Wissenschaftler sie im stationären Autohandel beobachtet hatten – ausschloss.

Tatsächlich bot die erste Generation von Onlinemarktplätzen wie EBay, Amazon oder Priceline den Verkäufern kaum Möglichkeiten, einzelne Käufergruppen zu benachteiligen. Alle Geschäfte wurden relativ anonym durchgeführt. Ohne irgendwelche Informationen über sich offenzulegen, konnten Nutzer einen Kaufpreis aushandeln. Mit wem er es zu tun hatte, erfuhr der Verkäufer erst, nachdem er eingeschlagen hatte. In einem später berühmt gewordenen Cartoon im "New Yorker" aus dem Jahr 1993 erklärte ein Hund einem Artgenossen vor dem Computer: "Im Internet weiß niemand, dass du ein Hund bist."

Kompakt

DAS PROBLEM

In der Anfangszeit des E-Commerce galt das Internet als freier Marktplatz mit gleichen Chancen für alle: Angesichts der Anonymität gab es kaum Gelegenheiten zur Diskriminierung. Doch in Zeiten, in denen sich Anbieter bei Uber oder Airbnb mit Namen und Foto vorstellen müssen, spielen Hautfarbe und Geschlecht plötzlich wieder eine große Rolle.

DIE LÖSUNG

Plattformdesigner müssen sich bereits beim ersten Entwurf vor Augen führen, dass Diskriminierung im Web das Ergebnis ihrer - bewussten oder unbewussten – Entscheidungen ist. Vier klare Richtlinien helfen Ungerechtigkeiten von vornherein auszuschließen.

Heute allerdings wissen die Betreiber der Plattformen – und neuerdings auch ihre Nutzer – ganz genau, ob jemand schwarz oder weiß, Mann oder Frau, Mensch oder Vierbeiner ist. Und somit erweist sich das Internet als Ort der Diskriminierung und nicht mehr als deren Gegenpol: Seitdem ihre Identitäten offenliegen, haben viele benachteiligte Gruppen wieder mit den Problemen zu kämpfen, die sie schon lange aus der Offlinewelt kennen – oft noch verstärkt durch fehlende Regulierung, die sofortige Erkennbarkeit von Hautfarbe und Geschlecht auf Fotos sowie die Tatsache, dass die Diskriminierer ihren Opfern nie persönlich gegenübertreten müssen. Was ist geschehen? Und was können wir dagegen tun?

Der Weg zur digitalen Diskriminierung

Weiterlesen mit Harvard Business manager+

Das Wissen der Besten – zu den wichtigen Fragen rund um Führung, Strategie und Management.

Wir liefern Ihnen Knowhow aus den renommiertesten Hochschulen der Welt, anschaulich und umsetzbar für Ihren Alltag als Führungskraft.

Ihre Vorteile mit Harvard Business manager+

  • Der Harvard Business manager

    Wissen, Werkzeuge und Ideen für nachhaltigen Erfolg – als E-Paper

  • Zugang zu den besten Texten der vergangenen Jahre

    Inspiration, Leadership-Skills und Praxistipps für erfolgreiche Führungskräfte

  • Einen Monat kostenlos testen

    jederzeit online kündbar

Ein Monat für 0,00 €
Jetzt für 0,00 € ausprobieren

Sie haben bereits ein Digital-Abonnement? Hier anmelden

Weiterlesen mit manager+

Immer einen Einblick voraus

Ihre Vorteile mit manager+

  • manager magazin+

    in der App

  • Harvard Business manager+

    in der App

  • Das manager magazin und den Harvard Business manager lesen

    als E-Paper in der App

  • Alle Artikel in der manager-App

    für nur € 24,99 pro Monat

Sie haben bereits ein Digital-Abonnement?

manager+ wird über Ihren iTunes-Account abgewickelt und mit Kaufbestätigung bezahlt. 24 Stunden vor Ablauf verlängert sich das Abo automatisch um einen Monat zum Preis von zurzeit 24,99€. In den Einstellungen Ihres iTunes-Accounts können Sie das Abo jederzeit kündigen. Um manager+ außerhalb dieser App zu nutzen, müssen Sie das Abo direkt nach dem Kauf mit einem manager-ID-Konto verknüpfen. Mit dem Kauf akzeptieren Sie unsere Allgemeinen Geschäftsbedingungen und Datenschutzerklärung .

Zur Ausgabe
Artikel 19 / 25
Vorheriger Artikel
Nächster Artikel