Nora Feld

Schlagwort: Diskriminierung

  • Predictive Policing – wenn der Algorithmus weiß, wer schuldig wird

    ,

    In den USA entscheiden Algorithmen mit, wer auf Bewährung kommt. Das COMPAS-System bewertet das Rückfallrisiko von Angeklagten – und stuft Schwarze systematisch als gefährlicher ein als Weiße. Die Fehlerquote bei Gesichtserkennung: 0,8 Prozent bei hellhäutigen Männern, 34,7 Prozent bei dunkelhäutigen Frauen. Mindestens acht dokumentierte Fehlverhaftungen allein durch Gesichtserkennung. Das US-Justizministerium hat Ende 2024 einen umfassenden…

  • Denied by AI – wenn der Algorithmus entscheidet, wer behandelt wird

    UnitedHealth Group, der größte Krankenversicherer der USA, setzte einen Algorithmus namens „nH Predict“ ein, um zu entscheiden, wie lange Patienten nach Operationen oder Schüben in Rehabilitationseinrichtungen bleiben durften. Das System überstimmte die Empfehlungen der behandelnden Ärzte – und kürzte systematisch die Versorgung schwer kranker Medicare-Patienten. Die investigative Serie „Denied by AI“ von STAT News deckte…

  • Robodebt und Toeslagenaffaire – wenn Algorithmen Menschen zerstören

    ,

    In Australien hat ein Algorithmus 381.000 Menschen fälschlicherweise erklärt, sie schuldeten dem Staat Geld. Das System „Robodebt“ verrechnete Einkommen über Monate hinweg – und ignorierte, dass Gelegenheitsarbeiter nicht jeden Monat gleich viel verdienen. 746 Millionen Dollar wurden zu Unrecht eingetrieben. Mütter berichteten der Königlichen Untersuchungskommission, dass ihre Söhne nach Erhalt falscher Schuldbescheide Suizid begingen. Die…