Leseempfehlung: [Inside Amsterdam’s high-stakes experiment to create fair welfare AI](https://www.technologyreview.com/2025/06/11/1118233/amsterdam-fair-welfare-ai-discriminatory-algorithms-failure)
es geht um den langjährigen Versuch der Stadt Amsterdam, mithilfe von KI-Modellen den Prozess zur Identifizierung von “Sozialstaatsbetrüger\*innen” zu verbessern und ihn fairer und effizienter zu machen.
Spoiler: trotz aller Ethical AI Werkzeuge hat es nicht geklappt und der Pilot wurde (gott sei dank) eingestellt.
Was mich frustriert an dieser Geschichte: jetzt wurde mehrere Jahre Energie, Geld und Brain Power in einen technischen Ansatz gesteckt, der nicht funktioniert. Und jetzt ist die Lösung “wir kehren zum alten nicht-technischen/menschlichen Prozess zurück”. Aber der war/ist ja auch diskriminierend! Aber für die Verbesserung dieses Prozesses (z.B. Sensibilisierung der Mitarbeitenden) gibt es anscheinend keinen innovativen Plan.. :frowning:
Kennt ihr Beispiele für soziale Innovation, bei der Technologie keine oder keine große Rolle gespielt hat?