Bug oder Feature? – Wenn KI die Behandlung verweigert

Entwickelt wurde das KI-Tool von NaviHealth, einem Teil der UnitedHealth Group, welches Patientendaten analysiert, um personalisiert Pflegebedarf und -dauer vorherzusagen. Laut Klage weist die KI jedoch eine Fehlerquote von 90 Prozent auf, besonders bei älteren und behinderten Patienten. Ihr wird zusätzlich vorgeworfen, ärztliche Entscheidungen zu ignorieren und rechtswidrig Medicare Advantage-Leistungen zu verweigern.

Werden bewusst die Schwächsten getäuscht?

Laut der Klage nutzte UnitedHealthcare dabei bewusst ein fehlerhaftes KI-Modell, um systematisch Ansprüche abzulehnen. So sei das Unternehmen davon ausgegangen, dass nur 0,2 Prozent der Versicherten gegen solche Entscheidungen Einspruch erheben. Die Mehrheit der Patienten zahle demnach entweder selbst oder verzichte auf notwendige Versorgung.

In der Klage wird UHC darüber hinaus vorgeworfen, gezielt die Schwächen von Patienten auszunutzen, etwa