オランダで導入されたAIによる福祉手当不正受給検出システム、人権侵害と判断される

hylom 曰く、

オランダでは、福祉手当を不正に受給している疑いのある人を見つけ出すために人工知能（AI）を使ったシステムが導入されているそうだ。しかし、これに対し欧州人権条約に違反しているとして、人権団体などが提訴していた裁判で、裁判所は条約違反を認め、システムの使用停止を命じた（Yahoo!ニュース）、

このAIは雇用歴や逮捕歴、納税状況などさまざまなデータを使って不正受給の危険度を算定するというもので、4自治体で使用されたという。このスコアを元に人間の担当者が調査を行うというものだが、このシステムの対象とされた地域が低所得者や移民が多く住む地域だったことなどから批判が出ていたという。

裁判所はこのシステムについて不透明だと判断、さらにEUの一般データ保護規則（GDPR）やEU基本権憲章などで定められたプライバシ保護の基本原則に合致していないとしてシステムの使用差し止めを命じた。