AIの「偏り」が生む危うさ　個人情報管理の先にある課題

英国ダラムで導入された、逮捕者の再犯リスクをAIが判定する警察システムをめぐり、その仕組みと課題が改めて注目されている。記事では、2017年から運用されてきた「HART」を例に、AIが警察の判断を補助する一方で、データの偏りや運用体制の弱さが問題になっている実態を伝えている。 HARTは、過去の犯罪歴や年齢、性別、居住地域などの情報を基に、今後2年間のリスクを「高・中・低」で示す仕組みだ。留置するか釈放するかの判断材料として使われてきたが、居住地域のデータを使うことで貧しい地域の人が不利に見積もられるのではないかという批判が出た。 また、システムの設計に特定の研究者の知識が強く依存していたことや、社会の変化に合わせて更新する人材が警察内部にいなかったことも課題として浮かび上がった。記事は、警察がAIを使う際には、精度だけでなく、データの偏りや管理体制まで含めて慎重に考える必要があると示している。