AI의 "편향"이 낳는 위험성　개인정보 관리의 그 너머에 있는 과제

영국 더럼에서 도입된, 체포자의 재범 위험을 AI가 판정하는 경찰 시스템을 둘러싸고, 그 구조와 과제가 다시 주목받고 있다. 기사에서는 2017년부터 운용돼 온 「HART」를 예로 들어, AI가 경찰의 판단을 보조하는 한편으로 데이터의 편향과 운영 체제의 취약함이 문제가 되고 있는 실태를 전하고 있다. HART는 과거 범죄 이력과 연령, 성별, 거주 지역 등의 정보를 바탕으로 향후 2년간의 위험을 「높음·중간·낮음」으로 보여주는 구조다. 구금할지 석방할지의 판단 재료로 사용돼 왔지만, 거주 지역 데이터를 사용함으로써 가난한 지역 사람이 불리하게 추정되는 것은 아닌가라는 비판이 나왔다. 또한 시스템 설계가 특정 연구자의 지식에 강하게 의존하고 있었던 점이나, 사회의 변화에 맞춰 업데이트할 인력이 경찰 내부에 없었던 점도 과제로 떠올랐다. 기사는 경찰이 AI를 사용할 때에는 정확도뿐만 아니라 데이터의 편향과 관리 체제까지 포함해 신중하게 생각할 필요가 있다고 보여준다.