[IT 칼럼]범죄 예측 알고리즘은 공정할까

미국의 사례에도 드러났듯, 알고리즘에 의존한 구금기간 결정은 저소득층 및 소수자들에게 불리한 결과를 가져다줄 확률이 높다.

미국 사법부가 알고리즘을 판결 등에 도입하게 된 배경은 실은 돈 때문이었다. 범죄자는 늘어나고, 구금시설은 부족하고, 이 고민을 해결할 방법을 찾아야 하는 압력에 시달렸다. 2016년 말 기준으로 220만명이 넘는 교도소 수감자와 450만명에 육박하는 교화시설 수용자를 더 이상 방치할 수 없었기 때문이다. 그대로 놔두면 교정시설의 과포화는 물론이고 폭증하는 수감자 유지 예산을 감당하기가 쉽지 않았다. 범죄율이 증가하지 않는 조건에서 수감 인원을 줄일 수 있는 해법으로 알고리즘이 동원된 것이다.

영화 <마이너리티 리포트>에 나온 범죄 예측 시스템처럼 컴퓨터가 스스로 학습하는 머신 러닝 기술이 개발되고 있다.

사법부가 활용하는 알고리즘은 애초에 보호관찰관들을 돕기 위해 고안됐다. 범죄자를 유형화해 교화 프로그램의 적합 여부를 가리기 위한 목적이었다. 재범 확률이 낮으면 수감 대신 교화 프로그램으로 대체함으로써 재활 가능성을 높이겠다는 의도였다. 하지만 지금은 광범위하게 용도가 확장되고 있다. 구금 기간 결정에도 영향을 미칠 정도다.

판사들도 긍정적이다. 업무량이 줄어들 뿐 아니라 외부의 시시비비에서도 비교적 자유로워졌다. 교정시설의 과포화를 방지할 수 있어 예산도 아낄 수 있었다. 일부 주 대법원은 알고리즘의 형량 제안을 근거로 중형을 선고한 판결에 “타당하다”며 힘을 실어주기까지 했다. 알고리즘은 판결에 지대한 영향을 미치는 숨은 권력으로 이미 작동하기 시작했다.

이 알고리즘은 치명적인 약점을 갖고 있다. 검증 불가능성이다. 미국 법원들이 두루 활용하고 있는 노스포인테(Northpointe)의 알고리즘 ‘콤파스’는 영업 비밀이라는 이유로 알고리즘의 적합성을 평가하기가 어렵다. 구속기간과 양형 평가를 내린 이유를 판사들조차도 확인할 수 없다. 민간기업인 노스포인테가 모든 수익을 포기하고 알고리즘의 설계도를 공개할 리도 만무하다.

일반적으로 콤파스와 같은 기계학습 알고리즘은 상관관계를 기반으로 예측치를 반환한다. 통계적 상관관계를 인과관계로 오인하는 결정을 법원이 내릴 수 있다는 의미다. 실제로 콤파스라는 알고리즘은 미국에서 백인보다 흑인에게 더 가혹한 구금기간 결정을 내리는 경향성을 갖는다고 지적받기도 했다. ‘흑인의 삶을 위한 데이터’라는 미국 시민단체는 이를 근거로 “흑인에 대한 불평등을 강화하고 불합리를 영속시킨다”고 비판하기도 했다.

국내에서도 교정시설 과포화 문제는 어제오늘의 일이 아니다. 2017년에 수용정원이 119.8%로 이미 기준점을 넘어선 상황이다. 교정시설 신축도 주민들의 반발이 심해 쉽지 않다. 위헌 요소도 다분하다. 수용인원을 줄이면서도 범죄율을 억제하는 묘안을 찾아야 하는 절박한 상황에 이미 직면해 있다. 여기에 더해 사법농단으로 사법부 신뢰는 바닥으로 추락하고 있다. 형사재판에 기계학습 알고리즘이 도입될 최적의 조건을 갖춘 셈이다.

IT 칼럼 구독

미국의 사례에서도 드러났듯, 알고리즘에 의존한 구금기간 결정은 저소득층 및 소수자들에게 불리한 결과를 가져다줄 확률이 높다. 더 높은 재범 확률을 제시함으로써 억울한 판결을 내놓을 수도 있다. 사법농단에 뿔난 민심이 검증 없는 알고리즘 도입을 재촉하는 건 아닐까 염려되는 이유다. 기술은 공정함의 만병통치약이 아님을 다시금 유념해야 한다.

<이성규 메디아티 미디어테크랩장>