[IT 칼럼]애플 아동 성착취 예방 기술은 ‘양날의 검’

디지털 시대가 가져온 최악의 범죄 중 하나로 ‘아동 성착취 거래’를 꼽는 데 주저할 사람은 없을 것이다. 10대 아동에게 은밀하게 접근해 성착취물을 요구하거나 이를 온라인에서 거래하는 행위는 n번방 판결에서 확인했듯, 국내에서도 ‘반인륜적 범죄’로 간주된다.

로이터 연합뉴스

8월 초 발표된 애플의 ‘아동 성착취물 확산 제한 대책’은 취지만 본다면 의심의 여지 없이 환영받을 만하다. 협업에 인색했던 ‘예전’의 애플과 달리 미국 국립실종학대아동방지센터(NCMEC)의 조력을 받은 점도 진일보했다. 애플은 아동 성착취물의 교환, 확산, 거래를 방지하기 위해 페이스북 등 기존 기술기업과는 다른 접근방식을 취했다. 기술기업의 통제권이 허용되는 클라우드 서버에서 위해물을 검출하는 방식 대신 개인 기기, 즉 아이폰에서 성착취물을 판별하는 기술을 도입한 것이다. 쉽게 설명하면, 아동 성착취물이 아이폰의 아이메시지를 통해 등장하게 되면, 아이폰 내에 삽입된 판별 알고리즘이 위해성 여부를 가린다. 만약 성착취물에 해당하면 결과와 함께 바우처 형태로 클라우드 서버에 업로드되고 애플이 추가 조치를 하는 과정을 거치게 된다. 물론 그 전까지 애플은 해당 이미지를 들여다볼 수 없다.

이 기술은 메신저 서비스의 ‘종단 간 암호화’를 유지한 상태에서 아동 성착취물 검출을 가능케 했기에 혁신적이라는 평가도 받는다. 종단 간 암호화가 해제된 클라우드 서버에서 위해물을 탐지해내는 기존의 기술과는 달라서다. 암호화에 집착증을 보여온 애플의 ‘애플스러움’이 묻어나는 대목이다.

그러나 이 혁신성엔 맹점이 존재한다. 주고받은 메시지를 제3자가 보지 못하도록 암호화는 유지한 채 내용물을 스캔할 수 있기 때문이다. 물론 애플의 감시체계가 작동하는 클라우드와 연결되지 않는 한 ‘검열의 눈’은 기기 안에만 머무를 수 있다. 사용자의 제어권은 유지되는 셈이다. 하지만 인공지능 ‘시리’를 통해 끊임없이 설득하고 경고할 경우 사용자들의 선택권은 금방 무력화된다.

무엇보다 아동 성착취물을 넘어 다른 콘텐츠 영역에도 이 기술이 적용된다면 감시와 검열의 문이 본격적으로 열릴 우려가 있다. 예를 들어, 각국 정부가 자체 검열법에 따라 아이메시지로 교환된 메시지의 모니터링 결과 데이터를 요구할 경우 이 기술은 언제든 남용의 대상이 된다. 특히 2018년 아이클라우드 중국 계정의 운영권을 중국 국영회사에 통째로 넘긴 사례를 떠올린다면, 불가능한 가정은 아닐 것이다.

‘범죄와 보안의 딜레마’는 어느 기술기업이나 당면하는 난제 중 하나다. 옳고 그름을 가늠할 명확한 기준도 존재하지 않는다. 각국 법을 존중하면서 검열과 감시의 위협을 최소화할 수 있는 최적의 정답은 어쩌면 없을지도 모른다. 상업적 이득과 기업 윤리의 트레이드오프만 있을 뿐, 궁극의 선의를 기술기업에 기대하는 건 순진한 발상이다.

IT 칼럼 구독

사용자의 기술 선택은, 그래서 사용자 제어권의 보장 정도에 근거하는 것이 좋다. 기술 리터러시의 출발점도 여기여야 한다. 일상이 감시인 시대를 살아가야 하는 우리의 숙명이자 지혜다.

<이성규 미디어스피어 대표>