[IT 칼럼]소프트웨어가 우리들을 평가한다?

내년 미국 대통령 선거 후보로 나온 하버드 법대 교수 로렌스 레식은 1999년에 쓴 명저 <코드와 사이버공간의 다른 법률>에서 ‘코드가 법’이라는 명언을 남겼다. 그가 주목한 것은 컴퓨터 코드라고 부르는 소프트웨어 작성 내용이 갖는 정치적 의미이며, 결국 사이버 공간의 특성이나 규제를 만들어내는 것은 코드에 달려 있다는 점을 강조했다.

코드라고 부르는 소프트웨어는 가치를 만들어내고, 규제를 정하고, 개인의 권익 범위를 정한다는 것이다. 최근에 우리 사회에서 논란을 일으키는 포털의 뉴스 편집이나 노출 방식 역시 소프트웨어 엔지니어가 작성한 코드에 따른 것일 뿐이다. 소프트웨어를 모르는 사람들은 그런 기술이 어떤 경영진의 의도라고 오해하지만, 그건 단지 프로그램을 작성한 사람들이 가진 판단에 따를 뿐이다.

넷스케이프의 창업자인 마크 안드레센이 2011년에 ‘왜 소프트웨어가 세상을 먹어치우고 있는가’라는 글을 월스트리트 저널에 기고한 뒤에 많은 기업인이나 정책 입안자들이 현대 사회에 소프트웨어가 갖는 의미를 조금씩 이해하기 시작했다. 이런 소프트웨어가 이제 우리 사회의 규범이나 윤리 기준을 만들고 있는지 생각해 봐야 한다. 다시 말해 코드가 도덕률이 되는 사회로 진입하고 있는지 돌아봐야 할 것이다.

최근에 나를 포함해 여러 사람들이 로봇이나 인공지능 소프트웨어의 윤리적 판단이 가져올 사회적 영향과 문제를 제기하고 있다. 이는 로봇의 안전성만을 얘기하는 것이 아니라 정상적인 자율적 의사결정이 때로는 예기치 못한 왜곡과 문제를 일으킬 수 있기 때문이다.

그러나 그 전에 이미 많은 소프트웨어가 인간생활과 관련된 의사결정을 하고 있기 때문에, 우리는 알게 모르게 몇 명의 소프트웨어 엔지니어가 작성한 프로그램에 의해 판단을 강요당하거나 당연한 것으로 받아들이기도 한다. 요즘 유행하는 핀테크를 생각해보자. 금융 기록이 없거나 명확한 신용을 평가할 수 없어도 돈을 빌릴 수 있다고 한다. 그러나 만일 외국노동자 이름이거나, 소셜네트워크에 술 마시고 신세 한탄한 글이 있었거나, 친구가 빌린 돈 달라는 장난 메시지를 보냈으면, 그는 사실과 상관없이 대출이 거부되거나 높은 이자율이 제시될 것이다.

온라인과 오프라인이 통합되는 이 시대, 매장에 나타난 사람의 모습을 카메라를 통해 분석한 결과 누구인지 확인되고, 그의 신용상태가 불안하거나, 온라인 상점에서 자꾸 물품에 대해 비판이나 불평을 한 사람이라면 매장에서는 은근히 구매를 포기하도록 유도할 것이다.

우리가 빅 데이터를 얘기하면서 기업의 효율과 생산성을 언급하지만, 반대로 우리 개인은 데이터로 평가받고 알고리듬과 코드로 차별받을 수 있다. 슈퍼마켓 점원이나 핀테크 회사가 인종이나 연령, 성별, 출신지역 등을 갖고 차별할 생각이 없었더라도 우리가 사용하는 소프트웨어에는 그런 차별이 내포돼 있을 수 있다. 물론 작성자는 전혀 의도하지 않았다고 생각할 수 있다.

이 문제를 알고리듬의 윤리, 코드의 윤리, 소프트웨어의 윤리라는 주제로 여러 학자와 지식인이 다루기 시작하고 있다. 소프트웨어 엔지니어가 단지 효율과 성과만을 기준으로 코딩을 하거나, 기업이 소프트웨어에 의해 어떤 의사결정을 내리는지 세밀하게 판단하지 않는다면, 전혀 예상하지 않은 큰 역풍을 받을 가능성이 있다.

IT 칼럼 구독

이제 기업의 윤리위원회는 기업 내 사람들의 윤리 문제만을 다룰 것이 아니라 자사의 서비스, 제품 등에 담겨져 있는 소프트웨어의 윤리적 판단이 어떻게 반영되어 있고, 어떤 기준으로 코딩했는지를 검토해야 한다. 이런 체계를 미루면, 자율주행 자동차나 고객안내 로봇이 내 얼굴을 보고 운전을 거부하거나 나를 매장에서 쫓아내는 상황이 벌어질 수도 있다. 그런 시대가 오기 전, 이유도 모르는 채 불친절을 경험하거나 구매를 거절당하거나 남들보다 더 많은 보험료를 내야 할 수도 있다. 그것이 단지 5년 전에 SNS에 올린 사진 한 장 때문이거나 소프트웨어 엔지니어의 실수로 불필요한 코드가 들어가서 그랬다면 매우 분통 터지는 일이 될 것이다.

<한상기 소셜컴퓨팅연구소장>