[IT 칼럼]‘로봇의 도덕’을 어떻게 반영할 것인가

영화 아이언맨의 모델이자, 전기자동차 테슬라와 우주수송 전문기업 스페이스X를 창업한 엘론 머스크가 인공지능이 인류 생존의 위협이 될 수 있다고 해서 화제다. 그는 지난 10월 MIT에서의 연설 중 “인간 존속의 가장 큰 위협은 아마 인공지능일 것이고, 우리는 악마를 맞이하는 중”이라며 인공지능의 잠재적 위험성을 경고했다. 그가 지난 3월 마크 저커버그, 제리 양, 제프 베조스 등과 함께 인공지능 전문기업 바이케리어스(Vicarious)에 투자한 사실을 떠올리면 고개를 갸웃하게 된다. 그의 경고를 이해하려면 몇 가지 생각해봐야 할 것들이 있다.

몇 년 사이 인공지능 기술은 비약적 발전이 이어지고 있다. 구글의 무인 자동차, IBM의 왓슨 기반 인지 컴퓨팅 사업, 딥러닝을 통한 사람 수준의 음성·이미지 인식 기능 등 이제는 실제 서비스나 일상에 도입하는 수준으로 도약했다. 세계적 IT기업들이 막대한 돈을 들여 관련 기업을 인수하는가 하면 인재확보 경쟁도 치열하다. 구글에서 인공지능에 대해 자문을 하고 있는 레이 커즈와일 같은 미래학자는 2040년이 되면 새로운 인류인 트랜스휴먼 시대가 열릴 것이라고 주장한다.

그런데 왜 철학자나 인문·사회과학자, 법률가들은 물론 엘론 머스크 같은 기업인조차 인공지능 기술의 사회적 위험성을 얘기하는 것일까? ‘완전 무인자동차를 우리 사회에서 받아들일 것인가’ 하는 질문을 생각해 보자. 미국의 교통사고 사망자는 2012년 기준 연간 3만3000명이 넘는다. 만일 완전 무인자동차가 등장해 이 숫자를 1000명 수준으로 급격히 낮출 수 있다면 완전 무인자동차를 받아들일 것인가? 강연에서 자주 던지는 이 질문에 대한 청중의 반응은 찬성과 반대가 반반이다.

인공지능 기술이 비약적으로 발달하고 있지만 기술의 사회적 위험성에 대한 논의는 아직 걸음마 단계다. 사진은 천재과학자의 두뇌와 컴퓨터가 결합된 초지능 슈퍼컴퓨터 의 탄생을 다룬 영화 <트랜센던스>의 한 장면.

왜 많은 사람이 반대할까? 사람의 잘못으로 사람이 죽는 경우는 심리적으로 받아들이지만, 기계의 판단에 따른 실수는 그것이 소프트웨어 엔지니어의 프로그램에 따른 것이라 해도 아직 사회적으로 용납하기 어렵다는 것을 의미한다. 보험과 법적 책임은 어디까지 할 것인지 등의 부수적 문제도 따져봐야 한다. 유럽에선 이런 문제들을 다루기 위해 이미 로보로(RoboLaw)라는 프로젝트를 시행하고 있다.

IBM의 왓슨은 현재 암환자 치료보조 역할, 기업의 중역회의 의사결정 지원 등 다양한 분야에서 큰 성과를 보이고 있다. 그러나 치료를 위해서는 많은 의료기록과 개인 상태를 제공해야 한다. 소프트웨어 회사에 대한 신뢰를 확보하는 문제뿐만이 아니다. 돈이 많은 사람이 자신의 신체 능력을 향상시키기 위해 인공 신체로 바꾸겠다고 하면 이를 허용할 것인지, 브레인 칩을 통해 검색·이메일 검사 등을 뇌에서 자동으로 하겠다면 어떻게 대응할지 등 무수한 문제가 발생할 수 있다.

이러한 모든 이슈는 한 나라에서만 고민할 것이 아니라 전 세계에서 같이 논의해야 할 주제다. 최근 ‘기술의 윤리학’과 ‘로봇의 도덕’을 논의하는 이유가 여기 있다. 인공지능은 이미 알게 모르게 우리 사회 곳곳에서 사용되고 있다. 많은 경우 도덕적 판단을 해야 하는 수준에 와 있는데도, 프로그램에 어떻게 도덕과 윤리의식을 반영할 것인가에 대해선 아직 기본적인 모델링 단계에서의 검토조차 부족한 실정이다. 더구나 법률적 판단은 아직 거론조차 못하고 있다.

IT 칼럼 구독

우리 주변에 지능을 가진 개체가 같이 공존하는 사회 시스템을 어떻게 구축할 것인가에 대한 문제를 단지 기술 담당자들의 손에 맡겨서는 안 된다. 인공지능이 우리의 직업을 없앨 것이라는 게 빌 게이츠의 전망이고, 한 연구에선 700개 이상의 직업이 사라질 것이라고 한다. 우리 사회는 이런 변화에 대해 준비를 하고 있는 것인가? 이런 미래기술이 가져올 사회적 충격에 대해 논의를 시작하는 것은 지금이라도 늦지 않았다.

<한상기 소셜컴퓨팅연구소장·세종대 ES센터 교수>