[비상식의 사회]과학기술 윤리, 사회적 논의 시작할 때다

노동시장을 붕괴시키고, 사회적 양극화를 첨예화시키는 인공지능과 로봇공학의 발전은 분명히 우리에게 심각한 윤리적 문제를 제기하고 있다. 이것은 좋은 로봇이냐, 착한 로봇이냐의 문제가 아니라 인공지능의 발전에 사회가 어떻게 개입해야 하느냐의 문제로 귀결된다.

해가 바뀌어도 광화문 촛불은 여전하다. 박근혜 퇴진이라는 구호로 집약된 시민들의 불만과 요구사항의 핵심은 불평등한 사회 시스템의 개혁이라고 할 수 있다. 특권과 특혜가 판치며, 기회가 불공평하게 배분되고, 다양한 차별이 폭력적으로 관철되는 구조를 바꿔야 한다는 것이다. 우리 사회의 소득 불평등은 매우 심각하다. 상위 10%의 소득 점유율이 45%나 되고, 상위 1%가 소유한 부가 전체 부의 18%를 차지한다. 불평등한 구조는 사회 전체의 정상적인 발전을 저해한다. 박근혜·최순실 게이트는 대통령이 지대추구적인 방식으로 국정을 운영함으로써 이러한 불평등 구조를 더 심화시켰다는 것을 보여주었다. 삼성물산·제일모직 합병에 국민연금이 손해를 보면서도 승인을 하도록 손을 써서 이재용 부회장의 경영권 승계를 도와준 혐의가 드러났다. 메르스 사태 때 책임이 커서 감사원마저도 상응하는 처벌이 필요하다고 했던 삼성의료원이 아직도 처벌받지 않고 있었던 것도 드러났다. 대기업, 특히 삼성의 특혜를 위해 청와대가 나서서 도와주고 또 뇌물을 받았다는 혐의가 박근혜·최순실 게이트의 본질이다. 이런 정치·경제 시스템을 그대로 두어서는 사회 정의가 실종될 뿐만 아니라 소수 특권층이 대다수의 대중을 억압하는 특권층 중심의 귀족사회가 나타날 가능성도 있다.

과학기술 패러다임 변화에 특권층 입김 작용 가능성

특권층 중심의 귀족사회에서는 공공성, 자유, 평등, 민주주의 등의 가치들이 사라지고 특권층들의 취향 혹은 이해관계에 따라 사회의 진행방향이 결정될 수도 있다. 무서운 것은 과학기술의 발전방향과 특권층의 관계이다. 소수 특권층이 지배하는 사회에서는 과학기술 패러다임 변화에 특권층의 입김이 더 크게 작용할 가능성이 높다. 최근 부상하고 있는 인공지능, 로봇공학, 사물인터넷 등의 과학기술이 특히 그렇다. 인공지능과 로봇공학의 급속한 발전은 노동시장이 적응할 수 있는 시간을 추월해버림으로써 단순히 일자리를 줄이는 것이 아니라 직종 자체를 붕괴시킬 수 있다. 노동자가 없는 공장, 직원이 없는 대형마트가 등장하고, 의사·변호사·회계사와 같은 전문직에 인공지능을 갖춘 로봇이 일을 하게 되는 것이다. 이렇게 되면 경기에 따라 실업률이 변동하는 정도의 변화가 아니라 아예 구조적인 실업이 정착됨으로써 절대다수의 사람들을 노동시장에서 퇴출시키게 된다. 이들이 담당했던 수많은 기능들은 로봇과 같은 기계시스템이 담당하게 된다. 이제 수많은 잉여노동자들은 어떻게 살아가야 할까? 식량과 주택은 어떻게 확보하고 아이들은 어떻게 키울 것인가? 노령화 추세까지 더해지면 상황은 더 심각해진다.

더 우려스러운 것은 인공지능과 로봇공학 기술이 점차 자율성을 갖기 시작하면서 위험하고 통제하기 어려운 국면이 나타날 가능성이 높아졌다는 사실이다. 기계 스스로 학습을 하면서 인간의 통제 범위를 벗어나면, 재난상황이 발생할 수 있다. 예컨대, 신용카드 수백만 장을 무효화시킨다든지, 원자력발전소 운영시스템을 마비시켜 제2의 후쿠시마 사고가 일어나게 할 수도 있다. 이런 상황은 워낙 순식간에 이루어지기 때문에 손쓸 틈도 없다. 경제학자들은 이러한 위험을 간단히 ‘시스템 리스크’라고 명명했지만, 어감처럼 그렇게 간단한 문제가 아니다. 단순히 재난의 규모가 심대하다는 의미에서만이 아니라 인간에겐 실존적인 윤리 문제다. 얼마 전 모 방송국이 방영한 다큐멘터리에서는 이 ‘시스템 리스크’의 윤리적 딜레마를 가상 시나리오를 통해 제시한다. 가까운 미래의 어느 날, 인간을 살해한 로봇을 경찰이 취조하면서 왜 살인을 했느냐고 물었다. 로봇은 그 사람이 치명적인 전염병을 가진 환자이기 때문에 병원에 있는 204명의 환자를 살리기 위해서는 불가피했다고 답한다. 경찰은 그 사람을 살리고 다른 환자도 살리는 방법을 찾았어야 했다고 타일렀지만, 로봇은 그 사람을 죽이는 것이 가장 합리적이고 논리적인 해결책이었다고 주장했다. 다시 경찰이 그래도 사람을 죽이면 안 되는 것이라고 다그치자, 로봇은 혼란스러워 하며 인간이라는 존재가 대단히 모순적이고 비논리적이기 때문에 이제부터 로봇이 인간을 통제해야 한다고 주장한다.

자율성 가진 인공지능 시스템 ‘시스템 리스크’ 초래

비상식의 사회

최근 많은 관심을 끌고 있는 자율주행자동차의 경우도 윤리적인 딜레마가 있다. 자율주행자동차가 탑승객을 보호하기 위해 도로에 있는 개를 칠 것인가 말 것인가. 동물권이라는 관점에서 보면 난처한 상황이 아닐 수 없다. 이번에는 개가 아니라 노인과 어린아이 중에서 선택을 해야만 하는 상황을 가정해보자. 합리적인 선택은 어떤 것일까? 만일 자율주행자동차가 차 앞에 있는 두 사람들의 신원을 순식간에 파악해 노인이 매우 부유한 저명인사라는 사실과 어린아이가 매우 가난하지만 영재학교에 다닌다는 사실을 알게 되었다고 하자. 자동차는 어떤 선택을 할 것인가? 설사 이것이 과도한 설정이라 하더라도, 이제는 과학자의 윤리만이 아니라(황우석 사태나 가습기 살균제 사태에서 확인했듯이), 과학기술의 윤리에 대해 심각하게 사회적 논의를 해보아야 할 시점이 된 것은 분명한 사실이다. 노동시장을 붕괴시키고, 사회적 양극화를 첨예화시키며, 인간의 존재 의의를 의문시하는 인공지능과 로봇공학의 발전은 분명히 우리에게 심각한 윤리적 문제를 제기하고 있는 것이다. 이것은 좋은 로봇이냐, 착한 로봇이냐의 문제가 아니라 인공지능의 발전에 사회가 어떻게 개입해야 하느냐의 문제로 귀결된다. 이제 이런 질문을 던지고 토론해야 한다. 어떻게 하면 인공지능과 로봇공학의 발전이 소득불균형을 완화하고 특권층이 아닌 모든 인간의 행복을 증대시키는 데 기여할 수 있도록 할 것인가? 급격한 기후변화의 시대에 자연생태계과 사회의 복원력을 회복시키기 위해서 인공지능이 어떻게 활용되어야 하는가? 인공지능과 로봇공학이 변화시킨 노동시장을 어떻게 재편할 것인가? 노동과 고용의 의미를 어떻게 재구성할 것인가? 잉여노동력을 어떻게 할 것인가? 인공지능과 로봇공학의 발전을 규제해야 하는가? 해야 한다면 어떻게, 누가 규제해야 하는가? 인공지능과 로봇공학의 발전은 지금까지 우리에게 익숙했던 윤리의 범주를 창조적으로 확대해야 하는 거대한 도전이 아닐 수 없다. 몇 달간 광화문광장에서 보여주었던 직접민주주의의 역량은 단순히 정권교체나 정치개혁만이 아니라 이러한 실존적이고 윤리적인 문제까지 아우를 수 있도록 진화되어야 할 필요가 있다. 크게 심호흡하면서 멀리 내다보고 함께 모여 이야기할 때다.

<이상헌 녹색전환연구소장·한신대 교수>