우리 삶에 가까이 다가온 인공지능의 엄청난 발전을 목도 중이다. 오픈AI사의 챗GPT가 촉발한 인공지능혁명이 세상을 뒤흔들고 있다. 미드저니 등의 인공지능 생성기는 사용자가 원하는 그림을 순식간에 그려낸다. 일러스트 디자이너와 의상모델 등의 직업이 사라질 위기에 처했다. 콜센터 상담직원, 사무원, 프로그래머, 기자, 회계사, 통역사 등 반복업무를 수행하는 직업은 물론 의사, 약사, 변호사, 통계 연구원 등의 전문직도 위태롭다는 전망이 나온다. 미래는 예측할 수 없다. 하지만 거대한 변화가 벌어진 건 분명하다.

제프리 힌튼과 인공지능의 기초 바야흐로 AGI, 즉 ‘인공 범용 지능’의 시대에 가까워지고 있다. AGI는 모든 상황에 적용 가능한 AI를 말한다. 인공지능의 대부로 불리는 제프리 힌튼 캐나다 토론토대학 교수는 앞으로 20년 안에 AGI가 구현된다고 말한다. 그는 인공지능 연구의 겨울(침체기)에도, 끈질긴 신경망 연구를 통해 딥러닝의 시대를 열어젖힌 인물이다. 윤석열 대통령이 이종호 과기정통부 장관과 캐나다를 방문해 ‘인공지능 석학과의 대화 및 업무협약 체결’ 행사를 주최한 이유도 힌튼 때문이다.

힌튼은 영국에서 태어나 미국에서 연구하고 캐나다에 정착했다. 그는 오직 뇌가 어떻게 작동하는지 알고 싶다는 호기심으로 35년간 변방에서 조용히 인공지능 연구에 몰두했고, 전 세계를 뒤흔들고 있는 인공지능혁명의 토대를 마련했다. 그런 힌튼이 자신을 찾아온 윤석열 대통령에게 던진 조언이야말로 미·중 패권이 과학기술력의 경쟁으로 환원되는 이 시기에 우리가 성찰해야 하는 교훈일 것이다. 그는 “다양성이 존중되는 문화, 미래를 내다보는 정부의 지원, 불필요한 행정절차 철폐, 호기심에 기초한 연구”가 자신이 캐나다에서 인공지능 연구자로 성공할 수 있었던 요소라고 말한다. 대통령과 장관이 인공지능으로 돈 벌 생각만 하고 돌아왔을지, 아니면 100년 후 한국을 위한 연구행정 혁신을 다짐했을지에 한국의 미래가 달려 있다.

인문학적 충돌 며칠 전 미국의 비영리단체인 ‘생명의 미래 연구소’에서 ‘거대 AI 실험 일시중지 공개서한’을 발표했다. 이 서한에는 일론 머스크, 유발 하라리, 스티브 워즈니악, 앤드루 양 등의 유명인들이 참여한 것으로 알려졌다. 서한은 “인간과 경쟁할 수 있는 지능을 갖춘 AI 시스템이 사회와 인류에 심각한 위험을 초래할 수 있”으므로 “모든 인공지능 연구소가 GPT-4보다 더 강력한 인공지능 시스템의 학습을 최소 6개월 동안 즉시 중단해야 한다”고 촉구했다. 하지만 일론 머스크가 이 연구소를 후원한다는 사실이 알려지면서, 공개서한의 진위가 의심받기 시작했다. 이 서한에 서명에 참여하지 않은 이들의 이름이 올라간 것은 물론, 중국 시진핑 주석의 이름도 올라가 있는 데다 서한에 인용된 논문의 저자들은 서한이 AI의 윤리적 위험성은 건너뛴 채 종말론적 시나리오만 강조했다고 강력하게 비판했다.

생명의 미래 연구소는 스웨덴 출신의 철학자 닉 보스트롬이 창안했다고 알려진 ‘트랜스휴머니즘’ 혹은 ‘장기주의(longtermism)’와 밀접한 관련을 지닌 곳이다. 보스트롬이 쓴 <슈퍼인텔리전스>

라는 책은 일론 머스크와 빌 게이츠 등이 극찬했으며, 그는 인류미래연구소를 설립해 인공지능이 인류를 멸망시킬 미래를 종말론적으로 설파하고 있다. 장기주의(장기적 관점 우선주의) 혹은 ‘효율적 이타주의’ 운동과 이번 공개서한의 관계를 자세히 논할 필요는 없지만, 미국 실리콘밸리의 엘리트들로 이루어진 이 집단이 기후위기와 같은 인류의 직접적인 위기를 등한시하고, 인공지능의 위협 같은 불확실한 미래를 종말론적으로 경고하는 등 인공지능의 발전에 대한 진지한 인문학적 성찰과는 거리가 멀다는 점만은 짚어두기로 한다. 인공지능에 대한 인문학적 성찰과 제언은 이런 종말론적이고 비현실적인 포퓰리즘을 넘어서야 할 것이다.

과학적 방법론 윤리학은 인문학의 전유물이 아니다. 힌튼이 미국에서 캐나다로 이주한 직접적인 이유는 인공지능 연구가 군사적 목적으로 남용되는 것을 원하지 않았기 때문이다. 그는 최근의 인터뷰에서 인공지능을 군사적으로 이용하려는 미 국방부의 여러 시도가 역겹다고 말했다. 힌튼은 범용인공지능이 사람을 돕도록 설계돼야 하며, 푸틴 같은 독재자가 인공지능 연구를 남용할 수 없도록 제어장치를 만들어야 한다고 말했다. 즉 인공지능 윤리학의 핵심은 고리타분한 정언명령이 아니라 권력을 견제하는 아나키즘이어야 한다. 오히려 인문학자들은 수백억원에 가까운 자금을 모은 장기주의자들의 위험한 철학에 대응하는 편이 나을 것이다.

구글 딥마인드의 CEO이자 알파고의 핵심개발자로 유명한 데미스 하사비스는 AGI에 빠르게 접근하는 인공지능 연구가 ‘빠르게 움직이며 깨뜨리자’라는 자세를 버려야 한다고 주장한다. 그렇다고 인공지능 연구가 느리게 움직여야 한다는 뜻은 아니다. AGI처럼 사회에 거대한 변화를 가져올 기술 개발에는 그에 합당한 방법론이 수반돼야 한다. 하사비스는 우리가 이미 가장 효율적인 방법론을 알고 있다고 말한다. 그건 바로 과학적 방법론이다. 하사비스는 과학적 방법론이야말로 AGI에 근접해가는 우리가 의지해야 할 철학이라고 믿는다. 하사비스는 신경과학으로 박사학위를 받았다. 인공지능에 대한 지나친 열광도, 종말론적 경고도, 인문학적 제어론도 우리가 걸어가야 할 현실적 조언이 되지 못한다. 하사비스의 말 속에 인공지능의 철학이 걸어가야 할 길이 놓여 있다.

“신중한 검토와 선견지명이 필요합니다. 이상적으로는 뒤돌아보는 것보다 앞서 볼 수 있는 선견지명이 더 필요하다고 생각합니다. 이를 위해선 무슨 일이 일어나고 있는지, 시스템이 무엇을 하고 있는지에 대한 가설을 생성하고, 엄격한 실험 조건과 정확한 조건하에서 이를 철저히 시험해야 한다고 생각합니다. 시뮬레이션을 사용해 시험이 어떤 결과를 가져올지 제한할 수 있습니다. 그리고 이 모든 작업은 실증적인 데이터를 바탕으로 빠르게 업데이트하며, 독립적인 동료 평가를 통해 무슨 일이 일어나고 있는지 그 데이터를 확인해야 합니다.

그리고 이 모든 작업의 목적은 우리가 구축하고 있는 시스템에 대한 더 나은 이해를 얻고, 그들이 할 수 있는 것과 한계가 무엇인지를 대규모로 배포하기 전에 파악하려는 데 있습니다. 그래서 AGI에 접근하면서 이와 같은 중요한 기술을 존중하고, 주의를 기울여야 한다고 주장하고 싶습니다. 빠르게 움직이며 무언가를 부수는 대신 대담하고 책임감 있게 행동해야 한다고 말하고 싶습니다.”

과학이 인공지능의 윤리학이어야 한다.

<김우재 낯선 과학자>