[서중해의 경제 망원경](11)인공지능이 두렵다고?

챗GPT가 세상에 등장하면서 경이로움과 두려움을 함께 제공하고 있다. 경이로움은 기계가 지금까지는 상상할 수 없었던 인간의 지능적인 활동을 재현하게 된 것이고, 두려움은 많은 일자리가 사라지면서 미래 세상을 인공지능(AI)이 지배할 수도 있다는 이른바 기술적 특이점 실현 우려에서 온다. 인공지능 기술의 발전은 앞으로도 대단히 빠른 속도로 진행될 것이다. 통상 정보기술의 발전을 ‘회로의 집적도가 2년마다 두 배 향상된다’는 무어의 법칙으로 설명한다. 최근 인공지능의 발전 속도는 활용 파라미터(매개변수)의 숫자가 3~4개월이면 두 배가 되는 것으로 나타났다. 인공지능 기술은 인류역사상 가장 빠른 속도로 발전 중이다.

지난 2월 27일 서울 중구 달개비에서 뇌과학자 김대식 카이스트 교수가 질문하고 챗GPT가 대답한 <챗GPT에게 묻는 인류의 미래> 출간 기자간담회가 열리고 있다. / 연합뉴스

인공지능이 제기하는 많은 사안은 지금까지 인류가 경험하지 못한 것들이다. 이러한 사안들에 어떻게 대응할 것인가는 개인의 삶과 인간 사회의 지속가능한 발전에 너무나 중요한 과제가 됐다. 인공지능과 관련된 몇 가지 사안을 몇 회에 걸쳐 다루고자 한다. 칼럼의 취지는 해답을 제공하는 것이 아니라 문제의 본질을 검토하면서 대응 방안을 독자들과 함께 고민하는 데 있다. 이번 칼럼에서는 인공지능 개념의 태동에서 결정적인 역할을 한 영국의 천재 수학자 앨런 튜링(1912~1954)의 생각을 따라가 보면서 인공지능의 본질과 한계를 점검해 본다.

앨런 튜링이 발명한 기계

튜링은 두 개의 기계를 발명했다. 둘 다 실물이 아니라 종이와 연필로 그려낸 아이디어다. ‘계산하는 기계’는 지금 컴퓨터의 원형이고 ‘생각하는 기계’는 현재 인공지능의 원형이다. 튜링은 계산을 기계로 할 수 있다는 것을, 그리고 기계적 계산의 한계가 어디에 있는지를 1936년 논문에서 보여주었다. ‘계산 가능한 수’라는 제목을 가진 이 논문에서, 어떤 수학 체계 내에서 모든 주어진 명제의 진위를 판정하는, 오늘날의 용어로는 알고리즘에 해당하는 유한한 기계적 방법은 불가능하다는 것을 증명했다. 컴퓨터는 이미 실현됐으므로 계산하는 기계를 부연할 필요는 없지만, 계산 가능성의 한계와 계산하는 기계의 개념이 생각하는 기계로 이어졌다는 점을 기억할 필요가 있다.

“생각하는 기계를 만드는 방법의 하나는 인간의 모든 부분을 기계 부품을 사용해 재구성하는 것이다. 기계로 만들어진 인간은 전자두뇌뿐만 아니라 텔레비전 카메라, 마이크, 확성기, 바퀴 그리고 제어장치를 포함할 것이다. 기계로 인간을 재구성하는 작업은 대단한 일이 될 것이다. 비록 ‘뇌’ 부분이 고정돼 있고 멀리서 몸을 조종하더라도, 현재의 기술로 만들어진 물체는 엄청난 크기가 될 것이다.”

“기계가 스스로 무언가를 알아낼 기회를 가지려면 이곳저곳을 돌아다닐 수 있어야 하는데, 일반 시민들에게는 심각한 위험이 될 수도 있다. 게다가 위에서 언급한 부품들이 제공되더라도 이 창조물은 여전히 음식, 섹스, 스포츠 그리고 인간에게 흥미로운 많은 다른 것들과 접촉이 없을 것이다. 따라서 이 방법이 생각하는 기계를 만드는 확실한 길일지라도, 이 방법은 너무 느리고 실행 불가능한 것처럼 보인다.”(이상 앨런 튜링 ‘지능형 기계’, 1948)

위의 인용문들은 1948년 앨런 튜링이 국립물리연구소에 제출한 보고서인 ‘지능형 기계(intelligent machinery)’에서 따왔다. 세부 사항에서는 차이가 있겠지만, 큰 흐름에서는 튜링의 생각은 현재의 인공지능을 예정하고 있다. 생각하는 기계에 관한 위의 인용문에서 주목할 대목은 “기계가 스스로 무언가를 알아낼 기회를 가지려면 이곳저곳을 돌아다닐 수 있어야 하는데” 이 기계가 “여전히 음식, 섹스, 스포츠 그리고 인간에게 흥미로운 많은 다른 것과 접촉이 없을 것이다”라는 부분이다. 기계가 인간처럼 경험을 통해 지식을 축적하는 것이 필요하다는 의미다. 튜링은 이 보고서에서 생각하는 기계를 인간이 심어놓은 규칙뿐 아니라 기계 스스로 활동하는 자율이라는 두 측면에서 파악했다. 관건은 이 자율을 어떻게 기계에 심을 것인가이다. 기계가 마음껏 돌아다니면서 인간처럼 흥미로운 활동을 하도록 하면 인간에 준하는 경험을 축적해 세상을 이해할 수 있을까.

앨런 튜링 / 경향신문 자료사진

튜링은 경험을 통한 지식의 축적을 세 가지 측면에서 파악했다. 기계적 과정을 통해 (오늘날의 알고리즘을 통해) 인간 활동의 루틴을 학습하는 방법, 적자생존이라는 진화 과정처럼 상황에 더 우수한 알고리즘으로 진화하는 방법, 그리고 문화적 과정이다. 기계적 과정과 진화적 과정은 이미 인공지능 기술에서 구현되고 있지만, 문화적 탐색과 학습은 여전히 문제로 남아 있다. 튜링이 말한 문화적 탐색과 학습이란 인간 공동체 전체라는 사회적 조건 속에서 인간의 생각이 탄생한다는 것이다. 튜링의 생각을 들어보자.

“고립된 인간은 어떠한 지적 능력도 발달시키지 못한다. 인생의 첫 20년 동안에 그는 다른 사람들이 만들어 놓은 환경에 들어가서 그때까지의 기술을 흡수하는 것이 필요하다. 그러면 자신도 약간의 연구를 해서 어떤 발견을 할 수 있고 그것을 다른 사람들에게 전해줄 것이다. 이러한 관점에서 새로운 기술에 대한 탐구는 개인으로서가 아니라 인간 공동체 전체로 수행되는 것으로 보아야 한다.”(앨런 튜링 ‘지능형 기계’, 1948)

인공지능 기술 발전이 주는 메시지

지금 인용한 튜링의 생각은 인공지능의 궁극적인 지향점이 어디인가를 명확하게 보여준다. 언어를 포함한 인간의 경험세계 전체를 체험하고 판단하는 자율의 경지다. 하지만 이 지점에 기계는 현실적으로 도달할 수 없다. 언어와 의미의 세계는 인간 공동체 전체로 만들어간다. 기계가 인간 공동체의 일원이 돼 경험을 나누지 않는 한 기계는 인간의 의미를 이해할 수 없다. 인류공동체에 의해 수행되는 탐구가 인공지능을 훈련하는 데 활용되는 빅데이터에 해당할까. 빅데이터가 아무리 크더라도 그것은 인간 공동체의 활동 중에서 코딩으로 기록된 아주 작은 부분에 불과하다. 코딩되지 않는 거의 무한한, 그리고 계속해 변화하는 경험세계와 이에 대한 의미를 부여하는 가치 세계의 총체에 비하면 빅데이터는 너무나 보잘것없다.

서중해의 경제 망원경 구독

인공지능 기술의 발전은 앞으로 더욱 속도를 낼 것이다. 인간이 하던 많은 일을 기계가 대신할 것이다. 인간은 그러나 인공지능을 두려워할 필요가 없다. 경험세계를 구성하는, 의미를 만들어가는, 인간 공동체는 기계적일 수 없기 때문이다. 오히려 인공지능 기술의 발전은 ‘인간의 가치는 어디에 있는가’라는 질문을 제기한다. 튜링의 생각을 따라가다 보면 인간의 가치는 우리가 어떤 공동체를 만들어갈 것인가에 달려 있음을 깨닫게 된다. 인공지능 시대의 도전 과제는 기계에 관한 것이 아니라 인간에 관한 것이다.

<서중해 경제학자>