(13)AI와 인간의 공존을 위하여

인공지능(AI) 기술의 성과는 경탄과 우려를 동시에 자아내고 있다. 급속한 기술발전에 뒤지지 않기 위한 연구개발 노력도 필요하면서, 인간에 도움을 주는 방향으로 AI 기술의 개발과 활용에 대한 공동체의 규칙을 정하는 일도 이에 못지않게 중요해졌다. AI 기술에 관한 사회적 규칙 제정은 인간과 AI가 공생하는 사회 구상을 의미한다. AI 기술의 본질과 한계를 파악하면 여기에 도움이 될 것이다.

AI 기술의 본질과 한계

2세기경 알렉산드리아에서 활동한 고대 그리스의 수학자 디오판토스는 방정식에 대한 연구로 수학사에 이름을 남겼다. 디오판토스는 묘비에 다음과 같은 글을 남겼다. “신의 축복으로 태어난 그는 인생의 6분의 1을 소년으로 보냈다. 그리고 다시 인생의 12분의 1이 지난 뒤에는 얼굴에 수염이 자라기 시작했다. 다시 7분의 1이 지난 뒤 그는 아름다운 여인을 맞이해 화촉을 밝혔으며, 결혼한 지 5년 만에 귀한 아들을 얻었다. 아! 그러나 그의 가엾은 아들은 아버지의 반밖에 살지 못했다. 아들을 먼저 보내고 깊은 슬픔에 빠진 그는 그 뒤 4년간 정수론에 몰입해 스스로를 달래다가 일생을 마쳤다.” 이 내용을 일차방정식으로 정의해 풀면 84가 나온다. 즉 디오판토스는 84세까지 살았음을 알 수 있다. 디오판토스를 기려 정수해를 갖는 방정식을 디오판토스 방정식이라고 한다.

1900년 파리에서 열린 세계수학자대회에서 독일의 수학자 힐베르트는 20세기에 풀어야 할 수학문제 23개를 제시했다. 두 번째 문제는 “산술의 공리체계가 무모순임을 증명하라”였다. 1931년 괴델은 공리체계가 완전하면 무모순성을 증명할 수 없음을 보였다. 1936년 튜링은 괴델의 업적에 이어, 스스로를 증명할 수 있는 알고리즘은 불가능하다는 것을 보였다. 힐베르트의 10번째 문제는 “디오판토스 방정식이 정수해를 갖는지를 판별하는 알고리즘을 제시하라”였는데, 그러한 알고리즘은 존재하지 않는다는 사실이 수학자 4명의 노력으로 1972년에 증명됐다.

2000년을 앞두고 국제수학연맹(IMU)은 다음 세기에 풀어야 할 수학적 과제들을 제출하라고 수학자들에게 요청했다. 29명의 수학자가 여기에 응했다. 스티븐 스메일 캘리포니아 버클리대 수학과 교수는 18개 과제를 제시했다. 스메일 교수의 마지막 18번째 문제는 지능의 한계에 관한 것으로 “인공지능과 인간지능의 한계는 무엇인가?”라는 제목이었다. 지능에 관한 수학적 모형을 통해 인간지능과 인공지능의 유사성과 차이점을 밝히는 내용이다. 이 문제는 지금까지 미해결 상태로 남아 있다.

디오판토스의 묘비 사례처럼 방정식이 주어지면 그 방정식이 어떤 해를 갖는지 아닌지를 확인할 수 있다. 이차방정식에서는 정수해가 존재하지만, 그 이상이면 0보다 큰 정수해는 존재하지 않는다. 이 문제를 페르마의 마지막 정리라고 한다. 처음 언급된 지 350여년이 흐른 1994년 영국의 수학자 앤드류 와일즈가 해가 존재하지 않는다는 사실을 증명했다.

반대의 경우, 즉 수식이 주어지지 않는 경우는 어떻게 될까. 어떤 지역의 지하에서 광물을 탐색한다고 하자. 전자파(A)를 지하 광물(B)에 쏘아 측정값(C)을 얻게 됐다. 이 작업은 A와 C를 알고 있으므로 B를 유추하는 문제다. B는 금이거나, 은이거나, 동이거나, 그냥 바윗덩어리일 수 있다. 각각의 경우에 측정값은 다를 것이다. 과거에 광물 탐사 경험을 통해 각각 경우의 측정값을 알고 있다면, 이번에 얻은 측정값을 이전과 대조해 지하의 광물이 무엇인지 판정할 수 있다.

인공지능 분야에서 현재 가장 널리 활용되고 있는 기법인 신경망 기반 심층학습은 기본적으로 위에서 예시로 본 광물 탐색 과정과 같은 원리다. 주어진 데이터(C)를 통해 대상(B)을 분류·판별하는데, 이 과정이 알고리즘에 담겨 있다. 심층학습 기법은 대상이 알고리즘으로 정의되는 경우, 대단히 강력한 힘을 발휘한다. 체스와 바둑 같은 규칙이 일정한 게임이나 챗GPT 같은 생성형 언어모델에서 이미 위력을 입증하고 있다. 그런데 심층학습 기법에는 두 가지 한계가 있다. 첫 번째는 모든 문제가 알고리즘으로 정의되지 않는다는 것이고, 두 번째는 알고리즘으로 정의되더라도 모든 알고리즘이 실제로 유한한 시간 내에 계산될 수 있는 것은 아니라는 점이다. 현재의 방식으로 컴퓨팅이 이뤄지는 한, 이러한 한계는 본질적으로 존재한다. 위에서 언급한 수학자들이 이러한 한계가 있음을 확인했다.

현재의 AI 기술은 근사치를 사용해 이러한 한계를 우회한다. 우회해도 인간보다 훨씬 뛰어난 성과를 보여주므로 결과만 보면 놀라게 된다. 바둑을 보자. 최고 수준의 프로바둑기사라도, 예를 들어 30수 앞을 정확하게 계산하지는 않는다. 계산과 직관을 함께 사용해 다음 수를 결정한다. 바둑 프로그램 알파고의 기법은 인간보다 더 많이 계산하고, 직관은 근사치를 사용한다. 그 결과는 인간보다 우월하다. 탁월한 계산능력 덕분이다.

바둑은 규칙이 명확하다. 질병에 대한 인류의 지식은 언제나 불완전한데, AI 기술을 의료에 적용하는 경우는 어떨까. 자기공명영상(MRI) 영상을 판독하는 데 있어서 AI 기술은 인간을 뛰어넘는다. 하지만 어디까지나 과거의 경험치가 데이터로 존재할 때의 이야기다. 희귀질환의 경우는 어떨까. 다른 한편으로 AI 기술의 최전선에서 의료에 적용할 때, 연구자들은 AI 판정 자체가 안정적이지 않다는 문제를 제기한다. 더 나아가 AI 기반 컴퓨터가 MRI 영상을 오독하는 사례도 발생한다. 이러한 경우에는 인간이 개입해 오독을 교정해야 한다. 근본적으로 컴퓨터는 판정 자체가 바른지 그른지 판단을 하지 않는다. 이 판단은 인간의 몫이다. 판단의 기준이 바로 인간의 가치체계, 즉 윤리다.

AI 기술과 협업 또는 조절

AI 기술이 발전할수록 컴퓨터와 인간의 협업이 중요해진다. 자율주행을 포함한 모든 AI 활용 영역에서 인간의 개입은 더욱 필요하게 될 것이다. 많은 혁신기술이 확산 초기에 인간의 일자리를 뺏어가리라는 우려를 낳았다. 그러나 대부분 시간이 지나면서 사라진 일자리보다 더 많은 일자리를 만들고, 인간에 보완적인 역할을 하는 존재로 진화했다. 이는 기술이 인간친화적인 방향으로 발전하도록 유인하고 사회적으로 조절했기 때문이다. AI에 종속되지 않고 인간에 보완적인 역할을 하도록 AI 기술의 발전을 인간이 조절할 수 있어야 한다. 인간과 AI가 공생하는 사회를 구상하고 실현하는 일은 결국 인간의 몫이다.