인공지능(AI) 개발의 선구자, 제프리 힌튼 교수가 AI의 위험성을 경고하며 돌연 구글을 퇴사했다. 그의 경고는 역설적으로 우리가 얼마나 빠른 속도로 인공범용지능(AGI)에 가까워지고 있는지를 보여주는 지표다. 챗GPT가 아직까지 세상을 혁명적으로 바꾸지는 못했지만, 인터넷이나 아이폰 역시 하루아침에 세상을 변화시키지 않았다. 그 변화의 속도를 가늠하는 건 어렵지만, 그럼에도 중요한 사실 한 가지는 챗GPT의 등장으로 뒤바뀐 세상이 비가역적일 것이라는 점이다. 우리는 이미 다른 세상으로 가는 문을 열었다.

IT업계가 AI 개발을 두고 벌이는 경쟁의 치열함은 상상을 초월한다. 이들의 AI 개발 경쟁은 인류의 발전을 위해서가 아니라 돈 때문이다. 따라서 학계는 AI를 둘러싼 윤리적 논란으로 뜨겁다. 하지만 AI 윤리학의 발전속도는 결코 AI의 발전속도를 따라잡을 수 없을 것이다. 그렇다고 일론 머스크나 몇몇 학자들의 의견처럼 6개월간 AI 개발을 잠시 멈추자고 선언하는 것이 답이 될 수는 없다. 아마도 우리는 비엔나학단의 철학자 오토 노이라트의 말처럼 바다를 항해하는 배 위에서 배를 수리하는 운명을 맞이하게 될 것이다.

AI와 학술생태계의 변화 컴퓨터공학이야말로 현재 가장 빠르게 변화하는 학문일 것이다. AI는 그러나 컴퓨터공학뿐 아니라 향후 모든 학술생태계의 모습을 비가역적으로 바꿔놓게 될 것이다. 이유는 단순하다. 인간이 학문을 시작한 이후, 모든 학문은 언어를 기반으로 이뤄져 왔기 때문이다. 학자 혹은 지식인이라 불리는 사람들은 결국 다른 이들보다 언어를 조금 더 잘 다루는 전문가 집단일 뿐이다. 대규모언어모델(LLM)이 평균적인 일반인 정도의 언어 구사 능력을 확보한 지금, 과연 지식인이라고 뽐내던 전문가들이 얼마나 오랫동안 자신의 밥그릇을 지켜낼 수 있을지는 미지수다.

이렇게 예상하는 근거 중 하나는 학자들이 학문적 업적을 평가하는 수단인 논문을 둘러싼 생태계의 허술함 때문이다. 충분히 발전한 LLM이 광대한 인터넷과 인류가 쌓은 지식 모두를 학습한 후 논문을 쓰기 시작한다면, 우리는 과연 그 논문을 인간이 쓴 논문과 다르다고 판단할 수 있을까? 최근 스탠퍼드대 인간중심인공지능연구소 연구팀이 발표한 바에 따르면, “특정 문장이 인공지능에 의해 쓰였는지 여부를 사람이 정확하게 특정할 수 있는 확률”은 겨우 50%에 불과하다. 이 확률이 특정 문장을 넘어 글 전체로, 에세이를 넘어 논문으로 확장될 가능성이 얼마나 될까? 지식인 사회는 인공지능 윤리학에 대한 논의로 뜨겁지만, 아마도 그보다 먼저 자신들의 사회적 기능을 의심당하게 될 가능성이 크다.

학문이 버림받는 세상 현대 학술생태계의 가장 큰 골칫거리 중 하나는 약탈적 학술지라는 합법적 부도덕의 유행이다. 약탈적 학술지들은 오픈액세스라는 공정의 가치를 실현한다는 명분으로, 전 세계 학자들로부터 논문 출판을 미끼로 돈을 벌어들인다. 실제로 이들은 e메일 등 다양한 방식으로 승진과 취업 등에서 압박을 받는 학자들을 속여 돈만 내면 논문을 출판해준다. 문제는 이들이 출판하는 어마어마한 논문의 양을 비롯해 악의적인 마케팅 기법이 뻔히 보임에도 불구하고, 이들의 활동이 철저하게 합법적이라는 데 있다. 약탈적 학술지는 현대사회에서 학자적 양심이 얼마나 약한 고리인지를 보여주는 대표적인 상징인 동시에 논문을 기반으로 이뤄지는 학문평가가 얼마나 허술한지를 보여주는 대표적 증상이기도 하다.

이제 한번 상상해보자. 고도로 발달한 LLM이 인간보다 더 그럴듯한 논문을 쓰게 되는 그날이 오면, 과연 이 약탈적 학술지로 오염된 학술시장은 어떻게 변하게 될까. 논문이 급한 배고픈 학자들은 인공지능을 이용해 저급한 논문을 쏟아낼 것이 뻔하고, 약탈적 학술지들은 이 배고픈 학자들을 쉽게 낚아채 자신들의 배를 불리게 될 것이다. 어쩌면 조만간 특정한 주제로 이미 작성된 논문을 학자들에게 파는 학술회사가 등장할지도 모른다. 지금도 뻔히 보이는 약탈적 학술지들의 공세에 속수무책으로 당하는 학술생태계가, 인공지능의 등장으로 빠르게 변화하는 세상에 어떻게 적응할지 궁금하다. 아마 또다시 고고한 윤리학 타령이나 하다가, 학문이 사회로부터 완벽하게 버림받는 세상을 맞이하게 되지 않을까? 지난 수십년 동안 전 세계 지식인들은, 자신들 존재의 근거가 되는 학술논문 시장이 교란되는 것을 뻔히 보면서도 결코 연대하거나 저항하지 않았다. 아마 그들은 아주 쉽게 고도로 발달한 AI의 노예로 전락하게 될 것이다.

인공지능과 인문학의 미래 최근 대만과 중국의 공동연구진이 LLM을 이용해 약탈적 학술지 여부를 검사할 수 있는 AJPC(academic journal predatory checking)라는 자동화된 시스템을 구축했다. 컴퓨터공학 연구자로 구성된 이들은 기존에 잘 알려진 해적학술지의 논문들과 정상학술지의 논문들을 AI에 학습시켜, 이 둘을 구분할 수 있는 시스템을 구축했고, 이 시스템이 현재 해적학술지를 구분하는 수동적인 방법보다 더 효율적임을 밝혔다. 과학기술계의 학자들은 이 시스템을 통해 쉽게 투고하려는 학술지의 해적학술지 여부를 파악할 수 있다.

흥미로운 이야기는 그다음이다. 이 논문이 출판되자마자 스프링거-네이처의 SSRN이라는 디지털 라이브러리에 AJPC가 경제학과 사회과학 분야 논문의 해적학술지 여부를 제대로 구분하지 못한다는 반박논문이 올라왔다. 이 논문의 저자들은 대부분 사회과학자로, 이들의 주장은 파이낸셜타임스에서 50위권에 드는 최상위 경제학 및 사회과학 분야 학술지의 80%가 AJPC에 의해 해적학술지로 구분됐으며, 따라서 AJPC를 사용하는 것은 주의해야 한다는 것이다. 신기하게도 AJPC를 만든 연구자들이 해적학술지 구분에 쓴 데이터베이스 대부분은 과학기술 분야였다. 과학기술 분야 데이터로 학습한 AJPC가 경제학 최상위 학술지 대부분을 사기로 규정한 셈이다.

이 논란이 의미하는 바는 무엇일까. 도대체 왜 AJPC는 최상위 경제학 분야 학술지 대부분을 해적학술지라고 판단했을까. 과연 단순한 인공지능의 오류일까, 아니면 과학과 인문학, 오랫동안 인류가 지탱해온 두 학문의 근원적 차이를 내포한 하나의 단서를 제공하는 것일까. 그 원인과 결과가 무엇이든, 인공지능이 학술생태계를 얼마나 근원적으로 바꾸어놓게 될지를 지켜보는 세대가 될 수 있다는 건 학자로서 즐거운 일이다. 그 변화의 끝이 진정한 학문으로의 회귀일지, 온갖 사기꾼의 향연이 될지는 잘 모르겠지만 말이다.

<김우재 낯선 과학자>