[플래시]'1백만달러짜리' 수학 문제 주인공 김양곤

'한국 수학계가 이룬 쾌거인가, 아니면 어처구니없는 해프닝인가.'

'1백만달러짜리 수학 문제'가 수학계에 파문을 몰고 올 조짐이 보이고 있다. 최근 전북대 김양곤 교수(55-수학 통계정보과학부)가 '7가지 새천년 문제들' 가운데 1번 문제를 풀었다는 주장이 제기돼 학계의 관심을 모은 바 있다. 김 교수의 논문은 2004년 3월에 발표되는 인도의 논문집에 게재될 예정.

김 교수는 24쪽에 걸친 풀이 과정을 통해 'P는 NP의 진부분집합이다'라는 해답을 끌어냈다. 그는 "문제를 접한 2000년부터 우리 대학 응용수학연구팀과 함께 매진한 결과"라고 말한 뒤 "2000년도 이전에도 비슷한 분야의 연구를 몇 년째 하고 있었으니 일부 행운도 겹친 셈"이라고 말했다.

김 교수는 1983년 박사학위를 위해 캐나다 토론토 대학으로 건너갔다. 그는 이곳에서 1987년 '리대수'(Lie Algebra)에 관한 과제를 부여받았다. 이번 문제는 바로 리대수를 활용해서 풀어내는 문제였다는 것.

김 교수가 이 문제를 풀었다는 소식이 알려지자 학계 일부에서는 "한국 수학계의 우수성을 보여준 경사"라며 흥분을 감추지 않고 있다. 또다른 일각에서는 "아직 검증받지 않은 해법을 '풀었다'라며 단정적으로 말하는 것은 지나친 호들갑"이라며 조심스런 접근을 주문하고 있다.

'신중론'을 내세우는 측의 주장 가운데 하나는 "아직 논문이 게재되지도 않았고 충분한 검증을 거친 것도 아니다"라는 것. ㅅ대학 ㅎ교수는 "김 교수가 논문에 오류가 없다는 충분한 검증을 받지 않은 채 '풀었다'고 단정적으로 말하는 것은 위험하다"고 말한 뒤 "좋은 연구 결과를 얻었을 경우 전문가들에게 검토를 요청하고, 이런 가운데 자연스럽게 입소문으로 그 결과가 알려지던 것이 수학계의 관행"이라며 고개를 갸웃거렸다.

당사자인 김 교수는 이같은 반응에 대해 '예상했던 일'이라는 입장이다. 김 교수는 "내가 이미 해법을 제시해놓은 사실을 모르는 수학자들이 이 문제에 매달릴 시간을 감안해 발표를 조금 일찍했다"는 말도 덧붙였다.

일각에서는 '이처럼 의미있는 논문을 하필이면 인도의 이름없는 저널에 기고하는지 모르겠다'는 의문도 제기하고 있다. 이번에 김 교수가 논문을 싣겠다고 한 잡지는 인도의 SCIE급 논문집 [JAADS] (Journal of applied algebra and discrete structure)이다. SCIE급 논문집은 수학계 최고 권위를 인정받는 SCI 논문집의 한 단계 아래로 평가받는다.

김 교수는 수학계의 폐쇄성을 지적하는 것으로 이에 대한 답변을 시작했다. "해답의 가치를 인정받기 위해 미국 학계에 두 차례 논문 게재를 신청했지만 받아들여지지 않았습니다. 심지어 중국의 한 SCI 논문집은 심의까지 통과시키고도 전혀 납득할 수 없는 이유로 게재를 미루고 있습니다."

김 교수는 자신을 둘러싼 항간의 의혹에 직접 해명하겠다는 자세를 보이고 있다. 김 교수의 '1백만달러짜리' 논문은 인터넷 웹사이트(www.mathpreprints.com)에 게재돼 날카로운 비판을 기다리고 있다.

'힐버트 문제' 해프닝으로 끝나

지난 11월 27일 영국 BBC 인터넷판은 흥미로운 '사건'을 보도했다. 역사상 가장 어려운 수학 문제 가운데 하나인 '힐버트의 기본문제' 16번의 해법 일부를 스웨덴의 한 여대생이 풀었다는 것이었다. '힐버트의 기본문제'는 '7가지 새천년 문제들', 그리고 '골드바흐의 추측 문제'와 더불어 수학계의 난제 가운데 하나로 꼽힌다.

우리나라 언론에서도 이 소식을 보도했다. 한 달여가 지난 지금, 결과적으로 이는 해프닝일 가능성이 큰 것으로 지적되고 있다. 문제를 풀었다는 엘린 옥센힐름의 지도교수가 논문에 오류가 있다는 사실을 뒤늦게 공언했기 때문이었다. 학생의 논문을 실었던 학술지(Nonlinear Analysis)도 뒤늦게 해당 논문을 삭제하는 소동을 빚기도 했다.

학계에서 이번 '사건'에 대한 언론의 신중한 접근을 당부하고 있는 것도 이런 사례가 그동안 드물지 않았기 때문이다. 김 교수의 이번 해법이 우리나라 수학계가 일군 '2003년 최대의 업적'이 될지 아니면 단순한 '해프닝'으로 그칠지는 앞으로 좀더 시간을 갖고 지켜봐야 할 것 같다.

<전주 최성진 기자 csj@kyunghyang.com·사진 김석구 기자 sgkim@kyunghyang.com>