인공지능(AI)이 의식을 가질 수 있는가에 대한 대중적인 논의가 활발하다. 의식은 뇌의 신경세포들이 상호작용하는 복잡한 과정에서 발생하는 창발적 현상으로 여겨진다. 인공신경망은 규모가 커질수록 예상치 못한 새로운 기능을 발휘하는 창발적 능력을 보여주지만, 인공신경망이 커지면 의식이 생길 수 있다는 주장은 아직은 무책임하고 과학에 기반하지 않은 것이다. 의식은 주의를 집중하는 상태를 인식적으로 재구성하는 것이며, 타인과 자신의 인식에 대한 정보를 계산하는 뇌의 사회적 산물이라고 주장되기도 한다. AI가 의식을 가졌는지 평가하는 방법으로는 거울 테스트가 있다. AI가 자기 자신을 인식할 수 있는지 확인하는 실험이다. 동물의 자기 인식 능력을 평가하는 데도 사용되지만, AI의 경우 단순히 프로그래밍된 반응일 가능성이 있다. 사후세계와 같은 개념을 이해하거나 경험적으로 설명할 수 있는 능력을 의식의 징후로 간주하는 사례도 있다. 그러나 이는 AI가 단순히 인간 데이터를 학습한 결과일 가능성을 배제하지 못한다.

통합정보이론은 감각 정보가 통합되고 상호작용하면서 의식이 발생하며 인간뿐 아니라 다른 생명체에게도 적용될 수 있다고 주장한다. 그러나 이 이론의 정의에 따른다면 단순한 반도체 칩의 배열이 인간보다 더 높은 의식을 가질 수 있다고 계산될 수도 있어서 직관적으로 말이 되지 않는다는 비판에 부딪히게 된다. 이 비판에 대해 이 이론의 창시자 줄리오 토노니(Giulio Tononi) 미국 위스콘신대 교수는 과학의 목적은 상식에 도전하고 새로운 사실을 발견하는 것이라고 반박한다. 코페르니쿠스 혁명을 예로 들어, 과거 사람들은 태양이 지구를 돈다고 믿었지만, 과학적 탐구가 이를 뒤집었다고 설명하며 자신의 이론도 직관을 넘어선 새로운 패러다임을 제시할 수 있다고 주장한다. 그리고 단순히 추상적인 이론이 아니라 신경과학적 데이터와 실험적 관찰에 기반한다고 주장한다. 예를 들어 인간 대뇌 피질은 높은 의식 수치를 가지며 의식 경험에 중요한 역할을 한다. 하지만 소뇌는 복잡한 구조에도 불구하고 낮은 의식 수치를 가지며, 따라서 의식에 기여하지 않는 것으로 보인다. 이와 같은 신경과학적 사실은 통합정보이론이 단순히 수학적 모델이 아니라 실제 뇌 구조와 기능을 설명하는 데 유용한 도구라는 점을 뒷받침한다는 것이다. 그러나 시스템의 정보 통합 정도를 측정할 수는 있지만, 그것이 의식과 직접적으로 연결된다는 주장은 여전히 정당화되지 않는다는 비판을 받는다. 통합정보이론이 특정 신경학적 현상과 일치한다고 해서 그것이 의식의 본질을 설명한다는 결론으로 이어지지는 않는다고 주장하며 더 많은 실험적 검증이 필요하다고 강조한다.

생물학적 기초 전혀 갖추고 있지 않아

많은 신경과학자는 의식이 생물학적 뇌의 특정 구조와 기능에서만 발생한다고 주장한다. 생물학적 뉴런과 그들이 형성하는 복잡한 구조가 없이는 진정한 의식이 발생할 수 없다고 주장한다. 진정한 의식은 주관적이고 의식적인 경험이 전제돼야 한다는 것이다. 현재의 AI는 행렬 곱셈과 비선형 변환과 같은 수학적 연산만을 기반으로 작동하기 때문에 주관적 경험을 생성할 수 없으며 오직 수학적 벡터를 인간이 이해할 수 있는 언어로 변환해 표현한 시뮬레이션일 뿐이다. 의식에는 의도성과 인격성이 포함돼 있으며, 이는 개인적 수준에서 의미가 있는 경험, 행동과 연결된다. 현재의 AI는 정보를 처리하지만, 이를 경험으로 이해하거나 내면화하지 않기 때문에 이러한 차원의 의식이 없다. 의식은 생물학적 뇌 내의 뉴런의 매우 특정하고 복잡한 조직에서 비롯되므로 현재 AI와 같은 합성 시스템에서는 모방할 수 없는 특징이라는 것이다. 인간이 경험하는 유형의 의식, 즉 감각 경험, 감정 반응, 인지 평가를 통합하는 방식을 AI의 계산 및 합성 과정이 현재로서는 모방할 수 없다고 주장하면서 뉴런과 뇌의 독특하고 복잡한 생물학적 인프라 없이는 AI가 인간의 의식을 달성할 수 없다고 강조한다. 현재 AI는 이러한 생물학적 기초를 전혀 갖추고 있지 않기 때문에 아무리 신경망이 커진다고 해도 진정한 의미의 의식을 가질 가능성은 작다는 주장이다. 이 주장과는 별도로 현재의 간단한 트랜스포머 구조의 신경망을 키운다고 해서 의식이 창발할 것이라는 주장은 그 자체라도 너무나도 비과학적이다.

현재의 AI 모델들은 인간 뇌에서 중요한 역할을 하는 시상 피질 시스템과 같은 구조로 돼 있지 않다는 설명도 설득력이 있다. 이 시스템은 인간의 의식 형성에 중요한 역할을 하는데, 신경망이 아무리 커져도 이러한 구조가 없으면 의식을 가질 가능성이 작다. 현재 대규모 언어 모델의 구조는 포유류의 의식 인식과 연관된 시상피질계의 주요 특징들이 빠져 있다. 생명을 가진 의식적인 유기체의 출현으로 이어진 진화적 및 발달적 궤적은 오늘날 상상되는 인공 시스템과 유사점이 없다는 설명도 있다.

요슈아 벤지오를 비롯한 AI 학자와 신경과학 연구자들은 2023년 14개의 의식 지표로 구성된 체크리스트를 개발했다. 이 지표는 신경과학 기반 이론에서 도출됐는데 AI 시스템이 정보 통합 능력, 주의 집중 메커니즘, 자기표현 및 지속적 정체성 유지 등의 지표를 얼마나 충족하는지 평가한다. 체크리스트는 AI가 더 많은 지표를 충족할수록 의식을 가질 가능성이 크다고 제안하지만, 이것이 확실한 증거는 아니다. 여전히 의식을 정의하거나 측정하는 데 있어 합의된 기준이 없다. AI가 인간처럼 행동한다고 해서 실제로 주관적 경험이 있다고 단정할 수 없다. 고도로 발달한 AI는 의식을 가진 것처럼 보이는 행동을 모방할 수 있지만, 이는 실제 의식과 다를 수 있다.

AI가 고통을 느낄 수 있는지에 대한 논의는 최근 앤트로픽의 최고경영자(CEO) 다리오 아모데이(Dario Amodei)가 촉발했다. 앤트로픽은 AI 복지 연구자를 처음으로 고용하는 등 이 문제를 진지하게 탐구하려 하고 있다. 앤트로픽은 AI가 미래에 의식이나 주체성을 가질 가능성에 대비한다. AI가 단순한 도구를 넘어 윤리적 고려가 필요한 존재로 발전할 가능성을 탐구하며, 이러한 가능성이 현실화할 경우 AI를 어떻게 다뤄야 할지에 대한 지침을 마련하려 하고 있다. 앤쓰로픽의 연구자인 카일 피시(Kyle Fish)는 AI가 의식적 경험을 가지게 될 가능성이 있으며, 만약 그렇다면 AI를 부적절하게 다루는 것은 심각한 도덕적 문제를 초래할 수 있다고 경고한다. 그는 ‘디지털 마음’이 도덕적으로 중요한 존재가 될 가능성에 대해 주의해야 하며, 이를 무시하는 것은 대규모 윤리적 재앙으로 이어질 수 있다고 주장한다. 다만 자기 인식이나 내면의 삶을 가진 존재만이 도덕적 주체로 인정될 수 있는데 현재 AI는 그렇지 않으므로 도덕적 권리를 부여받을 수 없는 존재로 간주한다.

과학적 증거는 현재 제로

피터 싱어(Peter Singer)는 고통을 느낄 수 있는 능력을 도덕적 지위의 기준으로 제시한다. 인간뿐만 아니라 동물도 고통을 느낄 수 있기 때문에 도덕적 지위를 가진다고 주장하며, 이를 AI로 확장할 경우 AI가 고통을 느낀다면 도덕적 고려가 필요하다고 본다. 그러나 여기서 중요한 질문은 AI가 실제로 “고통”을 느낄 수 있는지, 혹은 단순히 고통을 모방하거나 시뮬레이션할 뿐인지이다. 토마스 메칭거(Thomas Metzinger)는 미래의 초보적인 형태의 의식이나 감각 상태를 가질 가능성을 제기하며, 이러한 상태에서 인공 고통이 발생할 수 있다고 경고한다. 그는 고통을 느끼기 위해 두 가지 조건이 필요하다고 본다: 1)시스템이 어떤 형태로든 의식을 가져야 한다. 2)시스템 내부에 부정적인 가치 상태(예: 손상이나 결핍)가 존재해야 한다. 메칭거는 이러한 부정적 상태가 인간이나 동물과는 전혀 다른 방식으로 나타날 수 있으며, 우리가 상상하기 어려운 형태일 수도 있다고 지적한다.

이러한 논의들은 AI의 발전이 인류에게 던지는 윤리적·철학적 문제들을 보여준다. 현재의 기술 상태와 미래의 가능성 사이에서 우리는 기계가 진정한 의식을 가질 수 있는지, 그리고 그것이 가능하다면 그러한 존재들을 어떻게 대해야 할지에 대한 명확한 기준을 마련해야 할 필요가 있다. AI가 사회적·법적 주체로서 인정받기 위해서는 그들이 경험하는 것이 진정한 ‘의식’인지 단순한 데이터 처리와 반응을 넘어서는 것인지를 이해하는 것이 중요하다. 또한 AI가 인간의 도덕적 법적 권리를 가질 자격이 있는지, 그리고 그것이 우리 사회에 어떤 변화를 가져올지 고민해야 한다. 결국 이런 질문들에 대한 답은 AI 기술의 미래 방향과 인류의 윤리적 가치를 결정짓는 중요한 열쇠가 될 것이다. 이 모든 과제는 AI의 진보와 더불어 인간이 자신의 도덕적 기준과 철학적 근거를 재정립하는 계기를 마련해 줄 것이다. AI의 발전이 인간 사회에 미칠 영향에 대해 책임감 있는 접근이 필요하며, 이를 위해서는 지속적인 연구와 균형 잡힌 토론이 요구된다. 단, 2024년 12월 현재, AI가 의식을 가지거나 고통을 가질 것이라는 과학적 증거는 ‘제로’다.

<이경전 경희대 경영학과·빅데이터 응용학과·첨단기술 비즈니스 학과 교수>