처음은 뜨거웠다. 모두가 열광했다. 잊고 있는 이들을 만나게 했고, 연결될 수 없었던 사람과 이어질 수 있었다. 관계는 좁아졌고, 세계는 가까워졌다. 소셜네트워크라는 기술은 인간의 외로움을 그렇게 타고 올랐다. 모든 기술 사업이 그렇듯, 성장이 확인되면 사용자를 묶어 떠나지 않게 하는 ‘록인’ 전략이 자연스럽게 뒤따른다. 그래야 돈을 벌고 통제할 수 있다. 록인은 사회학적으로는 ‘기계적 예속’과 동의어다. 록인의 강도가 높아질수록 사용자의 예속 상태는 강화된다.

페이스북은 초기 록인 전략으로 ‘엣지 랭크’라는 알고리즘을 활용했다. 친밀성, 가중치, 시의성 3가지 요소를 중심에 두고, 사용자를 유인하고 묶었다. 친밀한 관계를 지닌 사용자들에게 콘텐츠를 더 자주 노출했고, 새로운 콘텐츠일수록 우대했다. 물론 이 3가지 요소를 세분해 수만, 수십만의 행위 데이터를 분석과 학습 재료로 사용했다. 페이스북 알고리즘이 구축한 ‘피드백루프’, 즉 기계 예속의 순환 구조로 사용자를 빨아들인 것이다. 그렇게 십수년이 흘렀다. 지금은 다수 사용자가 이 예속 상태에 저항하며 뛰쳐나오고 있다.

또 다른 기술에 대한 열광이 움트고 있다. 하루에도 몇 건 이상 ‘챗GPT에 물었더니’ 하는 유(類)의 기사를 접한다. 페이스북이 등장했을 때와 비교해 체감상 열광의 온도는 훨씬 뜨겁다. 유사한 기술이 이전에도 있었지만, 챗GPT만큼 불타오르지 않았다. 혐오나 허위정보 논쟁으로 흐르며 거부감을 키우는 사례가 더 많았다. 하지만 이 기술만큼은 전혀 다른 양상이다. 인간의 번아웃에 대한 탁월한 해법으로 매력적인 결과물을 내놓고 있다. 합성에 기초한 현란한 창작 기술이 무기다.

이들의 초기 록인 전략은 저렴한 API(application programming interface)다. 모든 기술 플랫폼에 운영체제처럼 스며들도록 하는 작전이다. 챗GPT 웹사이트에 오지 않아도 인터넷상의 모든 공간에서 챗GPT를 이용할 수 있다면 그만이다. 카카오톡-챗GPT, 라인-챗GPT, 서치GPT 등 사용자들이 이용하는 많은 공간에 이 기술이 스며들고 있다. 그것도 낮은 가격에.

챗GPT도 성장을 위해 ‘기계 예속’의 피드백 루프를 구축하고 있다. 인간이 생산한 고품질의 데이터를 학습시키고, 생성된 결과물의 만족도를 되먹임하면서 모델의 몸집을 키우고 정확성을 높인다. 환각, 허위정보 등의 오류를 걷어내기 위한 과정이자 기계 예속 상태의 강화 작업이다. 소셜마케팅과 검색 최적화가 산업화한 것처럼 생성 AI 시대 프롬프트 엔지니어링이 뜨고 있는 데서 그 징후를 발견할 수 있다.

조만간 우리는 챗GPT 같은 생성 AI의 도움 없이 창작을 상상하기 어려운 단계로 진입할 것이다. SNS의 시대처럼 기계 예속의 일상화·전면화가 현실화할 것이다. 주목해야 할 건 예속 상태를 벗어나기 위한 저항과 탈주의 방법이다. 사용자 증가가 완숙기에 들어서 권력화가 진행되면 새로운 저항 주체가 반드시 등장한다. 누구보다 해당 기계의 피드백 루프 구조를 잘 이해하는 이들이다. 챗GPT도 결국 이러한 역사적 흐름 위에 존재할 수밖에 없다. 그 시점이 왔을 때, 우리가 이 기계의 예속 상태를 현명하게 벗어나기 위해서라도 생성 AI에 대한 이해와 감시, 구조의 분석을 게을리해선 안 된다. 늘 그렇듯, 사용과 감시는 동전의 양면이다.

<이성규 미디어스피어 대표>