언플래시
에이전트라는 단어, 올해의 테크 유행어로 떼 놓은 당상이다. 요즈음 구글은 애플만큼이나 서두르지 않고 뒷북으로 제품을 공개하는데, 구글도 24시간 상시 가동되는 개인용 AI 에이전트 제미나이 스파크를 공개했다. 대기업이 제품을 내놓았다는 건 그 트렌드가 따먹을 만큼 농익었다는 뜻이다.
에이전트란 조수나 요원으로 번역할 수도 있겠지만, 어떤 행위의 주체나 작용의 원인을 말하기도 한다. 주어진, 혹은 해야 하는 일이 잘되도록 여러 방법으로 힘쓰는, 그러니까 주선자가 곧 에이전트다. 뭐, 다 좋은 말이다. 하지만 공짜는 없다. 이 주선자는 거저 움직이지 않는다. 자판기처럼 토큰을 눌러 넣어야 일을 한다. 토큰? 회수권처럼 고색창연한 단어로 들린다. 하지만 지금은 ‘토큰 경제학’이라는 말이 있을 정도로 중심 개념이 돼버렸다.
토큰을 알아보기 위해 AI 챗봇을 살펴보자. 챗봇은 대화를 한다. 입력을 받고 출력을 한다. 입력을 받아들일 때도 출력을 만들 때도 토큰이라는 단위로 재(再)언어화하는데, 이 과정은 곧 연산, GPU든 AI 반도체든 전산 자원을 혹사하는 일이다. 그래서 토큰은 바로 그 소중한 자원의 소모를 나타내는 단위가 됐고, 더 나아가 그 자원의 구매 가치를 나타내는 데까지 용어 자체가 진화했다.
결국 AI는 토큰을 태워야만 일을 한다. 공짜로 챗봇을 쓰고 있는 것 같지만, 누군가의 투자금이 마케팅을 위해 토큰을 대주고 있다. 우리가 길들 때까지 물량 공세를 벌이는 중이다. 그런데 챗봇까지는 몰라도 에이전트는 그럴 수 없다. 에이전트는 토큰을 물 쓰듯 한다.
클로드 코드 같은 에이전트 때문에 소프트웨어 엔지니어의 직업이 멸종했다고 난리다. 그렇게 신입을 뽑는 대신 에이전트를 쓰다 보면 하루에도 수십, 수백달러치 토큰을 소진한다. 물론 그대로 다 받지는 않고 월정액제로 대폭 할인해주는 듯 생색을 내니 쓰는 이는 기분이 좋다. 어딘가 조삼모사 같지만, 그렇게 토큰을 써서 조수를 부려먹는 맛, 토큰을 풀어 ‘주선자’를 불러모은 경험을 한 후에는 과거로 되돌아갈 수 없다. 돈도 써본 사람이 그 맛을 안다는데, 이런 맛인가 보다.
후하게 쓸 수 있는 토큰이 회사의 복리후생 중 하나로 홍보되기도 한다. 전교 석차를 벽에 붙이듯 토큰 소모량을 리더보드에 게시하기도 한다. 토큰이 곧 능력이 돼버렸다.
‘오픈클로’라는 대유행 에이전트를 만든 개발자는 오픈AI로 이직하자마자 토큰을 한 달에 17억원어치를 소진했다고 트위터에 ‘플렉스’했다. 회사가 나를 위해 그 정도의 토큰을 뿌릴 수 있다는 자랑이다.
에이전트의 토큰 연비는 왜 나쁠까? 에이전트란 별것 아니라 챗봇이 계속 혼잣말을 하며, 될 때까지 반복하는 구조라서다. 혹은 챗봇끼리 서로 대화하며 의견을 도출하고 실행까지 하는 식이라서다. 나와 단둘이 대화할 때만 소소히 토큰을 쓸 때는 못 했던 일도, 자기들끼리 토큰을 소진하다 보면 해내곤 한다. 물론 별 시답지 않은 결과물을 내놓고 토큰을 낭비할 때도 있다. 하지만 그러한 낭비 또한 흔쾌히 받아들일 수 있는 여유가 있어야 나오는 것이 결과이기도 하다.
디지털 시대란 노트북 1대와 능력만 있다면 무엇이든 창조해 이길 수 있는 시대였다. 하지만 에이전트 시대에는 돈 쓰는 이를 이겨내기가 영 버겁다. 대 ‘현질’ 사회가 목전에 다가왔다.