[이데일리 방성훈 기자] 최근 인공지능(AI) 열풍의 최전선에서 새로운 AI 수요 척도로 ‘토큰’이 주목받고 있다. 하지만 토큰이 반드시 수익성과 직결되는 것은 아니라는 불안감이 확산하고 있다.

(사진=AFP)

<이미지를 클릭하시면 크게 보실 수 있습니다>

23일(현지시간) 이코노미스트에 따르면 구글은 지난 10월 기준 모든 제품에서 월 1300조개의 토큰을 처리했다면서, 불과 8개월 만에 토큰 처리량이 8배 급증했다고 밝혔다. 오픈AI도 같은달 토큰 처리량이 1조개 이상인 고객사가 30곳을 돌파했다고 공개했다.

중국 알리바바는 자사 토큰 사용량이 수개월마다 두 배씩 늘고 있다고 발표했고, 대만 반도체업체 TSMC는 “토큰 볼륨의 기하급수적 증가”가 AI 칩 수요 급증 배경이라고 알렸다.

이처럼 AI 시대를 맞이해 토큰이 새로운 수요 척도로 자리매김하고 있다. 토큰은 대규모언어모델(LLM)이 질의에 응답하거나 읽을 때 사용하는 텍스트 조각이다. 영어 단어 기준 평균 네 글자 정도 길이다.

이코노미스트는 “1990년대 말 닷컴버블 당시 인터넷 신생기업들이 높은 기업가치를 부각하기 위해 ‘클릭 수, 조회수, 체류시간’ 등 모호한 지표를 내세웠던 것과 유사하다”며 “언뜻 보기엔 토큰 수 증가가 수익 창출 잠재력이 급증하고 있다는 신호로 보일 수 있다”고 짚었다.

하지만 실제로는 토큰과 AI 수요 사이의 연관성은 모호하다는 지적이다. 토큰 사용량 증가 중 일부는 AI 사용이 늘었다는 것을 반영할 수 있겠지만, 대부분은 기업들이 새로운 수익원 창출보다는 기존 제품 기능을 개선하기 위해 AI를 접목하고 있기 때문이다.

예를 들어 틱톡 등과 같은 소셜미디어(SNS) 플랫폼은 추천 알고리즘을 보다 정교하게 만들고 이미지 품질을 개선하기 위해 AI 모델을 주로 활용한다. 구글은 검색시 웹페이지 목록을 보여주는 대신 이를 요약해주는 ‘AI 개요’(AI overviews)를 제공하는 데 모델을 사용하고 있다. 바클레이스는 “이러한 요약이 구글 전체 토큰 처리량의 3분의 2 이상을 차지한다”고 추정했다.

다음으론 AI 모델 자체가 똑똑해지면서, 즉 LLM이 정교해질수록 답변이 길어지기 때문에 나타나는 결과라는 진단이다. 연구기관 에폭AI(EpochAI)에 따르면 표준 모델의 경우 벤치마크 질문에 대한 평균 출력 토큰 수가 매년 두 배씩 증가한다. 접근 방식을 단계별로 설명하는 추론 모델은 단순한 모델보다 8배 더 많은 토큰을 사용하며, 그 사용량은 매년 약 5배씩 늘고 있다.

최신 모델들도 이러한 추세를 따를 가능성이 높다. 즉 토큰 사용량 증가는 자연스러운 현상이며 앞으로도 계속될 것으로 보인다.

토큰 사용량 증가가 수와 수익과의 연결고리는 더욱 약하다. AI 모델을 구동하는 칩 속도가 빨라지고, 모델의 학습 효과가 개선되면서 토큰 생산비용은 급락했다. 예를 들어 오픈AI의 GPT-4 수준으로 박사 과정에 준하는 과학 질문에 답변하는 데 필요한 토큰 가격은 매년 약 97% 감소했다.

그러나 토큰이 저렴해졌다고 AI 이용료가 싸진 것은 아니라는 것이다. 토큰 단가가 떨어지더라도 AI 모델이 정교해질수록 연산 부담이 커지고 작업을 완료하는 데에도 더 많은 토큰이 필요하기 때문이다.

컨설팅 업체 세미애널리시스의 웨이 저우는 “AI 모델이 계속 개선되고 (처리 능력도) 커지기 때문에 응답을 생성하는 데에는 여전히 많은 비용이 든다”며 “AI 서비스 제공의 한계 비용이 제로(0)에 가까워지는 미래는 상상하기 어렵다”고 내다봤다.

경쟁 심화에 따른 수익성 압박도 커지고 있다. 오픈AI의 GPT-5 프로는 토큰 100만개당 120달러를 청구하는 반면, 중국 경쟁사는 이보다 훨씬 낮은 단가로 오픈소스 모델을 선보이고 있다.

오픈AI의 샘 올트먼 최고경영자(CEO)가 최근 투자자들에게 “수년간 막대한 적자가 이어질 수 있다”고 경고한 것도 회사 수익성이 압박을 받고 있음을 시사한다. 월스트리트저널(WSJ)에 따르면 오픈AI는 2028년까지 영업손실이 연간 740억달러에 이를 것으로 추산됐다. 이는 예상 매출의 4분의 3에 해당하는 규모다.

이코노미스트는 “최근 추세를 보면 많은 사용자가 품질을 희생하는 대신 비용을 줄이려는 경향을 보인다”며 “토큰이 AI 붐의 새로운 화폐가 될 것이라고 예상하는 투자자들에게는 냉정한 현실”이라고 평가했다.