많이 태운 자가 이기는가 : 토큰맥싱이 저물고 효율의 시간이 왔다

2026년 상반기, 우버(Uber)의 어느 회의실에서 한 장의 지출 보고서가 돌았습니다. 한 해 동안 쓰기로 편성해둔 AI 도구 예산이 단 넉 달 만에 바닥났다는 내용이었지요. 남은 여덟 달을 어떻게 버틸 것인가. 우버가 내놓은 답은 의외로 담백했습니다. 직원 한 사람이 AI에 쓸 수 있는 돈에 상한을 매기는 것. 기본 등급을 월 1,500달러(약 200만 원)로 두고, 그 이상은 별도 승인을 받도록 한 '지출 계층(tier)' 제도였습니다.

이 작은 사건이 업계에서 하나의 전환점으로 회자되기 시작했습니다. 지난 2년간 실리콘밸리를 조용히 지배하던 한 단어가 이제 저물고 있다는 신호였거든요. 그 단어의 이름은 토큰맥싱(tokenmaxxing)입니다.

토큰맥싱이 무엇인지부터 짚어야겠습니다. AI에게 던지는 질문과 받아내는 답의 분량, 그러니까 토큰(Token)의 소비량을 최대한 늘리는 것이 곧 미덕이라 믿던 문화입니다. 고용주는 개발자에게 "결과는 나중에 따지고, 일단 AI를 최대한 많이 써라"고 부추겼고, 많이 쓰는 사람이 앞서가는 사람으로 대접받았지요. 2026년 6월 26일 CNBC의 보도는 이 시대의 끝을 이렇게 요약했습니다. 오픈AI(OpenAI)와 앤트로픽(Anthropic)의 가장 큰 기업 고객들이, 토큰을 태우는 경쟁에서 예산을 조이고 측정 가능한 성과를 요구하는 쪽으로 방향을 틀기 시작했다고요.

▸ 많이 태울수록 잘한다는 착각 : 토큰맥싱의 짧은 전성기

저는 이 대목에서 한 가지 오래된 오류를 떠올립니다. 소비량을 성과의 대리지표(proxy)로 착각하는 오류입니다.

산업의 역사에는 이런 착각이 반복됩니다. 20세기 초 미국의 어느 공장에서는 생산성을 '기계가 돌아간 시간'으로 측정했다지요. 그러자 노동자들은 아무것도 만들지 않으면서 기계만 공회전시켰습니다. 측정 지표가 목적을 대체하는 순간, 사람은 지표를 채우는 데만 몰두하게 됩니다. 영국의 경제학자 찰스 굿하트(Charles Goodhart)의 이름을 딴 '굿하트의 법칙' — "측정값이 목표가 되는 순간, 그것은 더 이상 좋은 측정값이 아니게 된다"는 경구가 바로 이 함정을 가리킵니다.

토큰맥싱도 다르지 않았습니다. AI 사용량이 곧 혁신의 증거처럼 여겨지자, 조직은 '얼마나 썼는가'를 자랑하기 시작했습니다. 메타(Meta)에는 직원들이 만든 비공식 '토큰맥싱 리더보드'까지 있었다고 합니다. 누가 이번 달 토큰을 가장 많이 태웠는지 겨루는 순위표였지요. 그런데 2026년 상반기를 지나며 이 리더보드는 조용히 철거되었습니다. 마이크로소프트(Microsoft)는 몇몇 제품 부서 직원들의 클로드 코드(Claude Code) 구독을 아예 끊었습니다. 우버의 지출 상한, 메타의 리더보드 철거, 마이크로소프트의 구독 취소. 서로 다른 회사에서 벌어진 이 세 장면은 같은 문장을 향하고 있었습니다. 많이 쓰는 것이 잘 쓰는 것은 아니다.

▸ "뭔가 완전히 잘못됐다" : 과금 모델을 향한 반격

여러분, 이 방향 전환의 화살이 정확히 어디를 겨누는지가 중요합니다. 화살은 'AI를 쓰는 기업'이 아니라 'AI를 파는 방식', 곧 토큰 단위 과금 모델 자체를 향하기 시작했습니다.

가장 날 선 목소리는 팔란티어(Palantir)의 CEO 알렉스 카프(Alex Karp)에게서 나왔습니다. 2026년 7월 1일 CNBC와의 자리에서 그는 오픈AI와 앤트로픽의 토큰 과금 모델을 두고 "뭔가 완전히 잘못됐다"는 취지로 강하게 비판했습니다. 쓰면 쓸수록 청구서가 불어나는 구조에서는, 공급자가 고객의 절약을 응원할 이유가 없다는 것이지요. 실제로 팔란티어와 엔비디아(Nvidia)는 이 무렵 토큰 과금이 기업 예산을 압박하는 상황을 겨냥해 외부와 격리된 '에어갭(air-gapped)' AI 스택을 함께 내놓기도 했습니다.

숫자로도 균열이 보였습니다. AI 스타트업 린디(Lindy)의 CEO는 앤트로픽의 클로드(Claude)에서 트래픽 전량을 중국의 딥씨크(DeepSeek)로 옮겼습니다. 더 싸고, 가중치가 공개된 오픈웨이트(open-weight) 모델이라는 이유에서였지요. D.A. 데이비드슨(D.A. Davidson)의 애널리스트 길 루리아(Gil Luria)는 오픈AI와 앤트로픽의 대형 고객 일부가 통제 불능으로 불어난 토큰 지출을 제한하기 시작할 수 있다고 경고했습니다.

그렇지만 저는 한 발 물러서, 이 반격이 지나치게 한쪽으로 기우는 것도 경계하고 싶습니다. 효율에 대한 집착이 도를 넘으면, 정작 실험과 탐색에 필요한 여유마저 잘라내 버릴 위험이 있거든요. 토큰을 아끼느라 정말로 가치 있는 시도를 포기한다면, 그것은 또 다른 형태의 근시안입니다. 과금 모델의 문제를 지적하는 일과, 모든 AI 사용을 비용으로만 바라보는 일은 구별되어야 합니다. 문제는 '많이 쓰는 것'이 아니라 '목적 없이 쓰는 것'이었으니까요.

▸ 한국 기업이 지금 물어야 할 질문

이 흐름을 한국의 시선으로 옮겨보면 어떨까요. 지난 2년간 국내 기업들도 "우리도 AI 도입해야 한다"는 압박 속에서 도구를 사들이고 구독을 늘려왔습니다. 그런데 그 도입이 실제로 어떤 성과를 냈는지, 투자 대비 수익(ROI)을 냉정히 측정해본 조직은 얼마나 될까요.

저는 이번 미국발 방향 전환이 한국 기업에게는 오히려 시간을 벌어준 신호라고 봅니다. 남들이 먼저 태우고 먼저 데인 뒤에, 우리는 그 학습을 공짜로 넘겨받을 수 있으니까요. 지금 필요한 것은 더 비싼 모델도, 더 많은 토큰도 아닙니다. "이 AI가 우리 조직에서 어떤 문제를 실제로 풀고 있는가"라는 질문을 던지고, 그 답을 숫자로 확인하는 규율입니다. 도입의 성패는 예산의 크기가 아니라 질문의 정확도에서 갈립니다.

▸ 결국 남는 것은 질문의 힘

여러분, 저는 이 블로그에서 여러 번 같은 문장을 적어왔습니다. AI를 잘 다루는 인간이 그렇지 못한 인간을 대체한다고요. 토큰맥싱의 종말은 이 문장을 조금 더 정교하게 다듬어 줍니다. AI를 '많이' 쓰는 인간이 아니라, AI에게 '옳은 질문'을 던지는 인간이 앞서간다고요.

기술의 역사에서 값어치는 언제나 소비의 양이 아니라 목적의 선명함에서 나왔습니다. 전기를 가장 많이 쓴 공장이 아니라, 전기로 무엇을 만들지 아는 공장이 살아남았지요. 이제 AI도 같은 문턱 앞에 섰습니다. 다가올 하반기, 여러분의 조직은 "우리가 이번 분기에 토큰을 얼마나 태웠는가"를 물을 것입니까, 아니면 "그 토큰으로 무엇을 바꾸었는가"를 물을 것입니까. 그 질문의 방향이, 앞으로의 격차를 결정할 것입니다.