엔지니어를 위한 이야기 공장 AI 기술에 인문학의 온기를

절반은 놀고 있었습니다 : 앤트로픽이 8조 원에 사려는 것은 모델이 아닙니다

절반은 놀고 있었습니다 : 앤트로픽이 8조 원에 사려는 것은 모델이 아닙니다

스물세 살에 박사 학위를 받은 사람이 창업을 하면 어떤 말을 하게 될까요? 이스라엘 회사 데카르트(Decart)의 창업자 딘 라이터스도르프는 2024년 말 한 인터뷰에서 이렇게 말했습니다. "엔비디아 같은 거대 기업에 팔릴 훌륭한 회사를 만들 수도 있었지만, 우리는 10억 명이 쓰는 앱을 만들고 있습니다."

그때 회사 기업가치는 5억 달러였습니다. 이스라엘 테크니온 공과대학에서 학교 사상 최연소로 박사를 받았는데, 그 기록은 얼마 지나지 않아 동생 오리안이 스물한 살에 깼다고 하죠. 이 형제와 동료 모셰 샬레브까지 셋이 2023년에 시작한 회사입니다.

그리고 이번 주, 그 회사가 팔리는 중입니다. 처음 협상 테이블에 마주 앉은 상대가 다름 아닌 엔비디아였습니다.

지난 10일 이스라엘 경제매체 칼칼리스트는 데카르트가 60억~70억 달러 규모의 매각 협상을 진행 중이라고 보도했습니다. 엔비디아와 합의에 근접했을 때 다른 입찰자가 끼어들었고 창업자들이 그쪽을 택했다는 내용이었죠. 업계에서는 그 새 입찰자로 스페이스X를 지목했는데, 일론 머스크는 곧바로 그 보도를 "가짜 뉴스"라고 일축했습니다. 아마존이 거론되기도 했습니다. 그리고 어제 블룸버그와 로이터가 인수 협상 상대로 보도한 곳은 앤트로픽이었습니다. 금액은 약 60억 달러, 우리 돈으로 8조 원가량입니다. 성사되면 앤트로픽이 지금까지 한 인수 가운데 알려진 것으로는 가장 큰 규모입니다. 물론 아직 서명 단계는 아니고 무산될 수도 있습니다.

▸ 유명한 것과 팔리는 이유가 다릅니다

데카르트가 무엇으로 유명한 회사인지 짚어야 이 금액이 왜 이상한지 보이는데요. 이 회사의 간판은 월드 모델입니다. 오아시스(Oasis)는 로보틱스와 자율주행 개발에 쓰는 합성 환경을 만들어 냅니다. 루시(Lucy)는 실시간 영상을 처리해 사람에게 옷이나 액세서리를 입혀 보여 주는데, 패션 이커머스가 오래 붙잡고 있던 숙제죠. 2024년에 처음 공개한 오아시스 게임 데모는 사흘 만에 사용자 100만 명을 모았습니다. 투자자 명단에는 안드레이 카르파시와 전 디즈니 CEO 마이클 아이스너, 그리고 닌텐도 가문이 들어 있습니다. 지난 5월 시리즈 B에서 3억 달러를 받을 때 매겨진 기업가치가 약 40억 달러였으니, 60억 달러는 석 달 만에 50% 웃돈이 붙은 값입니다.

그런데 보도된 인수 이유는 이 간판과 상관이 없습니다. 앤트로픽이 노린 것은 DOS(Decart Optimization Stack)라고 불리는 추론·학습 최적화 스택입니다. 같은 모델을 같은 칩에서 더 빠르게 돌리는 소프트웨어 층이고, 엔비디아 GPU, 아마존 트레이니엄(Trainium), 구글 TPU 모두에서 동작합니다. 인수가 성사되면 데카르트 팀은 앤트로픽의 "추론·성능 조직"으로 들어간다고 합니다. 간판 제품을 사는 것이 아니라 그 아래에서 돌아가는 소프트웨어를 사는 셈이죠.

구글 TPU v4 보드입니다. 데카르트의 최적화 스택은 이 칩에서도, 엔비디아 GPU에서도, 아마존 트레이니엄에서도 돕니다.
구글 TPU v4 보드입니다. 데카르트의 최적화 스택은 이 칩에서도, 엔비디아 GPU에서도, 아마존 트레이니엄에서도 돕니다.

*출처: Wikimedia Commons*

▸ 여덟 배보다 중요한 숫자 : 빌린 칩의 절반은 놀고 있습니다

데카르트가 내세우는 숫자는 초당 1,600 토큰입니다. 에이전트 추론 기준이고, 업계 평균이 200 정도라고 하니 여덟 배죠. 풀HD 영상은 초당 최대 100프레임까지 처리한다고 하고, 비용 효율은 100배 이상 개선했다고 밝혔습니다.

이 숫자들은 전부 회사가 스스로 발표한 것이고 독립적으로 검증된 바는 없습니다. 어떤 모델을 어떤 배치 크기와 컨텍스트 길이로 돌렸을 때의 값인지도 밝히지 않았습니다. 비교 대상인 "업계 평균 200"이 무엇을 평균한 수치인지도 알 수 없죠. 추론 성능은 이 세 가지 조건만 바꿔도 배 단위로 흔들리기 때문에, 여덟 배라는 말만 따로 떼어 놓으면 무엇을 알려 주는 값인지 가늠하기 어렵습니다.

그래서 저는 이 발표에서 다른 숫자를 봅니다. MFU(Model FLOPS Utilization)입니다. 아마존 트레이니엄에서 80%를 넘겼다고 하는데요, 업계에서는 40~50%면 잘 최적화된 것으로 봅니다.

MFU를 풀어 쓰면 이렇습니다. 가속기 한 장이 이론적으로 낼 수 있는 연산량 가운데 실제로 내 일을 하는 데 쓰인 몫이 얼마냐는 비율입니다. 40%라는 건 시간당 요금을 전부 지불하고 빌린 칩에서 연산 능력의 절반 이상이 실제 계산에 쓰이지 못한다는 뜻이죠. 메모리에서 데이터가 도착하기를 기다리거나, 커널이 비효율적이거나, 배치가 덜 찼거나 하는 이유로 말입니다.

시간당 요금은 랙 전체에 매겨지는데, 그 안에서 실제로 일하는 몫은 절반 안팎일 수 있습니다.
시간당 요금은 랙 전체에 매겨지는데, 그 안에서 실제로 일하는 몫은 절반 안팎일 수 있습니다.

*출처: Wikimedia Commons*

지난 몇 년간 업계의 이야기는 GPU가 부족하다는 것이었습니다. 그런데 잘 최적화된 축이 40~50%라는 말은, 그 부족한 것을 절반 넘게 버리면서 쓰고 있었다는 뜻도 됩니다. 병목이 조달이 아니라 낭비 쪽에 있었던 셈입니다.

다만 이 80%도 조건을 봐야 합니다. 발표된 사례는 루시2를 트레이니엄3에 올렸을 때의 수치입니다. 영상과 월드 모델 워크로드이고, 앤트로픽이 정작 필요한 에이전트 추론과 같은 조건이 아닙니다. 같은 칩 세대에서 다른 스타트업이 비슷한 수치를 낸 사례도 있으니, 그 80%가 온전히 이 회사의 소프트웨어 몫인지도 아직 알 수 없습니다. 숫자가 틀렸다는 게 아니라, 그 숫자가 어디서 나왔는지가 8조 원의 근거로 충분한지는 별개 문제라는 뜻입니다.

▸ 8조 원이 사려는 것은 마진입니다

그러면 앤트로픽은 왜 이 값을 부를 수 있었을까요? 회사가 투자자들에게 제시한 숫자에 답이 있습니다. 매출에서 원가를 뺀 몫의 비율, 즉 매출총이익률을 현재 40%대에서 2028년까지 77%로 끌어올린다는 것입니다. 지난 5월 시리즈 H에서 매겨진 기업가치는 9,650억 달러였고, 나스닥 상장을 준비하고 있습니다.

40%대에서 77%로 가는 길에는 모델을 더 잘 만드는 일이 들어 있지 않습니다. 같은 질문에 같은 답을 절반 값에 내놓아야 나오는 숫자입니다. 8조 원이 사려는 것은 모델이 아니라 마진이고, 상장을 앞둔 회사라면 마진이 제품보다 비싼 물건이죠.

물론 여기서 조심할 대목이 있습니다. 앤트로픽이 첫 분기 영업이익을 낸다는 보도가 지난 5월에 있었는데요, 2분기 매출 109억 달러에 영업이익 약 5억 5,900만 달러라는 수치였습니다. 이건 투자 유치 과정에서 투자자에게 공유된 내부 전망치를 월스트리트저널이 보도한 것이고, 감사받은 확정 실적이 아닙니다. 모델 학습비는 넣었지만 주식보상비용은 뺀 계산이기도 합니다. 컴퓨팅과 학습 지출을 늘릴 계획이라 연간 흑자는 유지되지 않을 수 있다는 단서도 함께 붙었습니다. 40%대에서 77%라는 것 역시 지금의 성과가 아니라 투자자에게 한 약속입니다.

그리고 이 협상에서 가장 이상한 대목은 앤트로픽이 아니라 엔비디아입니다. 칩을 파는 회사가, 같은 일을 더 적은 칩으로 해내게 만드는 회사를 먼저 사려고 했습니다. 5월 투자 라운드에 이름을 올린 투자자이기도 하죠. 활용률을 쥔 쪽이 값을 정한다는 것을 칩을 파는 쪽이 먼저 알고 있었던 것으로 보입니다.

▸ 파라미터 수는 발표되고 활용률은 발표되지 않습니다

한국에서 이 이야기가 닿는 지점이 있습니다. 모델 하나의 수명 전체를 놓고 보면 컴퓨팅 비용의 80~90%는 학습이 아니라 추론에 들어간다는 것이 업계 추정입니다. 정부는 2027년까지 5,300억 원 규모로 국가대표 AI를 지원하고 있고, 목표는 글로벌 모델 성능의 95% 이상 확보입니다.

예전에 큰 모델이냐 실제로 돌아가는 모델이냐를 다룬 적이 있는데요, 여기에 질문이 하나 더 붙습니다. 돌린 다음에 남느냐는 것입니다. 발표되는 것은 파라미터 수와 벤치마크 점수인데, MFU를 밝힌 곳은 아직 보지 못했습니다. 그런데 상장을 앞둔 앤트로픽이 8조 원을 부른 자리가 바로 그 숫자입니다.

해외 API 위에 서비스를 올린 국내 회사들이라면 계산이 더 직접적입니다. 모델을 만든 쪽의 매출총이익률이 40%대라면, 그 위에 한 겹을 더 올린 쪽의 마진은 어디서 나와야 할까요?

이 인수는 아직 서명 전이고 무산될 수도 있습니다. 그래도 거대 기업 몇 곳이 같은 스타트업 앞에 비슷한 값을 들고 줄을 섰다는 사실은 남습니다. 모델을 하나 더 만드는 데 쓸 수도 있었던 8조 원이 활용률을 몇 퍼센트 올리는 일에 붙었죠. 앞으로 모델 발표를 읽을 때 무엇을 먼저 찾아봐야 할지 고민이 필요합니다.

#앤트로픽 #데카르트 #추론비용 #MFU #AI인프라 #국가대표AI