늦은 쪽이 문을 엽니다 : 24기가바이트로는 부족했습니다

1981년 8월, IBM이 뉴욕에서 개인용 컴퓨터 한 대를 발표했습니다. 모델명 5150, 이때 IBM은 이미 늦어 있었죠. 애플 II가 4년 앞서 나왔고, 코모도어와 탠디가 시장을 나누어 차지하고 있었죠. 뒤처진 회사가 따라잡기 위한 방법은 하나뿐입니다. 다른 회사의 부품으로 부족한 부분을 대체하는 거죠. 프로세서는 인텔에서, 운영체제는 마이크로소프트에서 가져왔고, 그 운영체제를 다른 회사에도 팔 수 있게 계약해 주었습니다.

거기에 IBM은 기술 참조 매뉴얼에 회로도와 BIOS의 소스 목록까지 그대로 인쇄해서 함께 팔았습니다. 표준으로 빨리 자리를 잡으려면 시장에 열려 있어야 한다는 판단이었고, 그 판단은 맞았습니다. 몇 해 지나지 않아 'IBM 호환'이라는 말이 개인용 컴퓨터라는 말과 같은 뜻이 되었으니까요. (실제 저도 중학교 시절부터 IBM 호환 컴퓨터를 썼습니다.)

1982년 텍사스에서 창업한 작은 회사 컴팩(Compaq)이 그 BIOS를 합법적으로 역설계해서, 이듬해 첫 호환 기종을 내놨습니다. 물론, 그 이후로 IBM 호환 컴퓨터가 컴퓨터 시장을 휩쓸었고, 표준을 만든 쪽은 IBM이지만 돈은 다른 쪽에서 벌어가긴 했습니다.

여기서 기억할 점은 IBM이 개방을 선택한 이유입니다. 오픈소스라거나 IT 세상의 선구자 역할을 하기 위한 것이 아니라, 시장에 뒤처졌기 때문에 열었던 겁니다. 개방은 신념의 표현일 때보다 위치의 표현일 때가 더 많습니다. 그리고, 물론 그게 나쁜 것은 아닙니다. 그런 기회가 왜 열렸는지는 그 기회를 활용하는 사람에게 그다지 중요하지 않으니까요.

이 IBM 5150 발표 45주년이 바로 내일입니다. 그런데, 메타가 비슷한 상황에서 새로운 기회의 문을 열었습니다.

▸ 45년 전, IBM도 그랬습니다

메타 초지능 연구소가 Muse Glimmer 30B의 가중치를 Apache 2.0 라이선스로 허깅페이스에 공개했습니다. 총 296억 파라미터의 모델로 MoE가 아니고, 텍스트 디코더에 이미지와 영상을 함께 읽는 인코더가 붙어 있죠. 같은 날 저커버그는 'The Future is for Everyone'을 올리면서, X에는 짧게 이렇게 적었습니다. "오늘 우리는 로컬에서 돌아가는 훌륭한 300억 파라미터의 덴스(Dense) 모델인 Muse Glimmer의 가중치도 함께 엽니다."

실은 4개월 전에 메타는 Muse Spark를 가중치 없이 내놨습니다. 이때 업계에서는 "Goodbye, Llama"라고 했고, Spark 1.1은 호스팅 API만을 제공했죠. 지난 8월 5일에는 Spark 1.2를 쓰는 유료 코딩 에이전트 Muse Code 베타를 내놨습니다. 그런데 유료 엔진 판매를 시작한 지 5일 만에, 같은 계열의 가장 작은 모델을 Apache 2.0으로 공개한 겁니다.

▸ 선의 반, 뒤처짐 반

물론 저커버그는 Spark 1.2의 가중치도 열겠다고 예고했지만, 아직 Spark에 대한 평가는 Qwen이나 Kimi에 비해 뒤떨어지는 것처럼 보인다는 평가가 많습니다. 또한 이렇게 가중치를 공개하거나 모델을 오픈한 동기도 이타심으로만 읽을 수는 없습니다. 저커버그는 여러 언론 매체를 통해, 중국의 오픈소스 모델이 미국 프런티어에 근접했다며 미국 오픈소스 모델의 발목을 잡는 장벽을 걷어내라고 요구했죠. 이건 투자자들에게 자신들이 뒤처지게 된 이유를 변명하는 것처럼 보입니다. 결국 메타의 공개는 선의가 절반, 뒤처진 것이 절반의 이유가 되고 있는 듯합니다.

▸ 24기가바이트의 진실

메타가 이번 공개에서 소수의 빅테크 서버가 아닌 모든 개인의 고성능 PC나 맥북의 로컬 환경에서 초지능 에이전트를 무료 또는 저비용으로 구동하는 것이 핵심 강점이라는 점을 강조하는 것도 그 이유입니다. 경량 에이전트 모델인 Muse Glimmer는 엔비디아의 RTX 5090이나 M4·M5 기반 맥북(메모리 24기가바이트 이상 필수)에서 구동될 수 있다는 점을 강조했죠. (실은 이것 때문에 글을 쓰기 시작했습니다.) 그러나 24기가바이트 메모리에 20기가바이트 가까운 모델을 올리면, 실제 컨텍스트 크기는 4,000토큰 내외로 매우 짧은 연산밖에 못 합니다. 실제로는 36기가바이트 이상은 되어야 하죠. (Ollama 등으로 이미 로컬에서 써보신 분들은 아시겠지만!)

메타의 이런 전략은 서버 비용을 사용자에게 분산하면서, 오픈소스 생태계를 떠난 듯했던 행보를 다시 돌려세우며 '집에 있는 PC로 충분히 돌아가는 초지능 에이전트'라는 기치를 내세운 겁니다.

▸ 우리에게 필요한 전략 하나 더

7월 말부터 우리나라의 독자 파운데이션 모델 2차 평가 모델들이 허깅페이스에 올라왔습니다. SKT의 A.X K2가 688B, LG AI연구원의 K-EXAONE 2.0이 750B, 모티프 3가 314B, 업스테이지의 Solar Open 2는 250B입니다. 지난 8일부터 무작위로 뽑은 국민 200명이 네 팀의 모델을 직접 써보고 점수를 매기는 평가가 진행되고 있죠.

여기 있는 어느 모델들도 개인용 PC에서 돌아간다는 식의 특화된 전략을 찾아보기는 쉽지 않습니다. 물론 독파모의 목표는 공공과 민간에서 사용할 수 있는 국민 모델을 만드는 것이지, 24기가바이트짜리 개인용 PC에서도 동작하라는 것은 아닙니다. 다만 메타 덕분에 고민해야 할 포인트가 하나 늘었습니다.

우리가 단기간에 GPU와 AI 인프라를 확보하기 어렵다면, 이제는 전략이 하나 더 필요합니다. 지금까지 파라미터 크기가 국가 역량의 단위였다면, 이제는 개인 PC에 들어갈 수 있는 모델인가도 그 단위에 넣어야 한다는 겁니다. 지금 개인용 AI 모델들은 전부 중국산입니다! 참, 메타의 Llama는 커스텀 라이선스로 월간 이용자 수 제한이 있었지만, 이번 Spark가 Apache인 이유는 정말 다급하기 때문입니다.