모델을 실리콘에 굽는다 : AMD의 Taalas 인수와 1971년의 역주행

1969년, 일본의 계산기 회사 비지컴이 인텔에 주문서를 보냈습니다. 계산기 한 대에 들어갈 전용 칩 열두 종을 설계해 달라는 요청이었습니다. 당시로서는 지극히 정상적인 주문이었습니다. 기능이 정해져 있으면 그 기능을 하는 회로를 그려 넣는 것이 반도체를 만드는 유일한 방식이었으니까요.

인텔의 엔지니어 테드 호프가 그 주문을 뒤집었습니다. 열두 개를 그리지 말고, 프로그램을 바꿔 끼울 수 있는 칩 하나를 만들자는 제안이었습니다. 1971년 11월, 그렇게 태어난 물건에 인텔은 4004라는 이름을 붙였습니다. 세계 최초의 상용 마이크로프로세서였습니다.

여기서 눈여겨볼 대목이 있습니다. 마이크로프로세서 시대의 출발점 자체가 하드와이어를 포기한 사건이었다는 점입니다. 그 뒤 55년 동안 화살표는 한 방향으로만 움직였습니다. 전용 회로에서 마이크로프로세서로, 다시 GPU로, 그리고 GPU 위에 올라탄 소프트웨어 생태계로. 그 여정에서 업계가 얻은 것은 유연성이었고, 유연성은 생태계를 낳았으며, 생태계는 CUDA라는 해자가 되었습니다.

그런데 2026년 8월 6일, AMD가 그 화살표의 정반대편에 돈을 걸었습니다.

AMD는 이날 캐나다 토론토의 AI 반도체 스타트업 Taalas를 인수하는 확정 계약을 체결했다고 발표했습니다. 인수 금액은 공개하지 않았고, 거래 종결은 올해 4분기로 예정되어 있습니다. 즉 아직 "인수했다"가 아니라 "인수하기로 했다"에 머물러 있는 단계입니다. Taalas는 2023년 8월에 세워졌고, 창업자 류비사 바이치는 Tenstorrent를 만들었던 인물이자 그 이전에는 AMD에서 CPU-GPU 통합 칩 아키텍트를, 엔비디아에서 시니어 아키텍트를 지낸 엔지니어입니다. 누적 투자 유치액은 약 2억 1,900만 달러(약 3,100억 원) 규모이고, 바이치와 토론토 팀은 AMD의 AI 그룹 산하로 합류할 예정입니다.

이 회사가 만드는 물건을 한 문장으로 줄이면 이렇습니다. AI 모델을 실리콘에 굽습니다.

▸ 저장과 연산이 한 몸이 될 때 : HBM이 필요 없다는 말의 뜻

Taalas가 올해 2월 공개한 첫 실물 칩 HC1은 Llama 3.1 8B의 가중치 전체를 마스크 ROM 패브릭에 각인해 넣었습니다. 공개된 사양에 따르면 TSMC의 6나노급 공정에서 만들어졌고 트랜지스터는 약 530억 개입니다.

핵심은 개수가 아니라 그 트랜지스터가 하는 일입니다. 트랜지스터 하나가 4비트짜리 가중치 값을 품고 있으면서, 동시에 그 값의 곱셈까지 수행합니다. 저장과 연산이 분리되지 않고 한 몸입니다.

오늘날 GPU 추론에서 시간과 전력의 대부분은 계산 자체가 아니라 가중치를 메모리에서 연산 유닛까지 실어 오는 일에 쓰입니다. HBM이 그토록 비싸고 그토록 귀한 이유가 여기에 있지요. Groq과 Cerebras는 이 문제를 가중치를 SRAM으로 끌어당겨 푸는 쪽을 택했습니다. Taalas는 한 걸음 더 갔습니다. 기본 가중치는 SRAM에조차 두지 않고, 아예 회로에 굳혀버린 것입니다. 실어 올 것이 없으면 실어 올 시간도 없습니다. 그래서 이 칩에는 HBM 어레이가 붙지 않습니다.

회사가 내놓은 숫자는 인상적입니다. 같은 Llama 3.1 8B에서 사용자 한 명 기준 초당 1만 6,960토큰, 응답은 200밀리초 이내. 같은 기준으로 회사가 함께 제시한 비교값은 Cerebras 약 2,000토큰, Groq 약 600토큰입니다.

다만 여기에는 반드시 병기해야 할 문장이 있습니다. 이 수치들은 전부 벤더 자체 측정입니다. 회사가 공개한 데모를 직접 두들겨 본 사람들이 1만 4,000에서 1만 7,000 사이를 보고했으니 자릿수 자체가 허풍은 아닙니다만, 감사받은 독립 벤치마크는 아직 없습니다. 회사가 내세우는 "엔비디아 대비 48배"도 표준 정밀도끼리의 비교는 아닙니다. HC1은 3비트와 6비트를 섞은 자체 양자화를 쓰고, 그로 인한 품질 저하는 회사 스스로 인정합니다. 속도는 진짜지만, 같은 조건의 속도는 아닙니다. HC1은 성격상 첫 실증 칩이고, 대규모 상용 배치 실적도 아직 확인되지 않았습니다.

▸ 2개월이라는 대답 : 유연성을 아키텍처가 아니라 공급망에서 되찾기

모델을 굽는다는 말을 듣는 순간 누구나 같은 질문을 떠올리실 것입니다. 모델이 바뀌면 그 칩은 어떻게 되는가.

한가한 질문이 아닙니다. 당장 지난주에 GPT-5.6은 출시 몇 주 만에 가격 체계가 손질됐고, 이번 주에는 2.4조 파라미터짜리 모델이 정식 개방됐습니다. 그런데 HC1에 구워진 모델은 2024년 7월에 나온 Llama 3.1 8B 하나입니다.

Taalas의 대답은 아키텍처가 아니라 제조 공정 쪽에서 나옵니다. 칩을 이루는 약 100개의 금속 배선 층 가운데 상위 2개 층만 모델별로 커스텀하는 구조화 ASIC(structured ASIC) 방식입니다. 파운드리가 나머지 층까지 만들어 둔 미완성 웨이퍼를 재고로 쌓아두고, 새 모델이 나오면 위의 두 층만 얹는 것입니다. 회사는 이 방식으로 모델별 전용 칩을 약 2개월 만에 내놓을 수 있다고 주장합니다.

저는 이 대목이 이번 인수의 진짜 논점이라고 봅니다. Taalas는 유연성을 포기한 것이 아니라, 유연성을 칩 안이 아니라 공급망에서 확보하겠다고 말한 것입니다. 아키텍처 논쟁이 공급망 회전율 논쟁으로 옮겨간 셈입니다.

그렇지만 한 발 물러서 보면, 이 대답에는 답하지 못하는 영역이 남아 있습니다. 2개월 리스핀은 가중치가 바뀌는 문제에 대한 답이지 구조가 바뀌는 문제에 대한 답은 아닙니다. 트랜스포머가 아닌 다른 계열이 판을 가져가는 순간, 구워진 실리콘은 하룻밤에 낡습니다. 1980년대에 리스프 전용 하드웨어를 만들던 회사들이 범용 워크스테이션에 밀려 사라진 기억은 아직 업계에 남아 있습니다. 비트코인 채굴 장비가 CPU에서 GPU를 거쳐 ASIC으로 굳어간 전례가 있지만, 그쪽은 알고리즘이 바뀌지 않았다는 결정적 차이가 있었습니다.

그리고 이 사건을 "엔비디아 킬러"로 읽는 헤드라인에는 브레이크를 걸어야 합니다. 근거는 다른 곳이 아니라 AMD 안에 있습니다. 리사 수는 지난 7월 제품 발표 자리에서 칩에 관한 한 하나로 모든 것을 감당하는 정답은 없다고 믿는다고 말하면서도, AI 칩 시장의 다수는 여전히 GPU가 차지할 것이라는 전제를 함께 밝혔습니다. 새로운 모델을 계속 받아내려면 유연성이 필요하기 때문이라는 이유였습니다. 파는 쪽의 CEO 본인이 그렇게 말한 것입니다. 이번 인수는 대체가 아니라 포트폴리오의 한 칸을 채우는 일에 가깝습니다.

▸ 사흘 사이의 두 답 : 계단을 놓을 것인가, 벽을 없앨 것인가

한국에는 조금 더 직접적인 문장이 있습니다. 이 칩은 HBM을 쓰지 않습니다.

사흘 전 이 자리에서 다룬 HBF를 떠올려 보시면 좋겠습니다. 메모리의 벽 앞에 새로운 계층을 하나 더 끼워 넣자는 답이었습니다. 그리고 같은 주에 Taalas의 답이 나왔습니다. 벽 자체를 치워버리자는 것입니다. 같은 문제에 정반대 방향의 두 해법이 사흘 간격으로 놓인 셈입니다.

물론 여기서 HBM의 시대가 저문다는 결론으로 달려가면 곤란합니다. 훈련은 여전히 HBM의 영역이고, 대형 MoE 모델의 추론도 마찬가지입니다. 8B 모델은 통째로 구울 수 있지만 2.4조 파라미터는 구울 수 없습니다. Taalas가 겨냥한 것은 작고, 자주 부르고, 오래 쓰는 모델이라는 특정 구간입니다. 문제는 그 구간이 앞으로 넓어질 가능성이 있다는 점이지요.

파운드리 쪽에는 다른 질문이 생깁니다. 모델별 전용 칩이라는 발상은 소량 다품종 테이프아웃 수요를 뜻하고, 미완성 웨이퍼를 재고로 굴리는 운영을 요구합니다. 삼성 파운드리에 이것이 새 기회인지 부담인지는 지금 판단하기 이릅니다. 리벨리온과 퓨리오사AI가 걸어온 범용 NPU와 소프트웨어 스택의 길도 이 소식 앞에서 한 번쯤 다시 점검해 볼 만합니다. 소프트웨어 스택이 최대 병목이라는 진단은 Taalas가 하드웨어 쪽으로 우회해 답한 바로 그 문제이기 때문입니다.

8월은 국가대표 AI 모델의 오픈웨이트 공개가 예정된 달입니다. 어떤 모델을 만들 것인가에 대한 논의는 뜨겁습니다. 그 모델을 어떤 실리콘에서 돌릴 것인가에 대한 논의는 아직 얇습니다.

호프가 1971년에 옳았던 이유는 그의 아이디어가 우아해서가 아니라, 계산기의 사양이 자주 바뀌었기 때문입니다. 굽느냐 고칠 수 있게 두느냐의 선택은 언제나 하나의 내기입니다. 지금 이 지식이 얼마나 오래 유효할 것인가.

트랜스포머는 이제 실리콘에 구워도 좋을 만큼 굳은 지식이 되었을까요. 여러분이 지난 몇 년간 익힌 기술은 어느 쪽에 가깝습니까.