1994년, 윌리엄 울프와 샐리 맥키가 「Hitting the Memory Wall」이라는 짧은 논문을 발표했습니다. 제목 그대로 메모리의 벽에 부딪히게 된다는 경고였고, 논지는 단순했습니다. 프로세서의 연산 속도는 매년 눈에 보이게 빨라지는데 메모리가 데이터를 실어오는 속도는 그만큼 빨라지지 않으니, 머지않아 프로세서가 하는 일의 거의 전부가 '기다리는 일'이 될 것이라는 예고였습니다.
32년이 지났습니다. 벽은 무너지지 않았습니다. 대신 업계는 다른 답을 찾았지요. 벽을 정면으로 넘을 수 없으면, 벽 앞에 층을 하나 끼워 넣는 것입니다.
1965년 모리스 윌크스가 제안한 캐시가 그 첫 번째였습니다. 2000년대에는 D램과 하드디스크 사이에 SSD가 들어갔고, HBM 역시 프로세서 옆에 D램을 수직으로 쌓아 붙인 또 하나의 층이었습니다. 컴퓨터 아키텍처의 역사에서 메모리 문제의 해법은 놀라울 정도로 한 가지뿐이었습니다. 계층을 늘리는 것.
그리고 2026년 8월, 그 계보에 새로운 층 하나가 정식 이름과 규격을 얻었습니다.
한국시간 8월 4일, 샌디스크와 SK하이닉스가 고대역폭 낸드플래시(High Bandwidth Flash, HBF)의 첫 기술 규격을 공개했습니다. 미국에서는 하루 앞선 8월 3일자 발표였고, 8월 4일부터 6일까지 캘리포니아 산타클라라에서 열리는 FMS 2026 개막에 맞춘 공개였습니다. 규격은 낸드 다이를 8단과 16단으로 쌓는 두 구성을 정의하고, 스택 하나에 최대 512GB를 담습니다. 대역폭은 세 등급으로 나뉘어 약 0.4TB/s에서 3.0TB/s에 이르고, 프로세서와는 UCIe 칩렛 인터커넥트로 붙습니다. 호스트 인터페이스부터 전기적 요구사항, 신뢰성과 패키징 권고, 소프트웨어 동작까지 문서 한 벌에 담겼습니다.
▸ 512GB의 근거 : 전문가 896명 중 16명만 깨어 있는 모델
숫자만 보면 조금 낯섭니다. HBM4 스택 하나가 약 2TB/s 대역폭에 최대 64GB 용량입니다. HBF 최상위 등급은 대역폭에서 이를 넘어서고 용량은 여덟 배입니다. 그렇다면 HBM은 왜 필요한가 하는 의문이 들 만하지요.
여기서 정직하게 병기해야 할 항목이 있습니다. 레이턴시입니다. D램의 접근 지연은 수십 나노초 단위인데 낸드는 마이크로초 단위입니다. 대역폭이 한 번에 실어 나르는 짐의 양이라면, 레이턴시는 짐이 도착하기까지의 대기 시간입니다. 추론 서비스에서 이 지연은 첫 토큰이 나오기까지의 시간과 토큰 사이의 간격에 그대로 반영됩니다. HBF는 HBM의 대체재가 아니라 HBM 아래에 놓이는 층입니다. SK하이닉스가 이번 FMS 키노트 제목에 내세운 것도 '에이전틱 AI 시대의 계층형 메모리(tiered memory)'였습니다. 만드는 회사 스스로가 그렇게 못을 박은 것입니다.
그렇다면 왜 지금 용량인가. 근거는 요즘 모델의 구조에 있습니다. 지난달 공개된 Kimi K3는 전문가 896개를 두고 있지만 토큰 하나를 만들 때 깨우는 전문가는 16개뿐입니다. 나머지 880개는 대기 상태입니다. 이번 주 공개된 Qwen3.8-Max도 2.4조 파라미터급이지요. 잠든 가중치를 가장 비싼 메모리에 계속 재워둘 이유가 없다는 것, 이것이 새 층을 요구하는 압력입니다. 미리 계산해둔 KV 캐시도 이 층의 후보입니다. 낸드의 오래된 약점인 쓰기 수명도 이 용도에서는 가볍습니다. 추론은 사실상 전부 읽기이기 때문입니다.
▸ 옵테인의 무덤 : 기술이 아니라 생태계에서 죽었다
D램과 낸드 사이에 층을 끼워 넣겠다는 시도는 처음이 아닙니다. 그리고 앞선 시도는 죽었습니다.
인텔의 옵테인, 그 바탕이 된 3D XPoint가 노렸던 자리가 정확히 여기였습니다. D램보다 싸고 낸드보다 빠른 계층. 기술 자체는 작동했습니다. 문제는 그 물건이 놓일 자리를 세상이 받아들이지 않았다는 데 있었습니다. 메모리 모듈 형태로 꽂아도 호스트 시스템 소프트웨어가 그것을 D램처럼 다루지 못했습니다. 그리고 2021년 마이크론이 손을 떼면서 실리콘 공급선이 끊겼고, 2022년 팻 겔싱어가 사업 종료를 선언했습니다. 관련 손실은 5억 달러(약 6,900억 원)를 넘었습니다. 지난달 말 외신에는 옵테인을 두고 "램 가격 급등을 누그러뜨릴 수 있었던 KV 캐시 킬러"라고 부르는 추모 기사가 실렸습니다.
옵테인이 남긴 교훈은 명확합니다. 새 계층은 실리콘으로 태어나지 않고 생태계에서 태어납니다. 규격이 있어야 하고, 여러 공급자가 그 규격을 만들 수 있어야 하며, 무엇보다 쓸 사람이 규격 제정에 참여해야 합니다.
저는 이번 발표에서 가장 눈여겨본 대목이 512GB라는 숫자가 아니라 규격이 나온 장소라고 생각합니다. HBF 규격은 반도체 표준화 기구인 JEDEC이 아니라 데이터센터 사업자들의 연합체인 OCP(Open Compute Project)의 워크스트림에서 나왔습니다. 그리고 표준화 과정의 컨소시엄에 구글과 텐스토렌트가 들어와 기술 검증에 기여했습니다. 만드는 쪽이 규격을 정해 파는 순서가 아니라, 쓰는 쪽이 있는 자리에서 규격을 함께 쓰는 순서입니다.
▸ 명단에 없는 이름들 : 표준을 만든 자와 채택하는 자
그렇지만 한 발 물러서 보면, 축배를 들 단계는 아닙니다.
지금 이 규격에는 최대 수요자가 빠져 있습니다. 외신 보도를 종합하면 엔비디아, AMD, 인텔, 브로드컴, 마벨, 마이크론, 퀄컴, 삼성전자, 웨스턴디지털은 지금까지 이 컨소시엄 참여에 관심을 표하지 않았습니다. 구글이 사실상의 첫 고객이 될 것이라는 관측이 나오는 이유입니다.
반대 관측도 나란히 놓겠습니다. 올해 1월 TrendForce 보도에서 KAIST 김정호 교수는 2027~2028년 엔비디아 GPU에 HBF가 탑재될 수 있고, 2038년에는 HBF 시장이 HBM을 넘어설 수 있다고 전망했습니다. 24개월 안에 주요 가속기 제품군에 통합될 것이라는 관측도 있습니다. 어느 쪽이 맞는지 지금 판정할 방법은 없습니다.
그리고 규격과 제품과 채택은 서로 다른 사건입니다. 지금 나온 것은 규격 문서 한 벌입니다. 샘플은 올해 하반기 예정이고, HBF를 얹은 첫 AI 추론 시스템은 2027년 초를 목표로 하고 있습니다. 국내 보도는 SK하이닉스가 2027년 첫 양산을 목표로 한다고 전합니다. 목표는 목표입니다.
SK하이닉스가 표준 제안자 자리에 서는 것은 처음이 아닙니다. HBM 자체가 SK하이닉스와 AMD가 함께 제안해 2013년 JEDEC 표준이 된 규격입니다. 엔비디아가 P100에 이를 처음 얹은 것이 2016년이고, 그것이 회사의 실적을 바꿀 정도로 폭발한 것은 다시 여러 해가 지난 뒤였습니다. 표준을 먼저 쓴 쪽은 늦게 보상받았고, 보상의 크기는 결국 최대 구매자의 선택에 달려 있었습니다. 이번에도 구조는 같습니다. 다만 그 구매자 자리에 아직 아무도 서명하지 않았습니다.
같은 전시장의 풍경도 함께 봐야 합니다. 국내 보도에 따르면 삼성전자는 FMS 2026에서 기존 낸드보다 동작 속도를 높인 Z낸드 신제품 출시 계획을 공개하고 모형을 전시했습니다. 표준 연합으로 가는 길과 자체 규격으로 가는 길입니다. 키옥시아는 또 다른 경로를 택했다는 보도도 있습니다.
여러분, 반도체 산업에서 표준을 먼저 쓴다는 것은 기술 자랑이 아니라 일종의 베팅입니다. 남들이 내 규격을 따라오면 시장 지분을 미리 확보하는 셈이고, 아무도 따라오지 않으면 개발비를 혼자 태운 것으로 끝납니다. 옵테인과 HBM의 차이는 기술의 우수함이 아니라 생태계의 합류 여부에서 갈렸습니다.
그래서 앞으로 확인해야 할 것은 512GB나 3.0TB/s가 아닙니다. 이 워크스트림에 어떤 이름이 새로 올라오는지, 특히 지금 명단에 없는 가속기 회사 가운데 어디가 먼저 문서에 서명하는지입니다.
두 한국 회사가 서로 다른 길로 갈라선 것이 위험 분산인지 표준 파편화인지도 지금은 알 수 없습니다. 답은 2027년의 전시장에서 드러날 것입니다. 다만 확실한 것 하나는 있습니다. 1994년의 그 벽은 여전히 그 자리에 서 있고, 우리는 32년째 층을 끼워 넣는 방식으로만 그것을 우회하고 있다는 사실입니다.
전체 사이트에서 댓글·관련 글을 함께 보시려면
이야기 공장에서 보기 →