
파이어웍스 AI(Fireworks AI)가 11월 9일, 지난 10월 보안 사고 공지를 고쳐 올렸습니다. 처음 알려진 것보다 범위가 넓었다는 내용인데요. 계정과 과금 정보, 일부 고객의 시크릿과 데이터셋, 그리고 완성되지 않은 모델 가중치 일부까지 공격자가 들여다봤다고 합니다. 이번에 범위가 넓어진 쪽의 경로는 파이어웍스가 아니었습니다. 10월 23일 파이어웍스의 연구개발용 머신을 호스팅하던 제3자 클라우드 사업자가 먼저 뚫렸고, 공격자는 그 발판으로 이튿날 개발 머신까지 들어와 자기 작업을 돌렸습니다. 파이어웍스는 고객사 대신 모델을 돌려 주는 추론 플랫폼인데, 노션과 커서가 여기를 씁니다.
눈에 걸리는 대목은 피해 목록이 아니라 범인을 설명한 한 줄이었습니다.
파이어웍스는 이 사고가 금전적 동기를 가진 범죄 집단과 연결되며, 그들이 하는 일은 무단으로 확보한 LLM 접근 권한에서 나온 토큰을 불법 라우팅 게이트웨이에 파는 것이라고 적었습니다. 모델 가중치를 빼내 경쟁사에 넘기는 산업 스파이 이야기가 아니라는 겁니다. 이들이 원한 건 키였고, 직접 쓰려는 게 아니라 되팔려고 가져간 겁니다.
이 장사가 어떻게 성립하는지는 구글의 위협 인텔리전스 조직과 맨디언트가 11월 2일 내놓은 보고서에 비교적 자세히 나옵니다. 보고서는 그 중간 유통망을 "LLM 믹서"라고 부르는데요. 훔친 자격증명을 한곳에 모아 두고, 지하 구독자의 요청을 그 키들에 나눠 흘려보내고, 사용량을 재서 요금을 매기는 중계소입니다.
왜 굳이 모아 둘까요?
훔친 신용카드와 견주어 보면 차이가 분명해집니다. 카드는 한 장을 크게 긁는 순간 거래가 막히고, 그래서 범죄자는 현금화라는 별도의 단계를 거쳐야 하죠. 그런데 LLM 키는 사정이 다릅니다. 토큰은 그 자체가 이미 계량 단위라 세탁할 것이 없고, 잘게 쪼개 여러 계정에 흩뿌리면 어느 한 피해자의 청구서도 눈에 띄게 튀지 않습니다. 보고서가 공격자 인프라의 목적을 훔친 키를 모아 계정들 사이에 요청 부하를 분산하는 것으로 본 이유가 여기 있습니다. 한 집에서 전기를 몰아 쓰면 계량기가 튀니까, 여러 집 배선을 조금씩 따서 한곳으로 모으는 쪽을 택한 셈이죠. 각 집 고지서에는 "이번 달 좀 더 나왔네" 정도만 찍힙니다.
가격표가 그 구조를 그대로 보여 줍니다. 보고서에 나오는 Jet Night이라는 서비스는 월 60달러 남짓에 무제한 플랜을 팔았습니다. 같은 성격의 정상 서비스가 월 100~250달러인데 말이죠. 원가가 0에 가깝지 않으면 나올 수 없는 숫자고, 구글이 이 서비스는 훔친 키에 기대야만 수익이 난다고 판단한 근거도 바로 그 가격이었습니다. 이 서비스를 굴린 쪽은 여덟 시간이 채 안 되는 사이에 LLM API를 50만 번 넘게 호출했습니다. 그렇게 피해 조직 한 곳 앞으로 넘어간 토큰 비용이 100만 달러에 가깝습니다.
그러면 과금 경보를 걸어 두면 되는 것 아닐까요? 그게 잘 안 듣습니다. 방금 본 대로 믹서의 설계 목적 자체가 어느 계정도 튀지 않게 만드는 것이거든요.
대신 보고서가 짚은 신호가 하나 있습니다. 훔친 키를 상품으로 내놓기 전에 공격자는 그 키가 아직 살아 있는지부터 확인해야 합니다. 그래서 max_tokens=1이나 온도 0짜리 요청처럼, 답은 거의 받지 않고 인증만 통과해 보는 호출을 조용히 날려 봅니다. 비용이 거의 안 나오니 예산 경보에는 걸리지 않고, 양으로 봐도 평소 트래픽에 묻히죠. 침해보다 먼저 오는 신호인데 아무도 보고 있지 않은 신호이기도 합니다.
그래서 오늘 확인해 볼 것은 몇 가지로 추려집니다. 우리 LLM 키가 모델 엔드포인트와 환경(dev/prod), 사용량 한도로 쪼개져 있는지. 서비스 계정 키나 깃허브 개인 접근 토큰처럼 보고서가 지배적 침투 경로로 지목한 자격증명이 어디에 평문으로 남아 있는지. 지출 상한이 말로만이 아니라 실제로 걸려 있는지. 게이트웨이를 직접 돌리고 있다면, LiteLLM이라면 CVE-2026-40217 패치 여부도요. 키 재발급 엔드포인트의 사용자 식별자 재바인딩 결함이라, 평범한 키를 관리자 자격증명으로 올려 줍니다. 마지막으로, 저용량 인증 호출이 갑자기 늘어난 구간을 로그에서 찾아볼 수 있는 상태인지.
하나 더 생각해 볼 지점이 있습니다. 파이어웍스는 공지에서 추론과 학습 SDK 쪽에는 영향이 탐지되지 않았다며 그 경로들이 기본적으로 제로 데이터 보존(ZDR)이라는 점을 들었는데요. 그런데 이번에 뚫린 두 지점은 모두 그 약속의 바깥이었습니다. 10월 9일 공지 시점에 확인된 피해는 평가 작업 같은 데 쓰이려고 파이어웍스가 보관하던 시크릿이었고, 23일에 뚫린 것은 연구개발 머신이었죠. 노션에서 새어 나간 것도 추론 트래픽이 아니라 Insights라는 분석 기능의 분류 작업 때문에 파이어웍스 쪽에 가 있던 AI 대화 기록이었고요. 추론 경로에 제로 데이터 보존이 표준으로 자리 잡는 동안 공격면이 줄어든 게 아니라 평가와 관측, 과금, 연구개발 쪽으로 옮겨 앉고 있는 건 아닐까 싶습니다. 예측은 아니고, 근거라고는 이 사건 두 건이 전부인 가정입니다. 다만 같은 데이터를 다루면서 그 약속은 적용받지 않는 경로가 어디인지는 벤더에게 물어볼 만한 질문이라고 봅니다.
한 가지는 짚어 두는 게 맞겠네요. Jet Night을 돌린 행위자와 파이어웍스를 뚫은 쪽이 같은 집단인지는 어느 출처도 말하지 않았습니다. 파이어웍스도 LLMjacking 집단과 연결된다고만 적었을 뿐 특정하지 않았고, 공지 스스로 조사가 진행 중이라 지금까지의 결과일 뿐이라고 밝히고 있습니다.
노션은 영향받은 워크스페이스가 전체의 1% 미만이라고 했고, Insights 기능을 껐고, 파이어웍스를 통한 모델 서빙을 멈췄습니다. 그리고 그 기간에 Notion AI에 비밀번호나 API 키를 붙여 넣은 적이 있으면 바꾸라고 안내했죠. 노션을 쓰는 입장에서는 파이어웍스라는 이름을 이번에 처음 들었을 겁니다. 우리가 고른 적 없는 업체의 연구개발 서버에 우리 대화가 닿아 있었다는 걸 사고가 나고서야 알게 되는 구조가 당분간은 계속될 것 같아, 마음이 좀 무겁네요.
커버 이미지: 한 건물에 늘어선 전기 계량기들 — Wikimedia Commons, Downtowngal
전체 사이트에서 댓글·관련 글을 함께 보시려면
이야기 공장에서 보기 →