고객사 안으로 들어가는 AI 엔지니어

CNBC가 10월 15일 AWS와 앤트로픽이 같은 자리를 두고 경쟁하고 있다는 기사를 냈습니다. 고객사 안에 들어가 일하는 엔지니어 조직 이야기예요. AWS는 여기에 10억 달러를 넣었고, 앤트로픽은 1억 달러를 들여 2027년 말까지 1만 명을 길러내겠다고 했습니다. 오픈AI도 같은 성격의 사업에 40억 달러가 넘는 초기 투자를 받아 뒀고요.

직함은 포워드 디플로이드 엔지니어(forward-deployed engineer)입니다. 팰런티어가 오래 쓰던 말이 업계 공용어가 된 경우인데, 영업도 아니고 본사에서 기능을 만드는 개발자도 아닙니다. 고객사 사무실에 들어가 그 회사의 문제에 맞춰 제품을 구부리는 역할이에요. AWS는 엔지니어 몇 명을 묶은 조를 45일 단위로 고객사에 보내는 방식으로 시작했습니다. 라이트캐스트가 센 미국 구인 공고로는 이 직군이 2023년에 200건이 안 됐는데, 올해는 9개월 만에 7,300건을 넘었습니다.

숫자보다 궁금한 건 이유입니다. 모델이 그렇게 좋아졌다는데, 왜 사람을 보내야 할까요?

모델 성능과 업무 성과 사이에는 네 가지가 끼어 있습니다. 하나씩 보면 왜 사람이 가야 하는지가 보여요.

첫째는 맥락입니다. 그 회사의 데이터가 어느 시스템에 어떤 꼴로 들어 있는지, 같은 "고객"이라는 단어를 영업과 회계가 어떻게 다르게 쓰고 있는지. 이건 모델이 알 수 있는 종류의 지식이 아닙니다. 물어볼 사람을 찾아 책상 옆에 앉는 수밖에 없어요.

둘째는 정답의 정의입니다. 잘했다는 게 무엇인지가 회사마다 다릅니다. 같은 보험금 청구 심사라도 한 회사는 누락을 더 싫어하고 다른 회사는 과지급을 더 싫어하죠. 평가 셋을 만들 수 있는 사람은 그 업무를 아는 사람뿐인데, 평가 셋이 없으면 에이전트를 고칠 방향을 잡을 수가 없습니다. 벤치마크 점수는 이 자리를 대신해 주지 못해요.

셋째는 권한과 연결입니다. 어느 시스템에 어떤 범위로 붙을지, 무엇까지는 조회만 하고 무엇부터 사람의 승인을 받을지. 이번 주에 은행들이 외부 에이전트를 막은 것도 결국 같은 질문이었는데요. 이 선을 긋는 일은 설정 몇 줄이 아니라 그 조직의 책임 구조를 읽어내는 작업입니다.

넷째는 업무 흐름 자체입니다. 에이전트가 한 단계를 맡으면 그 앞뒤의 승인, 예외 처리, 기록이 전부 다시 설계돼야 합니다. 사람이 하던 일을 그대로 두고 수행자만 바꿀 수 있는 업무는 생각보다 적습니다.

네 가지 모두 모델 가중치에 담기지 않습니다. 다음 모델이 나와도 그대로 남아 있고요. 그래서 모델을 만든 회사들이 직접 사람을 보내기 시작한 겁니다.

시장 쪽으로 보면 이게 간단한 선택이 아닙니다. 소프트웨어는 매출이 늘어도 사람이 그만큼 늘지 않아서 마진이 높은데, 고객사마다 엔지니어를 보내는 사업은 그 성질을 잃습니다. 매출 1달러에 붙는 인건비가 달라지니까요. AI 회사를 소프트웨어 배수로 평가해 온 전제가 흔들리는 대목이고, 투자자들이 가장 예민해하는 지점이기도 합니다. 재원을 마련한 방식이 갈린 것도 그래서 흥미로워요. AWS는 자기 대차대조표에서 꺼냈고, 오픈AI는 사모펀드를 끌어들여 별도 회사를 세웠습니다.

그걸 알면서도 돈을 넣는 이유는 지금 더 급한 질문이 따로 있기 때문입니다. AI에 쓴 돈이 값어치를 했다는 걸 보여주는 것. 도입이 멈춰 있는 쪽의 사정이 모델 성능이 아니라 위의 네 가지에 있다면, 모델을 더 키우는 것보다 사람을 보내는 쪽이 빠릅니다.

여기서 하나 가정해 보게 되는데요, 예측은 아닙니다. 이 직군이 커질수록 AI 도입의 승부는 어느 모델을 골랐느냐가 아니라 우리 업무를 코드로 옮겨 본 사람이 조직 안에 있느냐에서 갈릴 겁니다. 네 가지 중 셋은 한 번 만들고 끝나는 게 아니라 업무가 바뀔 때마다 손봐야 하는 것들이거든요. 45일 왔다 가는 외부 인력으로는 처음 한 번만 넘길 수 있습니다. 근거라면 라이트캐스트 공고에서 이 직군을 가장 많이 뽑는 곳이 모델 회사가 아니라 딜로이트와 액센츄어라는 점 정도고요.

새 직함이 생겼다는 건 그 자리에 사람이 모자란다는 뜻이기도 합니다. 한동안은 업무를 아는 엔지니어가 가장 아쉬운 자리에 설 것 같네요.

커버 이미지: 회의 중인 업무 팀 — Wikimedia Commons, Amtec Photos