
가디언이 11월 8일 영국 공공기관의 사정을 전했습니다. 지자체와 하원의원 사무실, 고용심판소에 들어오는 민원이 AI로 작성되면서 처리가 밀리고 있다는 내용이에요. 지자체 변호사 5,600명을 대표하는 단체의 대표는 챗봇이 나오기 전에 두 쪽이면 끝나던 민원서가 지금은 대개 그 열 배쯤 된다고 말합니다. 자신이 아는 가장 긴 것은 200쪽이었고요. 한 의원실의 경력 10년 차 선임 케이스워커는 사무실이 받는 이메일의 절반이 어떤 형태로든 AI라고 했습니다.
그런데 여기서 눈여겨볼 점이 하나 있습니다.
터진 것이 건수가 아니라는 겁니다. 지난 8월에 나온 논문 한 편이 이 현상에 이름을 붙였는데요. 독일과 영국 기관에 소속된 연구자 세 명이 11개 관할권에서 AI 관여가 지목된 사례 84건을 모아, 에이전트가 요청 비용을 낮추는 바람에 공공 서비스가 감당하지 못할 만큼 요청이 몰리는 현상을 에이전틱 플러딩(agentic flooding)이라고 불렀습니다. 이 84건을 유형별로 나눠 보면 건수가 늘어난 사례가 60%인 데 비해, 건당 길이와 복잡도가 늘어난 사례는 90%였습니다. 둘 다인 경우가 절반이고요. 독일의 한 사회법원에서는 서면이 4,000쪽을 넘긴 사건도 있었다고 합니다.

정부 서비스 12곳의 연간 접수량 추이(2018~2025). 빨간 선은 담당 기관이, 파란 선은 2차 출처가 AI 관여를 지목한 사례이고 점선은 ChatGPT 출시 시점입니다.
출처: Schmitz 외, 「Characterizing Agentic Flooding of Government Services」(arXiv)
민원이든 정보공개청구든, 이런 창구에는 보통 분당 몇 건 같은 제한이 없습니다. 길이 상한도 없고요. 누구나 아무 때나 얼마든지 써서 낼 수 있게 열어 두는 것이 오히려 원칙에 가깝죠. 그런데도 수십 년 동안 큰 탈 없이 돌아갔습니다.
제한이 하나도 없는 창구가 어떻게 지금까지 버텼을까요?
논문이 내놓은 답이 인상적인데요. 그 창구들이 버틴 것은 설계 덕분이 아니라 마찰 덕분이었다는 겁니다. 민원을 법률 용어를 갖춰 열 쪽으로 쓰려면 관련 규정을 찾아 읽고 문장을 다듬는 데 꼬박 하루가 듭니다. 그 수고가 싫어서 대부분은 쓰다 말거나 두세 문단으로 끝냈고요. 레이트 리밋을 걸어 둔 사람은 아무도 없었지만 결과적으로는 걸려 있었던 셈이죠. 아무도 그것을 설비로 여기지 않았으니, 설비가 사라졌을 때 대신 세울 것도 없었습니다.
담당자 책상에 스무 쪽짜리 문서가 한 통 왔다고 해 보죠. 읽어 보니 영국에는 적용되지 않는 캐나다 판례가 근거로 달려 있습니다. 틀린 글이에요. 그런데 버릴 수가 없습니다. 영국 정보위원회는 AI로 작성되어 부정확한 내용이 섞인 청구라도 사람이 답해야 한다는 입장이거든요. 틀렸다는 판단부터가 스무 쪽을 다 읽어야 나오고, 답변도 사람이 써야 합니다.
여기가 이 문제의 핵심입니다. 응답 의무는 건당으로 매겨지는데, 노동은 장당으로 듭니다. 쓰는 쪽은 쪽수를 늘려도 비용이 거의 그대로인데 읽는 쪽은 쪽수에 비례해서 늘어나죠. 스팸은 모양만 보고 거를 수 있지만 이쪽은 그럴 수가 없습니다. 정교해 보이는데 틀린 글이 가장 비쌉니다.
그럼 마찰을 다시 만들면 되지 않을까요? 꼭 그렇지만도 않습니다. 수수료를 매기고 제출 절차를 까다롭게 하는 것이 가장 빨리 깔 수 있는 조치이긴 합니다. 호주 정부는 AI로 작성된 청구가 몰리자 정보공개 수수료 재도입을 검토하기도 했고요. 그런데 마찰은 사람을 가리지 않는 대신 가장 약한 쪽부터 걸러냅니다. 돈이 없고 디지털에 서툰 사람이 먼저 떨어져 나가죠. 애초에 민원 창구가 있어야 할 이유였던 사람들입니다.
마찰을 덜 쓰면서 갈 수 있는 길은 창구의 모양을 바꾸는 겁니다. 일부 옴부즈맨은 이미 민원에 글자 수 제한을 두거나, 첨부할 수 있는 분량을 제한하는 온라인 서식을 쓰고 있어요. 자유 서식을 짧은 필드로 바꾸면 길이가 통제되고, 판단에 필요한 정보가 늘 같은 자리에 오니 읽는 비용도 줄어듭니다. 다만 이쪽은 초기 비용이 크고 오래 걸립니다. 서식 하나 바꾸는 데 법을 고쳐야 하는 경우도 있고요.
그런데 논문이 여기에 덧붙인 지적이 흥미롭습니다. (실은 이 대목 때문에 글을 쓰기 시작했습니다.) 지금 AI 탓으로 집계된 사례의 69%는 담당자나 전문가가 제출물의 모양을 보고 이상하다고 알아챈 것들입니다. 그런데 서식을 짧은 필드로 좁히면 에이전트가 채운 칸과 사람이 채운 칸은 구별되지 않습니다. 남는 신호는 건수뿐이고, 건수는 원래 다른 이유로도 오르내리죠. 문제가 없어지는 것이 아니라 보이지 않게 되는 겁니다. 로그를 깔끔하게 정규화하면 이상 징후도 같이 정규화된다는, 어딘가 익숙한 이야기이기도 하고요.
이게 남의 나라 행정 얘기만은 아닙니다. 고객 지원 티켓, 채용 지원서, 취약점 신고, 오픈소스 이슈 트래커, 사내 심사와 승인 요청까지 전부 같은 모양의 큐예요. 논문이 꼽은 고위험 조건도 그대로 적용됩니다. 한 건이 통과하면 금전적으로든 처리 의무로든 개별적으로 값이 나가는가, 그리고 지금까지 그 큐가 버틴 이유가 설계인가 아니면 쓰기 번거로움인가. 둘 다 그렇다는 답이 나오면 그 큐는 레이트 리밋도 분량 상한도 없이 운영되어 온 것이고, 지금이 첫 부하 시험입니다. 당장 할 수 있는 것은 두 가지쯤 되는데요. 건당이 아니라 사람당 제한을 걸 수 있도록 신원 확인 경로를 점검해 두는 것, 그리고 분량 제한이나 축약 요구, 반려가 사규와 계약과 법령상 가능한지 미리 확인해 두는 것입니다. 몰리고 나서 알아보면 늦습니다.
한 가지 더 생각해 보게 되는데요. 공공기관이 지금 고생하는 이유는 답할 의무가 있어서입니다. 민간에는 그 의무가 없죠. 그래서 민간의 큐는 다르게 반응할 가능성이 높습니다. 제한을 거는 것이 아니라 그냥 조용히 안 읽기 시작하는 쪽으로요. 서류 전형을 사람이 들여다보지 않게 되고, 긴 민원은 요약본만 읽히는 식입니다. 실제로 그렇게 된다는 예측은 아니고 가정입니다. 다만 그렇게 되면 비용이 없어지는 게 아니라 옮겨 간다는 점은 짚어 두고 싶습니다. 논문이 마찰의 역진성을 지적한 것과 같은 구조인데, 자기 사연을 직접 두 쪽으로 눌러 쓴 사람의 글이 스무 쪽짜리 더미에 묻히는 쪽이죠.
접수 창구를 활짝 열어 두는 것은 오랫동안 선의의 표시였습니다. 그 선의가 작성 비용이라는 보이지 않는 설비 위에 서 있었다는 걸 이제야 알게 된 셈이네요. 우리 쪽 큐는 무엇으로 버티고 있는지 한 번 들여다봐야겠다 싶습니다.
커버 이미지: 엔필드 구청사(Enfield Civic Centre), 런던 — Wikimedia Commons, David Howard
전체 사이트에서 댓글·관련 글을 함께 보시려면
이야기 공장에서 보기 →