AI가 썼는지는 묻지 않았습니다 : 링크드인이 받은 신고 100만 건

영어 단어 slop을 사전에서 찾으면 나오는 뜻 중 하나는 가축에게 주는 묽은 먹이입니다. 사람 먹을 것이 아니고, 맛을 볼 대상도 아니고, 그냥 양을 채워 통에 붓는 것이죠. 메리엄웹스터가 2025년 올해의 단어로 이 단어를 뽑았고, 지금은 사전에 AI slop 항목이 따로 올라가 있습니다. 정의는 이렇습니다. 인공지능으로, 보통 대량으로 만들어진 저품질 디지털 콘텐츠.

*출처: Wikimedia Commons*

단어가 사전에 오르는 것까지는 관찰입니다. 그다음에 무엇을 할지가 어려운 부분인데요. 지난 몇 주 동안 링크드인이 그 어려운 부분에 대해 꽤 흥미로운 답을 내놨습니다.

현지 시각 8월 21일, 링크드인의 최고제품책임자인 하리 스리니바산이 숫자 두 개를 공개했습니다. 7월 30일에 게시물 메뉴에 달아 둔 신고 항목이 3주 남짓 만에 100만 번 넘게 눌렸고, 링크드인이 AI 슬롭으로 분류하는 콘텐츠의 조회수가 몇 주 전에 비해 40% 줄었다는 것입니다. 그 신고 항목의 이름은 이렇습니다. Seems like AI slop.

이름을 한 번 더 읽어 보시면 좋겠습니다. AI가 썼습니까가 아닙니다. AI 슬롭처럼 보입니까입니다.

▸ 정의할 수 없으면 판정하지 않고 센서를 답니다

저는 이 차이가 이 사건의 전부라고 봅니다. 규제가 지금 가고 있는 방향은 출처를 밝히게 하는 쪽입니다. EU AI법의 투명성 조항도, 한국의 AI 기본법도, 이 콘텐츠를 무엇이 만들었느냐를 생산자가 표시하도록 요구하죠. 워터마크와 메타데이터는 그 요구에 맞춰 설계된 물건입니다. 그런데 링크드인이 사용자에게 물은 것은 만든 주체가 아니라 읽은 느낌입니다.

이게 얼버무린 것이 아니라는 근거는 스리니바산 본인의 설명에 있습니다. 그는 "슬롭은 정의하기 어렵고 그 정의는 계속 바뀝니다"라고 말하면서, 이 버튼이 링크드인의 모델을 조정하고 더 나은 피드를 만들게 해 준다고 덧붙였습니다. 신고를 판정으로 쓰겠다는 것이 아니라 신호로 쓰겠다는 얘기예요.

명세가 흔들리는 문제를 다뤄 보신 분들에게는 익숙한 선택일 것입니다. 요구사항이 확정되지 않았는데 분류기를 먼저 내보내면, 나중에 정의가 바뀔 때마다 이미 내린 판정을 전부 되돌려야 합니다. 그래서 분류기 대신 라벨을 모으는 경로를 먼저 깔죠. (사내에서 이상 탐지 규칙을 짜 본 경험으로는, 규칙을 확정하는 회의가 데이터를 모으는 작업보다 늘 오래 걸렸습니다.) 링크드인은 정의를 미루고 관측을 시작한 셈입니다.

그러니 40%라는 숫자도 그렇게 읽어야 합니다. 이건 지운 양이 아니라 덜 보이게 된 양입니다. 링크드인은 어떤 글이 AI 슬롭이라고 판정하지 않았고, 판정하지 않았기 때문에 지우지도 않았습니다. 글은 그대로 있고 순위만 내려갔습니다.

▸ 슬롭을 신고받는 회사가 슬롭을 쉽게 만들어 준 회사였습니다

그런데 같은 발표에 조용히 들어 있던 항목이 하나 더 있습니다. 링크드인이 그동안 밀어 온 AI 글쓰기 기능을 폐지한다는 것이었어요. 게시물을 쓰다가 누르면 문장을 대신 다듬어 주던 그 버튼입니다. 대체하는 기능은 교정 도구인데, 설계 문장이 눈에 걸립니다. 문법과 명료성만 손보고 작성자의 목소리는 유지한다.

슬롭 신고를 받는 회사와 슬롭을 만들기 쉽게 해 준 회사가 같았던 것이죠. 물론 이걸 두고 위선이라고 부르는 것은 쉽고 별로 유용하지 않습니다. 더 볼 만한 것은 순서입니다. 글을 대신 써 주는 기능을 먼저 달았고, 그 결과가 피드에 쌓이는 것을 지켜본 다음에, 목소리를 유지한다는 조건을 붙여 되돌렸습니다. 작성자의 목소리라는 표현이 제품 설명에 등장하려면 그것이 사라진 피드를 먼저 봤어야 합니다.

이 문제가 얼마나 커졌는지에 대해서는 바깥의 측정도 있습니다. AI 탐지 회사인 팽그램(Pangram)이 7월 중순 공개한 조사인데요. 4월에 내놓은 브라우저 확장으로 링크드인과 X, 레딧, 미디엄, 서브스택에서 게시물 100만 건 이상을 훑었고, 250단어를 넘는 링크드인 장문 게시물 가운데 41%를 전부 AI가 쓴 것으로 플래그했습니다. 짧은 글은 약 30%였고요.

여기서 더 눈에 걸리는 것은 비율의 비대칭입니다. 링크드인은 이 조사가 훑은 전체 게시물의 약 3분의 1을 차지했는데, 플래그된 AI 콘텐츠 중에서는 약 3분의 2를 차지했습니다. 링크드인 사용자가 유난히 AI를 좋아한다는 뜻으로 읽을 수도 있겠지만, 저에게는 다르게 읽힙니다. 이건 AI로 글을 써서 얻는 이득이 가장 큰 장소가 어디인지를 알려 주는 숫자입니다. 채용과 영업과 평판이 걸린 곳에서는 안 쓰는 쪽이 손해가 되니까요.

▸ 인상을 묻는 신고에는 인상의 값이 붙습니다

물론 이 숫자들을 그대로 믿기 전에 짚을 것이 있습니다. 40%는 링크드인이 자기 기준으로 분류하고 자기가 측정한 값입니다. 스리니바산의 문장도 정확히는 "우리가 AI 슬롭으로 분류하는 것"의 조회수라고 되어 있습니다. 독립 검증은 없습니다. 41%는 탐지기를 파는 회사가 자기 탐지기로 낸 값이고요.

탐지기 쪽의 논쟁도 끝나지 않았습니다. 팽그램은 오탐률이 1만분의 1 수준이고 비원어민 영어 시험 데이터에서도 오탐이 거의 없다고 자체 기술 보고서에 밝혔지만, 정형적이고 격식 있는 문체가 불리하다는 지적은 계속 나옵니다. 서브스택이 같은 탐지기를 도입했을 때 작가들이 마녀사냥이라고 반발한 일도 있었죠. 한국에서 영어로 링크드인에 글을 쓰는 분들이 특히 걸리는 지점입니다. 문법을 조심해서 쓴 글이 AI가 쓴 글과 구별되지 않는다는 이야기니까요.

그리고 인상을 묻는 신고에는 취향이 섞입니다. 링크드인 스스로 개별 신고가 특정 회원을 부당하게 표적하는 데 쓰이지 않도록 안전장치를 만들었다고 밝혔는데요. 그 문장이 있다는 것 자체가 그런 사용이 가능하다는 인정입니다. 여기에 자기 글이 AI 슬롭으로 신고됐을 때 작성자에게 알려 주는 기능까지 새로 들어갔습니다. 집행 수단이 삭제가 아니라 사회적 압력인 셈이죠.

▸ 표시가 붙은 글과 슬롭처럼 읽히는 글은 겹치지 않습니다

한국은 이 문제에서 법을 먼저 세운 쪽입니다. 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법이 1월 22일 시행되면서 생성형 AI 산출물에 AI로 만들어졌다는 표시를 붙일 의무가 생겼습니다. 결과물이 다운로드나 공유로 서비스 밖으로 나갈 때가 적용 시점이고, 일반 생성물은 사람이 알아볼 수 있는 표시와 워터마크·메타데이터 같은 기계 판독 방식 중에 고를 수 있습니다. 미이행이면 3천만 원 이하 과태료인데, 정부가 1년 이상 계도기간을 두고 이 조항의 사실조사와 과태료를 유예해 두었습니다.

계도기간이 남은 동안 생각해 볼 것은 두 종류의 라벨이 서로 겹치지 않는다는 점입니다. 법이 요구하는 표시는 출처에 관한 사실입니다. AI를 써서 만들었으면 붙고, 안 썼으면 안 붙습니다. 반면 링크드인의 버튼이 모으는 것은 읽는 사람이 받은 인상입니다. 사람이 정성껏 쓴 글에도 붙을 수 있고, AI가 쓴 좋은 글에는 안 붙습니다.

그러니 표시 의무를 다 지킨 피드에도 슬롭은 남습니다. 표시는 출처를 알려 주지만 읽을 가치가 있는지는 알려 주지 않으니까요. 반대로 링크드인의 40%는 읽히는 양은 줄였지만 무엇이 진짜인지는 여전히 판정하지 않았습니다. 두 라벨을 다 붙여도 사이에 빈 곳이 남는데, 그 빈 곳을 무엇으로 메울지는 아직 정해진 것이 없겠죠. 우리가 매일 쓰는 도구가 대량으로 만들어 내는 것 중에서 무엇이 남을 만한 것인지, 그 판단을 누구에게 맡길지 고민이 필요합니다.