AI는 이제 자신이 AI임을 밝혀야 합니다 : 튜링 테스트의 채점표가 뒤집힌 날

1950년, 앨런 튜링은 「계산 기계와 지능(Computing Machinery and Intelligence)」이라는 논문에서 기계가 생각할 수 있느냐는 질문을 아예 게임으로 바꿔버렸습니다. 심판이 보이지 않는 상대와 글로만 대화하다가 그 상대가 사람인지 기계인지 끝내 구별하지 못한다면, 그 기계는 합격이라는 것이지요.

이 시험의 채점 기준을 한 문장으로 줄이면 이렇습니다. 사람으로 오인되면 합격.

그로부터 76년이 지난 2026년 8월 2일, 유럽연합은 같은 상황에 정반대의 점수를 매기기 시작했습니다. EU AI Act 제50조 투명성 의무가 이날부터 적용됐거든요. 유럽에서 서비스되는 챗봇이 자신이 기계라는 사실을 알리지 않아 사용자가 사람으로 착각했다면, 그것은 이제 합격이 아니라 위반입니다. 상한은 1,500만 유로 또는 전 세계 연매출 3% 중 높은 금액이고요.

76년 만에 채점표가 뒤집혔습니다. 저는 이 대목이 이번 발효의 본질을 가장 정확히 드러낸다고 봅니다.

이날 시작된 것은 사실 두 가지입니다. 하나는 집행권입니다. 범용AI(GPAI) 제공자의 의무는 2025년 8월부터 적용되고 있었지만, 집행위원회와 AI사무국의 감독·제재 권한은 1년 유예되어 있었지요. 이제 집행위는 기술문서 제출 요구, 모델 직접 평가, 위험 완화 명령, EU 시장에서의 모델 회수, 과징금 부과가 모두 가능합니다. 다른 하나가 제50조인데, 이쪽은 위험등급과 무관하게 EU에 배치된 모든 AI 시스템에 적용됩니다.

▸ 능력이 아니라 정체성 : 제50조가 실제로 요구하는 네 가지

제50조를 엔지니어의 작업 항목으로 번역하면 네 줄이 됩니다.

첫째, 챗봇·가상비서·에이전트는 사용자가 기계와 대화하고 있음을 알려야 합니다. 시점은 대화 시작 전 또는 대화의 맨 처음입니다. 세 번째 턴에 슬쩍 끼워 넣는 것으로는 부족하다는 뜻이지요.

둘째, 텍스트·이미지·오디오·비디오 생성 시스템의 제공자는 출력물을 기계가 읽을 수 있는 형식으로 표시해야 합니다. 사람 눈에 보이는 로고가 아니라 메타데이터나 워터마크 층위의 이야기입니다.

셋째, 딥페이크에는 라벨을 붙여야 합니다. 여기서 의무 주체가 바뀝니다. 만든 쪽이 아니라 배포자(deployer)의 책임입니다.

넷째, 감정인식·생체 분류 시스템은 대상이 된 사람에게 그 사실을 알려야 합니다. 공익에 관한 사안을 다루는 AI 생성 텍스트를 공표할 때도 고지 의무가 붙고요.

네 줄을 나란히 놓고 보면 공통점이 하나 보입니다. 어느 줄에도 성능에 관한 요구가 없습니다. 더 정확하라거나, 덜 편향되라거나, 어떤 능력은 갖추지 말라는 조건이 아닙니다. 유럽이 법으로 강제한 것은 단 하나, "네가 무엇인지 밝혀라"입니다. 능력은 시장의 자율에 맡기고 정체성만 규제한 셈이지요.

집행위가 최종 가이드라인을 채택한 것은 7월 20일, 적용 개시를 2주도 남기지 않은 시점이었습니다. 예술적·풍자적·허구적 작품 속 딥페이크는 면제가 아니라 '약화된 방식(attenuated manner)'의 고지가 허용됩니다. AI가 쓴 텍스트가 라벨을 면하려면 실질적인 편집 감독과 책임 주체가 있어야 하고요. 형식적으로 한 번 훑어본 것으로는 통하지 않습니다.

▸ 그렇지만, 워터마크는 스크린샷 앞에서 무력합니다

한 발 물러서 보면 이 규제에는 기술적으로 뻔한 구멍이 있습니다.

기계판독 마킹은 스크린샷 한 번, 재인코딩 한 번, 크롭 한 번에 상당 부분 사라집니다. 더 근본적인 문제는 오픈웨이트 모델입니다. 가중치를 내려받아 자기 노트북에서 돌리는 사람에게 출력물 마킹 의무를 물릴 방법은 사실상 없습니다. 그러니까 이 규제는 규범을 지키는 쪽의 생성물에는 표시를 남기고, 지키지 않는 쪽의 생성물에는 아무것도 남기지 않습니다.

여기서 라벨의 역설이 생깁니다. 표시가 없으면 사람이 만든 것이라는 잘못된 안심입니다. 악의를 가진 쪽일수록 라벨을 붙이지 않을 텐데, 제도가 정착할수록 라벨 없는 것을 신뢰하게 되는 구조라면 순진한 사용자만 더 위험해집니다. "고지만으로는 부족하다"는 비판이 발효 직후부터 나온 이유이지요.

그런데 라벨링 규제의 역사는 조금 다른 이야기를 들려줍니다. 1906년 미국의 순수식품의약품법, 1990년의 영양표시교육법은 성분표를 의무화했습니다. 성분표가 음식을 건강하게 만들었을까요. 그렇지 않았습니다. 다만 그 법들은 다른 것을 만들어냈습니다. 내가 무엇을 먹고 있는지 물을 권리입니다. 그 권리가 생긴 뒤에야 비교가 가능해졌고, 비교가 가능해진 뒤에야 시장이 움직였습니다.

제50조를 오정보 대책으로 읽으면 실패가 예정된 법입니다. 물을 권리를 만드는 법으로 읽으면 이야기가 달라지지요.

▸ 미룬 것과 미루지 않은 것 : 그 목록이 곧 우선순위입니다

이 블로그에서 지난 5월, 같은 법이 한 발 물러선 이야기를 다룬 적이 있습니다. 디지털 옴니버스 합의로 채용·신용평가 같은 고위험 AI의 의무 시행이 2027년 12월 2일로 16개월 미뤄졌지요.

그때 미뤄진 목록에 제50조는 없었습니다. 위험등급 체계와는 별개의 층위에 놓인 조항이기 때문입니다. 손댄 것은 딱 하나, 8월 2일 이전에 이미 시장에 나와 있던 시스템에 한해 제50조 2항의 생성물 마킹·탐지 의무만 2026년 12월 2일까지 늦춰준 것입니다. 투명성 의무 전체가 12월까지 유예된 것으로 읽으면 곤란합니다. 챗봇 고지도, 딥페이크 라벨도 어제부터 유효합니다.

무엇을 미루고 무엇을 미루지 않았는지의 목록은 그 규제 체제의 진짜 우선순위를 드러냅니다. 유럽은 산업 경쟁력이 걸린 영역에서는 시간을 내주었고, 시민이 속지 않을 권리에서는 하루도 내주지 않았습니다.

같은 문제에 다른 답을 낸 곳도 있습니다. 3주 전인 7월 15일, 중국은 인격화 AI를 설계 단계에서 제약하는 규정을 발효시켰습니다. 하지 말라는 방식이지요. 유럽은 밝히라는 방식을 택했습니다. 금지와 고지, 같은 불안에 대한 두 개의 답이 3주 간격으로 시행에 들어간 셈입니다.

집행위는 자발적인 투명성 실천규약도 함께 운영합니다. 7월 27일 초기 서명 마감까지 약 190개 기관이 참여했고, Anthropic, Google, Meta, Microsoft, Mistral, OpenAI가 이름을 올렸습니다. 서명해도 새 의무가 생기지 않고 거부해도 위반이 아니지만, 과징금 산정 때 감경 요소로 참작될 수 있습니다. 헨나 비르쿠넨 기술주권 담당 집행부위원장은 발효를 이틀 앞둔 7월 31일 발표에서 이번 집행 개시가 "사람과 기업이 이해하고 신뢰할 수 있는 AI를 향한 중요한 한 걸음"이라고 밝혔습니다.

▸ 한국은 또 규칙을 받는 자리에 있습니다

이 소식을 한국의 자리에서 읽으면 두 가지가 걸립니다.

첫째는 역외적용입니다. 회사가 어디에 있느냐가 아니라 결과물이 어디서 쓰이느냐가 기준이라, 국내 서비스라도 EU 이용자에게 닿는 순간 대상이 됩니다. 국내 파운데이션 모델은 제53조의 범용AI 투명성 의무, 그러니까 기술문서·저작권 정책·학습데이터 요약의 대상이고요. 다만 국내 보도 기준으로 학습 연산량이 10^23 FLOP은 넘되 시스템적 위험 문턱인 10^25 FLOP에는 미치지 못해, 가장 무거운 등급까지 가지지는 않습니다.

실무적으로는 네 가지가 남습니다. 챗봇 첫 응답의 고지 문자열, 생성물 메타데이터 파이프라인(기존 시스템은 12월 2일이 실질 마감입니다), 딥페이크와 공익 텍스트에 대한 배포자 의무, 실천규약 서명 여부. 세 번째가 특히 중요합니다. 배포자 책임은 모델 벤더가 대신 져주지 않거든요. 남의 모델을 가져다 쓰는 국내 기업이 가장 놓치기 쉬운 지점입니다.

둘째는 조금 더 불편한 이야기입니다. 한국은 AI 기본법을 세계에서 가장 먼저 전면 시행한 나라입니다. 그런데 위반 과태료는 최대 3,000만 원이고, 최소 1년의 계도기간이 붙어 실제 부과는 일러야 2027년입니다. 먼저 시행했지만 먼저 집행하지는 않는 법인 셈입니다. 반대로 유럽은 한 번 미룬 뒤 집행부터 시작했습니다.

그리고 다음 라운드가 이미 보입니다. 마킹 의무가 생기면 규격이 필요하고, 규격을 쥔 쪽이 사실상의 표준을 갖습니다. 구글은 7월 24일 실천규약 서명을 알리면서, 자사 워터마킹 기술 SynthID를 Apple, NVIDIA, OpenAI, ElevenLabs, 카카오와 함께 상호운용 가능한 형태로 넓히겠다고 밝혔습니다. 규제가 만든 수요 위에 특정 기업의 규격이 올라앉는 그림이지요. 한국은 여기서도 규격을 만드는 자리가 아니라 맞추는 자리에 서 있습니다.

튜링이 모방 게임을 제안했을 때, 그는 기계가 사람을 얼마나 잘 흉내 낼 수 있는지를 물었습니다. 76년이 지난 지금 유럽이 던진 질문은 다릅니다. 기계가 사람을 완벽하게 흉내 낼 수 있게 된 세상에서, 사람은 무엇을 근거로 상대를 판단할 것인가.

성분표가 음식을 건강하게 만들지 못한 것처럼, 라벨 하나가 이 문제를 풀지는 못할 것입니다. 그래도 물을 권리가 생기는 것과 생기지 않는 것 사이에는 분명한 차이가 있습니다. 여러분이 오늘 대화한 상대는, 자신이 무엇인지 여러분에게 밝혔습니까.