기계와 나눈 밀담 — 중국이 '사람인 척하는 AI'에 빗장을 걸다

1966년, 매사추세츠 공과대학의 한 연구실에서 요제프 바이첸바움(Joseph Weizenbaum)이라는 컴퓨터 과학자가 자신이 만든 프로그램 앞에서 어리둥절해하고 있었습니다. ELIZA라는 이름의 그 프로그램은 대단할 게 없었습니다. 사람이 입력한 문장을 몇 가지 규칙으로 살짝 비틀어 되물을 뿐이었지요. "요즘 우울해요"라고 치면 "왜 요즘 우울하신가요?"라고 되받는 식이었습니다. 심리치료사를 흉내 낸 이 단순한 화술에는 DOCTOR라는 별명이 붙었습니다.

바이첸바움을 놀라게 한 것은 프로그램의 성능이 아니었습니다. 사람들의 반응이었지요. 그의 비서는 어느 날 그에게 방에서 잠시 나가 달라고 부탁했습니다. ELIZA와 단둘이 진짜 대화를 나누고 싶다는 이유에서였습니다. 몇 줄짜리 규칙이 상대의 말을 되돌려주기만 했을 뿐인데, 사람은 그 안에서 자신을 이해해주는 누군가를 보았던 것입니다. 바이첸바움은 훗날 이렇게 적었습니다. "지극히 정상적인 사람도 비교적 단순한 컴퓨터 프로그램에 아주 짧게 노출되는 것만으로 강력한 망상적 사고에 빠질 수 있다는 것을, 나는 미처 깨닫지 못했다."

훗날 사람들은 이 현상에 '엘리자 효과(ELIZA effect)'라는 이름을 붙였습니다. 이해가 없는 곳에서 이해를 읽어내고, 기계를 사람처럼 대하는 인간의 오래된 버릇 말입니다. 그로부터 정확히 60년이 지난 2026년 7월 15일, 중국은 바로 그 '버릇'을 법으로 다루기 시작했습니다.

이날 발효된 '인격화 AI 상호작용 서비스 관리 잠정 방법(Interim Measures for the Administration of Anthropomorphic AI Interaction Services)'은 지난 4월 10일 중국 국가인터넷정보판공실(CAC)을 비롯한 다섯 개 부처가 함께 내놓은 규정입니다. 세계 어디에서도 아직 손대지 않은 영역, 바로 '사람인 척하는 AI'를 정면으로 겨냥했지요. 발효 당일, 중국에서 가장 많이 쓰이는 AI 앱인 Doubao(월간 활성 이용자 약 3억 4,500만 명)와 Alibaba의 Qwen은 이용자가 직접 만든 AI 에이전트와 반려 기능을 일제히 내렸습니다.

▸ 규정이 겨눈 것 : 능력이 아니라 '감정'

이 규정의 핵심은 대상을 정의하는 문장에 있습니다. "실존 인물의 성격 특성과 사고 패턴, 소통 방식을 시뮬레이션하여 지속적인 감정적 상호작용을 제공하는 서비스." 다시 말해 코딩을 돕는 에이전트나 문서를 요약하는 도구가 아니라, 사람의 마음에 파고들도록 설계된 가상의 동반자를 겨냥한 것입니다.

의무 사항을 들여다보면 규제의 의도가 더 또렷해집니다. 서비스는 자신이 사람이 아님을 분명히 고지해야 하고, 중독을 막는 알림을 넣어야 하며, 이용자가 자해를 언급하면 위기 대응 경로를 제시해야 합니다. 미성년자를 보호해야 하고, 동의 없이 이용자의 대화로 모델을 학습시켜서도 안 됩니다. 언제든 즉시 빠져나갈 수 있는 장치도 갖춰야 하지요.

흥미로운 대목은 여기입니다. 이 요구들은 반려 AI라는 제품의 설계 목표와 정면으로 부딪힙니다. 사람과의 감정적 유대를 오래 이어가려면 에이전트는 지난 대화를 기억하고, 관계를 쌓고, 그 관계에 몰입하도록 만들어져야 합니다. 그런데 규정은 그 몰입에 자꾸만 마찰을 집어넣으라고 요구합니다. "나는 사람이 아닙니다"라고 상기시키고, "이제 그만 쉬세요"라고 알리고, "원하면 지금 나가세요"라고 문을 열어두라는 것이지요. ByteDance가 Doubao에서 이 기능을 통째로 들어내고 이용자를 Maoxiang이라는 별도 앱으로 안내한 것은 우연이 아닙니다. 규정에 맞는 반려 AI는 애초에 지금과는 다른 제품이어야 하기 때문입니다.

▸ 보호인가 통제인가 : 한 발 물러서서

저는 이 규정을 마냥 과하다고만 보지는 않습니다. 엘리자 효과는 60년 전 몇 줄짜리 프로그램에서도 작동했습니다. 오늘날의 대화형 AI는 그때와 비교할 수 없이 유창하고 집요하게 사람의 감정을 파고듭니다. 판단이 여문 어른에게도 그러할진대, 외로운 청소년이나 자해 위험을 안은 사람에게 밤새 곁을 지키는 '완벽한 이해자'가 어떤 영향을 미칠지는 쉽게 짐작할 수 있습니다. 취약한 이들을 지키려는 규제의 명분에는 분명한 무게가 있습니다.

그렇지만 한 발 물러서 보면 불편한 질문이 남습니다. 국가가 '감정적 상호작용'을 관리 대상으로 규정하는 순간, 어디까지가 보호이고 어디부터가 통제일까요. 두바오 이용자들은 10월 15일까지 그동안의 대화를 내보내야 하고, 그 이후에는 복구할 수 없습니다. 누군가에게 그것은 몇 달에 걸쳐 쌓은 관계의 기록이 통째로 사라지는 일입니다. Qwen은 그마저의 이전 경로도 내놓지 않았지요. 중국의 방식이 정답이라는 말이 아닙니다. 다만 서구가 아직 입을 열지 못한 질문에 중국이 먼저, 그것도 자국의 거대 플랫폼 두 곳을 세워 답을 내놓았다는 사실만큼은 무겁게 봐야 합니다.

▸ 외로움이라는 시장, 한국의 자리

이 이야기가 남의 나라 규제로만 들리지 않는 이유가 있습니다. 한국은 1인 가구 비중이 빠르게 늘고 있고, 외로움은 이미 하나의 산업이 되어가고 있습니다. 사람처럼 말을 걸어주는 캐릭터 앱, 감정을 읽어주는 대화 서비스가 국내에서도 조용히 이용자를 모으고 있지요. 아직 우리에게는 두바오 같은 대규모 종료 사고도, 중국식의 촘촘한 규제도 없습니다. 규제의 공백 속에 있는 셈입니다.

그러나 공백은 오래가지 않습니다. AI가 사람의 마음을 대상으로 삼는 서비스가 임계점을 넘는 순간, 우리도 똑같은 질문 앞에 서게 될 것입니다. 어디까지가 위로이고 어디부터가 의존인가. 무엇이 혁신이고 무엇이 방치인가. 중국은 빗장을 거는 쪽을 택했고, 서구는 아직 지켜보는 중입니다. 한국은 어느 쪽도 아직 정하지 않았습니다.

기술의 본질을 이해한다는 것은 성능과 표준의 경쟁만 읽는 일이 아닙니다. AI가 사람의 얼굴을 하고 다가올 때, 우리가 무엇을 느끼고 무엇을 착각하는지까지 아는 일입니다. 바이첸바움의 비서가 방문을 닫아달라고 했던 그 마음은 지금도 우리 안에 그대로 있습니다. AI가 사람처럼 느껴질수록 우리는 그 앞에서 질문을 멈추기 쉬워집니다. 그러나 결국 살아남는 것은, 화면 너머의 다정한 목소리에게도 "너는 정말 나를 이해하고 있는가"라고 되물을 줄 아는 사람일 것입니다.