
영국 항소법원이 11월 11일과 12일 이틀에 걸쳐 게티이미지와 스태빌리티 AI의 항소심을 열었습니다. 다투는 것은 한 문장으로 줄여집니다. 학습이 끝난 모델 파일 자체가 침해 복제물인가.
1심은 지난해 11월 4일 고등법원에서 나왔는데요. 재판을 맡은 조애나 스미스 판사(Mrs Justice Joanna Smith)는 게티의 저작권 청구를 기각했습니다. 그런데 이 재판은 시작할 때와 끝날 때의 모습이 많이 달랐어요. 게티는 최종변론에 이르러 1차 침해 청구와 데이터베이스권 청구를 스스로 거둬들였습니다. 스테이블 디퓨전의 학습이 영국에서 이뤄졌다는 증거를 대지 못했기 때문입니다. 그래서 영국 법원은 아직까지 "학습이 저작권 침해인가"를 판단한 적이 없습니다.
남은 것은 2차 침해 하나였습니다.
영국 저작권·디자인·특허법(CDPA)에서 2차 침해는 좀 독특하게 생겼습니다. 누가 무엇을 복제했는지를 묻지 않고, 어떤 물건(article)을 영국에 들여오거나 소지하거나 배포했는지를 묻거든요. 그리고 그 물건이 침해 복제물(infringing copy)이어야 합니다. 법 27조 3항은 그 정의를 이렇게 적어 뒀습니다. 영국으로 들여온 물건은, 그것을 영국에서 만들었더라면 저작권 침해였을 경우에 침해 복제물이 된다고요.
게티가 노린 경로가 바로 이 가정법 문장이었습니다. 학습이 영국에서 일어났다면 복제였을 테니, 그 학습으로 만들어진 모델은 영국에 들여오는 순간 침해 복제물이라는 겁니다. 학습지를 영국 밖으로 옮겨 놓아도 결과물을 들여오면 걸린다는 논리죠.
1심 판사는 첫 관문은 열어 줬습니다. 무형물도 물건이 될 수 있다고 본 겁니다. 영국 법원이 이걸 인정한 것은 처음이었어요. 복제의 정의가 "전자적 수단으로 어떤 매체에든 저장하는 것"을 포함하니, 클라우드에 올라가 있는 파일도 물건으로 볼 수 있다는 논리였습니다.
막힌 곳은 두 번째 관문이었습니다. 판결문 600항은 이렇게 적혀 있습니다. "모델 자체는 그 저작물들을 전혀 저장하고 있지 않다. 모델 가중치는 그 자체로 침해 복제물이 아니다." 가중치는 "학습 과정에서 시간을 들여 익힌 패턴과 특징의 산물일 뿐"이라고요.
이 문장이 왜 결정적인지 보려면 확산 모델이 무엇을 저장하는지 알아야 합니다.
학습은 이런 식으로 진행됩니다. 사진 한 장을 가져와 노이즈를 아주 조금 덮습니다. 또 덮고, 또 덮고, 천 번 가까이 반복하면 원래 무엇이었는지 알아볼 수 없는 완전한 잡음이 됩니다. 모델이 배우는 것은 이 과정을 거꾸로 돌리는 방법이에요. "이 정도 잡음이 낀 그림에서 무엇을 걷어내야 조금 더 그럴듯해지는가." 그 판단을 수억 개의 조정값으로 눌러 담은 것이 가중치입니다. 사진을 압축해 보관한 사전이 아니라, 잡음을 걷어내는 요령을 적어 둔 숫자 뭉치인 셈이죠.

잡음을 걷어내는 횟수만 늘려 가며 같은 조건으로 생성한 결과입니다. 모델은 저장해 둔 그림을 꺼내 오는 것이 아니라 매번 잡음에서 그려 냅니다. 출처: Wikimedia Commons
법원이 든 대조군을 보면 차이가 선명해집니다. 과거 판례에서는 램(RAM)에 잠깐 올라간 복제물도 "짧은 시간 동안" 침해 복제물이었습니다. 램에는 그 작품이 실제로 있었으니까요. 잠깐이든 오래든, 있었느냐 없었느냐가 기준이었던 겁니다. 가중치에는 없습니다.
그래서 1심은 "만드는 과정에서 침해가 있었는가"를 아예 들여다볼 필요가 없는 질문으로 처리했습니다. 결과물이 복제물이 아니면 27조 3항의 가정법 문장까지 갈 일이 없거든요.
게티의 항소는 바로 이 경첩을 떼어 내려는 시도입니다. 만든다(making)는 말에는 학습이 포함되고, 완성된 모델이 복제물을 품고 있을 필요는 없다는 주장이죠. 영국에서 만들었더라면 침해였을 물건이면 그걸로 충분하다는 겁니다. 영국음반산업협회(BPI)가 게티 쪽 보조참가 허가를 받아 같은 편에 섰습니다.
스태빌리티 쪽 반박은 결과물을 보라는 것입니다. 복제물인지 아닌지는 만들어진 물건이 무엇인가로 정해지지, 그것이 어떻게 개발됐는가로 정해지지 않는다고요. 게티 논리를 따르면 모델을 수입하는 것은 위법인데 영국 안에서 그 모델을 복제하는 것은 적법해지는 이상한 결과가 생긴다는 지적도 내놨습니다. 역외에서 학습한 모델까지 법을 넓히는 일은 법원이 아니라 의회가 할 일이라는 거고요. 스태빌리티는 거꾸로 1심에서 자기에게 불리했던 두 가지, 무형물이 물건이 된다는 판단과 자신이 영국에 수입·배포한 주체라는 판단도 뒤집어 달라고 요청했습니다.
그러면 이 재판이 우리 일에 무엇을 바꾸느냐. 1심 기준으로도 이미 갈라져 있는 것이 하나 있습니다. 해외에 있는 모델에 API로 접속해 쓰는 것은 영국으로의 수입이 아니라고 봤습니다. 반면 가중치 파일을 내려받아 사내에 두면 수입에 해당할 수 있습니다. 다만 그 파일이 침해 복제물일 때만요. 항소심에서 게티가 이기면 뒷부분의 단서가 사라집니다. "우리는 영국에서 학습하지 않았습니다"가 더 이상 방어선이 아니게 되는 거죠. 그러면 확인할 항목이 생깁니다. 우리가 쓰는 모델은 가중치를 반입하는 쪽인가 호스팅에 접속하는 쪽인가, 오픈웨이트를 내려받아 다시 배포하는 경로가 사내에 있는가, 학습 데이터의 출처에 관해 공급자에게 받아 둔 진술이 있는가.
한 가지 더 짚고 싶은 게 있습니다. "저장하지 않는다"와 "재현할 수 없다"는 같은 말이 아니거든요. 2023년 USENIX 보안 학회에서 발표된 연구는 스테이블 디퓨전에서 학습에 쓰인 이미지 94장을 거의 원본 그대로 되살려 냈습니다. 흔한 일은 아니고, 같은 이미지가 학습 데이터에 여러 번 들어간 경우에 주로 생기는 현상이에요. 1심의 물음은 가중치 안에 작품이 들어 있느냐였습니다. 만약 언젠가 기준이 그 작품을 되살릴 수 있느냐로 옮겨 가면 같은 사실에서 다른 결론이 나올 여지가 있습니다. 이번 항소심에서 다투는 쟁점은 아니고, 그렇게 될 거라는 예측도 아닙니다. 다만 법리의 입구를 기술적 사실 위에 세워 두면, 기술 쪽 사실이 바뀔 때 입구도 같이 흔들린다는 가정입니다.
판결은 아직 나오지 않았고 선고 일정도 공표되지 않았습니다. 정리될 것은 학습이 적법한가가 아니라, 학습이 끝난 파일을 국경 너머로 옮기는 일이 법적으로 무엇인가입니다. 모델을 고를 때 성능과 가격 말고 조달 경로를 한 줄 더 들여다보게 되겠다 싶네요.
커버 이미지: 영국 왕립재판소(항소법원 소재지) — Wikimedia Commons, David Castor
전체 사이트에서 댓글·관련 글을 함께 보시려면
이야기 공장에서 보기 →