이 엔지니어를 위한 이야기 공장 AI 기술에 인문학의 온기를

AI 에이전트가 한 거래를 본인 거래로 보는 약관

AI 에이전트가 한 거래를 본인 거래로 보는 약관

웰스파고(Wells Fargo)가 온라인 접근 약관을 고쳐 11월 24일부터 적용한다고 공지했습니다. 새로 붙은 15조의 제목이 "제3자 인공지능 에이전트 또는 에이전틱 AI"인데요. 내용이 꽤 직설적입니다. "은행은 에이전트의 활동을, 에이전트가 개시한 거래를 포함해 감시하거나 선별하거나 검토하지 않는다" — 은행이 선언하는 형식이 아니라 고객이 그 점을 인정하는 형식으로 적혀 있습니다. 에이전트의 "의도하지 않은 행동, 불완전하거나 부정확하거나 조작된 입력에서 비롯된 행동"에 대한 책임도 고객 몫이고요. 자격증명을 넘겨 접근을 허용하면 그 행위는 "본인이 직접 개시하고 승인한 것으로 간주된다"고도 적었습니다. 권한을 취소하는 것도 고객 몫이고, 심지어 "취소했다는 증거를 보관하고 요청하면 제출해야" 합니다.

읽다 보면 순서가 거꾸로라는 느낌이 듭니다.

얼마 전까지 은행들이 하던 일은 반대쪽이었거든요. JP모건과 슈왑이 외부 에이전트의 로그인을 막는 이야기를 다룬 적이 있는데, 씨티는 승인된 오픈뱅킹 창구를 통한 읽기 전용 접근만 열어 뒀고, 뱅크오브아메리카는 결제 전에 사람이 승인해야 한다고 했죠. 슈왑은 고객 자금에 손대려는 주요 에이전트의 시도를 수십 건 단위로 차단하고 있다고 밝혔고요. 그런데 웰스파고는 막는 대신 문을 열어 두고, 그 문으로 들어온 일은 당신이 한 일이라고 적어 놓은 셈입니다.

왜 이렇게 했을까요?

은행이 야박해서라기보다, 은행 시스템이 에이전트와 나를 구분할 방법이 애초에 없어서에 가깝습니다.

예를 들어 가계부 정리를 해 주는 에이전트에 계좌를 붙인다고 가정해 보죠. 실제로 하는 일은 아이디와 비밀번호를 넘기는 것입니다. 그 에이전트가 로그인하면, 은행 서버에 도착하는 요청에는 무엇이 담겨 있을까요? 신원 하나뿐입니다. "이건 에이전트가 이 사람을 대신해서, 30만 원까지, 조회만, 이달 말까지 하는 것"이라고 적을 칸이 요청 어디에도 없어요. 인증은 '당신이 누구인가'에 답하고 인가는 '무엇을 할 수 있는가'에 답하는데, 정작 '누구를 대신해'라는 세 번째 질문은 받을 자리가 없는 겁니다. 그러니 은행 입장에서 그 거래는 그냥 내가 한 거래로 보일 수밖에 없죠. 약관은 새 정책을 만들었다기보다, 로그인 구조가 이미 가정하고 있던 것을 문장으로 옮겨 적었습니다.

2차 인증이 무너지는 방식도 같은 구조에서 나옵니다. 일회용 비밀번호를 이메일로 받는다면, 그 편지함도 대개 에이전트가 읽고 있죠. 계정 하나가 뚫리면 두 요소가 같이 뚫리는 셈이니, 두 번 묻는 의미가 사라집니다. 핑 아이덴티티(Ping Identity)의 안드레 두랜드 CEO가 이메일 일회용 비밀번호는 더 이상 안전하지 않다며 패스키와 생체인증을 권한 것도 이 지점이고요.

빠진 자리를 메우는 방법은 이미 나와 있습니다. 토큰 교환에는 대신 행동하는 주체를 따로 적는 act 항목이 있어서, 주체는 나이되 실제로 움직인 것은 이 에이전트라고 토큰에 남길 수 있습니다. 허용할 작업과 금액 상한, 수취인을 앱의 내부 로직이 아니라 인가 자체에 적어 두는 방식도 표준으로 정리돼 있고, 토큰을 에이전트가 가진 키에 묶어 두면 탈취된 토큰은 쓸모가 없어집니다. 사람 확인이 필요한 순간에는 뱅킹 앱 푸시처럼 에이전트가 손댈 수 없는 별도 채널로 물어보게 할 수도 있죠. 씨티가 "읽기 전용"이라고 말할 때 가리키는 것도 적어도 무엇까지 할 수 있는지가 인가에 적히는 경로고요.

그래서 금융 쪽에 에이전트를 붙이는 팀이라면 당장 확인할 것은 세 가지로 좁혀집니다. 자격증명을 통째로 넘기고 있는지 아니면 범위와 상한이 적힌 위임 토큰을 받고 있는지, 2차 확인이 에이전트가 읽는 채널 바깥에 있는지, 그리고 권한 취소가 서버 쪽에 시각이 찍힌 사건으로 남는지입니다.

마지막 항목이 특히 신경 쓰입니다. 15조는 취소 증거를 보관하라고 하는데, 자격증명 기반 구조에서는 그런 증거가 만들어지지 않거든요. 비밀번호를 바꾸거나 제3자 앱에서 연결을 끊어도, 은행 쪽에 남는 것은 비밀번호가 바뀌었다는 기록이지 어느 에이전트의 어떤 권한이 몇 시 몇 분에 끝났다는 기록이 아닙니다. 반대로 위임 토큰 구조라면 취소는 서버 측 사건이라 은행 자신이 그 대응 관계와 시각을 갖고 있고요. 사실 웰스파고에도 제3자 앱 연결을 끄는 자체 경로가 있습니다. 다만 그 경로 바깥에서 자격증명을 받아 간 에이전트라면 이야기가 달라지죠. 그러니 지금 약관은 자기 구조만이 만들 수 있는 증거를 고객에게 내놓으라고 요구하는 모양이 됩니다. 예측은 아니고 가정입니다만, 근거는 두 가지예요. 약관 5조가 무권한 전자자금이체를 "실제 권한 없이 개시된" 것으로 정의해 권한의 유무에 판정을 걸어 두었다는 점, 그리고 은행 스스로 감시하지 않는다고 적어 둔 이상 그 판정의 재료를 가진 쪽이 고객밖에 남지 않는다는 점입니다.

물론 이 조항이 당장 전면 적용되는 것은 아닙니다. 약관은 머리말에서 에이전트 관련 책임이 "우리가 그러한 에이전트의 사용을 허용하는 경우에 한해" 적용된다고 적어 두었고, 웰스파고는 에이전트 접근을 제한하거나 중단시킬 권리도 같이 적어 뒀습니다. 책임을 고객에게 돌리는 문장에도 "달리 정한 법이나 규정이 있으면 그에 따른다"는 단서가 붙어 있고요. 소비자 보호 규정과 이 조항이 부딪히면 어느 쪽이 이기는지, 약관은 말하지 않습니다. 위임받은 에이전트의 접근을 정면으로 정의한 규칙은 미국에도 아직 없습니다. 오픈뱅킹 쪽 규칙은 법원에서 멈춰 선 채 다시 쓰이고 있고요.

약관 한 조항이 바꾼 것은 결국 책임의 위치가 아니라, 그 책임이 어디에 놓여 있었는지를 우리가 알게 된 것뿐인지도 모르겠습니다. 로그인 창에는 처음부터 '누구를 대신해'를 적을 칸이 없었고요. 그 칸을 만드는 일이 생각보다 급해졌다 싶습니다.


커버 이미지: 로스앤젤레스의 웰스파고 지점 — Wikimedia Commons, Tony Webster

#에이전트 #인증 #금융 #보안 #오픈뱅킹 #약관