에이전트 위에 감시자를 하나 더 뒀어요

메타가 Muse 위에 두 번째 에이전트를 올렸어요

메타가 9월 8일 개인 AI 에이전트 Muse를 미국에서 내놨어요. 만 18세 이상만 쓸 수 있고, 이용자마다 클라우드에 전용 가상 컴퓨터를 하나씩 배정해 일정 관리와 쇼핑, 장기 목표를 실행 계획으로 바꾸는 일을 맡기는 제품이에요. 주당 1억 토큰까지 무료고, 그보다 많이 쓰는 사람은 월 20달러나 100달러 요금제로 올라가요.

발표 자료를 보다가 눈길이 간 대목은 모델 점수표가 아니라, 같은 가상 컴퓨터 안에서 따로 돌아가는 Sentinel이라는 두 번째 에이전트였어요. 시스템 수준에서 Muse와 분리돼 있고요. Muse가 하는 일 가운데 인터넷 바깥으로 나가는 건 Sentinel을 통과해야 해요.

---

Muse는 제안만 하고, 허락은 Sentinel이 해요

Sentinel이 하는 일은 세 가지로 갈려요. 허용, 차단, 그리고 사람에게 묻기. Muse는 어떤 행동을 하겠다고 제안할 수 있을 뿐이고, 그중 무엇이 실제로 실행될지는 Muse가 정하지 않아요. 외부에서 읽어온 문서나 웹페이지에 명령문이 숨어 있는 프롬프트 인젝션¹을 걸러내는 것도 이쪽 역할이에요.

권한을 주는 방식도 한 번에 열지 않아요. 서비스를 연결하면 읽기 권한부터 시작하고, 쓰기가 필요하면 따로 요청해야 해요. 권한은 작업 단위, 서비스 단위, 거래 단위, 기간 단위로 좁힐 수 있고요. 저커버그는 인터뷰에서 이걸 설계 원칙으로 못 박았어요. 필요한 최소한만 받고, 필요해질 때만 늘린다는 최소 권한² 원칙이에요.

로그인 정보와 결제 수단은 아예 다른 칸에 들어가요. 자격 증명은 별도 저장소에 보관돼서 에이전트가 비밀번호를 보지 못한 채로 로그인만 하고, 카드 결제는 일회용 번호로 나가요. 실제 카드번호는 에이전트에 노출되지 않아요. 에이전트가 무엇을 했고 무엇을 하려는지는 기록으로 남고, 이용자는 연결한 서비스를 나중에 끊을 수 있어요.