Claude Duet 안전성

Claude Duet의 승인 절차: 큰 결정은 내가 합니다

Claude Duet 안전 설계의 핵심 원칙은 일은 에이전트가 하되 되돌릴 수 없는 결정은 사용자가 내린다는 것입니다. Anthropic은 Duet이 민감한 작업에서는 승인을 기다린다며 네 가지를 꼽았습니다. 읽기, 자료 조사, 초안 작성, 보고서 만들기처럼 그 밖의 일은 혼자서 할 수 있습니다.

발송

이메일, Slack 메시지 등 밖으로 나가는 연락은 초안까지만 쓰고 대기합니다. 출시 영상에서는 합격 안내 메일이 "Not now"(나중에)와 "Send"(보내기) 버튼과 함께 보류돼 있다가, 대표가 Send를 눌러야 발송됩니다.

결제

결제는 사용자를 기다립니다. 시연에서 Duet은 위생 허가 신청서를 준비한 뒤 "준비되면 확인하고 결제해 달라"고 요청합니다.

서명

승인 없이 사용자 대신 문서에 서명하지 않습니다.

삭제

승인 없이 파일이나 기록을 지우지 않습니다. 지시를 잘못 이해했다고 해서 중요한 자료가 소리 없이 사라지는 일은 없다는 뜻입니다.

Anthropic 제품 페이지에 따르면 Duet이 이미 한 일과 하고 있는 일을 확인하고 방향을 바꿀 수도 있습니다. 언제든 스레드에서 최근 작업 목록을 요청하면 됩니다.

Claude Duet은 비밀번호를 보지 않습니다

Anthropic은 출시 스레드에서 로그인 정보에 대해 분명히 말했습니다. Duet은 "비밀번호를 직접 보지 않는다"는 것입니다.

로그인은 프라이빗 클라우드 컴퓨터에서

승인, 로그인, 안전 점검은 프라이빗 클라우드 컴퓨터 안에서 진행됩니다. 실제로는 판단을 내리는 모델이 원래의 로그인 정보에 닿지 않는다는 의미입니다. 모델은 비밀번호 자체가 아니라 로그인으로 만들어진 세션을 이용해 일합니다.

민감 정보 분류기

Anthropic은 Duet이 민감한 정보를 공유하지 않도록 막는 "새로운 분류기"를 추가했습니다. 에이전트가 보내거나 드러내려는 내용을 한 번 더 살펴보고, 금융 정보나 개인 식별 정보처럼 계정 밖으로 나가면 안 되는 것을 차단하는 2차 점검 장치라고 보면 됩니다. 다만 분류기가 어떤 기준으로 판단하는지는 공개되지 않았으므로, 보장이 아니라 안전망 정도로 생각하세요.

Claude Duet 개인정보: 데이터는 어디로 가나

Claude Duet 안전성에서 가장 오해가 많은 부분이 개인정보입니다. 그래서 정확히 짚고 넘어갈 필요가 있습니다.

클라우드 처리

Duet은 Anthropic이 운영하는 클라우드 컴퓨터에서 일합니다. 연결된 앱에서 읽어 온 내용은 모두 클라우드에서 처리되며, 휴대폰이 꺼져 있어도 일을 계속할 수 있는 것도 이 때문입니다.

로컬 전용 모드는 없습니다

기기 안에서만 동작하는 모드나 로컬 전용 모드는 없습니다. 특정 데이터가 내 기기나 회사 시스템 밖으로 절대 나가면 안 된다는 규정이 있다면, 그 데이터는 Duet에 연결하지 마세요.

작업 내역 확인

프리뷰 기간에는 Duet의 브라우저를 실시간으로 볼 수 없습니다. 대신 참고한 출처와 만들어 낸 결과물을 확인합니다. Anthropic은 아직 Duet 전용 데이터 보관 규정을 공개하지 않았습니다. 공개되기 전까지는 Claude 계정의 개인정보 설정과 Anthropic의 일반 소비자용 개인정보 처리방침이 적용된다고 보면 됩니다.

다른 에이전트와 보호 장치 비교

올가을 개인용 에이전트를 내놓은 회사들은 모두 비슷한 구조에 도달했습니다. 전용 클라우드 머신을 두고, 로그인 정보를 모델에게서 떼어 놓고, 위험한 작업에는 사람의 확인을 거치게 하는 방식입니다. 차이는 누가 그 관문을 지키느냐에 있습니다.

• Meta Muse는 같은 머신에서 Sentinel이라는 두 번째 에이전트를 돌립니다. Sentinel이 허락하지 않으면 Muse가 보내는 어떤 것도 인터넷에 닿지 않고, 구매나 이메일 전에는 Muse가 사용자에게도 확인을 받습니다.
• ChatGPT Dots는 각 dot이 스스로 어디까지 할지 사용자가 규칙을 직접 정할 수 있습니다. 묻지 않고 바로 처리하게 할 수도 있고, 작업을 사용자에게 되돌려 보내게 할 수도 있습니다.
• Duet은 항상 사용자를 거쳐야 하는 작업 목록을 고정해 두고, 여기에 민감 정보를 걸러 내는 분류기를 더했습니다.

고정된 목록은 직접 정하는 규칙보다 유연성은 떨어지지만, 그만큼 설정을 잘못할 여지도 적습니다. 자세한 비교는 Duet과 Muse 비교, Duet과 Dots 비교 페이지에 있습니다.

Claude Duet을 안전하게 쓰는 법

Anthropic의 보호 장치는 에이전트 쪽을 지킵니다. 아래 습관은 사용자 쪽을 지킵니다.

커넥터는 최소 권한으로

Duet에게 필요한 계정만 연결하고, 승인하기 전에 커넥터가 요청하는 권한을 확인하세요. 일정 제안만 원한다면 편집 가능한 캘린더보다 읽기 전용 캘린더가 안전합니다. 앱별로 허용되는 권한은 커넥터 가이드에 정리돼 있습니다.

초안을 직접 확인하세요

알림만 보고 승인하지 말고 초안을 열어 보고 승인하세요. 받는 사람, 금액, 첨부 파일을 확인하고, 조직 밖의 사람에게 보내는 메시지는 특히 꼼꼼히 보세요.

프롬프트 인젝션에 주의하세요

메일을 읽는 에이전트라면 악성 메일도 읽을 수 있습니다. 공격자가 에이전트가 따르길 바라며 메시지 안에 지시문을 숨겨 둘 수 있습니다. 위험한 작업은 여전히 사용자 승인이 필요하므로 Duet의 승인 규칙이 피해를 줄여 주지만, 에이전트가 갑자기 데이터를 보내자고 하거나 예상치 못한 상대에게 돈을 보내자고 하면 의심하세요.

• 사용법 가이드에서 권하는 것처럼, 중요도가 낮은 메일함이나 테스트 계정으로 시작하세요.
• 처음 보는 수취인에게 가는 결제는 알림만 보고 승인하지 마세요.
• 더 이상 쓰지 않는 앱은 연결을 끊으세요. 연결 하나하나가 공격 경로가 됩니다.
• 일주일에 한 번 Duet이 지켜보고 있는 일을 점검하고, 끝난 건 중단시키세요.

자주 묻는 질문