Безопасность Claude Duet

Подтверждения в Claude Duet: важные решения за вами

Главное правило безопасности Claude Duet: работу делает агент, а необратимые решения принимаете вы. По словам Anthropic, Duet ждёт подтверждения для рискованных действий, и компания называет четыре таких действия. Всё остальное — чтение, поиск информации, черновики и отчёты — он может делать сам.

Отправка

Письма, сообщения в Slack и прочая исходящая переписка сначала готовятся как черновик, а затем ждут. В промо-ролике письмо с оффером остаётся неотправленным — на экране кнопки «Not now» («Не сейчас») и «Send» («Отправить»), — пока владелица не нажмёт Send.

Оплата

Платежи ждут вас. В демонстрации Duet готовит заявку на санитарное разрешение и просит владелицу «посмотреть и оплатить, когда будете готовы».

Подписание

Документы от вашего имени без подтверждения не подписываются.

Удаление

Файлы и записи без подтверждения не удаляются, так что неверно понятая инструкция не сотрёт ничего важного втихую.

Кроме того, судя по странице продукта Anthropic, вы можете видеть, что Duet уже сделал или делает сейчас, и направлять его. Список последних действий можно в любой момент запросить в ветке.

Claude Duet никогда не видит ваши пароли

В анонсе Anthropic о паролях сказано прямо: Duet «никогда не видит ваши пароли напрямую».

Вход в аккаунты в личном облачном компьютере

Подтверждения, вход в аккаунты и проверки безопасности выполняются внутри личного облачного компьютера. На практике это значит, что модель, которая рассуждает и принимает решения, отделена от ваших учётных данных: она работает с сессиями, которые создаются при входе, а не с самими паролями.

Классификатор конфиденциальных данных

Anthropic добавила «новый классификатор», который не даёт Duet передавать конфиденциальную информацию. Это вторая линия проверки: она смотрит, что агент собирается отправить или раскрыть, и блокирует то, что не должно покидать ваши аккаунты, например финансовые данные или персональные идентификаторы. Как именно классификатор принимает решения, Anthropic не раскрывала, поэтому считайте его страховочной сеткой, а не гарантией.

Конфиденциальность в Claude Duet: куда уходят данные

Конфиденциальность — та часть безопасности Claude Duet, которую понимают неправильно чаще всего, поэтому здесь важна точность.

Обработка в облаке

Duet работает на облачном компьютере под управлением Anthropic. Всё, что он читает в подключённых приложениях, обрабатывается в облаке, — поэтому он и может продолжать работу, когда телефон выключен.

Не только локально

Режима работы на устройстве или только локально нет. Если по вашим правилам какие-то данные не должны покидать устройство или системы компании, не подключайте их к Duet.

Видимость действий

В превью нельзя смотреть, что Duet делает в браузере, в реальном времени. Вместо этого вы видите его источники и результат работы. Отдельных правил хранения данных для Duet Anthropic пока не опубликовала; до тех пор исходите из того, что действуют настройки конфиденциальности вашего аккаунта Claude и потребительская политика конфиденциальности Anthropic.

Как защита устроена у других агентов

Все компании, выпустившие этой осенью персональных агентов, пришли к похожей схеме: выделенная облачная машина, учётные данные отделены от модели, а рискованные действия проходят через человека. Различается то, кто именно стоит на воротах.

• Meta Muse использует второго агента под названием Sentinel на той же машине. Ничто из отправленного Muse не попадёт в интернет без одобрения Sentinel, а перед покупками и письмами Muse ещё и уточняет у вас.
• ChatGPT Dots позволяет задать собственные правила того, сколько каждый «dot» может делать сам: от действий без спроса до возврата задачи вам.
• Duet держит фиксированный список действий, которые всегда требуют вас, плюс классификатор, отсеивающий конфиденциальную информацию.

Фиксированный список менее гибок, чем настраиваемые правила, зато его сложнее настроить неправильно. Полные сравнения — на страницах Duet и Muse и Duet и Dots.

Как пользоваться Claude Duet безопасно

Механизмы Anthropic защищают со стороны агента. Эти привычки защищают с вашей.

Коннекторы с минимумом прав

Подключайте только те аккаунты, которые нужны Duet, и проверяйте, какие разрешения запрашивает каждый коннектор, прежде чем соглашаться. Если вам нужны только предложения по расписанию, календарь с доступом на чтение безопаснее, чем с правом редактирования. Что позволяет каждое приложение, перечислено в руководстве по коннекторам.

Проверяйте черновики

Одобряйте из черновика, а не из уведомления. Проверяйте получателей, суммы и вложения, особенно в сообщениях людям вне вашей организации.

Помните о промпт-инъекциях

Любой агент, который читает вашу почту, может прочитать и вредоносное письмо. Злоумышленник способен вписать в сообщение инструкции в надежде, что агент их выполнит. Правило подтверждений в Duet ограничивает ущерб, ведь опасные действия всё равно требуют вас, но насторожитесь, если агент вдруг предлагает отправить данные или заплатить тому, кого вы не ждали.

• Начните с почтового ящика, где ставки невысоки, или с тестового аккаунта, как советует руководство по настройке.
• Никогда не одобряйте платёж новому получателю, глядя только на уведомление.
• Отключайте приложения, которыми больше не пользуетесь: каждое подключение — это лишняя поверхность атаки.
• Раз в неделю проверяйте, за чем следит Duet, и отключайте всё завершённое.

Частые вопросы