Claude Duet の安全性

Claude Duet の承認：大事な判断は人が下す

Claude Duet の安全性の大原則はシンプルです。作業はエージェントが進め、取り返しのつかない判断だけは人が下す。Anthropic によると、Duet は重要な操作について承認を待ち、その操作として4つを挙げています。読み込み、調べもの、下書き、レポート作成といったそれ以外の作業は、自分で進められます。

送信

メール、Slack のメッセージなど外部へのコミュニケーションは、下書きされたうえで保留されます。紹介動画では、内定通知が「Not now」「Send」のボタン付きで保留され、オーナーが Send をタップするまで送られません。

支払い

支払いも本人の確認待ちです。デモでは、Duet が営業許可の申請書を準備し、オーナーに「準備ができたら確認して支払ってください」と頼んでいます。

署名

承認なしに、本人に代わって書類へ署名することはありません。

削除

承認なしにファイルや記録を削除することはないため、指示の読み違いで大切なものが知らないうちに消えることはありません。

Anthropic の製品ページによると、Duet がやったことや進行中の作業を確認し、軌道修正することもできます。スレッドでいつでも最近の操作の一覧を頼めます。

Claude Duet はパスワードを見ない

Anthropic のリリース時の投稿は、認証情報についてはっきり述べています。Duet は「パスワードを直接目にすることはない」というものです。

ログインはプライベートなクラウドコンピューターで

承認、ログイン、安全チェックは、プライベートなクラウドコンピューターの中で行われます。実際には、推論を行うモデルは生の認証情報から切り離されており、パスワードそのものではなく、ログインによって作られたセッションを使って作業します。

機密情報の分類器

Anthropic は、Duet による機密情報の共有を防ぐ「新しい分類器」を追加しました。エージェントが送信または開示しようとしている内容を確認し、金融情報や個人を特定できる情報など、アカウントの外に出るべきではないものをブロックする二重チェックだと考えてください。分類器がどう判断しているかは公表されていないので、保証ではなく安全網として扱いましょう。

Claude Duet のプライバシー：データの行き先

プライバシーは、Claude Duet の安全性の中で最も誤解されやすい部分なので、正確に押さえておきましょう。

クラウドでの処理

Duet は Anthropic が運用するクラウドコンピューター上で動きます。連携アプリから読み取ったものはすべてクラウドで処理されます。スマートフォンの電源が切れていても作業を続けられるのはこのためです。

ローカル専用ではない

デバイス上だけで動くモードやローカル専用のモードはありません。特定のデータをデバイスや会社のシステムの外に出してはいけないというルールがあるなら、そのデータは Duet に連携しないでください。

操作の可視性

プレビュー版では、Duet のブラウザ操作をリアルタイムで見ることはできません。代わりに、参照した情報源と作成した成果物を確認できます。Duet 固有のデータ保持ルールはまだ公表されていません。公表されるまでは、Claude アカウントのプライバシー設定と Anthropic の個人向けプライバシーポリシーが適用されると考えておきましょう。

他のエージェントとの安全策の比較

この秋に個人向けエージェントを出した各社は、似たような形に落ち着いています。専用のクラウドマシン、モデルから切り離された認証情報、そしてリスクのある操作の前に人間が判断する関門です。違いは、その関門を誰が担うかにあります。

• Meta Muse は、同じマシン上で Sentinel という2つ目のエージェントを使っています。Muse が送るものは、Sentinel が承認しない限りインターネットに出ません。さらに Muse は、購入やメール送信の前にもユーザーに確認します。
• ChatGPT Dots では、それぞれの Dot が自分でどこまでやってよいかを独自のルールで設定できます。確認なしで実行させることも、ユーザーに判断を戻させることもできます。
• Duet は、必ず人の判断を挟む操作の固定リストと、機密情報を選別する分類器を組み合わせています。

固定リストは設定できるルールより柔軟性に欠けますが、設定を誤る心配も少なくなります。詳しい比較は Duet と Muse の比較、Duet と Dots の比較のページをご覧ください。

Claude Duet を安全に使うために

Anthropic の安全策はエージェントの側を固めるものです。自分の身を守るには、次の習慣を身につけましょう。

コネクタは最小権限で

Duet に必要なアカウントだけを連携し、承認する前に各コネクタが求める権限を確認しましょう。日程の提案だけが欲しいなら、編集できるカレンダーより読み取り専用のカレンダーのほうが安全です。各アプリで何が許可されるかはコネクタのガイドに一覧があります。

下書きを確認する

通知からではなく、下書きを見てから承認しましょう。宛先、金額、添付ファイルを確認します。社外の人へのメッセージは特に注意が必要です。

プロンプトインジェクションへの警戒

メールを読むエージェントは、悪意のあるメールも読みます。攻撃者は、エージェントが従うことを狙ってメッセージの中に指示を書き込むかもしれません。危険な操作には引き続き承認が必要なので、Duet の承認ルールが被害を食い止めてくれます。それでも、エージェントが突然データの送信や心当たりのない相手への支払いを提案してきたら、疑ってかかりましょう。

• セットアップのチュートリアルで勧めているように、重要度の低い受信トレイやテスト用アカウントから始める。
• 新しい支払先への支払いを、通知だけを見て承認しない。
• 使わなくなったアプリは連携を解除する。連携はすべて攻撃の入り口になりうる。
• 週に一度、Duet が追いかけているものを確認し、終わったものは止める。

よくある質問