Keamanan Claude Duet

Persetujuan di Claude Duet: keputusan besar tetap di tangan Anda

Aturan utama keamanan Claude Duet adalah: agen yang bekerja, tetapi keputusan yang tidak bisa dibatalkan tetap milik Anda. Anthropic menyebut Duet menunggu persetujuan untuk tindakan sensitif, dan merinci empat di antaranya. Selebihnya, seperti membaca, meriset, menyusun draf, dan membuat laporan, bisa ia kerjakan sendiri.

Mengirim

Email, pesan Slack, dan komunikasi keluar lainnya disusun sebagai draf, lalu ditahan. Video peluncuran memperlihatkan surat penawaran kerja yang tertahan, dengan tombol "Not now" dan "Send" di layar, sampai pemilik usaha mengetuk Send.

Membayar

Pembayaran menunggu Anda. Dalam demo, Duet menyiapkan permohonan izin kesehatan lalu meminta pemilik usaha untuk "memeriksanya dan membayar saat siap."

Menandatangani

Dokumen tidak akan ditandatangani atas nama Anda tanpa persetujuan.

Menghapus

Berkas dan catatan tidak akan dihapus tanpa persetujuan, sehingga instruksi yang salah dipahami tidak bisa diam-diam melenyapkan sesuatu yang penting.

Menurut halaman produk Anthropic, Anda juga bisa melihat apa yang sudah atau sedang dikerjakan Duet dan mengarahkannya. Kapan saja, Anda bisa meminta daftar tindakan terbaru di utas.

Claude Duet tidak pernah melihat kata sandi Anda

Utas peluncuran Anthropic lugas soal kredensial: Duet "tidak pernah melihat kata sandi Anda secara langsung."

Login di komputer cloud privat

Persetujuan, login, dan pemeriksaan keamanan berjalan di dalam komputer cloud privat. Dampak praktisnya, model yang berpikir dijauhkan dari kredensial mentah Anda; ia bekerja dengan sesi yang tercipta dari login tersebut, bukan dengan kata sandinya.

Classifier untuk informasi sensitif

Anthropic menambahkan "classifier baru" yang mencegah Duet membagikan informasi sensitif. Anggap saja sebagai pemeriksa kedua yang melihat apa yang hendak dikirim atau diungkap agen, lalu memblokir hal yang tidak boleh keluar dari akun Anda, seperti data keuangan atau identitas pribadi. Anthropic belum menjelaskan bagaimana classifier ini mengambil keputusan, jadi perlakukan sebagai jaring pengaman, bukan jaminan.

Privasi Claude Duet: ke mana data Anda pergi

Privasi adalah aspek keamanan Claude Duet yang paling sering disalahpahami, jadi perlu dijelaskan dengan tepat.

Pemrosesan di cloud

Duet bekerja di komputer cloud yang dijalankan Anthropic. Apa pun yang dibacanya dari aplikasi terhubung diproses di cloud. Itu pula sebabnya ia tetap bisa bekerja saat ponsel Anda mati.

Tidak hanya lokal

Tidak ada mode di perangkat atau mode khusus lokal. Jika aturan Anda mewajibkan data tertentu tidak pernah keluar dari perangkat atau sistem perusahaan, jangan hubungkan data itu ke Duet.

Visibilitas atas tindakan

Selama pratinjau, Anda tidak bisa menonton browser Duet secara langsung. Sebagai gantinya, Anda melihat sumber yang dipakainya dan hasil kerjanya. Anthropic belum menerbitkan aturan retensi data khusus Duet; sampai itu terbit, anggap pengaturan privasi akun Claude Anda dan kebijakan privasi konsumen Anthropic yang berlaku.

Perbandingan pengaman dengan agen lain

Semua perusahaan yang merilis agen pribadi musim gugur ini sampai pada pola serupa: mesin cloud khusus, kredensial dijauhkan dari model, dan gerbang manusia untuk tindakan berisiko. Bedanya ada pada siapa yang menjaga gerbang itu.

• Meta Muse memakai agen kedua bernama Sentinel di mesin yang sama. Tidak ada kiriman Muse yang sampai ke internet tanpa persetujuan Sentinel, dan Muse juga bertanya kepada Anda sebelum melakukan pembelian dan mengirim email.
• ChatGPT Dots memungkinkan Anda membuat aturan sendiri tentang seberapa jauh setiap dot boleh bertindak, mulai dari bertindak tanpa bertanya sampai menyerahkan tugas kembali kepada Anda.
• Duet memegang daftar tetap tindakan yang selalu butuh Anda, plus classifier yang menyaring informasi sensitif.

Daftar tetap memang kurang fleksibel dibanding aturan yang bisa dikonfigurasi, tetapi juga lebih sulit salah setel. Perbandingan lengkapnya ada di halaman Duet vs Muse dan Duet vs Dots.

Memakai Claude Duet dengan aman

Pengaman dari Anthropic melindungi sisi agen. Kebiasaan berikut melindungi sisi Anda.

Konektor dengan akses minimal

Hubungkan hanya akun yang dibutuhkan Duet, dan periksa izin yang diminta setiap konektor sebelum menyetujuinya. Kalau Anda cuma butuh saran jadwal, kalender baca saja lebih aman daripada kalender yang bisa diedit. Panduan konektor merinci apa yang diizinkan tiap aplikasi.

Tinjau drafnya

Setujui dari draf, bukan dari notifikasi. Periksa penerima, nominal, dan lampiran, terutama untuk pesan ke orang di luar organisasi Anda.

Waspadai prompt injection

Agen apa pun yang bisa membaca email Anda juga bisa membaca email jahat. Penyerang bisa menyisipkan instruksi dalam sebuah pesan dengan harapan agen menjalankannya. Aturan persetujuan Duet membatasi kerusakannya, karena tindakan berbahaya tetap butuh Anda, tetapi curigailah jika agen tiba-tiba mengusulkan mengirim data atau membayar pihak yang tidak Anda duga.

• Mulai dari kotak masuk yang risikonya rendah atau akun uji coba, seperti disarankan tutorial pengaturan.
• Jangan pernah menyetujui pembayaran ke penerima baru hanya dari notifikasi.
• Putuskan koneksi aplikasi yang sudah tidak dipakai; setiap koneksi adalah celah serangan.
• Tinjau apa saja yang dipantau Duet seminggu sekali dan hentikan yang sudah selesai.

Pertanyaan yang sering diajukan