An toàn khi dùng Claude Duet

Phê duyệt trong Claude Duet: quyết định lớn là của bạn

Nguyên tắc trung tâm về an toàn của Claude Duet là tác tử làm việc, còn bạn đưa ra những quyết định không thể đảo ngược. Anthropic cho biết Duet chờ phê duyệt với các thao tác nhạy cảm, và điểm tên bốn loại. Mọi thứ khác, như đọc, tìm hiểu, soạn thảo và làm báo cáo, nó có thể tự làm.

Gửi

Email, tin nhắn Slack và mọi giao tiếp gửi ra ngoài đều được soạn rồi giữ lại. Video ra mắt cho thấy một thư mời nhận việc được giữ lại, màn hình hiện hai nút "Not now" (Để sau) và "Send" (Gửi), cho đến khi chủ doanh nghiệp bấm Send.

Thanh toán

Các khoản thanh toán đều chờ bạn. Trong bản demo, Duet chuẩn bị hồ sơ xin giấy phép y tế và nhờ chủ doanh nghiệp "xem qua và thanh toán khi sẵn sàng".

Ký

Tài liệu không được ký thay bạn khi chưa có phê duyệt.

Xóa

Tệp và dữ liệu không bị xóa khi chưa có phê duyệt, nên một chỉ dẫn bị hiểu sai không thể lặng lẽ xóa mất thứ gì quan trọng.

Theo trang sản phẩm của Anthropic, bạn cũng có thể xem Duet đã làm hoặc đang làm gì và điều hướng nó. Bất cứ lúc nào, bạn cứ hỏi trong luồng để nhận danh sách các thao tác gần đây.

Claude Duet không bao giờ nhìn thấy mật khẩu của bạn

Chuỗi bài đăng ra mắt của Anthropic nói thẳng về thông tin đăng nhập: Duet "không bao giờ trực tiếp nhìn thấy mật khẩu của bạn".

Đăng nhập trong máy tính đám mây riêng

Phê duyệt, đăng nhập và kiểm tra an toàn đều chạy bên trong một máy tính đám mây riêng. Hiệu quả thực tế là mô hình đảm nhận phần suy luận được giữ cách xa thông tin đăng nhập gốc của bạn; nó làm việc với các phiên đăng nhập được tạo ra chứ không phải với chính mật khẩu.

Bộ phân loại thông tin nhạy cảm

Anthropic bổ sung "một bộ phân loại mới" để ngăn Duet chia sẻ thông tin nhạy cảm. Hãy hình dung nó như một lớp kiểm tra thứ hai, xem tác tử sắp gửi đi hay tiết lộ gì và chặn những thứ không nên rời khỏi tài khoản của bạn, như thông tin tài chính hay dữ liệu định danh cá nhân. Anthropic chưa công bố bộ phân loại này quyết định dựa trên gì, nên hãy coi nó là lưới an toàn, không phải lời bảo đảm.

Quyền riêng tư với Claude Duet: dữ liệu của bạn đi đâu

Quyền riêng tư là phần về an toàn của Claude Duet mà mọi người hay hiểu sai nhất, nên cần nói thật chính xác.

Xử lý trên đám mây

Duet làm việc trên một máy tính đám mây do Anthropic vận hành. Mọi thứ nó đọc từ các ứng dụng đã kết nối đều được xử lý trên đám mây, và đó cũng là lý do nó vẫn làm việc được khi điện thoại bạn đã tắt.

Không chỉ chạy cục bộ

Không có chế độ chạy trên thiết bị hay chỉ chạy cục bộ. Nếu quy định của bạn yêu cầu một số dữ liệu không bao giờ được rời khỏi thiết bị hoặc hệ thống của công ty, đừng kết nối dữ liệu đó với Duet.

Theo dõi được các thao tác

Trong bản xem trước, bạn không thể xem trực tiếp trình duyệt của Duet. Thay vào đó bạn thấy nguồn nó dùng và kết quả nó làm ra. Anthropic chưa công bố quy định lưu giữ dữ liệu riêng cho Duet; trong lúc chờ, hãy mặc định rằng cài đặt quyền riêng tư của tài khoản Claude và chính sách quyền riêng tư dành cho người dùng cá nhân của Anthropic được áp dụng.

Các lớp bảo vệ so với những tác tử khác

Mọi công ty tung ra tác tử cá nhân trong mùa thu này đều đi đến một mô hình na ná nhau: một máy đám mây riêng, thông tin đăng nhập được giữ cách xa mô hình, và con người làm cửa chốt cho các thao tác rủi ro. Khác biệt nằm ở chỗ ai giữ cửa chốt đó.

• Meta Muse dùng một tác tử thứ hai tên là Sentinel trên cùng máy. Không thứ gì Muse gửi đi đến được internet nếu Sentinel chưa duyệt, và Muse cũng hỏi bạn trước khi mua hàng hay gửi email.
• ChatGPT Dots cho phép bạn đặt quy tắc riêng về mức độ mỗi "dot" được tự làm, từ hành động không cần hỏi cho đến trả việc lại cho bạn.
• Duet giữ một danh sách cố định các thao tác luôn cần bạn, cộng thêm một bộ phân loại sàng lọc thông tin nhạy cảm.

Danh sách cố định kém linh hoạt hơn quy tắc tùy chỉnh, nhưng cũng khó cấu hình sai hơn. So sánh đầy đủ có trên các trang Duet vs Muse và Duet vs Dots.

Dùng Claude Duet an toàn

Các lớp bảo vệ của Anthropic lo cho phía tác tử. Những thói quen dưới đây lo cho phía bạn.

Kết nối với quyền tối thiểu

Chỉ kết nối những tài khoản Duet cần, và xem lại quyền mà từng connector yêu cầu trước khi đồng ý. Nếu bạn chỉ muốn gợi ý xếp lịch, một lịch chỉ đọc sẽ an toàn hơn một lịch nó được sửa. Hướng dẫn kết nối liệt kê từng ứng dụng cho phép những gì.

Xem kỹ bản nháp

Hãy duyệt từ bản nháp, đừng duyệt từ thông báo. Kiểm tra người nhận, số tiền và tệp đính kèm, nhất là với tin nhắn gửi cho người ngoài tổ chức.

Cảnh giác với tấn công chèn lệnh

Tác tử nào đọc được email của bạn thì cũng đọc được email độc hại. Kẻ tấn công có thể cài chỉ dẫn vào một bức thư với hy vọng tác tử làm theo (kiểu tấn công gọi là prompt injection). Quy tắc phê duyệt của Duet hạn chế thiệt hại, vì các thao tác nguy hiểm vẫn cần bạn, nhưng hãy nghi ngờ nếu tác tử bất ngờ đề xuất gửi dữ liệu hay thanh toán cho người bạn không ngờ tới.

• Bắt đầu với một hộp thư ít quan trọng hoặc một tài khoản thử nghiệm, như hướng dẫn cài đặt gợi ý.
• Không bao giờ duyệt thanh toán cho người nhận mới chỉ dựa vào thông báo.
• Ngắt kết nối những ứng dụng không còn dùng; mỗi kết nối là thêm một bề mặt tấn công.
• Mỗi tuần một lần, xem lại những gì Duet đang theo dõi và dừng những việc đã xong.

Câu hỏi thường gặp