Claude Duet: bezpieczeństwo

Zatwierdzanie w Claude Duet: kluczowe decyzje należą do ciebie

Podstawowa zasada bezpieczeństwa Claude Duet brzmi: agent wykonuje pracę, ale decyzje, których nie da się cofnąć, podejmujesz ty. Anthropic podaje, że przy wrażliwych akcjach Duet czeka na zgodę, i wymienia cztery takie akcje. Wszystko inne, czyli czytanie, wyszukiwanie informacji, pisanie szkiców i tworzenie raportów, może robić sam.

Wysyłanie

Maile, wiadomości na Slacku i inna komunikacja wychodząca powstają jako szkice i są wstrzymywane. Wideo premierowe pokazuje ofertę pracy, która czeka, z przyciskami „Not now” i „Send” na ekranie, aż właścicielka stuknie „Send”.

Płacenie

Płatności czekają na ciebie. W demo Duet przygotowuje wniosek o zezwolenie sanitarne i prosi właścicielkę, by „rzuciła okiem i zapłaciła, kiedy będzie gotowa”.

Podpisywanie

Dokumenty nie są podpisywane w twoim imieniu bez zgody.

Usuwanie

Pliki i rekordy nie są usuwane bez zgody, więc źle zrozumiane polecenie nie wymaże po cichu czegoś ważnego.

Według strony produktu Anthropic możesz też zobaczyć, co Duet zrobił lub właśnie robi, i pokierować jego pracą. W każdej chwili możesz poprosić w wątku o listę ostatnich działań.

Claude Duet nigdy nie widzi twoich haseł

W wątku premierowym Anthropic mówi o danych logowania wprost: Duet „nigdy bezpośrednio nie widzi twoich haseł”.

Logowanie na prywatnym komputerze w chmurze

Zatwierdzanie, logowanie i kontrole bezpieczeństwa odbywają się na prywatnym komputerze w chmurze. W praktyce model, który analizuje i podejmuje decyzje, jest odcięty od twoich surowych danych logowania. Pracuje na sesjach, które powstają po zalogowaniu, a nie na samych hasłach.

Klasyfikator wrażliwych informacji

Anthropic dodał „nowy klasyfikator”, który pilnuje, żeby Duet nie udostępniał wrażliwych informacji. To coś w rodzaju drugiej kontroli: sprawdza, co agent zamierza wysłać lub ujawnić, i blokuje to, co nie powinno opuścić twoich kont, na przykład dane finansowe czy identyfikatory osobowe. Anthropic nie opisał, jak klasyfikator podejmuje decyzje, więc traktuj go jako siatkę asekuracyjną, a nie gwarancję.

Prywatność w Claude Duet: dokąd trafiają twoje dane

Prywatność to ten aspekt bezpieczeństwa Claude Duet, który najczęściej bywa źle rozumiany, więc warto być precyzyjnym.

Przetwarzanie w chmurze

Duet pracuje na komputerze w chmurze prowadzonym przez Anthropic. Wszystko, co czyta z podłączonych aplikacji, jest przetwarzane w chmurze. Dlatego właśnie może działać, gdy twój telefon jest wyłączony.

Nie tylko lokalnie

Nie ma trybu działającego na urządzeniu ani wyłącznie lokalnie. Jeśli obowiązujące cię zasady wymagają, by pewne dane nigdy nie opuszczały twojego urządzenia czy systemów firmy, nie podłączaj ich do Duet.

Wgląd w działania

W wersji testowej nie da się oglądać przeglądarki Duet na żywo. Widzisz za to źródła i efekty jego pracy. Anthropic nie opublikował jeszcze zasad przechowywania danych specyficznych dla Duet. Dopóki tego nie zrobi, zakładaj, że obowiązują ustawienia prywatności twojego konta Claude i polityka prywatności Anthropic dla klientów indywidualnych.

Zabezpieczenia na tle innych agentów

Wszystkie firmy, które tej jesieni wypuszczają osobistych agentów, doszły do podobnego modelu: osobna maszyna w chmurze, dane logowania trzymane z dala od modelu i człowiek jako bramka przy ryzykownych akcjach. Różnice dotyczą tego, kto pilnuje bramki.

• Meta Muse korzysta z drugiego agenta o nazwie Sentinel, działającego na tej samej maszynie. Nic, co wysyła Muse, nie trafia do internetu bez zgody Sentinela, a dodatkowo Muse pyta cię przed zakupami i wysłaniem maili.
• ChatGPT Dots pozwala ustawić własne reguły określające, ile każdy „dot” może zrobić sam: od działania bez pytania po oddanie zadania z powrotem tobie.
• Duet ma stałą listę akcji, które zawsze wymagają ciebie, oraz klasyfikator wyłapujący wrażliwe informacje.

Stała lista jest mniej elastyczna niż konfigurowalne reguły, ale trudniej ją też źle ustawić. Pełne porównania znajdziesz na stronach Duet vs Muse i Duet vs Dots.

Jak bezpiecznie korzystać z Claude Duet

Zabezpieczenia Anthropic chronią po stronie agenta. Te nawyki chronią po twojej.

Konektory z minimum uprawnień

Podłączaj tylko konta, których Duet potrzebuje, i przed akceptacją sprawdzaj, o jakie uprawnienia prosi każdy konektor. Jeśli chcesz tylko propozycji terminów, kalendarz w trybie do odczytu jest bezpieczniejszy niż taki, który agent może edytować. Na co pozwala każda aplikacja, opisuje poradnik o konektorach.

Sprawdzaj szkice

Zatwierdzaj z poziomu szkicu, a nie powiadomienia. Sprawdzaj odbiorców, kwoty i załączniki, zwłaszcza w wiadomościach do osób spoza organizacji.

Uważaj na prompt injection

Każdy agent, który czyta twoją pocztę, przeczyta też złośliwego maila. Atakujący może wpisać do wiadomości instrukcje w nadziei, że agent je wykona. Zasada zatwierdzania w Duet ogranicza szkody, bo niebezpieczne akcje i tak wymagają ciebie, ale bądź czujny, jeśli agent nagle proponuje wysłanie danych albo zapłatę komuś, kogo się nie spodziewasz.

• Zacznij od skrzynki, w której niewiele ryzykujesz, albo od konta testowego, jak radzi poradnik konfiguracji.
• Nigdy nie zatwierdzaj płatności dla nowego odbiorcy na podstawie samego powiadomienia.
• Odłączaj aplikacje, z których już nie korzystasz. Każde połączenie to potencjalna furtka dla atakującego.
• Raz w tygodniu sprawdzaj, co śledzi Duet, i wyłączaj to, co już zakończone.

Najczęściej zadawane pytania