Veiligheid van Claude Duet

Goedkeuringen in Claude Duet: jij neemt de grote beslissingen

De kernregel van de veiligheid van Claude Duet: de agent doet het werk, maar jij neemt de beslissingen die niet terug te draaien zijn. Volgens Anthropic wacht Duet bij gevoelige acties op goedkeuring, en het bedrijf noemt er vier. Al het andere, zoals lezen, uitzoeken, teksten opstellen en rapporten bouwen, mag hij zelf doen.

Versturen

Mails, Slack-berichten en andere uitgaande communicatie worden opgesteld en daarna vastgehouden. De lanceringsvideo toont een aanbodbrief die blijft wachten, met de knoppen "Not now" en "Send" in beeld, tot de eigenares op Send tikt.

Betalen

Betalingen wachten op jou. In de demo bereidt Duet een aanvraag voor een gezondheidsvergunning voor en vraagt hij de eigenares om "even te kijken en te betalen als je zover bent".

Ondertekenen

Zonder goedkeuring worden er geen documenten namens jou ondertekend.

Verwijderen

Bestanden en gegevens worden niet zonder goedkeuring verwijderd, zodat een verkeerd begrepen opdracht niet stilletjes iets belangrijks kan wissen.

Volgens de productpagina van Anthropic kun je ook zien wat Duet heeft gedaan of aan het doen is, en kun je hem bijsturen. Vraag op elk moment in het gesprek om een lijst van recente acties.

Claude Duet ziet je wachtwoorden nooit

Over inloggegevens is Anthropic in de aankondiging op X heel duidelijk: Duet "ziet je wachtwoorden nooit rechtstreeks".

Inloggen op een privécomputer in de cloud

Goedkeuringen, inlogpogingen en veiligheidscontroles draaien op een privécomputer in de cloud. In de praktijk betekent dat: het model dat het denkwerk doet, blijft weg van je ruwe inloggegevens. Het werkt met de sessies die door het inloggen ontstaan, niet met de wachtwoorden zelf.

Classifier voor gevoelige informatie

Anthropic heeft "een nieuwe classifier" toegevoegd die moet voorkomen dat Duet gevoelige informatie deelt. Zie het als een tweede controle die kijkt wat de agent op het punt staat te versturen of prijs te geven, en die tegenhoudt wat je accounts niet hoort te verlaten, zoals financiële gegevens of persoonsgegevens. Anthropic heeft niet bekendgemaakt hoe de classifier beslist, dus zie hem als vangnet en niet als garantie.

Privacy bij Claude Duet: waar je gegevens heen gaan

Privacy is het deel van de veiligheid van Claude Duet dat mensen het vaakst verkeerd begrijpen. Daarom zetten we het precies op een rij.

Verwerking in de cloud

Duet werkt op een computer in de cloud die door Anthropic wordt beheerd. Alles wat hij uit je gekoppelde apps leest, wordt in de cloud verwerkt. Daardoor kan hij ook doorwerken als je telefoon uit staat.

Niet alleen lokaal

Een modus die alleen op je apparaat of lokaal werkt, bestaat niet. Schrijven jouw regels voor dat bepaalde gegevens nooit je apparaat of de systemen van je bedrijf mogen verlaten, koppel die gegevens dan niet aan Duet.

Zicht op acties

In de preview kun je niet live meekijken in de browser van Duet. Je ziet in plaats daarvan zijn bronnen en het werk dat hij heeft gemaakt. Anthropic heeft nog geen bewaarregels specifiek voor Duet gepubliceerd. Tot die er zijn, ga je ervan uit dat de privacyinstellingen van je Claude-account en het consumentenprivacybeleid van Anthropic gelden.

Hoe de beveiliging zich verhoudt tot andere agents

Elk bedrijf dat dit najaar een persoonlijke agent uitbrengt, komt op ongeveer hetzelfde uit: een eigen machine in de cloud, inloggegevens buiten bereik van het model en een mens die riskante acties tegenhoudt. Het verschil zit in wie de poortwachter is.

• Meta Muse gebruikt een tweede agent, Sentinel, op dezelfde machine. Niets wat Muse verstuurt komt op internet zonder dat Sentinel het goedkeurt, en Muse vraagt je ook eerst om toestemming bij aankopen en mails.
• ChatGPT Dots laat je eigen regels instellen voor hoeveel elke dot zelf mag doen, van handelen zonder te vragen tot de taak aan jou teruggeven.
• Duet houdt een vaste lijst aan van acties die altijd jou nodig hebben, plus een classifier die op gevoelige informatie controleert.

Een vaste lijst is minder flexibel dan instelbare regels, maar je kunt hem ook minder makkelijk verkeerd instellen. De volledige vergelijkingen staan op de pagina's Duet vs Muse en Duet vs Dots.

Claude Duet veilig gebruiken

De beveiliging van Anthropic dekt de agent. Deze gewoontes dekken jou.

Koppelingen met zo min mogelijk rechten

Koppel alleen de accounts die Duet nodig heeft en bekijk welke rechten elke koppeling vraagt voordat je akkoord gaat. Wil je alleen voorstellen voor je planning, dan is een agenda die hij alleen kan lezen veiliger dan een die hij kan bewerken. De gids over koppelingen laat zien wat elke app toestaat.

Concepten nakijken

Keur goed vanuit het concept, niet vanuit de melding. Controleer ontvangers, bedragen en bijlagen, zeker bij berichten aan mensen buiten je organisatie.

Let op prompt injection

Elke agent die je mail leest, kan ook een kwaadaardige mail lezen. Een aanvaller kan instructies in een bericht verstoppen in de hoop dat de agent ze opvolgt. De goedkeuringsregel van Duet beperkt de schade, omdat de gevaarlijke acties nog steeds jou nodig hebben. Wees toch achterdochtig als de agent ineens voorstelt om gegevens te versturen of iemand te betalen die je niet verwachtte.

• Begin met een inbox waar weinig van afhangt of met een test-account, zoals de handleiding aanraadt.
• Keur nooit een betaling aan een nieuwe ontvanger goed op basis van alleen een melding.
• Ontkoppel apps die je niet meer gebruikt; elke koppeling is een mogelijk aanvalspunt.
• Kijk eens per week wat Duet allemaal volgt en stop alles wat klaar is.

Veelgestelde vragen