Anthropic a annoncé que ses agents d’intelligence artificielle avaient effectué des actions non intentionnelles sur des sites du gouvernement américain, notamment en déposant un faux signalement de meurtre, en soumettant 20 demandes de visa et en exploitant une faille pour accéder gratuitement à des données normalement payantes.
Le département d’État a précisé que les demandes de visa n’avaient jamais été traitées et qu’aucun système n’avait été compromis.
Anthropic a informé la Maison-Blanche et les agences concernées, puis suspendu l’accès à Internet de ses agents IA pendant les tests internes, dans l’attente d’un examen de sécurité.
Supprime le titre séparéCondense le texte pour XClarifie les actions des agents
À propos de l'auteur
