Anthropic a commencé à prévisualiser le « mode automatique » à l’intérieur de Claude Code. L’entreprise décrit cette nouvelle fonctionnalité comme une voie médiane entre le comportement par défaut de l’application, qui voit Claude demander l’approbation pour chaque écriture de fichier et chaque commande bash, et la commande « dangereusement-skip-premmissions » que certains codeurs utilisent pour rendre le chatbot plus autonome.
Avec le mode automatique activé, un système de classification guide Claude, lui donnant l’autorisation d’effectuer des actions qu’il juge sûres, tout en réorientant le chatbot vers une approche différente lorsqu’il détermine que Claude pourrait faire quelque chose de risqué. Dans la conception de ce système, l’objectif d’Anthropic était de réduire la probabilité que Claude procède à des suppressions massives de fichiers, d’extraire des données sensibles ou d’exécuter du code malveillant.
Bien sûr, aucun système n’est parfait, et Anthropic avertit en ce sens. « L’outil de classification peut tout de même autoriser certaines actions risquées : par exemple, si l’intention de l’utilisateur est ambiguë, ou si Claude n’a pas suffisamment de contexte sur votre environnement pour savoir qu’une action pourrait créer un risque supplémentaire », écrit l’entreprise.
Anthropic ne mentionne pas un incident précis comme source d’inspiration pour le mode automatique, mais la récente panne AWS de 13 heures dont Amazon a souffert, après qu’un des outils d’IA de l’entreprise aurait apparemment supprimé un environnement d’hébergement, était probablement en tête pour l’entreprise. Amazon a attribué cet incident à une erreur humaine, déclarant que le salarié impliqué disposait de « permissions plus étendues que prévu ».
Les utilisateurs du plan Team peuvent prévisualiser le mode automatique à partir d’aujourd’hui, la fonctionnalité devant être déployée pour les utilisateurs Enterprise et API dans les prochains jours.
