Cette démarche représente la première étape du plan du PDG visant à ralentir le développement de l’IA.
La longue liste de services de conseil d’Accenture s’élargit pour inclure l’évaluation des modèles d’IA de pointe d’Anthropic en matière de conformité à la sécurité. Anthropic a annoncé le partenariat qui permettrait à Accenture d’agir comme Évaluateur tiers qui seront intégrés au sein même du géant de l’IA. Le partenariat verrait les deux entreprises investir au moins 1 milliard de dollars chacune dans cet effort commun au cours des cinq prochaines années.
Le partenariat d’Anthropic avec Accenture est l’une des premières étapes d’un plan visant à ralentir le rythme du développement de l’IA, tel que proposé par son PDG, Dario Amodei, la semaine dernière. Dans l’approche en trois étapes d’Amodei, la proposition prévoyait que toutes les sociétés « IA de pointe » accordent « un accès continu, semblable à celui d’un employé » à des évaluateurs tiers intégrés, chargés de veiller au respect des pratiques de sécurité et des engagements, de signaler les incidents et d’évaluer l’alignement des modèles d’IA. Plus précisément, les évaluateurs d’Accenture « observeront le façonnage des modèles pendant l’entraînement, suivront les décisions qui guident la manière dont ces modèles sont construits et déployés et s’adresseront directement aux employés », selon Anthropic.
Anthropic a expliqué qu’Accenture avait de l’expérience dans l’aide aux entreprises et aux gouvernements pour déployer l’IA dans plusieurs secteurs. La société d’IA a également déclaré qu’Accenture possède une expérience de la manière dont les entreprises utilisent l’IA et peut offrir davantage de perspectives en ce qui concerne les propres modèles d’Anthropic. Cependant, Anthropic a noté que l’idée d’évaluateurs intégrés est nouvelle et n’a pas encore établi de normes en matière de périmètre, de l’accès dont disposent les évaluateurs ni de la procédure de signalement des préoccupations.
Pour mieux comprendre, Anthropic a déclaré qu’il travaillerait avec d’autres entreprises au-delà d’Accenture pour l’évaluation de ses modèles d’IA de pointe. La société a indiqué qu’elle annoncerait d’autres évaluateurs dans les semaines à venir, tout en précisant qu’Accenture collaborerait avec des entreprises d’IA autres qu’Anthropic.
