Dario Amodei, PDG d'Anthropic, rejette l'ultimatum du Pentagone sur les garde-fous de l'IA

Pete Hegseth, secrétaire à la Défense, a lancé mardi un ultimatum ferme à Dario Amodei, PDG d'Anthropic, lors d'une réunion à huis clos. Il a exigé le retrait des garde-fous éthiques des modèles d'IA Claude d'ici vendredi, sous peine de mesures coercitives. Amodei a rejeté cette demande le soir même. Cette confrontation s'inscrit dans le débat sur les risques sécuritaires nationaux liés à l'IA de plus en plus puissante. Anthropic, fondée en 2021 par d'anciens cadres d'OpenAI dont Amodei, met l'accent sur la sécurité via une approche dite « constitutionnelle » intégrée à Claude. Le Pentagone cherche un accès « à tous les usages légaux » pour contrer les adversaires autocratiques, mais l'entreprise craint que cela ne sape les valeurs démocratiques dans certains cas. Les termes de la menace sont sévères : invocation de la Defense Production Act de 1950, qui permet au gouvernement de forcer la production pour la défense nationale, ou désignation d'Anthropic comme risque pour la chaîne d'approvisionnement. Cette dernière mesure l'exclurait de tout contrat touchant le Département de la Défense. Amodei a écrit : « Nous ne pouvons en conscience accéder à cette requête », soulignant l'importance de l'IA pour défendre les démocraties sans compromettre leurs principes. Si Hegseth met sa menace à exécution, cela pourrait affaiblir la posture militaire américaine et accroître les risques d'accidents catastrophiques dus à une IA mal comprise. Les deux parties misent sur une gestion des incertitudes avant un déploiement hâtif, avec des conséquences testées sur le terrain mondial plutôt qu'en laboratoire.