OpenAI amende son contrat avec le Pentagone en renforçant les clauses anti-surveillance

OpenAI et le Pentagone ont modifié leur contrat controversé lundi soir en y ajoutant des dispositions explicites contre la surveillance domestique. Les nouvelles clauses précisent que, conformément aux lois applicables dont le quatrième amendement de la Constitution américaine, la loi sur la sécurité nationale de 1947 et la loi FISA de 1978, le système d'intelligence artificielle ne sera pas utilisé intentionnellement pour surveiller les personnes ou ressortissants américains. Elles soulignent également que cette restriction interdit le suivi délibéré, la surveillance ou la surveillance de ces personnes, y compris via des données personnelles ou identifiables acquises commercialement. Cette amendment intervient dans un contexte de tensions croissantes autour de l'usage des IA par le gouvernement américain. Des rapports ont mis en lumière des différends entre le Pentagone et Anthropic, rival d'OpenAI, qui a été qualifié de « risque pour la chaîne d'approvisionnement » et exclu de contrats avec de grandes entreprises. Anthropic s'était opposé à l'utilisation de données en vrac non classifiées sur les Américains, incluant des historiques de localisation physique et de navigation internet, potentiellement propices à une surveillance. Donald Trump, ancien président américain, a qualifié les responsables d'Anthropic de « fous gauchistes », tandis que la chanteuse Katy Perry a annoncé passer à Claude, le modèle d'Anthropic, pour ses besoins en IA. Ces réactions illustrent la pression subie par OpenAI, qui avait auparavant interdit les usages militaires avant de revenir sur cette position en 2024. Gizmodo a contacté OpenAI pour commentaire sur ces retombées, sans réponse pour l'instant. Le contrat amendé porte sur des prototypes d'IA pour des tâches administratives au Pentagone, un domaine où OpenAI vise à concurrencer Anthropic. Les prochaines étapes dépendent de la mise en œuvre de ces garanties, alors que les débats sur l'éthique de l'IA en défense persistent.