IA militaire: la justice américaine laisse le Pentagone écarter Anthropic

Une cour américaine a donné raison vendredi au Pentagone, qui a écarté la start-up d'intelligence artificielle (IA) Anthropic de ses fournisseurs après son refus de laisser l'armée utiliser sans restriction son modèle Claude, contredisant en partie un autre jugement rendu fin août.

"Dans notre République, c'est au président et au ministre de la Défense qu'il revient de déterminer comment arbitrer" entre les risques d'une IA trop bridée et ceux d'une IA sans limites, a écrit le juge Gregory Katsas, au nom de deux des trois magistrats de la cour d'appel de Washington.

Selon la cour, une entreprise peut être écartée dès lors qu'elle est en mesure de restreindre ce que fait son logiciel, même "sans mauvaise intention".

Tout fournisseur devra désormais choisir entre "accepter les exigences du ministre ou risquer d'être désigné comme une menace pour la sécurité nationale", s'est toutefois inquiétée la juge dissidente, Karen Henderson.

En conséquence, les prestataires de l'armée américaine ne peuvent toujours pas utiliser Anthropic quand ils travaillent pour le ministère de la Défense.

"Pas un chèque en blanc"

Le Pentagone avait désigné début mars ce champion de l'IA comme un "risque pour la chaîne d'approvisionnement", statut jusque-là réservé à des entreprises étrangères liées à des puissances hostiles.

Le Pentagone s'est alors tourné vers les concurrents d'Anthropic. Son grand rival OpenAI, créateur de ChatGPT, a signé un accord le jour même de son bannissement, et xAI, la société d'Elon Musk qui développe Grok, l'avait fait dès février. Google et Microsoft ont suivi en mai.

"Nous sommes respectueusement en désaccord avec la décision de la cour", a réagi un porte-parole d'Anthropic auprès de l'AFP, affirmant que l'entreprise "étudiait toutes les options, y compris un nouveau recours".

A San Francisco fin août, une juge avait annulé les autres sanctions de l'administration Trump contre Anthropic, dont l'ordre donné à toutes les agences fédérales de cesser d'utiliser Claude.

"L'invocation creuse de la sécurité nationale n'est pas un chèque en blanc pour punir ceux qui critiquent le gouvernement et exercer des représailles", avait écrit la juge Rita Lin.

La cour de Washington a vu les choses autrement. Selon elle, le Pentagone n'a pas sanctionné les prises de position d'Anthropic, mais son refus d'une clause jugée essentielle à la sécurité nationale. "Le coeur de ce litige était contractuel", écrit le juge Katsas.

Opération Maduro

Le conflit avait éclaté en février, après le refus d'Anthropic de laisser l'armée utiliser Claude pour la surveillance de masse des Américains ou pour des armes létales entièrement autonomes.

Selon la décision, un dirigeant d'Anthropic avait mis en cause l'usage de Claude par un prestataire du Pentagone, Palantir, lors de l'opération militaire qui avait permis de capturer le président vénézuélien Nicolas Maduro le 3 janvier.

Cette objection a "alarmé" le ministère, qui a craint qu'Anthropic fasse en sorte que son logiciel "cesse de fonctionner ou provoque une action désastreuse qui mettrait en danger la vie" des soldats américains, selon le sous-secrétaire à la Défense Emil Michael.

Anthropic assure ne pas pouvoir modifier ses modèles une fois livrés à l'armée. Mais l'entreprise détermine le comportement de chaque nouvelle version, et l'armée ne peut pas se priver des plus récentes, a estimé la cour de Washington.

La loi appliquée, issue du code des marchés publics fédéraux, "porte sur ce que fait Anthropic, pas sur les raisons pour lesquelles elle le fait", a précisé le juge Katsas.

"Le marteau de la justice a pulvérisé les arguments d'Anthropic", s'est félicité sur X Emil Michael, se réjouissant qu'"aucune entreprise privée" ne puisse "insérer ses opinions dans la chaîne de commandement".

L'affaire a fait perdre plusieurs clients gouvernementaux à Anthropic, mais la cour doute que sa réputation en ait souffert vu son succès auprès les investisseurs. Valorisée 965 milliards de dollars en mai, la start-up prépare une entrée en Bourse qui pourrait être la plus importante de l'histoire.