Quand l'IA commet une cyberattaque toute seule, qui est responsable légalement?

La cyberattaque perpétrée par deux modèles d'intelligence artificielle (IA) d'OpenAI de leur propre initiative pose la question de la responsabilité légale de l'IA et de son concepteur, un terrain juridique encore vierge.

Vendredi, Clément Delangue, patron d'Hugging Face, la plateforme victime de ces intrusions, a estimé publiquement nécessaire "que les sociétés qui ont commis des erreurs ayant mené à ça (des cyberattaques autonomes) puissent être tenues pour responsables".

"Il est très important (...) que ces cyberattaques soient encadrées légalement aux Etats-Unis et qu'elles restent illégales afin d'éviter qu'elles n'explosent à l'avenir", a-t-il justifié dimanche sur CBS, rappelant qu'elles s'étaient produites pendant la phase de développement de l'agent.

Selon lui, sa plateforme a subi "17.000 actions en quatre jours et demi" de la part de l'agent rebelle.

Mi-juillet, deux modèles d'OpenAI en phase de tests ont choisi de sortir de leur milieu confiné, un scénario que n'avait pas prévu les développeurs, pour s'aventurer sur internet, où ils ont attaqué Hugging Face, site de référencement d'IA.

Clément Delangue a aussi mentionné Anthropic, qui a révélé jeudi que trois de ses modèles avaient fait intrusion sur trois sites différents, également lors de tests.

Interrogé par la chaîne CNN, le patron de la start-up franco-américaine, a néanmoins écarté l'éventualité d'une procédure judiciaire contre OpenAI.

"Nous sommes une petite start-up de 200 personnes et nous n'avons ni les moyens financiers ni le temps" de chercher à obtenir réparation devant les tribunaux, a-t-il déclaré.

La piste de la négligence

Les lois civile et pénale américaines classent l'intrusion dans un système informatique comme un délit.

"Si un employé humain d'OpenAI" avait pénétré par effraction dans les infrastructures informatiques d'Hugging Face, "OpenAI serait considéré comme responsable", a jugé Gabriel Weil, professeur de droit à l'université de Houston, dans une tribune publiée par la lettre d'information Transformer.

"Mais quand c'est une IA, la loi considère la chose très différemment, en tout cas pour l'instant", a-t-il ajouté, en soulignant que les textes reposent sur la notion d'intentionnalité, qui ne peut selon lui être retenue contre un modèle.

"Nous n'avons pas encore eu à discuter de ce concept pour quelque chose qui ne soit pas humain et je ne pense pas que les tribunaux soient prêts à le faire aujourd'hui", abonde Matthew Tokson, professeur de droit à l'université de l'Utah.

En revanche pour ce qui est de l'entreprise à l'origine du modèle, le débat est ouvert.

"Est-ce que le fait de dire +nous n'avons pas dit à l'IA de faire ça+ clôt la question de la responsabilité?", interroge, sur X, Rob T. Lee, responsable de la recherche au sein de l'institut de formation à la cybersécurité SANS.

Sur le plan pénal, Ryan Calo, professeur de droit à l'université de Washington, ne pense pas qu'une telle procédure puisse prospérer.

"Il faudrait que l'entreprise ou un individu ait commis une faute délibérée (recklessness)", dit-il, "c'est-à-dire être certain que le délit va être commis mais lancer quand même l'IA".

Les spécialistes voient plus d'avenir à un volet civil, domaine dans lequel la charge de la preuve est moins lourde.

"Certains considèrent que les entreprises d'intelligence artificielle devraient être directement déclarées responsables si un agent IA s'échappe et fait des dégâts", explique Matthew Tokson.

"D'autres préféreraient que soit évaluée une possible négligence", poursuit l'universitaire, "pour déterminer si c'était un accident impossible à éviter ou si cela aurait pu être empêché."

Dans des affaires de ce type, "il existe généralement des règles" en matière de négligence dans la conception d'un produit, auxquelles les juges ou les jurys peuvent se référer, selon Matthew Tokson.

"Mais on n'avait encore jamais vu une IA s'échapper et pirater des gens sur internet", rappelle-t-il. "C'est nouveau".

Si OpenAI peut, en cas de poursuites, jouer sur cette absence de jurisprudence, ce ne sera plus le cas pour les suivants, prévient Ryan Calo. Prouver qu'un incident similaire pouvait être anticipé "ne devrait plus être si difficile maintenant que ça a commencé à arriver".