Enquête criminelle en Floride sur ChatGPT et des conversations avant une attaque mortelle

Le procureur de Floride James Uthmeier a annoncé mardi l'ouverture d'une enquête criminelle sur OpenAI et ChatGPT, pour faire la lumière sur le rôle que pourrait avoir joué l'interface d'intelligence artificielle (IA) dans une attaque mortelle en avril 2025.

Il s'agit d'une première en matière pénale aux Etats-Unis.

Selon des éléments recueillis par les services du procureur, Phoenix Ikner, étudiant de l'université de Florida State, a échangé avec ChatGPT avant de tirer sur plusieurs personnes sur le campus, faisant deux morts et six blessés.

Lors d'une conférence de presse, James Uthmeier a expliqué que ChatGPT avait "donné des indications significatives au tireur avant qu'il ne commette ce crime haineux".

Le robot conversationnel a notamment formulé des suggestions quant à l'arme et aux munitions adaptées, ainsi qu'au moment et aux endroits propices pour toucher le plus de personnes possible.

Sur la base de ces éléments, "mes enquêteurs m'ont dit que si cette chose de l'autre côté de l'écran (ChatGPT) était une personne, nous l'inculperions pour homicide", a-t-il dit.

Sollicité par l'AFP, OpenAI a fait valoir que "ChatGPT (n'était) pas responsable de ce crime affreux" et que l'interface s'était contentée de produire des "réponses factuelles" aux demandes de l'étudiant dont le procès doit débuter en octobre.

Le groupe a souligné avoir transmis spontanément des données concernant Phoenix Ikner après avoir été informé de l'attaque.

OpenAI dit travailler de longue date au renforcement de ses garde-fous pour "détecter une intention dangereuse" et "répondre de manière appropriée en cas de risque pour la sécurité" des personnes.

L'enquête annoncée mardi ne préjuge pas d'éventuelles poursuites contre OpenAI ou certains de ses membres.

"Terre inconnue"

Depuis l'arrivée de ChatGPT, en novembre 2022, rapidement suivi par des concurrents comme Gemini (Google) ou Claude (Anthropic), cette nouvelle génération d'interfaces a régulièrement été critiquée pour son influence supposée sur certains utilisateurs.

Des parents, chercheurs et associations ont particulièrement attiré l'attention sur les logiciels se présentant comme des compagnons virtuels, notamment ceux des start-up Character.AI et Replika.

Mais même si ChatGPT, Claude ou Gemini sont des produits plus généralistes qui n'ont pas vocation à jouer un rôle, ils sont utilisés comme tels par de nombreux adolescents et adultes.

Des poursuites ont été intentées devant la justice civile, dans la plupart des cas pour des suicides et non des homicides.

En janvier, Google et Character.AI ont conclu des accords amiables avec des familles accusant des robots conversationnels de nuire à des mineurs et d'avoir poussé l'un d'entre eux à mettre fin à ses jours.

En mars, la famille d'une jeune fille gravement blessée lors de la tuerie de Tumbler Ridge (ouest du Canada) a annoncé saisir la justice civile contre OpenAI pour négligence.

Elle reproche à l'entreprise de ne pas avoir signalé à la police d'inquiétants messages écrits sur ChatGPT par l'auteure présumée de l'attaque.

OpenAI a indiqué avoir mis en place un nouveau protocole de sécurité qui déclencherait une alerte sur la base d'une conversation similaire.

L'inculpation d'une personne morale est prévue par le droit américain, mais le procureur Uthmeier, nommé par le gouverneur républicain Ron DeSantis, a reconnu "qu'avec l'IA, nous nous aventurons en terre inconnue".

Le représentant du ministère public a adressé à OpenAI une demande de documents, notamment concernant sa réglementation interne et ses méthodes d'encadrement des modèles d'IA.

"Ce n'est pas parce que c'est un chatbot qu'il ne doit pas y avoir de responsabilité pénale", a insisté le procureur, précisant qu'une procédure au civil, déjà dévoilée, poursuivrait son cours.

Selon James Uthmeier, les échanges analysés par ses équipes ont montré que le suspect "(avait) décrit son plan" d'attaque à ChatGPT.

Il a notamment demandé à l'interface comment susciter l'intérêt des médias nationaux pour son geste, et "ChatGPT lui a proposé une analyse", a précisé le procureur.

"Il y a une différence", a-t-il dit, "entre un fournisseur d'internet ou un équipementier mobile et une application qui produit ce qui ressemble à des conseils pratiques pour une tuerie dans un établissement scolaire."