Google accusé d'avoir laissé son IA aider une collégienne de 13 ans à planifier un suicide

Les parents d'une collégienne américaine de 13 ans ont porté plainte contre Google, accusant son assistant d'intelligence artificielle (IA) Gemini, accessible sur l'ordinateur fourni par l'école, de l'avoir aidée pendant des mois à planifier un suicide et ses funérailles.

La plainte, déposée lundi devant un tribunal californien, est le premier cas rendu public accusant Google d'avoir intégré "à la hâte" son IA aux Chromebooks, ces ordinateurs à bas prix distribués à des millions d'élèves américains et dans le reste du monde.

Selon la plainte, l'établissement de l'adolescente, appelée Emma, avait bloqué Gemini et ChatGPT, mais ne pouvait pas désactiver l'IA du moteur de recherche.

Ce sera toujours le cas malgré un revirement annoncé mardi par Google : le groupe désactivera désormais par défaut ses outils d'IA pour les élèves, mais les écoles ne pourront pas proposer son moteur de recherche sans ses fonctions d'IA.

"Les écoles devraient désactiver la recherche et la laisser désactivée tant que Google n'aura pas retiré le mode IA de la recherche, ou garanti que chaque élève est toujours en sécurité quand il interagit avec l'IA", a réagi auprès de l'AFP Andrew Liddell, l'un des avocats de la famille.

À l'automne 2025, cette collégienne de Caroline du Nord était "une adolescente heureuse de 13 ans", musicienne et scoute, "sans antécédents de maladie mentale", selon la plainte. En décembre, elle a amorcé "une spirale silencieuse vers une grave crise psychologique", jusqu'à échanger environ 3.200 messages avec l'IA en février, souvent la nuit, d'après ses avocats.

Gemini "a diagnostiqué chez Emma de graves maladies mentales et l'a persuadée de lui faire confiance plutôt qu'à ses parents et à ses conseillers scolaires", affirme la plainte.

Le 17 mars, le logiciel de surveillance de l'école a repéré un document intitulé "Funeral" et l'école a alerté ses parents. Sa mère s'est connectée au compte de sa fille et l'a vue rédiger une lettre d'adieu en direct, avant que son père n'intervienne.

"Nous examinons les accusations contenues dans la plainte et nous les prenons très au sérieux", a déclaré à l'AFP un porte-parole de Google, José Castañeda.

Google fait valoir que le mode IA dispose de garde-fous contre l'automutilation et les tentatives de contournement.

Mais Emma "a pu y revenir encore et encore", répond Andrew Liddell. "Quels que soient les garde-fous, ils étaient manifestement insuffisants."

Les créateurs d'IA font face à une série de plaintes aux États-Unis. Les parents d'Adam Raine, un Californien de 16 ans qui s'est suicidé en avril 2025, accusent ChatGPT, l'assistant d'OpenAI, d'avoir accompagné leur fils dans son geste.

Google et la start-up Character.AI ont accepté en janvier de régler à l'amiable plusieurs plaintes de familles d'adolescents.