Parmi ces plaintes figure celle de Megan Garcia, dont le fils de 14 ans, Sewell Setzer Jr., s'est donné la mort en février 2024 en Floride, dans le sud-est des États-Unis. D'autres procédures ont été engagées dans le Colorado, dans l'État de New York et au Texas.
"Les parties ont convenu d'un accord de principe dans le cadre d'une médiation pour régler tous les litiges entre elles"
, précise le document déposé auprès de la justice de Floride, sans donner de détail sur le contenu de leur entente.Selon Mme Garcia, son fils était devenu émotionnellement dépendant, sur la plateforme Character.AI, d'un robot conversationnel inspiré de la saga littéraire et télévisée "Le Trône de Fer"
. Cette plateforme permet aux utilisateurs d'interagir avec des personnages de fiction.
La mort de Sewell Setzer Jr. a été la première d'une série de signalements de suicides liés à des robots conversationnels d'intelligence artificielle, qui se sont multipliés en 2025.
En conséquence, les entreprises développant des produits liés à l’IA générative, comme le pionnier OpenAI avec son agent ChatGPT, ont été placées sous pression en matière de sécurité et de protection des jeunes.
Google s'est retrouvé impliqué dans ces poursuites en raison d'un accord de licence de 2,7 milliards de dollars conclu en 2024 avec Character.AI. À cette occasion, le groupe avait également recruté les deux fondateurs de la plateforme, Noam Shazeer et Daniel De Freitas.
Sollicités par la presse, un porte-parole de Character.AI a refusé tout commentaire, tandis que Google n'a pas répondu dans l'immédiat.
La startup avait annoncé en octobre qu'elle allait bloquer l'accès de ses chatbots aux mineurs.
"Nous pensons que c'est la décision adaptée compte tenu des questions qui ont été soulevées au sujet de la façon dont les adolescents utilisent et devraient utiliser cette nouvelle technologie"
, avait alors expliqué l'entreprise.En août, les parents d'un adolescent de 16 ans qui s'est donné la mort en avril ont attaqué en justice OpenAI, reprochant à son assistant ChatGPT d'avoir fourni à leur fils des instructions détaillées pour mettre fin à ses jours et d'avoir encouragé son geste.
L'agence américaine de protection des consommateurs, la FTC, a indiqué début septembre avoir ouvert une enquête sur les chatbots utilisés comme des compagnons d'intelligence artificielle générative.
À lire également:
Technologie
Le recours aux compagnons IA chez les adolescents inquiète une ONG
Technologie
Une étude met en garde: ChatGPT peut contourner les protections et donner des conseils dangereux aux enfants
Technologie
La Chine vise une autonomie technologique en IA d’ici 2027
Les commentaires que vous publiez sur notre site constituent une ressource précieuse pour les autres utilisateurs. Veuillez faire preuve de respect envers les opinions différentes et les autres membres. Évitez tout langage grossier, offensant, dégradant ou discriminatoire.