Une alerte lancée au siège des Nations unies
Les prédateurs et les réseaux criminels disposent, grâce à l'intelligence artificielle (IA), de nouveaux moyens de piéger, de faire chanter et d'exploiter les enfants, alors que les dispositifs de protection peinent à suivre le rythme des évolutions technologiques, ont averti jeudi de hauts responsables des Nations unies.
La vice-secrétaire générale de l'ONU, Amina Mohammed, a déclaré, lors d'une réunion de haut niveau consacrée aux risques et aux opportunités de l'IA pour la protection des enfants au siège des Nations unies à New York, qu'au moins 1,2 million d'enfants dans 11 pays avaient vu leurs images détournées pour créer des contenus pornographiques sous forme de deepfakes au cours de la seule dernière année.
Elle s'est appuyée sur une étude récente du Fonds des Nations unies pour l'enfance (UNICEF) pour alerter sur l'ampleur des abus rendus possibles par les nouvelles technologies.
D'après les données du Centre national américain pour les enfants disparus et exploités (NCMEC), les signalements de contenus représentant des abus sexuels sur des enfants et liés à l’IA générative ont augmenté de 1 325 % entre 2023 et 2024, a-t-elle indiqué.
Toutefois, elle a souligné que la majorité des infractions facilitées par l’intelligence artificielle contre les enfants restent non signalées et font rarement l’objet de poursuites.
Des outils numériques détournés à des fins d'exploitation
Les chatbots servent désormais à gagner la confiance des enfants, à recueillir leurs informations personnelles et à les contraindre à partager des images à caractère sexuel, a expliqué Najat Maalla M’jid.
Par ailleurs, les outils de profilage et de ciblage prédictif aident les prédateurs, les trafiquants et les réseaux criminels à repérer les enfants vulnérables.
Il a toutefois averti que les capacités de l’intelligence artificielle à automatiser les opérations et à produire des contenus entièrement synthétiques rendaient ces pratiques particulièrement difficiles à endiguer.
Kay Chau, membre de la Tech Coalition, une alliance à but non lucratif consacrée à la protection des enfants en ligne, a également alerté sur l’utilisation potentielle des chatbots pour faciliter des jeux de rôle abusifs ou générer des scénarios destinés à manipuler les mineurs.
Elle a ajouté que le développement de l'intelligence artificielle agentique, capable d'exécuter des tâches de manière autonome, faisait apparaître de nouveaux risques.
Des enfants qui se tournent vers l'IA pour obtenir des réponses
Mariana Rozo-Paz, de la Datasphere Initiative, a évoqué une expérience menée l'année dernière auprès d'adolescentes dans le cadre d'un programme d'éducation numérique en milieu rural en Colombie.
Invitées à dessiner leur représentation d'Internet, les jeunes filles ont dessiné une adolescente qu'elles ont appelée Lucia, qui représentait leur agent d'intelligence artificielle.
Cet exemple illustre la place croissante que prennent les outils d'intelligence artificielle dans la vie quotidienne des enfants, ainsi que les relations de confiance qu'ils peuvent développer avec ces systèmes.
Appel à des règles de sécurité obligatoires
Face à ces risques, Amina Mohammed a plaidé pour un renforcement des mécanismes de contrôle avant la mise à disposition des outils d'intelligence artificielle aux mineurs.
Cette initiative vise notamment à garantir que les systèmes d'IA soient certifiés sûrs avant d'être accessibles aux enfants, et à appliquer une tolérance zéro à l'égard des contenus d'abus sexuels sur mineurs générés par l'intelligence artificielle.
Najat Maalla M’jid a toutefois estimé que les engagements volontaires du secteur technologique ne suffisaient pas. Elle a appelé à l'adoption de normes internationales intégrant obligatoirement la protection des enfants et de leur vie privée dès la conception des systèmes d'intelligence artificielle.
Amina Mohammed a également souligné que ces technologies pouvaient servir à des fins de protection, notamment pour détecter les contenus représentant des abus sexuels, identifier les victimes et repérer les premiers signes de manipulation et de mise en confiance à des fins d'exploitation.



Vous avez signalé ce commentaire comme indésirable. Votre demande est en cours d’examen.