Le gouvernement britannique lance la semaine prochaine une consultation sur les risques des chatbots IA pour les enfants

Le gouvernement britannique va lancer la semaine prochaine une consultation sur la sécurité en ligne des enfants, en se concentrant sur les dangers des chatbots à intelligence artificielle. Le Département des Sciences, de l’innovation et de la technologie (DSIT) a annoncé cette initiative samedi, qui recueillera l’avis d’experts, de parents, de jeunes, d’enseignants et de représentants de l’industrie. Les risques liés à l’usage croissant d’outils IA par les enfants, notamment les relations émotionnellement dépendantes avec ces chatbots, seront au cœur des débats. Cette démarche s’inscrit dans un contexte plus large de protection des mineurs en ligne, après l’adoption en 2023 de la loi sur la sécurité en ligne qui impose déjà des obligations aux plateformes. Les chatbots conversationnels, de plus en plus réalistes, sont utilisés par de nombreux jeunes comme compagnons. Des recherches émergentes mettent en garde contre le risque que des adolescents vulnérables développent une dépendance émotionnelle, en dévoilant des pensées intimes et en attribuant empathie et soin à ces systèmes IA. Le DSIT souligne que les effets de ces interactions restent mal connus, d’où l’appel à des avis sur des fonctionnalités comme le réalisme des IA ou leur imitation des relations humaines. La consultation examinera aussi d’autres outils en ligne potentiellement risqués pour les enfants, tels que les messageries directes, les appariements avec des inconnus et les diffusions en direct. Liz Kendall, ministre d’État au DSIT, pilote cette mesure soutenue par plusieurs partis. Les conservateurs critiquent cependant l’approche du Premier ministre Keir Starmer, préférant une interdiction immédiate des réseaux sociaux pour les moins de 16 ans et une sortie des téléphones des écoles. La consultation pourrait influencer de futures régulations adaptées à l’évolution rapide des technologies IA.