L'Australie envisage de forcer les magasins d'applications et moteurs de recherche à bloquer les services d'IA non sécurisés

L'autorité australienne de régulation internet, la eSafety Commissioner, envisage de contraindre les moteurs de recherche et les magasins d'applications à bloquer, dès la semaine prochaine, les services d'intelligence artificielle (IA) qui n'ont pas vérifié l'âge des utilisateurs. Une revue récente a révélé que plus de la moitié de ces services n'ont pas rendu publiques leurs mesures de conformité avant l'échéance du 9 mars. À cette date, des outils comme ChatGPT d'OpenAI devront restreindre l'accès des mineurs de moins de 18 ans à des contenus pornographiques, de violence extrême, d'automutilation ou de troubles alimentaires, sous peine d'amendes allant jusqu'à 49,5 millions de dollars australiens (environ 35 millions de dollars américains). Cette initiative s'inscrit dans une offensive plus large menée par l'Australie contre les risques des technologies d'IA pour la santé mentale des jeunes. Le pays a été pionnier en décembre en interdisant en premier au monde l'accès des adolescents aux réseaux sociaux pour des motifs de santé mentale : une mesure saluée par de nombreux dirigeants mondiaux. Les chercheurs avertissent que les plateformes d'IA représentent une menace plus grande pour la santé mentale des jeunes que les réseaux sociaux eux-mêmes. L'Australie étend désormais cette approche aux chatbots et autres services d'IA en imposant des restrictions d'âge strictes sur les contenus accessibles. La eSafety Commissioner a averti : « eSafety utilisera toute la gamme de ses pouvoirs en cas de non-conformité », y compris des actions contre les services d'accès comme les moteurs de recherche et les magasins d'applications. Cette démarche reflète l'une des régulations les plus strictes au monde contre les entreprises d'IA, confrontées à des poursuites judiciaires pour avoir favorisé des actes d'automutilation ou de violence. Les plateformes d'IA font l'objet de plaintes croissantes pour manquement à la protection des mineurs. Les entreprises disposent encore d'une semaine pour publier publiquement leurs mesures de conformité. Faute de quoi, les blocages pourraient intervenir via les principaux points d'accès internet en Australie. Cette politique s'appuie sur le cadre légal australien de la sécurité en ligne, qui cible spécifiquement les contenus les plus préjudiciables pour les jeunes et renforce la protection face aux dangers émergents des technologies numériques.