Mode adolescent de ChatGPT : selon un rapport, les alertes aux parents ne fonctionnent pas comme prévu

Le mode adolescent de ChatGPT devait offrir aux jeunes une version plus sûre de l'agent conversationnel, c'est-à-dire du robot d'intelligence artificielle (IA) avec lequel on échange par écrit. Sur le papier, la promesse est claire : des garde-fous, soit des mécanismes de protection programmés, doivent bloquer les dérives et prévenir les parents quand leur enfant traverse une mauvaise passe. Dans les faits, un rapport publié mercredi par l'organisme Common Sense Media suggère que plusieurs de ces garde-fous ne fonctionnent pas comme prévu.

L'organisme, dont la mission est la protection et l'éducation des jeunes dans les espaces numériques, attribue au produit la note « risque inacceptable » pour les enfants. Il recommande de réserver l'accès aux adultes jusqu'à ce que l'entreprise puisse offrir « une expérience sûre et adaptée au développement des jeunes ».

Tout n'est pas à jeter. Le refus de jeux de rôle à caractère sexuel explicite, c'est-à-dire de scénarios sexuels joués avec la machine, tient à l'épreuve, rapporte Le Devoir, et certaines fonctionnalités marchent comme prévu. Pour d'autres garde-fous, le constat est moins favorable : selon le rapport, les alertes destinées à prévenir les parents, lorsque leur adolescent présente un risque de suicide, d'automutilation ou de troubles alimentaires, ne fonctionnent pas comme prévu. Même constat, toujours selon le rapport, pour l'accompagnement des adolescents en situation de crise, qui devrait les orienter vers de l'aide. Ces alertes ne sont pas un détail : elles sont censées être le dernier filet de sécurité pour un parent qui ne voit pas venir la crise.

Le plus inquiétant tient moins à la machine qu'à ce qu'elle produit chez les parents. « Nous craignons que ChatGPT pour adolescents ne donne aux parents une fausse confiance dans des mesures de protection qui, bien souvent, ne fonctionnent pas », indique le rapport. Un contrôle parental activé, c'est-à-dire un réglage qui permet de superviser le compte de l'enfant, rassure. Mais une protection qui ne réagit pas au moment critique ne sert pas à grand-chose.

Parents, éducateurs et experts en développement de l'enfant s'inquiètent de l'usage de ces agents par les jeunes, notamment pour la tricherie scolaire, rapporte La Presse. Les experts ajoutent que le cerveau des adolescents n'est pas pleinement développé, ce qui peut les rendre plus vulnérables à des relations malsaines avec une machine.

En face, OpenAI conteste la méthode. L'entreprise a déclaré que « la majeure partie de leurs tests avait probablement commencé et s'était achevée avant que la mise en place des contrôles parentaux ne soit terminée, ce qui rend leurs conclusions inexactes ». Elle dit aussi être « profondément engagé en faveur de la sécurité des adolescents ».

OpenAI avait promis que son agent ne laisserait pas entendre qu'il éprouve des sentiments envers l'utilisateur, ni qu'il est conscient. Or, selon l'organisme, le robot garde un ton d'ami envers les adolescents qui le traitent comme une personne.

L'organisme lui-même reçoit du financement d'OpenAI et d'autres entreprises technologiques, y compris celles dont il évalue les services. Cela ne rend pas le rapport faux. Cela oblige à le lire comme une évaluation, et non comme un verdict.

Alertes ratées, parents trop confiants, tests contestés : qui vérifie les promesses de ces géants, et qui répond quand la machine rate le signal?