L'initiative d'Instagram de notifier les parents lorsque leurs adolescents recherchent des termes liés au suicide ou à l'automutilation marque un tournant important dans la protection des jeunes sur les réseaux sociaux. Face à la montée des préoccupations concernant la santé mentale des adolescents, en particulier sur les plateformes numériques, cette mesure vise à renforcer la communication entre parents et enfants sur des sujets sensibles. Au-delà de la simple prévention, cela souligne la responsabilité croissante des entreprises technologiques envers le bien-être de leurs jeunes utilisateurs.

Le mécanisme des alertes d'Instagram repose sur l'analyse des comportements de recherche des adolescents. Si un jeune cherche plusieurs fois des contenus associés au suicide ou à l'automutilation, une notification sera envoyée aux parents, les alertant potentiellement d'un état de détresse chez leur enfant. Bien que cette idée semble bénéfique, elle suscite des critiques. Des organisations comme la Molly Rose Foundation mettent en garde contre le fait que ces alertes pourraient paniquer les parents et nuire plutôt qu'aider. Andy Burrows, directeur exécutif de la fondation, souligne que recevoir une telle alerte peut être accablant et ne garantit pas que les parents sachent comment réagir de manière constructive.

Des études montrent que l'exposition prématurée à des contenus problématiques en ligne peut exacerber les problèmes de santé mentale. Malgré leurs préoccupations, les experts conviennent que la volonté de Meta de mieux protéger les jeunes est un pas dans la bonne direction. Par exemple, la mise en place de systèmes similaires d'alerte sur les conversations avec des chatbots IA montre que l'entreprise cherche à s'adapter aux tendances actuelles. Cependant, des critiques persistent, notamment sur le fait que ces alertes peuvent être déclenchées même en l'absence de comportement à risque avéré, remettant en question leur fiabilité.