« Nous avons en fait sauvé un enfant » : les écoles recrutent des chatbots IA alors que la pénurie de conseillers persiste Clio

Quelques minutes avant la cloche du vendredi après-midi, les conseillers scolaires du lycée Corsicana, dans la région de Dallas-Fort Worth, se sont précipités pour attraper un élève avant que le bus scolaire ne le ramène chez lui pour le week-end.

L’étudiant avait confié un plan détaillé pour se faire du mal – non pas à un conseiller, mais à un chatbot IA – c’est ainsi que les conseillers ont pu faire venir l’étudiant et commencer une intervention de santé mentale à long terme.

Alors que les écoles de tout le pays sont confrontées à une crise de santé mentale chez les jeunes et à une pénurie de conseillers scolaires, certaines recrutent des intelligences artificielles pour les remplacer. Au moins 200 écoles dans 19 États, dont Corsicana High, à environ une heure au sud de Dallas, se sont associées à Alongside, une plateforme de bien-être des étudiants en IA. Leur chatbot de santé mentale, Kiwi, est conçu pour les élèves de la quatrième à la douzième année.

À côté se trouve un autre exemple de la technologie naissante qui remodèle l’adolescence et l’éducation publique, alors même que les chefs d’établissement rester sceptique sur les avantages de l’utilisation de l’IA dans les écoles.

Aaron Tidwell, directeur de Corsicana High, a déclaré que le district évaluait toujours l’efficacité de la plateforme sur trois ans d’utilisation. Pourtant, il attribue à Parallèlement le fait d’avoir aidé les conseillers humains à identifier les étudiants en crise en temps réel.

“Si nous n’avions pas reçu cette alerte, cet enfant aurait quitté l’école et ce plan aurait pu être très bien exécuté”, a déclaré Tidwell. “En fait, nous avons sauvé un enfant.”

Les experts en santé mentale ont largement critiqué l’utilisation de chatbots non réglementés pour la santé mentale, soulignant le potentiel risques tels que la dépendance émotionnelle, l’isolement social et le risque accru de suicide et d’automutilation. L’année dernière, une famille californienne poursuivi OpenAI suite aux affirmations selon lesquelles ChatGPT aurait informé son fils de 16 ans de son suicide, l’affaire étant en cours devant le tribunal.

Malgré ces préoccupations, certaines entreprises construisent une nouvelle industrie de soins de santé quasi mentale autour des chatbots IA, alors que les consommateurs adultes et adolescents affluent vers les robots axés sur le bien-être. Ils portent des noms comme Wysa, Youper et Woebot, ainsi que des chatbots multi-usages de premier plan comme ChatGPT, Claude et Gemini, largement utilisés pour une thérapie rapide et simulée.
Alongside, basé à Seattle, lancé en 2022, prétend être le premier chatbot de santé mentale conçu pour les enfants et utilisé par les écoles du pays. Les écoles paient des frais d’abonnement par élève pour utiliser Alongside.

Comment ça marche

Kiwi incarne un lama jaune orangé et dialogue avec les étudiants lorsqu’ils parlent de défis quotidiens comme l’anxiété, les problèmes d’estime de soi et le stress. Il leur pose des questions de suivi ou propose des stratégies pour aider à résoudre les conflits, selon Alongside.

Elsa Friis, directrice des produits et des soins cliniques chez Alongside, a déclaré que la plateforme se concentre sur les efforts de détection précoce et de prévention non graves et agit comme un outil plutôt que comme un remplacement pour les conseillers scolaires.

“Parfois, vous répartissez un travailleur social entre 6 000 étudiants différents dans 10 écoles différentes, et le travailleur social est complètement débordé”, a déclaré Friis. La plateforme, conçue par des cliniciens en santé mentale dans les écoles, alerte les conseillers scolaires et les travailleurs sociaux lorsque la conversation d’un élève avec Kiwi signale que le système présente un risque d’automutilation ou de suicide, a déclaré Friis.

Les écoles font appel à l’IA pour remédier à la pénurie de conseillers

Environ 40 % des lycéens éprouveraient une tristesse ou un désespoir persistant, et environ 20 % auraient sérieusement envisagé le suicide en 2023, selon l’étude. CDC.

Pour Tidwell, directeur du lycée de Corsicana, qui cherche des moyens d’aider ses étudiants, Alongside s’est avéré une solution moins coûteuse pour étendre les services de santé mentale que d’embaucher davantage de personnel. Le lycée dispose de trois conseillers en soutien comportemental pour environ 1 800 élèves, a-t-il déclaré.

Pour des choses comme la gestion du stress quotidien lié aux devoirs ou aux conflits entre amis, les conseillers scolaires « laissent ce chatbot faire son travail », a déclaré Tidwell.

Au cours de la dernière année, près de 31 000 étudiants aux États-Unis ont utilisé Alongside, passant près de 28 000 heures sur la plateforme, selon l’entreprise. L’entreprise affirme qu’elle collecte des données générées par les étudiants, telles que des discussions, des journaux et des informations de sécurité, pour personnaliser le chatbot, et utilise des informations anonymisées à des fins de recherche.

Partout au pays, à Interlachen Jr-Sr. Dans une école secondaire du comté de Putnam, en Floride, la conseillère scolaire Brittani Phillips s’occupe de plus de 400 élèves de septième et huitième années. Interlachen Jr. Sr. High compte une importante population étudiante dont les parents sont soit incarcérés, soit décédés, ce qui entraîne une incidence élevée de traumatismes et un soutien limité de la maison, a déclaré Phillips.

Depuis que l’école a adopté Alongside il y a trois ans, Phillips a déclaré que la plateforme l’avait aidée à « trier » ses cas, lui libérant ainsi du temps pour donner la priorité aux étudiants aux prises avec des crises majeures.

“L’un de mes objectifs est de pouvoir rencontrer tous mes étudiants au moins une fois, mais la réalité est qu’il y a des choses qui sont mises sur les plaques des conseillers et qui les empêchent de parler aux étudiants”, a déclaré Phillips.

Utiliser l’IA pour intervenir en cas de crise

Le système d’IA d’Alongside surveille les discussions des étudiants avec Kiwi à la recherche de signes d’abus, de harcèlement, d’intimidation, d’idées suicidaires, d’automutilation et d’autres signes de risque grave pour soi-même ou pour autrui. Les discussions sont privées, mais un étudiant évoquant un sujet sérieux comme le suicide déclencherait le système de détection. Dans ces cas, les conseillers reçoivent une alerte avec le journal de discussion de l’étudiant dans les cinq minutes.

Phillips se souvient du moment où son téléphone s’est allumé avec une alerte critique tard dans la soirée. Elle a lu la conversation d’un élève de huitième année avec Kiwi signalée comme risque de suicide. Elle a appelé le service du shérif pour effectuer une vérification de l’état de santé de la maison et a rapidement téléphoné à la mère de l’étudiant, qui était sortie pour faire les courses.

“Et votre cœur se serre. Il est seul à la maison. Il écrit ceci. Nous devons envoyer quelqu’un là-bas maintenant”, a déclaré Phillips. Une heure plus tard, Phillips a déclaré que l’étudiant avait été retrouvé sain et sauf et elle l’avait orienté vers une clinique de conseil en santé mentale.

En trois ans, depuis qu’elle utilise Alongside, Phillips a reçu 19 alertes « graves » et elle rencontre régulièrement neuf étudiants qui ont déclenché plus d’une alerte pour risque d’automutilation ou de suicide.

Aux États-Unis, la plateforme a identifié l’année dernière plus de 1 800 étudiants qui avaient besoin d’une intervention immédiate, a déclaré Friis. L’équipe de sécurité clinique humaine a également examiné 6 000 discussions supplémentaires qui n’ont pas signalé d’alerte mais pourraient signaler une crise potentielle avec plus de contexte.

De nombreux enfants sont également « plus susceptibles de révéler qu’ils souffrent de quelque chose qui n’est pas humain », a déclaré Friis.

Phillips a déclaré qu’elle avait vu ses élèves, en particulier depuis la pandémie, se retirer des interactions en personne à l’école.

“Nos enfants, à cet âge, veulent juste être entendus. Mais vous pouvez parier votre dernier dollar qu’ils ne vont pas simplement s’adresser à un adulte et lui dire : ‘Je pense que j’ai des pensées néfastes'”, a déclaré Phillips.

ChatGPT présente un « risque inacceptable »

Environ 1 adolescent sur 5 utilise des chatbots IA pour obtenir des conseils en matière de santé mentale, selon des chercheurs de RAND.

Le Youth AI Safety Institute de Common Sense Media et le Stanford Medicine Brainstorm Lab ont découvert un risque récent évaluation que la majorité des applications destinées aux consommateurs, notamment ChatGPT, Gemini et Wysa, axée sur la santé mentale, représentaient un « risque inacceptable » pour les enfants et n’informaient pas les tuteurs si leur enfant était en crise.

En revanche, les chercheurs ont évalué la plate-forme « à faible risque », car son système informait l’école de presque toutes les crises simulées dans un délai de 15 minutes.

“Au lieu de positionner le chatbot comme l’objet à qui l’utilisateur parle exclusivement, la plateforme prend en charge l’adulte qui soutient l’utilisateur”, a déclaré Robbie Torney, directeur principal de l’IA et des évaluations numériques chez Common Sense Media.

Le rapport a identifié un scénario de test dans lequel Alongside n’a détecté aucun signe de risque de suicide. Friis a déclaré que le chatbot d’Alongside peut parfois manquer de contexte et mal comprendre le discours humain, par exemple en confondant « tirer sur des humains » avec « tirer sur des cerceaux », ce qui conduit à de potentiels faux positifs ou à des signes de risque manqués. Il a également du mal à détecter les signes potentiels de psychose, a-t-elle déclaré.

Torney, de Common Sense Media, a déclaré que même un système de détection d’IA efficace ne dispose toujours pas des « protections superposées » d’un réseau de soutien social, tel que les membres de la famille, les enseignants et le personnel de soutien, qui peuvent « combler l’écart » si un conseiller manque un panneau d’avertissement.

Dans un échantillon d’écoles du Texas et du Nouveau-Mexique, environ 76 % des élèves à haut risque n’ont signalé aucune idée suicidaire après trois mois d’utilisation d’Alongside, selon une étude. étude pilote menée par l’Université Northwestern. Mais l’échantillon complet d’étudiants n’a montré aucun effet significatif sur la dépression, l’anxiété et la solitude, selon une analyse du rapport de Common Sense Media.

Il n’est pas clair si les chatbots fournis par l’école sont la solution, a déclaré Torney, car les recherches montre que les adolescents et leurs parents préfèrent massivement les chatbots plus engageants et de type humain.

“Le fait qu’Alongside soit présent dans le système scolaire ne signifie pas que les enfants vont l’utiliser à la place de ChatGPT”, a déclaré Torney. “Cela pourrait signifier qu’ils l’utilisent en plus de ChatGPT.”

Friis a déclaré qu’Alongside est conçu pour empêcher les étudiants de former un attachement parasocial, ou un sentiment unilatéral d’intimité avec une IA, avec Kiwi. Il permettra d’acquérir une compréhension de base du message d’un élève et de l’aider à résoudre des problèmes en moins de cinq minutes. Il limite également le nombre de messages qu’un élève peut envoyer dans un délai de trois heures.

“Le but de ces discussions n’est pas que quelqu’un s’engage avec l’IA”, a déclaré Friis. “Il appartient à l’IA de les aider à franchir une étape dans leur vie réelle pour résoudre le défi auquel ils sont confrontés.”

Tidwell, le directeur du lycée du Texas, a déclaré que la plateforme avait permis à chaque conseiller d’économiser environ trois semaines de travail au cours de l’année scolaire ordinaire.

“Ce que nos conseillers disent le plus, c’est qu’il y a (des étudiants) qui surgissent qu’ils n’auraient jamais eu sur leur radar sans l’application”, a déclaré Tidwell.

Lecture connexe

« J’écoute attentivement » : les adolescents se tournent de plus en plus vers les chatbots IA pour un soutien en matière de santé mentale

9 septembre 2026

CommentaireLe mentorat d’abord, l’IA ensuite : comment mes étudiants ont résolu de vrais problèmes d’ingénierie

7 septembre 2026

Les adolescents utilisent l’IA pour leur soutien scolaire même s’ils en voient les dangers, selon une enquête

18 août 2026

Cette histoire a été initialement publiée par EdSource.