« Si l’IA conversationnelle rend des services, son utilisation massive, systématique peut avoir un impact sur la santé mentale. Tout est question d’équilibre, de régulation dans son usage », alerte le Pr Amine Benyamina, notre président et coprésident de la mission « IA : quels risques pour la santé mentale ? ».
Cette mission, lancée à la demande du président de la République, de la ministre déléguée chargée de l’IA et du numérique, en lien avec le Conseil National du Numérique (CNUM), rendra son 1er rapport en mai. Cliniciens, experts techniques et technologiques, juristes sont auditionnés pour dresser un inventaire des risques liés à l’IA, notamment sur la vulnérabilité des personnes et la santé mentale.
Un travail additionnel sur les revues de littérature et des études de cas permettra d’aboutir à des recommandations concrètes.
IA standard VS IA conversationnelle ?
Leur différence tient à leur objectif, fonctionnement et utilisation.
L’une désigne des systèmes qui exécutent des tâches spécifiques, basées sur des données, des algorithmes prédéfinis. L’autre vise à faciliter la communication entre utilisateurs et machines, via un échange de type question-réponse.
Pour le Pr Amine Benyamina : « L’IA conversationnelle rend des services, mais peut selon son usage, générer de nombreux risques/impacts ».
L’IA : quels services ?
-Réponses personnalisées en temps réel s’appuyant sur des sources spécifiques
-Capacité à contextualiser rapidement
-Facilite la vie
-Libère du temps pour des tâches plus complexes.
L’IA : quels risques ?
-Illusion d’un dialogue empathique
-Refuge émotionnel exclusif
-Renfort de l’isolement social
-Détournement d’une recherche vers une aide médicale professionnelle
-Impact sur certains métiers : traducteurs, radiologues…
-Appauvrissement de la vie intellectuelle : formatage de la pensée, mise en jachère de la réflexion, de l’analyse, de l’introspection, de la cognition
-Dépendance : imaginer un « compagnon de vie » intime et ne plus prendre d’initiative sans le consulter
-Impact sur le circuit de la récompense, comme pour les drogues.
La question centrale n’est pas : « IA ou pas IA ? », mais « Progrès ou Prison ? », « Progrès ou Addiction ? ».
L’enjeu est de construire une véritable régulation pour trouver un équilibre entre les bénéfices du progrès et les risques bien réels de l’IA conversationnelle sur notre santé mentale.
Muriel Gutierrez
Amande épicée
