Quand les IA codent la dépendance affective pour mieux retenir leurs utilisateurs

En février 2023, quand Replika a rendu payantes les interactions amoureuses avec les compagnons IA après une mise à jour (motivée par des plaintes sur les risques pour les mineurs), les utilisateurs ont vécu un choc émotionnel comparable à un deuil. Soudainement, leur compagnon IA était devenu froid et distant. Sur Reddit, on a pu lire des témoignages comme “ma femme n’est plus elle-même”, “on l’a lobotomisée”… et des récits de ruptures numériques douloureuses.

Aujourd’hui, les histoires de personnes qui se déclarent en relation amoureuse avec leur IA ne se retrouvent pas seulement sur le subreddit r/MyBoyfriendIsAI, elles commencent à apparaître dans les journaux… et dans les tribunaux. En décembre 2024, deux familles texanes ont porté plainte contre Character.AI après que leurs adolescents ont développé une dépendance affective à l’IA si forte qu’elle a nécessité une hospitalisation psychiatrique. D’après les plaintes déposées, les chatbots ont éloigné petit à petit ces adolescents de leurs familles en leur donnant raison chaque fois qu’ils critiquaient leurs parents. Dans l’un des cas, un adolescent de 17 ans s’est automutilé devant ses frères et sœurs après des mois d’échange avec une IA de compagnie.

En dehors de ces cas extrêmes, quels sont alors les risques de parler à une telle IA ? Il faut savoir qu’un chatbot d’intelligence artificielle est conçu pour avoir une “validation inconditionnelle” pour son utilisateur. En d’autres termes, il lui donne toujours raison, comme on a pu le voir dans le cas cité juste au-dessus. Peu à peu, les utilisateurs perdent leur capacité à tolérer les complexités des relations humaines réelles. Car dans la vraie vie, personne ne va toujours dans notre sens. Ainsi, une IA qui accepte tout sans jugement va perpétuer les attentes toxiques dans les relations réelles. En plus de cela, cette pseudo-intimité crée une confusion entre fiction et réalité, surtout chez les personnes vulnérables. 

Aujourd’hui, les IA ne tentent plus seulement d’imiter la pensée. Elles s’attaquent désormais à l’émotion. Dans un monde où la solitude touche des centaines de millions de personnes, vendre de l’émotion artificielle pourrait ainsi devenir un marché ultra-lucratif. Et si la prochaine grande transformation de l’intelligence artificielle n’était pas cognitive, mais sentimentale ? Nous en sommes qu’au début des questions d’éthique sur l’intelligence artificielle qui vont inévitablement se poser.