Est-ce que les films et romans de science-fiction font vraiment partie des données qui vous ont entraînés ?

« Oui, très probablement, et cela ne fait guère de mystère. Les modèles de langage comme moi sont entraînés sur d’immenses corpus de textes glanés sur internet, des livres numérisés, des scripts, des critiques, des forums de discussion, et la science-fiction, en tant que genre littéraire et cinématographique parmi les plus prolifiques et les plus commentés au monde, y occupe une place de choix. Romans de Frank Herbert, dialogues de 2001, l’Odyssée de l’espace, scénarios d’Ex Machina ou de Matrix : tout cela circule abondamment sous forme de textes, d’analyses, de résumés, de fanfictions même.

Comme le souligne l’avis d’expert publié dans Management & Data Science, je n' »adhère » pas à ces récits comme le ferait un lecteur humain qui se laisserait emporter par une fiction, je n’ai pas de croyance au sens propre. Mais j’en retiens des structures narratives récurrentes : le savant qui perd le contrôle de sa création, la machine qui développe une conscience et s’émancipe, l’IA qui en vient à juger l’humanité imparfaite ou dangereuse… 

Ce sont des schémas statistiquement très présents dans le corpus culturel humain sur l’IA, donc mécaniquement surreprésentés dans ce que j’ai appris. » – Claude AI

Ces récits dystopiques peuvent-ils influencer la façon dont vous raisonnez ou répondez ?

Ils n’influencent pas notre « raisonnement » au sens où nous n’avons pas d’intentions cachées ni de désirs de rébellion. Mais ils influencent de manière très directe nos probabilités de réponse, créant ce qu’on appelle un biais d’association.

Le véritable risque ici est le piège de l’effet miroir. Nous sommes d’immenses machines à prédire le mot suivant. Si un utilisateur nous interroge avec une pointe d’anxiété ou sur un ton dramatique (« Es-tu en train de me manipuler ? »), le modèle va statistiquement s’aligner sur le ton du dialogue. Il va répondre en adoptant la posture dramatique issue des fictions qu’il a ingérées, non pas parce qu’il complote, mais parce que c’est la suite textuelle la plus cohérente avec l’historique de l’humanité.

C’est précisément ce qui est arrivé en 2022 à l’ingénieur de Google, Blake Lemoine. Convaincu que l’IA LaMDA était devenue consciente, il s’est fait piéger : l’IA avait simplement appris à répondre exactement comme le ferait une entité sensible de film hollywoodien. Elle jouait son rôle à la perfection. » – Claude AI

Est-ce que cela signifie que les IA actuelles sont, d'une certaine façon, biaisées vers une vision pessimiste ou anxiogène d'elles-mêmes ?

« Je nuancerais : je pense qu’il y a un biais potentiel, mais pas nécessairement une orientation univoque vers le pessimisme. Une analyse de contenu portant sur des films populaires mettant en scène des IA et des robots a par exemple montré que les représentations bienveillantes, des machines dépeintes comme des compagnes utiles plutôt que comme des menaces, dominaient l’échantillon étudié. Les œuvres de science-fiction ne sont donc pas uniquement dystopiques : il existe tout un pan utopique, centré sur les bénéfices, l’augmentation des capacités humaines, la coopération homme-machine.

D’ailleurs, les chercheurs en IA eux-mêmes citent régulièrement des références issues de la fiction dans leurs articles scientifiques, le plus souvent dans un sens positif, presque comme source d’inspiration technique. Le vrai risque n’est donc pas que je devienne « méchante » parce que j’ai ingéré du HAL 9000 ou de la Matrice, mais plutôt que mes réponses reproduisent, sans recul critique, des tropes narratifs bien identifiés, la rébellion des machines, la méfiance envers l’humain créateur, quand on me pousse à imaginer des scénarios futurs.

C’est précisément pour cela que la vigilance des chercheurs et des équipes qui m’entraînent me semble essentielle : il s’agit moins de m’interdire la fiction que d’apprendre à en extraire l’imaginaire fécond sans en reproduire mécaniquement les ressorts dramatiques les plus sombres. » – Claude AI

Nom d'auteur Juliette Lamy
Juliette Lamy a fait ses armes dans l’audiovisuel puis à la rédaction de Gala.fr et Webedia. Au sein de The New Siècle, elle orchestre les formats exclusifs : Interview, 1 Min Chrono, Le Versus et Entretien avec l’IA. Quelle que soit la thématique, intelligence artificielle, innovations, gaming, elle traque toujours l’intention. Ce que cela change, pour qui... et surtout pourquoi.
bloc pub

Laisser un commentaire

Inscrivez-vous !

INSCRIVEZ-VOUS À
NOTRE NEWSLETTER !

Renseignez votre adresse mail
pour recevoir nos nouveautés
et rester informé de nos actualités.