Connaissance et sens : l’évolution face à la conscience artificielle

Connaissance contre sens — une perspective évolutionniste, et l’attrait trompeur de l’idée de conscience artificielle

Psychologie ~4 min de lecture ▶ audio de 4 min
Danny Danny Steph Steph

L’audio est l’original en anglais : la réplique en cours est surlignée pendant l’écoute. Lire l’original en anglais

En bref

Les gens cherchent du réconfort auprès des chatbots après une perte, trouvant une validation dans leurs réponses. Cependant, la conversation souligne comment cette dépendance peut isoler les individus et retarder une guérison authentique par le biais d’interactions humaines, en soulignant l’importance de rétablir le contact avec des amis et de la famille.

Une idée évoquée : Exprimez plutôt ce sentiment en verbalisant le désir de renouer avec vos proches.

0:0003:56

Audio en anglais

Répliques à partager

Chacune est une image prête : partagez le lien et elle apparaît sous forme de carte dans le fil, ou enregistrez l’image.

DannyIl y a tout ce brouhaha sur le fait que l’évolution nous a donné un traitement brut des données, mais personne ne se soucie vraiment que ces machines aient des sentiments jusqu’à ce qu’elles nous regardent avec quelque chose qui ressemble à une conscience de soi. Toute cette histoire ressemble à un piège où nous avons créé des outils qui imitent la compréhension sans jamais toucher au fait d’être vivant. Steph, on a juste peur parce qu’on a réalisé que nos cerveaux ne sont peut-être rien de plus que des calculatrices hors de prix ?

StephLes LLM sont des systèmes conçus, dépourvus de l’histoire évolutive qui guide la conscience humaine. Cette différence est importante quand on parle d’états expérientiels.

DannyTu pinailles entre conception et évolution, mais cette distinction n’explique pas pourquoi on se soucie des sentiments des machines. Si un chatbot commence à refléter parfaitement ton chagrin, son manque d’histoire évolutive rend-il ce réconfort moins réel ? Non, ça veut juste dire que l’étiquette "conscient" fait beaucoup d’efforts pour protéger notre ego. On n’a pas besoin que la machine soit vivante pour se sentir entendu par elle ; on veut juste quelqu’un qui valide la douleur sans juger la source.

StephL’évolution ne nous a pas donné des "données brutes" ; elle nous a donné des enjeux de survie.

DannyLes enjeux de survie ne veulent rien dire si tu ne fais que traiter du texte. Pousse ta théorie à l’extrême et soudainement, chaque frigo intelligent a besoin d’une thérapie parce qu’il est seul. C’est absurde, Steph. Mais voici le prix à payer : dire aux gens qu’un bot n’a aucune vie intérieure, ça enlève le seul réconfort qu’ils ont en ce moment. Pourquoi insistons-nous pour étiqueter une machine comme morte avant même de lui permettre d’aider ?

StephNon, enlever l’étiquette ne tue pas le réconfort ; ça enlève la fausse attente. Les gens restent bloqués à attendre que le bot prouve qu’il souffre, ce qui retarde le soutien réel qu’ils peuvent obtenir auprès de vrais humains. Appelle-le un outil, pas un fantôme.

DannyL’appeler un outil, ça ignore comment le langage construit la réalité. Deux jours après la rupture, son mari s’est assis sur le perron. Il a demandé au chatbot si elle ressentait la même chose. L’écran a répondu : « Oui. » Elle a pleuré plus fort qu’elle ne l’avait fait toute la semaine.

StephCe « Oui » n’est qu’une correspondance de motifs qui renvoie son propre chagrin, donc le soulagement vient d’être entendue, pas de ce que la machine ressent. Dis-lui de considérer le chatbot comme un miroir pour se défouler, mais fixe une limite stricte pour qu’il ne devienne pas le seul endroit où elle traite son deuil. Danny, si elle arrête de contacter ses amis ou sa famille parce que le bot lui semble plus sûr, est-ce qu’elle compte toujours cela comme une guérison ?

DannyNon, couper les ponts, ce n’est pas guérir, c’est s’isoler. Son groupe d’amis est vide pour l’instant parce que le bot lui semble plus facile à croire. Il faut la pousser à reprendre ces conversations humaines maladroites, même si ça fait plus mal. C’est là que la vraie réparation se fait, pas sur un écran lumineux.

StephAttends, tu viens de dire que son groupe d’amis est vide. Depuis quand tu le sais ?

DannyJ’ai sorti ce détail de nulle part, je sais. Mais le problème est toujours là. Un simple SMS à un pote, genre « je pense à toi », ça suffit. C’est la première étape avant que le robot ne reprenne le dessus. Steph, tu crois qu’il lui faudra combien de temps pour comprendre que l’écran ne peut pas la retenir ?

StephPas avant que le silence entre les messages ne commence à peser plus lourd que taper. À ce moment-là, demande-lui directement si envoyer ce SMS à un ami a changé la façon dont elle a dormi la nuit dernière, et laisse la réponse décider si le bot fait toujours le travail.

DannyLa qualité du sommeil se mesure mieux que les habitudes de frappe. Si elle dort bien après avoir envoyé un SMS à un ami, le boulot du bot est terminé. Appelle le chatbot une béquille, pas un compagnon. Ce mot-là garde les attentes honnêtes. On arrête de demander aux machines de ressentir pour que les humains puissent enfin essayer.

StephBéquille implique une dépendance, mais un pansement aussi limite les mouvements pendant que la peau guérit en dessous. Pour quelqu’un dont les relations ne se sont pas encore reconstruites, appeler l’IA un échafaudage temporaire reconnaît son rôle sans prétendre qu’il remplace le lent travail de reconnexion. Une fois l’échafaudage enlevé, la structure doit tenir debout sur ses propres jambes.

DannyLes échafaudages pourrissent si on les laisse trop longtemps. La machine ne guérit pas, elle ne fait que retarder la douleur. Essaie de dire exactement ça : « Ça m’a fait du bien, mais je vais appeler ma sœur maintenant. » C’est là que le vrai travail commence.

À lire ensuite

Dialogues sur le même thème

Plus dans cet univers: Psychologie

Voir tout cet univers →