«Tu es dans un désert, marchant dans le sable, quand tout à coup tu baisses les yeux et tu vois une tortue… Tu descends et tu retournes la tortue sur son dos. La tortue est couchée sur le dos, le ventre chauffant au soleil, battant des jambes pour se retourner, mais elle ne le peut pas. Pas sans ton aide. Mais tu n'aides pas.
Contenu connexe
- Voltaire: Philosophe des Lumières et arnaqueur à la loterie
Rien n’est peut-être plus emblématique du film dystopique Blade Runner de Ridley Scott de 1982 que le test Voight-Kampff administré par les forces de l'ordre titulaires du film, y compris Harrison Ford dans le rôle de Rick Deckard. La série de questions du test fictif, telle que celle ci-dessus, est conçue pour séparer les humains des réplicants en provoquant une réponse physiologique indiquant une empathie. Seuls les vrais humains, et non les réplicants, ressentent cette émotion. Deckard est chargé de traiter les réplicants qui désobéissent aux ordres. Lui et d’autres utilisent le test pour décider s’il faut ou non «prendre sa retraite» - tuer - les réplicants.
Non seulement ces androïdes rebelles constituent une menace pour les humains, mais dans ce monde-ci, ils n’ont aucun droit légal de protection. Comment pourraient-ils, quand ils ne sont pas considérés humains?
C’est un dilemme si engageant que l’histoire se poursuivra dans la suite tant attendue, Blade Runner: 2049. L’une des raisons de la popularité durable du film original tient à la lutte personnelle de Deckard, qui se déroule de la même manière dans des films comme Her et des émissions comme «Westworld ”: Qui ou qu'est-ce qui compte en tant qu'être humain, en particulier dans un monde de technologie de pointe?
Et pour le comprendre, nous devons nous tourner vers de très vieux philosophes.
***
Pour les Grecs de l'Antiquité, des machines fabriquées par des dieux ou des hommes exceptionnellement doués ont souvent fait croire aux gens que les androïdes étaient authentiques, écrit Adrienne Mayor à Aeon. Le roi Nabis de Sparte possédait une version robotique de sa femme, sa poitrine ornée secrètement de clous. Il a utilisé la machine pour embrasser les citoyens qui lui désobéissaient, la chair transpercée par les armes cachées. Et en Chine, un automate du 10ème siècle avant JC fabriqué par l'inventeur Yan Shi était si humain, chantant et faisant un clin d'œil aux femmes, que le roi en devint furieux. Puis il a appris la vérité et s’est émerveillé devant une machine qui avait même des organes mécaniques. Comme l'écrivit Nigel Wheale, «à toutes les époques, les« choses humaines »ont été imaginées comme des entités qui testent ou définissent le sens contemporain de la valeur humaine».
Tout cela pour dire que le souci de distinguer les humains de chair et de sang des machines qui ont simplement l'air d'être humaines (et de décider si ces machines représentent une menace pour nous, Homo sapiens) ne se limite pas aux temps modernes. Nous nous sommes toujours demandés si tous les humains sont vraiment ce qu'ils semblent être - c'est pourquoi les philosophes des Lumières ont passé autant de temps à disséquer la question de savoir ce qui fait de l'homme un humain.
René Descartes, un philosophe français du XVIIe siècle qui a beaucoup voyagé à travers l'Europe, a examiné en profondeur la question de ce qui nous a rendus humains. Ce n’est pas un hasard si l’un des réplicants de Blade Runner répète sa citation la plus célèbre: «Je pense, donc je le suis.» Et si tout cela ne prouve pas suffisamment son lien avec le film, considérez les noms: Descartes et Deckard.
Comme le fait remarquer le philosophe Andrew Norris, Descartes soupçonnait qu'il pourrait être un jour nécessaire de vérifier si quelque chose était humain ou machine. «S'il existait des machines portant des images de notre corps et capables d'imiter nos actions autant que moralement possible, il resterait encore deux tests très sûrs permettant de savoir qu'elles n'étaient donc pas vraiment des hommes», a écrit Descartes. Il a donc créé ses propres tests, qui reposaient sur la capacité linguistique et la flexibilité du comportement.
Les réplicants parlent et se comportent comme les humains, ce qui signifie qu'ils réussiraient les tests de Descartes. Mais Deckard a du mal à réfuter son humanité pour une autre raison: les réplicants ont également implanté des souvenirs. Pour le philosophe anglais John Locke, ce qui donne à une personne un sentiment de soi est la continuité de ses souvenirs. Le corps humain change avec le temps, mais les souvenirs restent, offrant une base pour une identité stable. «Dans la mesure où cette conscience peut être étendue à l’arrière d’une action ou d’une pensée passée, jusqu’à présent, jusqu’à l’identité de cette personne», a écrit Locke.
Donc, pour Rachael de Blade Runner, le réplicant le plus avancé à ce jour, peu importe si elle n’a que quelques années; ses souvenirs remontent beaucoup plus loin, ce qui lui donne l'impression d'avoir vécu beaucoup plus longtemps. C'est ce qui fait de Rachael un personnage aussi tragique: ses souvenirs ne lui appartiennent pas. Ils viennent de la nièce de son inventeur.
"C'est une chose déchirante, mais vous pouvez imaginer [les souvenirs] lui restent chers même après qu'elle a appris qu'ils n'étaient plus vraiment les siens", déclare Susan Schneider, professeure de philosophie à l'Université du Connecticut et membre du comité d'éthique et de technologie. groupe à Yale. «C'est comme si vous découvriez que vous êtes la copie téléchargée, et non la personne effectuant le téléchargement. Mais vous avez toujours une relation privilégiée avec eux. Comme un parent. "
Mais ce ne sont pas seulement les souvenirs ou la rationalité qui font l’être humain de Blade Runner. Selon le test de Voight-Kampff, le plus important est l’empathie. Comme nous ne pouvons ni lire les pensées ni en voir aucune trace physique, des penseurs comme le philosophe allemand Theodor Lipps ont affirmé que nous pouvons percevoir que les autres ressentent et agissent comme nous le faisons par le pouvoir de l'empathie.
Harrison Ford en tant que Rick Deckard administre le test Voight-Kampff dans le Blade Runner original. (Warner Bros.) "Le Blade Runner doit, assez ironiquement, tester l'empathie des autres - pas ici, au sens où l'entendent Lipps, mais dans le sens de leur sensibilité à un monde naturel aujourd'hui peuplé d'animaux non humains", écrit Norris dans son article sur la philosophie du film. C’est de là que vient la fameuse question de la tortue piégée dans le dos.
«Les émotions elles-mêmes ne seront jamais un test parfait de l'humanité: les sociopathes sont aussi des humains, après tout», a déclaré par courrier électronique Deborah Knight, professeure de philosophie à l'Université Queen's. «Mais les émotions sont plus que des réponses non cognitives. Ils nous aident à juger de ce que nous devrions faire et de ce que nous devrions aspirer à être. "
Cela est particulièrement clair dans le cas du réplicant Roy Batty, joué par Rutger Hauer. Roy ressent des émotions humaines et a des aspirations, mais il n'a pas de durée de vie humaine, a déclaré Knight. Roy est conscient que, à l'instar des autres réplicants, il a été construit pour mourir au bout de quatre ans à peine, ce qui le rend naturellement furieux.
Les réplicants ressentent donc probablement des émotions et ont des souvenirs. Est-ce que cela les rend humains? Pour Schneider, une réponse définitive n'a pas nécessairement d'importance. Les réplicants partagent suffisamment de qualités avec les humains pour mériter une protection. «Il s'agit d'un cas très solide pour traiter [un non-humain] avec les mêmes droits légaux que nous donnons à un humain. Nous n'appellerions pas [Rachel] un humain, mais peut-être une personne », dit-elle.
Pour Eric Schwitzgebel, professeur de philosophie à l'Université de Californie à Riverside, la conclusion est encore plus dramatique. «Si nous créons un jour des robots dotés de capacités cognitives et émotionnelles similaires à celles des humains, nous leur devons plus de considération morale que nous ne le devrions normalement devant des êtres humains par ailleurs similaires», écrit-il dans Aeon. «Nous aurons été leurs créateurs et designers. Nous sommes donc directement responsables de leur existence et de leur état heureux ou malheureux. ”
***
Blade Runner n'est qu'un film et l'homme n'a toujours pas réussi à créer de réplicants. Mais nous avons fait beaucoup de progrès en intelligence artificielle, allant de voitures autonomes à apprendre à s’adapter à l’erreur humaine aux réseaux de neurones qui se disputent pour devenir plus intelligents. C'est pourquoi, pour Schneider, les questions posées par le film sur la nature de l'humanité et la manière dont nous pourrions traiter les androïdes ont d'importantes implications dans le monde réel.
«L’une des choses que j’ai faite est de me demander si le fait d’être un agent pathogène ressemblera à quelque chose d’être un jour. Y aura-t-il un jour Rachael? », Déclare Schneider, qui utilise Blade Runner dans son cours de philosophie sur la science-fiction. Cette année, Schneider a publié un article sur le test qu'elle a développé avec l'astrophysicien Edwin Turner afin de déterminer si un être mécanique pouvait réellement être conscient. Comme le test de Voight-Kampff, il repose sur une série de questions, mais au lieu d'exiger la présence d'empathie - des sentiments dirigés vers un autre -, il examine les sentiments d'être soi. Le test, appelé test de conscience de l'IA, est en cours de brevet à Princeton.
Le test diffère du plus célèbre Test de Turing, mis au point par le mathématicien Alan Turing en 1951. Lors de ce test précédent, un juge engageait une conversation numérique avec le participant (comme ce que vous expérimenteriez aujourd'hui dans les salons de discussion), en posant des si le répondant était humain ou une machine. Mais comme le souligne Schneider dans son article, les scientifiques peuvent développer des programmes qui passent le test de Turing mais ne sont pas des êtres conscients. Le test de Turing s'intéresse à évaluer la vraisemblance entre la réponse d'une machine et celle d'un humain, et non à comprendre si la machine est sensible ou non. Comme le test Voight-Kampff, le test de conscience de l'intelligence artificielle de Schneider consiste à essayer de comprendre ce qui se passe à l'intérieur de la machine.
Un travail comme celui-ci est urgent, dit-elle, car l'humanité n'est pas préparée du point de vue éthique à faire face aux répercussions de la création d'une vie sensible. Ce qui rendra encore plus difficile le jugement de nos créations, c’est la confiance de l’homme dans l’anthropomorphisme pour indiquer ce qui devrait être considéré comme un être digne de considération morale. «Certains [robots] ont l’air humain, ou ils sont mignons et moelleux, alors nous pensons à nos chats et nos chiens», explique Schneider. «Cela nous fait croire qu'ils se sentent. Nous sommes très crédules. Il se peut que seuls les systèmes biologiques puissent être conscients, ou que les IA les plus intelligents soient ceux qui sont conscients, ces choses qui ne paraissent pas humaines. »
Il est important pour les scientifiques de s’entretenir avec des philosophes - comme beaucoup le font déjà, explique Schneider -, mais également pour le grand public de réfléchir aux répercussions de ce type de technologie. Et, ajoute-t-elle, tous les philosophes ne sont pas d'accord sur la nature de la conscience, il n'y a donc pas de réponse facile.
Peut-être que des films hollywoodiens comme Blade Runner: 2049 nous rapprocheront un peu plus de ces conversations. Mais dans le cas contraire, nous devrons nous débrouiller seuls pour entrer dans le bourbier éthique. Au plus tôt, plutôt que plus tard - ou nous allons nous retrouver avec un problème comme les réplicants et aucune idée de la façon de réagir.
