Critique garantie sans spoil. « I am your father - seal of approval »
Äkta Människor ou Real Humans, fait se poser plein de questions très intéressantes… Cependant je vous conseille de chercher les réponses par vous même car la série est très brouillon et ne parvient à aucun moment à être cohérente dans ce qu’elle apporte.
Je tiens à préciser au passage que je n’ai jamais lu Asimov et que je n’ai rien pété à Ghost In The Shell 2.
Donc du haut de mes vingt ans et de mon 11/20 en philo au bac je vais tenter de vous apporter mon avis (qui est forcément le seul valable) sur ce qu’est un robot, un sentiment, la vie, l’univers et le reste ; et puis on passera à la critique de la série en tant que telle en dernière partie. C’est parti, skål !
.
1. ÊTRE VIVANT
Reprenons les fondamentales : un être vivant, d’un point de vue purement biologique, est une entité qui a besoin de se nourrir pour survivre, et qui est capable de se reproduire. Rien de plus !
En ce sens, une pierre ou un téléphone n’est pas vivant, tandis qu’un corail ou une bactérie si. Sans partir tout de suite dans la science fiction, je vous invite à vous pencher sur le cas des Sims. On n’a pas attendu le XXIIème siècle pour créer la vie : un Sim, comme n’importe quel être vivant, naît, grandit, vieilli, meurt, se nourrit pour sa survie, et se reproduit. Bien sûr on peut arguer qu’ils n’ont pas de sentiments ou même de volonté, que ce ne sont que des bits (humf ! il a dit bit !), mais honnêtement, je doute que les carottes rêvent ou ressentent quoi que ce soit non plus.
Je suis certain qu’ici 100% des personnes qui me lisent ont déjà tué un Sim, ou une carotte. Et pensez à ces cadavres que les femmes se voient offrir pour la saint valentin, et qu’elles mettent en vase pour les voir mourir lentement… Est-ce que je viens de prouver que les Sims sont des légumes ? non. Mais juste qu’il ne faut pas grand chose pour être considéré comme être vivant, et qu’on a rarement beaucoup d’égard envers ceux qui nous entourent.
Pour le cas de Hubot, malgré ce qui est dit dans la série, il est évident qu’une machine vieillit, se détériore et finit par mourir. Même si cela n’a rien d’organique. On observe aussi qu’ils ont besoin de se nourrir en électricité, cependant le manque de nourriture ne les tue pas. On suppose qu’ils peuvent se reproduire, mais manufacturellement bien entendu (ça se dit pas…), pas sexuellement. Bien que ça ressemble à la vie, ils sont quand même très loin derrière les Sims au niveau de l’exactitude des critères. Cependant, les plantes, les animaux, les bactéries et les champignons sont des formes de vies différentes. (c’est pour ça que je refuse de manger de champignons…) Elles sont différentes non par leur apparence ou leur capacité à penser, mais par leur métabolisme, leur façon de se reproduire, et des éléments indispensable à leur régime. De là, il n’y a qu’un pas pour dire que les êtres cybernétiques mériteraient une branche à eux. Voilà un premier axe de réflexion. :D
.
2. ÊTRE HUMAIN
Dans cette partie je ne vais pas du tout parler de machines, car il semble évident au point de développement où on en est qu’ils n’ont pas droit à cette terminologie. C’est compliqué à définir ce que c’est d’être humain, mais pour commencer je vais vous parler de ce qui fait la différence entre les humains et les autres animaux, cela permettra sûrement de faire des parallèles plus tard. (non je n’ai pas de plan, ce pavé me sert plus à mettre mes idées à plat qu’autre chose)
J’espère sincèrement que l’idée que les animaux sont capables de sentiments et d’envies, n’est pas sujet à débat ici… bon peut-être pas les éponges et les étoiles de mer… mais je ne doute pas que les possesseurs de chats ou de chiens ici en sont convaincus. Depuis quelques années, la recherche sur les grands singes a largement progressé. Vous avez sûrement entendu parler par exemple des chimpanzés ou des gorilles à qui on apprenait à jouer à remettre la bonne forme dans le bon trou, ou à ranger des cubes de différentes tailles dans l’ordre… Et bien on est allé un peu plus loin, certains singes qui sortent un du lot on réussi à apprendre une forme très basique du langage des signes. Les conversations sont très intéressantes, ils parlent de ce qu’ils ont fait dans la journée, de leur relations avec les autres singes, etc. comme un humain. Après un film, ils ont été capables d’expliquer que la mort d’un personnage les a rendu tristes par exemple, ou qu’ils trouvaient l’actrice gentille. Personnellement je trouve ça hallucinant ! Mais il y a une chose que les singes n’ont jamais faite et qu’aucune autre espèce que l’Homme n’est capable de faire… c’est de poser une question. Ce n’est pas un manque de curiosité, les singes sont des animaux très curieux au contraire, mais ils ne peuvent pas conceptualiser un autre esprit que le leur. Voyez-vous, les singes, et les animaux en général n’ont pas développé la zone du cerveau qui permet de concevoir que « l’autre » peut savoir quelque chose que soi ne sait pas. Quand votre chien a pissé sur le tapis et qu’il vous regarde avec de grands yeux ce n’est pas parce qu’il sait que vous allez vous énerver en découvrant ça, c’est parce qu’il pense que vous le savez déjà. On observe le même comportement chez l’enfant de moins de trois ans (plus ou moins selon l’enfant) il y a un test pour savoir si ce concept est développé, on raconte cette petite histoire : Sally et Anne ont respectivement une boîte et un panier. Sally met un cookie dans sa boîte et puis va faire un tour. Pendant ce temps, Anne retire le cookie de la boîte, et le met dans son panier. Sally revient et a envie de manger son cookie, on demande alors à l’enfant où Sally va-t-elle chercher ? Et bien les enfants de moins de trois ans environ vont répondre que Sally cherche dans le panier d’Anne parce que le cookie est dedans. Ils sont incapables de comprendre que Sally ne sait pas la même chose que Anne. Est-ce que je viens de prouver que les enfants sont des animaux ? sans doute. Mais là où je voulais en venir c’est qu’il n’y a finalement qu’une seule différence fondamentale entre ce qui fait l’être humain comparé aux autres animaux, et que l’intelligence ou les sentiments n’ont rien à y voir. Le simple fait de donner à un robot la capacité de poser des questions le rendrait infiniment plus humain qu’un animal de compagnie. Pas des questions protocolaires en rapport avec leur fonction du genre « à quelle heure je dois passer vous chercher ? » mais plutôt « pourquoi vous avez appelé le chien Albert ? ».
.
3. ÊTRE SOI (ou développer une personnalité)
Avant d’aborder ce sujet penchons-nous sur ce qui nous différencie nous, nos choix, d’un programme informatique qui suit un protocole. Dans le jeu vidéo on parle souvent d’intelligence artificielle, mais c’est à tort à mon avis. Ce qui se passe dans un ordinateur actuel ce n’est pas une forme d’intelligence, c’est un simple programme : lorsqu’il se passe ça → je fais ça ; lorsqu’on me demande ça → je réponds ça. Vous avez saisi le principe… On peut complexifier le programme, pour qu’il prenne en compte les choix précédents, ce qu’il a en mémoire, le contexte, etc, cela le rendra plus vraisemblable et moins automatique, mais ça n’en restera pas moins un schémas pré-établi. Ce qui définit l’intelligence, la seule, il n’y en a pas de moins vraies que d’autres, c’est la capacité d’apprendre. Qu’on ne s’y trompe pas, lorsque je met une photo sur le disque dur de mon ordinateur, il n’apprend rien, il stock. La mémoire ne fait l’apprentissage, il faut, pour être doué d’apprentissage, et donc d’intelligence, pouvoir utiliser des éléments en stock pour redéfinir ce qu’on sait et agir en conséquence. Ou autrement dit, laisser des trous, des doutes dans le protocole, et être capable de le modifier. Il est aussi impératif de pouvoir confronter deux données, si quelqu’un me dit que l’ornithorynque est un mammifère alors que je pensais que c’était un oiseau, il faut que je confronte ses deux idées, et que je choisisse laquelle penser. Cela implique évidemment qu’on puisse faire des erreurs de jugement ou croire un mensonge.
Si un robot était capable de se modifier lui même… d’apprendre et donc de réécrire ce qu’il sait et comment il doit agir, il serait incontestablement « intelligent ». Un humain pourrait avoir une conversation censée avec lui, ils pourraient avoir un vécu ensemble, des expériences qui les définissent l’un et l’autre. Le robot pourrait même apprendre sans qu’il ait été prévu pour ça, ce qu’est la compassion ou la haine en observant les humains et se réécrirait pour l’incorporer. On pourrait se dire que finalement l’homme n’est pas si différent, notre société nous code et nous agissons en protocoles, et les trous ou les doutes cités plus haut viennent du fait que le programme est juste trop complexe pour qu’on le comprenne de nous-même. Cette théorie est intéressante mais incomplète à mon avis. Nous en tant qu’individus, nous formons et nous définissons grâce à notre savoir et nos expériences, comme un robot en serait capable, mais pas seulement.
Il ne faut surtout pas oublier que nous avons un corps, organique, complexe, et hors de porté de notre volonté. Si je n’aime pas les lasagnes de la même façon que Lennart, c’est peut-être parce que nous n’avons pas la même histoire avec les lasagnes, mais aussi parce que notre corps régit différemment aux lasagnes ! Nous ne choisissons pas quand notre cœur bat, nous ne choisissons pas non plus qui aimer, quand notre corps va sécréter de l’ocytocine ou de la dopamine ni en quelle quantité. Notre corps change à chaque secondes et nous changeons avec lui, une personne est en ce sens indissociable de son corps, simplement parce qu’elle n’en a pas le plein contrôle. Imaginons simplement, si on transposait les souvenirs de quelqu’un dans un autre corps, il serait quasiment le même au début mais commencerait à agir différemment, peut-être à rire plus fort, à ronfler, à avoir la libido en hausse, à s’énerver facilement, se faire accoster dans la rue, à devenir gay, etc. Pour prendre un exemple concret, lorsqu’on altère son corps avec de l’alcool, la personnalité change significativement ^^ Heureusement c’est temporaire, mais l’expérience reste et la personne que vous êtes après avoir bu n’est pas la même qu’avant, puisqu’il lui est arrivé des choses nouvelles. Dans cette exemple on a les deux formes d’altération de soi, l’alcool modifie le corps qui vous fait agir différemment, et l’expérience modifie la mémoire qui vous fera agir différemment.
En résumé, pour qu’un robot soit le plus humain possible, il faut simplement qu’il soit capable de se poser des questions, qu’il ait accès à son propre protocole, mais que le fonctionnement de son corps lui soit inaccessible. C’est avec tout ça, qu’apparaissent les sentiments, les envies, les rêves, etc. Qu’il en soit conscient ou non ne change pas la donne, moi je sais très bien que lorsque je tombe amoureux c’est parce que mon cerveau et mon corps sécrètent et reçoivent des hormones, mais ça ne gâche rien au charme ^^
Dans ces conditions, le robot serait une espèce, intelligente à part entière. Pas un animal, pas humain non plus, mais dans le règne qu’est le sien, il serait à la calculatrice ce que l’Homme est à la moule.
.
LA CRITIQUE : (pleine de spoil)
Sachant tout ce qui a été dit plus haut, j’ai eu beau me forcer et me dire comme devant un film de zombie « supposons que ça se passe comme ça » ça n’a pas pu passer. Les situations, les personnages, l’univers tout est improbable !
Avoir des machines qui font tout le travail chiant pour pouvoir accorder plus de temps à sa famille, aux loisirs, à l’art et aux travaux enrichissants, c’est le rêve de toute une société. Mais alors pourquoi, bordel POURQUOI les utilisateurs sont aussi cons ? Est-ce qu’il vous serait déjà venu à l’esprit d’accuser votre PC de vous mentir ? Vous serait-il déjà venu à l’esprit que votre PC puisse vous aimer ?! Si on crée des esclaves c’est pas pour les humaniser ensuite >< Il y a un Hubot pour s’occuper des vieux, un Hubot pour conduire, un Hubot pour forniquer, chacun a une fonction ! Comme une voiture est censée rouler, une voiture en panne ne vous ment pas ! Tomber amoureux de Siri ou d’une poupée qui dit je t’aime c’est pathologique hein…
De tels comportements arrivent déjà, on a vu des gens s’attacher à leur voiture ou moto, sans aller jusqu’aux sentiments, il vous ait surement déjà arrivé de tapoter sur le capot en disant « t’as bien roulé ! » ou encore de demander à votre pc « aller charge plus vite s’il te plait ! » ^^ et puis à l’époque des chiens robots en plastique, les enfants s’y attachaient vraiment, mais la désillusion finit toujours par arriver, aucune relation symétrique n’est possible avec une machine. Le cas le plus proche que j’aie pu observer c’est celui d’un homme qui est tombé amoureux de sa poupée gonflable. Dans le reportage cet homme est montré comme très seul, il habille sa poupée, il l’assoit à table avec lui etc. Pour lui c’est la femme idéale, en effet elle ne parle pas, elle l’écoute toujours, et elle est toujours d’accord au lit… Mais même cet homme, aussi attaché soit-il, ne considérera jamais son objet comme vivant, humain, ou intelligent…
Seulement ce n’est pas si simple, il y a en effet des Hubots qui outrepassent leurs fonctions et qui développent une forme d’intelligence grâce à un code source génial. Soit. Mais ceci est une exception, et les personnes qui tombent amoureux de leur programme ou qui les accusent de toutes sortes de choses ne sont pas au courant de cette possibilité. >< À croire que le scénariste était un chimpanzé ou un gamin de moins de trois ans…
Tant que j’y suis j’en profite pour dire que jamais ô grand JAMAIS une société ne produira ce genre de machines. Un code source pour en faire des machines à tuer serait bien trop facile à trouver sur n’importe quel site de piratage. Et un bridage, même matériel comme on peut voir sur les consoles de jeux, est facilement contournable. Seulement nos voitures/consoles/mixeurs/etc ne sont pas seulement cloués à leur fonction par leur programme mais aussi par leur plastique. Je m’avance peut-être mais je pense qu’aucun hacker ne pourra transformer mon micro-onde en bête de sexe… Bref, jamais un gouvernement n’autorisera à commercialiser des machines potentiellement génocidaires… Le hubot chauffeur ne fera qu’un avec la voiture, le hubot pour s’occuper des vieux sera incorporé dans ordinateur de maison, et le hubot de femme de ménage/nourrisse aura des roues et des pinces ou d’autres attraits qui limiteront son utilisation… Sinon si le hubot traducteur espagnol est à 100€ et que le hubot chauffeur est à 2000€ j’ai juste à acheter le traducteur, le pirater et lui apprendre à conduire…
Et puis WTF la femme qui tombe amoureux de sa machine froide et automatique, et une fois qu’elle en a fait une véritable personne, alors qu’elle se battait pour ses droits, elle le REVEND ! À ce niveau là c’est pas juste une erreur d’écriture, c’est vraiment n’importe quoi.
Fini le spoil !
Et sinon à part les robots ? Les acteurs sont vraiment épatants il n’y a rien à redire on est vraiment happés dans cet univers (et du coup outrés quand leur réaction est absurde). La lumière comme dans toutes les productions suédoises est magnifique et rafraîchissante, tout comme la langue qui mériterait d’être disponible sur Arte. Le rythme aussi est parfaitement mené et on a vraiment envie de savoir la suite. Je me suis peut-être un peu éparpillé en route, mais une série (aussi originale soit-elle) qui traite d’un sujet en s’étalant autant, et qui le traite aussi mal ne peut pas avoir plus que la moyenne dans mon cœur…
PS : Il y a sûrement plein de fautes, il est tard, je veux bien l’aide d’un grammarnazi. Sinon hésitez pas à apporter une contribution dans les commentaires mais je ne lis jamais les gens qui écrivent autant que moi, alors maitrisez vous, ou qui sait, quelqu’un pourrait passer par là… ^^
