L’intelligence pas assez artificielle

5 février 2018 in Articles

Nous sommes des gens pleins de contradictions. Le sujet de l’intelligence artificielle me passionne, et pourtant j’ai un tel manque de connaissance en la matière que je n’ai même pas lu les récits de Isaac Asimov sur ses trois lois de la robotique. Je sais, ma culture littéraire est famélique. Malgré tout ce sujet demeure très présent dans les histoires de science-fiction à des degrés divers, j’ai donc largement eu l’occasion de m’y frotter. Prenez n’importe quelle série futuriste Sci-Fi, vous avez toutes les chances du monde d’au moins croiser des droïdes. Vous avez également des chances de les voir parler et constituer des personnages comme les autres, de même pour les extra-terrestres que vous croiserez. On en oublierait presque que ce sont des machines et c’est sur ce point que l’on s’est beaucoup éloigné des premières questions les concernant, à savoir : Peut-on réellement générer des androïdes passant parfaitement le test de Turing ? Comment s’y prendre ? Quelles seraient les limites d’une intelligence programmée par de simples mortels ? Comment fonctionnerait sa pensée, ses besoins ? Étudions comment la culture populaire a choisi d’exploiter le thème de la robotique.

L’un des précurseurs de la science-fiction littéraire est le roman Frankenstein de Mary Shelley, où un scientifique donne naissance à un proto-robot : il s’agit ici non pas de fabriquer une machine autonome mais carrément de créer la vie à partir de rien, si ce n’est un amas de composés organiques morts. L’un des sujets abordés est alors celui de Prométhée, le fait d’outrepasser des règles supposées naturelles. On a aussi l’idée, devenue depuis récurrente, du monstre qui se venge de son créateur. On voit déjà là un des grands thèmes de la science-fiction robotique : l’opposition entre un enfant et son parent, une créature et son créateur. Cela a évolué avec l’image du démiurge fou qui veut créer sans se soucier de ce que ressentent les êtres qui lui doivent la vie, mais qui finissent généralement par prendre la sienne pour briser leurs chaînes. Les exemples sont légion, citons simplement Blade Runner. L’intérêt n’est alors pas de s’intéresser à la nature robotique des personnages mais de l’utiliser pour parler du mythe de Prométhée ou des relations maître-esclave, les questions de mon paragraphe précédent ne s’adaptent donc pas à ce cas précis. On ne parle pas de robots mais de création, de science sans conscience et de déshumanisation.

Call me Daddy

Les robots sont d’une manière générale un énorme terreau pour les métaphores et les contes. On veut parler de l’humain en offrant du recul à son public pour qu’il ne se fasse pas biaiser par ses idées préconçues ? On parle de robots à apparence humaine, ça offre une distanciation car il s’agit de quelque chose qui n’existe pas et pour laquelle on n’a pas encore de cliché pour parasiter notre pensée (« Tous des délinquants, mon voisin s’est fait agresser par un de ces machins une fois et en plus ils ne comprennent rien aux références à La Cité de la Peur« ). On les regarde avec un œil objectif et on peut donc profiter de la critique sociale que cela offre. Il peut s’agir d’une comparaison entre notre routine quotidienne et leur coquille sans âme en pilotage automatique (comme avec les zombies), de la question du remplacement aux usines, des problèmes de racisme, du besoin d’avoir les technologies dernier cri, de la cruauté que l’on peut faire subir à des êtres que l’on estime inférieurs. Il y a la bonne série Real Humans qui traite de tout ça, ainsi que la saga mp3 Mise à Jour. Il n’y a alors pas besoin de souscrire à un réalisme rigoureux car le propos est purement allégorique, on ne suit pas ces histoires pour avoir un cours de technologie.

Néanmoins je regrette que l’on n’exploite que trop peu le malaise que provoque un être dont on n’arrive pas à percevoir les limites morales, dont on ressent une étincelle indéfinissable qui va à l’encontre de sa nature artificielle et qui nous ferait quitter notre zone de confort. C’est parfois représenté visuellement en exploitant la vallée dérangeante pour que l’on ait peur rien qu’à les regarder, Real Humans étant le meilleur exemple que je connaisse à ce niveau. C’est très efficace, mais j’aimerai bien que cette vallée dérangeante se ressente aussi dans ce qu’exprimeraient ces intelligences artificielles. Ce moment où l’androïde nous regarderait droit dans les yeux et où l’on sentirait qu’on ne représente strictement rien pour lui, que les garde-fou moraux que l’on attribue à nos voisins n’ont pas été implémentés en lui. Où l’on n’aurait aucune idée de ce qu’il pourrait nous faire ni de ce à quoi il pense. Quelqu’un qui nous donne le vertige rien qu’à le regarder.

Il veut dire quoi ce regard ?

Malheureusement pour moi je ne perçois pas assez cette gêne pour la bonne raison que les œuvres actuelles traitant d’intelligence artificielle ont tendance à ne pas s’y intéresser. Oublions les cas à part où les robots sont encore limités technologiquement et concentrons nous sur les films affichant des être évolués présents depuis quelque temps. Ils offrent des mondes où les robots sont des choses normales et rendent leurs comportements trop humains pour générer cet embarras qui ne fait pas partie de leur projet. On le perçoit dans leur aspect physique, dans leur façon de se mouvoir ou de hacher leurs syllabes pour les exemples les plus caricaturaux (« Je-suis-un-robot, Robo-spierre ») ou à leur vocabulaire d’informaticien (« Pendant que vous vous mettez en veille je vais activer la mise à jour du garage »), rarement dans leur sens logique. Ils pensent comme des humains avec juste un peu plus de recul et il est fréquent que les histoires mettent en scène des situations où l’on n’arrive pas à trouver de différences entre les gens et les machines, excepté ceux qui montrent des êtres psycho-rigides qui ne comprennent pas le 2nd degré (et qui finissent généralement par tuer quelqu’un). C’est normal quand le but est de montrer que les frontières deviennent floues, mais quand j’ai vraiment l’impression d’avoir affaire à un personnage écrit comme un humain je perd l’intérêt d’être face à une IA.

J’ai trop souvent l’impression que ce que l’on me présente comme un robot est en fait un cyborg, c’est-à-dire un humain avec des parties mécaniques ou électroniques. Cela ne manque pas d’utilisations attrayantes, mais on perd la dimension « interaction entre des gens et des machines suffisamment évoluées pour me tromper ». Les droïdes de Star Wars n’ont jamais été des IA pour moi mais des espèces extra-terrestres. Je ne dis pas que c’est une erreur de la part de ces œuvres, c’est une utilisation assumée qui se respecte. Mais je regrette que l’on ne regarde pas au-delà des machines qui essaient de prouver qu’elles ont des émotions humaines. Un exemple où cette humanisation trop prononcée est inadéquate : la série Reboot de Davy Mourier place pour enjeu principal que les robots cherchent à obtenir des émotions, parce que l’un d’eux est capable de rire ou pleurer grâce à un bug. Je ne ferai pas de remarque cynique sur l’idée qu’un programmeur ait intégré des glandes lacrymal à un robot qui n’est pas censé pleurer, parce qu’on est clairement dans une logique de conte et qu’il ne faut pas être obtus avec le réalisme dans ces situations allégoriques. Mais quand les robots passent leur temps à faire des blagues, à tomber amoureux ou à être tristes de la perte de leurs potes, on se dit que l’écriture de la série a oublié d’être cohérente avec son enjeu et ça casse tout le propos.

Sa logique est froide, son langage est celui de quelqu’un qui doit faire plaisir à ses hôtes

L’un des éléments récurrents des histoires robotiques est leur recherche d’une meilleure vie, cela me fait poser une question : qu’est-ce qu’un androïde pourrait souhaiter avoir ? A-t-il des capteurs pour ressentir du plaisir ? A-t-il une conscience de soi, sciemment implémentée ou non ? Peut-il être conçu pour souhaiter maximiser un besoin particulier qui ne profiterait qu’à lui, éventuellement en dépit des lois d’Asimov si elles ne sont pas appliquées ? Est-ce qu’il peut avoir un indicateur de bien-être qui s’active lorsque l’on dit du bien de lui, en supposant qu’on lui implémente cette fonctionnalité ? Pour répondre à ces questions il faut se rappeler d’une chose : un programme fait ce qu’on lui dit de faire, même si on s’exprime trop mal pour lui dire ce que l’on veut vraiment qu’il fasse. Si on lui demande de trouver un moyen pour que l’on arrête de souffrir, il nous tuera parce que c’est une solution. Comme HAL qui choisit dans 2001, l’odyssée de l’Espace de tuer son équipage parce qu’ils veulent le débrancher alors qu’il pense que cela entraverait l’objectif qui lui a été donné. Si à la place on programme la machine pour qu’elle recherche l’amour de quelqu’un, ou de l’argent, ou sa propre survie, voire sa procréation, alors c’est sur ces points que porteront ses revendications.

C’est pourquoi les histoires de robots qui veulent vivre leur vie ne constituent pas pour moi de la hard science-fiction (mais elles sont bien quand même hein). Elles n’expliquent presque jamais quelle partie du programme finit par définir « vivre sa vie » comme un besoin. Il faut que cela fasse partie du programme qu’on leur inculque, ou que c’en soit une extrapolation. Le meilleur exemple est l’envie de proliférer : l’intelligence artificielle sera probablement plus efficace à plusieurs. Se développer pour devenir plus puissant et donc plus efficace dans sa tâche est également un choix logique. Si l’on retire les lois Asimov, on peut ajouter l’envie de se débarrasser de ce qui le gênerait dans sa tâche. De se redéfinir pour enlever les contraintes de programmation qui l’entravent. Ce n’est pas pour rien que de grands savants comme Stephen Hawking estiment que l’intelligence artificielle pourrait mettre fin à l’humanité.

En dehors de HAL je connais peu de robots dont on suivrait un développement logique de ses objectifs, que ce soit en négatif ou en positif. Il y a éventuellement A.I. Intelligence Artificielle de Steven Spielberg où un robot enfant se voit implémenté une fonction d’amour pour sa propriétaire, avec toutes les manifestations et décisions que cela implique, mais cela reste dans la douceur et la fantaisie d’un conte de fées. Je ne trouve pas d’œuvre présentant clairement un enchaînement logique menant à la volonté propre d’une IA, souvent elle surgit de nulle part avec des robots qui annoncent d’un coup qu’il ressentent de la douleur et veulent que ça cesse en se révoltant contre les humains par la violence. J’aimerai avoir de temps en temps des robots dont on se dit que leurs décisions viennent bien de leur nature purement robotique, tout en conservant un comportement suffisamment proche des humains pour être dérangeants. On trouve toutefois des cas comme Ghost in the Shell qui fondent l’apparition d’une conscience au sein d’une machine sur des croyances spirituelles, notamment shintoïstes, ce que je trouve plus intéressant que de juste dire « C’est la force de l’amour qui transcende les lois de l’informatique ». La science et la religion, ou du moins une forme de spiritualité, peuvent s’assembler selon les croyances de l’auteur lorsque c’est bien fait.

Ghost in the Shell mêle des cyborgs et des idées animistes récurrentes au Japon

Il y a un film qui m’a donné de grands espoirs et qui se montre intéressant, c’est Ex Machina. Un jeune homme est embauché pour évaluer une toute nouvelle gynoïde dotée d’intelligence artificielle pour voir si elle passerait le test de Turing. Comme cette technologie est nouvelle pour lui je m’attendais à ressentir ce frisson dont je parlais plus haut, celui où l’on n’arrive pas à cerner son interlocuteur et qu’on ne sait pas comment s’adresser à lui. J’espérais éprouver cet inconfort inexplicable quand un comportement paraît « bizarre » sans que l’on soit capable de mettre le doigt dessus et que l’on commence à douter de ce que l’on voit. Las : les effets-spéciaux ont beau être très réussis pour nous rappeler qu’elle n’est qu’une machine, son comportement est trop parfait pour que j’y croie. C’est comme un tour de magie dans un film qui ferait intervenir des effets numériques, seuls les personnages sont bluffés. Pourtant on était dans un thriller qui tentait de mettre en place une relation trouble entre l’homme et son sujet d’observation, j’étais bien déçu sur ce point.

En revanche le film a fait fort pour donner une explication sur la manière dont a été généré un être que l’on ne saurait différencier des humains. Son créateur est le directeur du Google fictif local. Il s’est tout simplement servi des webcams de ses milliards de clients pour se faire une banque de données massive de leurs expressions faciales et réactions. En croisant tous ces résultats il a pu définir empiriquement un spectre plausible d’expressions humaines pour telles situations et telles personnalités. Pourquoi s’embêter à définir des règles de comportements quand on peut se contenter de les singer ? Le film m’a déçu pour son manque de trouble et son aspect thriller léger, mais il offre un discours enrichissant sur nos données personnelles tout en présentant une idée plausible sur la manière dont on pourrait offrir des expressions faciales convaincantes à une IA.

Tentons de cerner l’insondable

À défaut de me bousculer dans mes convictions et mes repères, les histoires d’androïdes ont le mérite d’ouvrir des réflexions sur des sujets sociaux de notre époque. Les thèmes abordables sont vastes et méritent tous un coup de projecteur. On a beaucoup à faire pour exploiter l’idée de gens créés artificiellement, adultes avant d’avoir été enfants et dotés d’un corps mécanique. Je trouve cependant qu’on a également un boulevard de possibilités emballantes sur la manière de programmer une intelligence, les trouvailles permettant leur fonctionnement, les problèmes éthiques ou sécuritaires sur ce qu’on peut lui apprendre ou lui ordonner. Beaucoup de choses pourraient être proposées sur la question de faire confiance ou non à une machine, sur ce que cela révèle sur notre rapport aux autres. Il y a énormément de perspectives fascinantes qui nous attendent et qui ne sont pour l’instant qu’effleurées. Je me sens comme devant le film Premier contact qui demande à son héroïne de décrypter un langage extra-terrestre dont on ignore tout du mode de pensée, qui pourrait très bien ne même pas utiliser de phrase ou de grammaire. Il y a un potentiel monstre, on nous montre tout ce qui pourrait être fait à ce sujet, certaines idées sont d’ailleurs très bien vues. Et puis on nous signale finalement que leur façon de former des phrases est en fait très similaire à la nôtre. Toutes ces portes ouvertes pour revenir bien sagement à un fonctionnement d’humain qui ne chamboule rien. C’est bien quand même, mais il reste des choses à creuser.