Nous sommes des robots plus «!quelque chose!» : Comment l’homme occidental se regarde dans les machines qu’il construit. Frédéric Kaplan Sony Computer Science Laboratory Paris 6 rue Amyot 75005 Paris [email protected]

Depuis que j’ai commencé à travailler sur la conception de nouveaux robots de loisir, j’ai eu souvent l’occasion de m’interroger sur ce qui rendait ces machines si attirantes pour les Japonais. Les réactions en Europe étaient souvent plus mitigées. Certains étaient fascinés par ces créatures d’un genre nouveau, mais d’autres s’inquiétaient de voir des machines mimer de trop près le vivant. Diverses explications sont souvent avancées pour rendre compte de cette possible différence culturelle. On prétend par exemple que les Japonais sont des fous de technologie, que les machines tiennent une place bien plus importante dans l’archipel que chez nous et que c’est pour cette raison qu’ils accueillent chaque nouveau robot avec enthousiasme. Paradoxalement, il me semble qu’une des raisons qui peut expliquer ce regard différent qu’ils portent sur les robots provient justement du fait que les machines sont moins centrales dans leur mode de pensée que chez nous. C’est cette hypothèse que je vais tenter de présenter dans ce court article.

Les deux temps de la création Qu’est ce qui motive l’artiste ou l’ingénieur quand ils essaient de créer artificiellement une créature autonome ? En Occident, beaucoup pensent connaître déjà la réponse : ils veulent jouer à Dieu. Mais qu’est-ce que cela veut dire au juste ? Dans l’Ancien Testament, Dieu met en oeuvre une procédure en deux temps : « Alors Yahvé Dieu modela l’homme avec la glaise du sol, il insuffla dans ses narines une haleine de vie et l’homme devint un être vivant »1

La première phase est technique : le Créateur fait oeuvre de céramiste, il modèle une première statue de terre. Il utilise les contraintes de son matériau pour créer une forme. Son savoir-faire est celui du potier, un des domaines les plus avancées de la technique à l’époque du monde biblique. Dans ce processus, il est un artisan comme le seront plus tard les descendants d’Adam. La seconde phase relève par contre d’un savoir faire que seul le Créateur est capable de maîtriser. Cette technique pneumatique, cette capacité d’insuffler la vie semble être l’apanage de Dieu seul. Ce type de recettes qui met en scène deux moments bien distincts dans le processus de création se retrouvent presque à l’identique dans un nombre étonnement grand de mythes et légendes. Dans les mythologies sumériennes, égyptiennes, chinoises et dans les légendes de certaines régions d’Afrique des dieux « céramistes » comme celui de l’Ancien Testament, créent une figure de terre puis lui donne la vie par un geste ou une parole magique. Dans les mythologies du Nord, le bois sculpté est préféré à la terre façonnée. Certaines légendes 1

Génèse 2,4-7, Bible de Jérusalem.

parlent de statue de pierre auquel les dieux donnent la vie. Partout se retrouve la succession d’une technique humaine pour former l’enveloppe et d’une technique exclusivement divine pour en assurer l’animation. Partout ... sauf au Japon où de manière singulière aucun récit décrivant la confection des hommes par les dieux ne semble pas exister. Le monde est l’oeuvre d’Izanagi et de son épouse Izanami. Du haut du pont flottant du Ciel, le couple a engendré le cosmos et l’a peuplé de dieux. Les trois enfants d’Izanagi les plus importants sont Amaterasu, la déesse du Soleil, surgie de l’oeil gauche de son père, Susanowo, le dieu de l’Orage et Tsuki-yomi le dieu de lune. Un récit mythologique de la fin du VIIIe siècle, Le Kojiki, racontent leurs aventures en faisant remonter la lignée des empereurs japonais à la déesse du Soleil Amaterasu. Cette genèse prend la forme d’une « génération spontanée » et non pas d’un travail technique. Le cosmos, la Terre et les hommes sont engendrés et non pas construit. Il me semble que ce point est fondamental pour comprendre le regard porté par les Japonais sur les robots. De manière plus précise, la place réservée à l’artifice dans la mythologie japonaise peut sembler assez singulière pour un Occidental. Un des récits le plus connu du shintoïsme est l’épisode où Amaterasu offensée par les provocations de son frère Susanawo, décide de se retirer dans une caverne, plongeant du même coup le monde dans l’obscurité. Pour l’attirer au-dehors, les autres divinités organisent un subterfuge sous forme d’une série de danses et spectacles. Intriguée par l’agitation, la déesse du soleil se risque hors de la grotte. L’entrée de la caverne est alors bouchée, et la lumière de retour. C’est donc une simple représentation, une fausse fête, des rires et des chants simulés, une mascarade mise en place dans l’unique but de tromper la déesse qui ont sauvé la Création. Et tout le monde semble s’en réjouir. Dans la tradition shintoïste, l’artifice est licite, il peut même être salvateur. En Occident, le mythe technique de la création de l’homme conduit à une question naturelle: l’homme, que Dieu a créé « à son image » est-il capable d’atteindre un niveau de technicité qui lui permettrait de maîtriser à son tour ce savoir-faire divin ? La science du souffle est-elle du domaine du possible2 ? L’homme peut-il la découvrir de manière autonome ou faut-il qu’un Prométhée la lui donne en cadeau ?

2

Peter Sloterdijk, Bulles, Introduction, Pauvert, 2002.

La création divine et la création humaine en Occident.

Cette question semble hanter tous les récits de création de créatures artificielle. Dans son étude sur le sujet Philippe Breton3 montre qu’il y a, masqué derrière une diversité des styles et la cosmétique propre à chaque époque, une structure archétypale qui nous permet d’affirmer les différents textes, mythes, récits ou écrits scientifiques, sont en fait formées à partir d’un moule semblable. D’une certaine manière, ce n’est qu’une seule et même histoire qui nous est toujours racontée : La reproduction de la scène primitive au cours de laquelle Dieu modèle une forme puis, par son souffle, donne la vie à Adam. Dans tous les récits, il s’agit d’abord de prendre un matériau de base : ivoire, argile, bois magique, restes de cadavres, neurones artificiels. C’est le plus souvent un matériau noble, ou tout du moins remarquable. Commence alors la phase technique. Ce matériau, il faut le modeler, le sculpter, l’organiser avec les technologies les plus développées de son époque : marteau, céramique, mathématique, électricité ou informatique. L’ambition du créateur serait de toujours tenter la reproduction artificielle d’un certain trait qui ferait l’essence de l’homme. Mais cette “essence” peut changer avec les époques : la beauté pour les Grecs, le mouvement et la parole au siècle des lumières, l’intelligence pour les informaticiens, aujourd’hui peut-être l’émotion ou la conscience. Malgré tous ses efforts, le créateur ne parvient qu’à approcher son but, jamais à l’atteindre tout à fait. Il faut une intervention extérieure pour donner la touche finale : magie, intervention divine, heureux hasard. Autant de noms différents qui cachent le fait que l’homme si bon ingénieur soit-il ne maîtrise pas encore la technique divine de l’animation. Le fait que le créateur humain ne soit pas capable de maîtriser l’ensemble de la technique divine est précisement ce qui fait de la créature artificielle un être particulier. Dans les récits, deux cas peuvent se présenter. Si la créature est un objet manufacturé entièrement par des mains d’hommes, elle est nécessairement incomplète. Quelque chose la rend 3

Philippe Breton, A l’image de l’homme, Seuil, 1995.

différente, et cette différence sera cruciale pour l’évolution du récit. Si le créateur humain s’est fait aidé par une intervention magique ou divine, sa création n’est pas produite de manière naturelle ou strictement technique. Elle devient alors un être magique à son tour, bien différent de son créateur. Dans les deux cas, l’homme dans les mythes ou la science ne créé jamais une créature semblable à lui.

L’homme occidental est une machine plus “quelque chose” Romanciers et roboticiens, en construisant des scénarios technologiques ne nous parlent pas seulement des machines du futur. Ils décrivent par différence ce qui fait la spécificité de l’homme ou du vivant à leur époque. En effet, chacune de ces histoires nous dit que l’homme occidental se considère comme la machine la plus perfectionnée de son temps à laquelle il faudrait rajouter une autre chose, un delta. Ce delta est l’équivalent de la technique divine non maîtrisée. Nous ne voulons pas nous concevoir comme de simples machines, pourtant c’est grâce aux machines que nous arrivons mieux à cerner notre humanité. L’homme n’est pas une machine, c’est une machine plus « quelque chose ». Et c’est ce « quelque chose » qui le définit. Dès lors plus notre reflet artificiel est ressemblant, plus nous en savons sur nousmêmes et plus nous sommes vexés de nous voir ainsi représentés. Ce tête à tête dure déjà depuis longtemps. Rafraîchissons-nous la mémoire. L’histoire de la médecine peut se relire à la lumière d’une histoire de l’ingénierie. Les hommes n’ont pas attendu l’avènement de la chirurgie pour ouvrir le corps de leurs semblables. La curiosité a dû très tôt l’emporter. Mais que voit un homme lorsqu’il regarde à l’intérieur du corps d’un autre homme ? Dans les amas d’os et de viscères, il voit des machines, les machines de son époque. Les hommes ont pu regarder des centaines de fois ce muscle étrange qui bat sous la poitrine, mais ils n’ont pu comprendre le fonctionnement du coeur que quand, pour des raisons indépendantes, ils ont inventé la pompe. La pompe est une métaphore merveilleuse. Elle a rapidement envahi tous les champs de la connaissance. Descartes expliquait une grande partie du fonctionnement du corps humain par des mécanismes pneumatiques complexes. Notre intérieur était le siège d’intenses courants d’air, nos maladies des problèmes de plomberie. Mais la métaphore pneumatique avait ses limites. Plusieurs chercheurs remarquèrent l’existence d’un réseau de fibres qui semblaient jouer un rôle pour les commandes motrices. Il s’agissait des nerfs. Selon le modèle pneumatique, ces fibres devaient être creuses. De nouveaux outils optiques furent développés pour tenter d’apercevoir la cavité intérieure. Certains chercheurs prétendirent même avoir pu l’observer. Il fallut attendre les expériences Volta et Galvani et les premières caractérisations de phénomènes électriques pour comprendre comment les muscles pouvaient être contrôlés par un mécanisme autre que pneumatique. Une nouvelle machine avait fait son apparition, notre vision de nous-mêmes s’était à nouveau transformée. L’invention de l’ordinateur annonce une troisième révolution machinique. Quelques années plus tard à Cambridge,Watson et Crick “découvrent” que l’hérédité est codée sous la forme d’un programme génétique. Ce programme contient les informations qui permettent la construction du corps. Cette métaphore informatique domine encore aujourd’hui l’essentiel de la biologie moléculaire et de l’étude de l’embryogénèse. L’ordinateur a aussi transformé la manière de comprendre le fonctionnement de notre cerveau. De nouveaux modèles fleurissent où figurent des données qui entrent, d’autres qui sortent et des boites noires imbriquées. On parle d’intelligence modulaire. On décrit la mémoire comme une grande base de données. De longs articles comparent les capacités de stockage du cerveau avec celles de son homologue

artificiel. La métaphore file si bien qu’on finit par oublier que c’en est une. Demandez à un spécialiste du cerveau ou un biologiste moléculaire s’il realise qu’il voit la réalité biologique au travers d’un prisme développé par des ingénieurs : beaucoup ne comprendront pas ce que vous dites. Utiliser les modèles des machines que nous comprenons bien pour interpréter notre propre fonctionnement n’est pas en soi préjudiciable. C’est au contraire une méthode très efficace pour progresser dans la compréhension du vivant. Mais il est salutaire de ne pas oublier que nous ne faisons qu’appliquer une métaphore et lire des observations biologiques d’une certaine manière. Ce n’est pas le vivant qui est construit comme une machine. La machine est dans l’oeil de l’observateur.

L’homme occidental vexé par la machine Aujourd’hui plus que jamais, notre conception occidentale de l’homme est entièrement ancrée sur notre conception actuelle des performances et des limitations des machines. Nous nous observons dans le miroir des machines que nous savons construire et dans le reflet nous évaluons notre différence, ce delta encore inconnu. Dans ces conditions, chaque progrès de la machine pourrait être vu comme une chance, la promesse d’une meilleure compréhension de nous-mêmes. Or c’est loin d’être le cas. La nouvelle machine est synonyme d’une potentielle redéfinition de ce qui fait notre humanité, ce « quelque chose » que nous aurions tendance à croire éternel et définitif. A ce titre, elle inspire la méfiance. Ce genre de redéfinition se fait toujours à contrecœur. Nous touchons ici peut-être le point précis qui explique notre peur des robots et des nouvelles machines en général. Nous imaginons des factions de robots militaires qui prendraient le pouvoir sur la Terre, mais en fait ce que nous craignons vraiment c’est de voir notre définition de nous-mêmes changer à leur contact. Nous nous aimons tels que nous sommes. Nous ne voulons pas qu’une nouvelle machine nous force à remettre en question les fondements de ce que nous appelons la nature humaine. Et pour cela nous luttons. Nous luttons en utilisant un certain nombre d’arguments du type : les machines ne font que ce pourquoi elles sont programmées, elles ne « comprennent » pas ce qu’elles font ; nous avons des émotions, les machines ne font que les simuler. Une machine ne pourra jamais montrer de la créativité, elle ne fera que ce qu’on lui dit de faire. « Plus les objets deviennent doués d’autonomie grâce à des systèmes de rétroaction et d’apprentissage de plus en plus complexes, et plus il semble important de répéter qu’ils sont « prisonniers » de leur programme » résume Serge Tisseron4. Montrer qu’un programme peut lui-même évoluer, se développer sous des formes qui seront difficiles à prédire même pour celui qui l’a écrit initialement, tout cela relève pour la plupart des gens de la simple mascarade ou du delire de l’amateur de science-fiction. L’homme occidental est une créature qui se comprend elle-même à partir des objets qu’elle construit. En Occident, le robot n’est pas simplement blasphématoire : il est vexant. C’est parce que, contrairement à ce qui semble se passer au Japon, nous accordons une place cruciale à la technologie pour définir ce que nous sommes que chaque nouvelle créature artificielle est potentiellement dangereuse pour nous. 4

Serge Tisseron, Comment l’esprit vient aux objets, Aubier, 1999.

Au terme de cette courte analyse, nous arrivons donc à une sorte de paradoxe. Il semble en effet qu’une des raisons qui peut expliquer la facile acceptation des robots au Japon est le fait que la technologie semble finalement moins centrale pour un Japonais qu’elle ne l’est pour un Occidental. La nouvelle machine ne menace pas le Japonais dans sa spécificité. Il ne se définit pas par rapport à elle. Il ne se voit pas comme un robot. Analyser toute chose à partir des machines que l’on construit est un trait typiquement occidental. C’est peut-être aussi ce biais qui pousse parfois l’homme occidental à vouloir mécaniser l’homo japonicus, à en faire un homme sans volonté, vivant un vie réglée de manière automatique, à en faire finalement un robot. Il aimerait expliquer ainsi pourquoi ce peuple étrange semble vivre en harmonie avec les machines. Mais ce regard qu’il porte sur les Japonais trahit surtout sa propre tendance à vouloir mécaniser le réel, le fait qu’il se sert des machines comme miroir pour comprendre l’homme et le fait que souvent il n’aime les reflets que ces machines lui renvoient. Pour en savoir plus : Frédéric Kaplan, Who is afraid of the humanoid ? Investigating cultural differences in the acceptation of robots, Proceedings of Humanoids 2003 : IEEE-RAS International Conference on Humanoid Robots, 2003 Frédéric Kaplan. Artificial Attachment : Will a robot ever pass Ainsworth’s Strange Situation Test ?. In Hashimoto, S., editor, Proceedings of Humanoids 2001 : IEEE-RAS International Conference on Humanoid Robots, pages 125-132, 2001. Frédéric Kaplan. Un robot peut-il être notre ami ?. In Orlarey, Y., editor, L'Art, la pensée, les émotions, pages 99-106, 2001. Grame.

Frédéric Kaplan est chercheur en intelligence artificielle au Sony Computer Science Laboratory à Paris. Depuis plusieurs années, il développe de nouveaux prototypes de robots capables d’apprendre et d’évoluer pour tisser un lien social avec leur propriétaire. En parallèle des aspects purement techniques de sa recherche, il s’interroge sur les enjeux culturels soulevés par ces objets d’un genre nouveau. Il est l’auteur de «La naissance d’une langue chez les robots!» (Hermès 2001).