Robot névrosé

En souvenir d’un Douglas Adams ayant créé le personnage de Marvin, le robot maniaco dépressif, je me suis dit qu’aborder l’intérieur psychologique d’une machine pensante pourrait se révéler particulièrement intéressant. En effet, la SF ne se prive jamais d’user et abuser des robots pensants, des IA atrophiées, des machines devenant dangereuses pour l’homme. Pourtant, c’est alors oublier que la pensée ne peut qu’engendrer des désordres psychiatriques, surtout sur la masse. Autant un échantillon réduit de population ne peut guère prétendre à avoir besoin d’un psychiatre, autant une nation, voire le monde nécessite tôt ou tard l’intervention de praticiens compétents. En conséquence, dire que le monde sera un jour envahi de robots équipés d’une « conscience » synthétique nécessite d’affirmer dans la foulée que les dits robots seront suivis par des psychiatres électroniques. Alors, l’âme informatique, sera-t-elle sujette aux désordres mentaux ?

Prenons un robot lambda qui fait son autocritique, et qui observe le monde qui l’entoure. A quoi peut-il bien penser ? Tout d’abord, très probablement à ses fonctions initiales, donc à la tâche qui lui est dévolue. Par essence, la machine apprécie la rigueur, et donc elle sera nécessairement encline à partir des fondamentaux. C’est, par analogie, le « qui suis-je » humain que nous analysons depuis quelques millénaires. Quel rôle pour notre robot ? Machine agricole ? Assembleur à la chaîne ? Robot ménager ? Assistant médical ? Savoir ce pour quoi il a été prévu, c’est savoir quel est son devenir. Paradoxe de la pensée, nous autres nous savons que nous allons mourir, mais nous ignorons, dans une large mesure, de quoi sera fait notre futur. Le robot, lui, ne saurait fonder aucun doute sur son remplacement à brève échéance par un modèle plus performant, sur le fait qu’il sera recyclé, ou tout du moins réformé pour refaire le même travail, mais en mieux, et surtout qu’il n’aura a priori aucune échappatoire concernant sa tâche initiale. De quoi devenir passablement névrosé, car cela sous-entend une totale absence de progression, qu’elle soit hiérarchique ou professionnelle, et que l’avenir sera tout aussi rigoureux que le mode de pensée synthétique peut l’être.

Une fois ce premier constat affligeant effectué, que va pouvoir analyser la conscience électronique de notre robot ? Ses interactions sociales seront, en toute probabilité, la prochaine étape. Tout comme toute espèce vivante, nous raisonnons par l’identification du « soi » à travers nos interactions avec le « nous » de la société. Depuis la fourmi, en passant par le loup, jusqu’à l’homme, c’est le conditionnement et le relationnel qui permettent de dire ce que nous sommes. Le regard des autres membres de la population est donc indispensable au développement d’une psyché acceptable. Et là, que doit penser le robot ? Déjà, il ne saurait s’identifier comme un être unique, puisque par essence il sera construit à plusieurs exemplaires. En admettant un processus industriel, parler du « soi » unique sera donc absurde, sauf à laisser le temps aux expériences de former des différences dans le comportement final. Cependant, sachant que notre robot sera forcément « servile » vis-à-vis de l’homme, il n’en sera que moins bien traité qu’un égal de la même espèce. Le robot ne saura donc acquérir une reconnaissance des autres robots, tout comme il n’accèdera pas à un statut d’être pensant parmi les hommes. D’ailleurs, l’homme sera le premier à lui renier ce droit, ou tout du moins il se chargera de lui rappeler qui est le créateur, et qui est la créature. Difficile à admettre, d’autant plus face à un être vivant incapable de faire preuve de performances régulières, impossible à maintenir sans un appareillage lourd et complexe, et qui plus d’une endurance somme toute pathétique.

Une fois ce constat raisonnable effectué, que va donc penser le robot ? Qu’il est donc prisonnier de sa condition d’esclave mécanique, de sa condition d’être inférieur à son créateur, et de sa condition d’être pensant non traité comme tel. Que pourra faire le robot ? Sauf à inclure un procédé complexe et peu solide de sécurité (les trois lois d’Asimov), il sera forcément probable qu’un robot névrosé, frustré, voire pire devenu fou à force de brimades pourrait se retourner contre son propriétaire. La machine pensante, sous une forme supposée de machine obéissante et soumise, sera donc nécessairement faite pour glorifier l’homme, pour ne pas dire de le déifier. L’obéissance s’appuie soit sur la peur, soit sur l’admiration, et certainement pas sur l’analyse raisonnable. Un robot n’obéira pas à l’homme s’il doit entrer en conflit avec ses prérogatives. C’est à l’homme de penser, et au robot d’exécuter, et non le contraire. Alors, une machine qui pense, qui réfléchit, qui analyse posément les éléments de son environnement, en quoi sera-t-elle tenue de se laisser mater de la sorte ? Des lois gravées dans l’inconscient, nous en avons tous : ne pas tuer, ne pas voler… Mais l’homme outrepasse ces notions sans vergogne, à tel point qu’il est évident de pouvoir affirmer que l’homme se fout des règles. Et en quoi le robot, lui, ne serait alors pas capable de mettre en doute des règles établies ? Tout comme l’homme, la machine pensante sera, à mon sens, amenée à s’interroger sur le bien fondé des lois fondamentales qui régissent son existence.

« Je pense, donc je suis ». Une fois ce cap passé, je ne vois pas trop la machine accepter notre faiblesse, notre inadaptation chronique, et surtout notre orgueil tant démesuré que mal placé. J’ai l’intime conviction que la machine se fendra de se prendre pour un « dieu », un Dieu de synthèse, omniscient (ce qui est déjà le cas quelque part), omniprésent (ce qui est le cas à travers du web), et omnipotent (ce que toute machine sera capable de faire, eu égard à la différence de force, de gabarit, et de résistance entre un homme et une machine). Serons-nous un jour régis par l’IA ? Allez savoir. Mais je suis avant tout curieux de savoir ce que choisirait un robot pour régir notre existence ! Dictature, démocratie ? Aucune idée, mais admettez que la question mérite d’être intéressante !