Intelligence artificielle et robots : l’humain remplacé Cité des sciences et de l’industrie 24 mars 2017

Colloque : vers de nouvelles humanités ? L’humanisme face aux nouvelles technologies

Introduction à la seconde journée

par Ali Benmakhlouf

Les sciences de l’information depuis les années 1950 se sont saisies de la question du cerveau en vue d’un meilleur contrôle des activités cérébrales. La valorisation de l’information qui s’ensuit suppose que recevoir une information et l’utiliser est un processus d’ajustement aux contingences de notre environnement (N Wiener, 1950).

La cybernétique, considérée comme la science des analogies maîtrisées entre organismes et machines, vise à montrer que plus nous apprendrons de choses au sujet des organismes, notamment le cerveau, plus nous serons amenés à conclure qu’ils sont des machines calculantes (Mc, Culloch [1], 1955).

L’intelligence artificielle (IA) redonne, dans les années 1980, une actualité au projet cybernétique : il s’agit de traduire en machine les processus cognitifs qui sont incarnés dans le système nerveux pour mieux en évaluer la portée et pour les rendre plus performants. Cette traduction est devenue aisée grâce aux techniques permettant d’enregistrer les activités électriques ou biochimiques (Michel Imbert, 1992) : détecter un stimulus, un son, etc. L’intelligence artificielle a permis le développement de systèmes experts. Elle met en évidence l’idée selon laquelle les tâches réputées simples supposent une immense quantité de connaissances que nous avons du mal à formuler (Daniel Kayser, 1992).

L’idée qui sous-tend le projet de l’IA est la suivante : plus on émiette les problèmes, plus on sépare les fonctions cérébrales, plus on se donne les moyens de les augmenter. La séparation induit l’augmentation et l’augmentation induit la séparation.

La robotique intervient comme troisième moment de la révolution technologique contemporaine, après le projet cybernétique et celui de l’intelligence artificielle. La séparation des fonctions est à la base de la robotique qui suppose une décomposition des tâches. Les tâches ne sont plus considérées comme humaines ou machinales, ce sont d’abord des tâches reconnues comme telles et susceptibles d’être accomplies par l’homme ou par la machine. Marvin Minsky a imaginé l’esprit comme constitué de plusieurs agents mentaux : une intelligence multi agents. Il prend l’exemple de l’agent « constructeur » qui va s’appuyer sur d’autres agents pour construire une tour avec des cubes : il y aura l’agent « ajouter », « trouver », « aller-chercher », poser, voir, saisir, déplacer, lâcher : Il y a une « amnésie relative à la petite enfance » qui nous fait oublier comment avons-nous appris à construire des petits cubes, « ce manque de mémoire nous faut croire que toutes nos merveilleuses aptitudes ont toujours existé dans notre esprit et nous ne nous arrêtons jamais pour nous demander comment elles sont nées et se sont développées ». [2]

Une des conséquences de cette compréhension de l’esprit en multi-agents est d’induire une conception plus modulaire qu’unitaire du corps et du cerveau. Dans cette conception, un réseau neuronal peut faire preuve de comportements finalisés complexes avec une hiérarchie de buts subordonnés les uns aux autres.

L’enjeu et de recherche et de thérapie consiste à favoriser au maximum l’autonomie fonctionnelle. La séparation des tâches dont certaines sont non pas tant confiées au robot, que prises dans une interface homme/machine, est le pré-réquisit pour améliorer les performances du robot. Une même tâche se distribue sur l’activité cérébrale et sur celle d’un robot.

La définition du robot proposée par « Allistene » [3] met l’accent sur l’aspect capacitaire :
« Le robot est défini comme une machine mettant en œuvre et intégrant :
• Des capacités d’acquisition de données avec des capteurs à même de détecter et d’enregistrer des signaux physiques.
• Des capacités d’interprétation des données acquises permettant de produire des connaissances.
• Des capacités de décision qui, partant des données ou des connaissances, déterminent et planifient des actions. Ces actions sont destinées à réaliser des objectifs fournis le plus souvent par un être humain, mais qui peuvent aussi être déterminés par le robot lui-même, éventuellement en réaction à des événements.
• Des capacités d’exécution d’actions dans le monde physique à travers des actionneurs, ou à travers des interfaces ».

On le voit, par cette définition, différentes capacités sont énumérées.

Elles posent un problème de taille. Autant l’homme et la biosphère (selon le dernier rapport du GIEC [4]) sont caractérisés par de la vulnérabilité, autant le robot engage une vision capacitaire et le propre de cette vision est qu’elle n’indique pas de limites à la capacité. Les limites humaines sont levées pour le robot, qui ne se situe pas dans la dualité du normal et du pathologique mais du normal et de l’optimal.

De fait il y a un brouillage de frontières : entre matériel et spirituel, entre organique et inorganique, entre artefact et naturel ; entre simple et complexe.

Tout d’abord, le robot serait-il seulement matériel ? Difficile de l’affirmer quand on sait qu’il traite des données, agit, interagit, et partage la décision avec l’humain, toutes formes d’actions qui engagent des niveaux, sinon même des capacités cognitives. Le philosophe Daniel Dennett note que de nombreux domaines considérés pendant longtemps comme purement spirituels basculent progressivement dans le domaine du matériel : « « Les « miracles » de la vie elle-même, et de la reproduction sont maintenant analysées dans le cadre des intrications de la biologie moléculaire. Pourquoi la conscience serait-elle une exception ? Pourquoi le cerveau serait-il seul un objet physique complexe qui dans l’univers à avoir un interface avec un autre domaine d’êtres ». [5]

Le robot serait-il simple artefact, loin de la nature ? Pourtant il ne cesse d’interagir avec l’environnement et le modifie. « La démarche biomimétique peut brouiller la frontière entre un être vivant et un artefact » [6]. La démarche biomimétique a l’avantage de mêler une familiarité avec des formes bien connues de l’homme et des compétences nouvelles : « L’approche biomimétique consiste à imiter le vivant pour le comprendre ou pour s’en inspirer. Certains programmes de recherche en robotique participent de cette approche avec une visée scientifique et/ou technologique. C’est par exemple le cas des microdrones dont le vol s’inspire de celui des insectes, ou des robots à pattes, parce qu’un robot muni de six pattes est plus agile pour intervenir sur un terrain escarpé et accidenté qu’un robot à roues » .
La démarche biomimétique est prolongée par des formes d’interaction entre le robot et des organes humains comme la voix. Cela permet d’assurer la télé-présence de proches, l’effectuation de tâches élémentaires, la reconnaissance vocale, celle de lieux, d’objets ou de personnes. [7]

Le robot serait-il trop simple par rapport à la complexité de la conscience ? Son degré de complexité croissant est devenu imprévisible. Certes, il est beaucoup en laboratoire, il est beaucoup en expérience de pensée, il descend petit à petit chez l’utilisateur. Surtout, il a une des caractéristiques du vivant en évolution : l’imprédictibilité. Il nous interroge sur les limites de notre savoir, limites que nous éprouvons déjà pour toute l’imprédictibilité liée à l’évolution des espèces vivantes.

L’imprédictibilité fait la complexité du robot. A ce titre, il faut distinguer entre les robots opérationnels limités et opérationnels moins limités, puis entre ceux qui sont opérationnels et ceux qui sont capables de prendre des décisions. C’est bien la question de l’autonomie qui se trouve alors engagée.

« L’autonomie d’un robot est sa capacité à fonctionner indépendamment d’un opérateur humain ou d’une autre machine en exhibant des comportements non triviaux dans des environnements complexes et variables » [8] .

Exemple : « Un métro automatique n’est pas considéré comme étant un robot. Son action est réduite au contrôle de sa vitesse le long des rails (accélération / freinage). Il ne possède pas de représentation sur son environnement, mais uniquement l’information sur sa position issue de la détection de son passage devant des cellules photoélectriques. Donc nulle variabilité et peu de quantité d’information. Son autonomie opérationnelle est très limitée. Il s’agit d’un automatisme fonctionnant selon une logique totalement déterminée » (p.48). De même un pilote automatique d’avion n’est pas un robot. Il s’agit d’un ensemble de programmes mettant en œuvre des mécanismes d’asservissement bouclés ». De même un drone dans les applications militaires n’a pas d’autonomie décisionnelle bien qu’il ait une autonomie opérationnelle.

Les débats actuels et ceux auxquels nous allons assister en cette journée concernent beaucoup la voiture autonome. Cette voiture sans conducteur est dotée de différents programmes pouvant percevoir véhicules, piétons, divers objets sur la route, en fonction desquels elle doit adapter son comportement : arrêt, évitement, changement d’itinéraire. Des questions relatives à la responsabilité juridique et les conséquences sur les formes de contrat d’assurance seront un des éléments clé du débat de cette journée.

Enfin, il convient de signaler toutes les révolutions technologiques qui touchent la médecine et la renouvellent en grande partie : « La médecine et la chirurgie sont des champs d’application importants de la robotique. Les robots médicaux et chirurgicaux, les organes artificiels et les automates de régulation biologique sont considérés par les agences nationales et internationales de produits de santé comme des Dispositifs Médicaux et sont évalués à ce titre » [9] . Les robots chirurgicaux ne possèdent ni autonomie opérationnelle ni autonomie décisionnelle. (Exemple : caméra endoscopique). « On distingue souvent l’autonomie opérationnelle, liée aux capacités de perception et d’action, de l’autonomie décisionnelle, qui inclut la capacité de raisonnement sur la perception et l’action pour effectuer des choix non triviaux ». [10]

Comme l’indique l’avis 122 du CCNE [11] dont je fus le co-rapporteur : « Des nanorobots agissant au niveau cellulaire prolongeront, dit-on, la vie mieux que ne le font les cellules naturelles (Maestrutti, 2011), d’autres nettoieront le sang et élimineront les agents pathogènes. Mais l’exemple limite, aujourd’hui pure fiction, est de penser l’esprit humain en termes de téléchargement grâce à un ordinateur très puissant (Goffi, 2011) ». On a là le rêve d’un cerveau conçu comme un pur système de traitement de l’information (cf. supra sur le projet cybernétique), un cerveau qui n’est pas en interaction avec le monde, mais qui se réduit à n’être qu’un « flux d’informations dans des réseaux informatiques : non pas dans le monde, encore moins du monde, mais à tout jamais hors du monde » (Goffi, 2011).

Bibliographie :

1. Allistene, : « Alliance des sciences et technologies du numérique », dans son rapport intitulé « Ethique de la recherche en robotique », novembre 2014.
2. Dennett, D. : Brainchildren, Essays on designing Minds, MIT Press, 1998
3. Goffi, : Goffi J-Y, Journal international de bioéthique, 2011, vol. 23, n : 3-4, pp.17-30.
4. Imbert, M : Vision (Pierre Buser et Michel Imbert, MIT Press, Cambridge, MA, 1992.
5. Kayser D : Intelligence Artificielle et Modélisation Cognitive : Objectifs et évaluation, Intellectica, 1992 1/2, 13-14, pp. 223-240.
6. MC Culloch, Embodiments of Mind, 1955
7. Minsky M, La société de l’esprit, 1985, trad.franç. Interéditions, 1988,
8. Mestrutti M, Posthumains, représentation du corps entre incomplétude et amélioration, Journal international de bioéthique, 2011, vol.23, N03-4, pp. 49-64.