MEDECINE ET ROBOTIQUE

Les machines, peuvent-elles, un jour, prendre conscience? Le débat a été relancé par des chercheurs de l'université Columbia à New-York qui publient, dans le numéro de janvier 2019 de la revue Science Robotics, le compte-rendu d'une expérience spectaculaire. Ils ont fabriqué un bras robotisé qui s’est auto-programmé. Sans aucune notion préalable de géométrie ou de physique, le robot a appris seul à quoi il pouvait servir et a réussi à accomplir 2 tâches de préhension. Les auteurs pensent avoir acquis le premier pas vers la conscience des machines. Sans surprise, ils ont été intensément relayé sur les réseaux sociaux. Certains commentateurs ont manifesté leur inquiétude. Notre futur est-il menacé par une technologie émancipée qui absorberait progressivement la civilisation humaine jusqu'à l'asservir complètement?

Les chercheurs ont-ils vraiment ouvert le chemin vers des robots conscients?

Nous décrivons leur travail ci-dessous. Comme il est d'usage dans ce blog, la première partie de notre article est une description factuelle de la publication scientifique, simple résumé explicatif. La seconde partie est l'analyse de la rédaction de médecine-et-robotique.

Nous espérons que chacune et chacun d'entre vous trouvera matière à forger sa propre opinion sur ce sujet passionnant. 

 La consultation médicale robotisée. Illustration par Vanessa Guedj  http://vanessaguedj.com

POURQUOI CETTE ETUDE? QUELLES ETAIENT LES MOTIVATIONS DES CHERCHEURS?

Les chercheurs exposent le raisonnement sous-jacent à la conception de leur expérience. Leur objectif est de fabriquer un robot capable d’apprendre par lui-même, sans programmation explicite préalable. Ils partent de l’hypothèse que la première étape dans cette voie est d’obtenir un système capable de créer une image de lui-même, ce que l’on appelle une auto-modélisation (« self-modeling » en anglais). A partir de là, le robot pourrait apprendre en planifiant ses actions intérieurement. Ceci pourrait alors avantageusement remplacer les méthodes actuelles d’apprentissage robotique où chaque tâche fait l’objet d’un entraînement physique coûteux. 

Pour atteindre leur but, les chercheurs ont utilisé l’apprentissage machine (« machine learning » en anglais). L’apprentissage machine est utilisé en intelligence artificielle pour faire apprendre une tâche déterminée aux systèmes. Ceci correspond à ce qu’on nomme l’intelligence artificielle (IA) « étroite » (« narrow artificial intelligence en anglais). Mais l'IA étroite ne peut pas généraliser, et donc, ne peut pas apprendre des tâches nouvelles toute la vie.

Ce cadre général étant posé, les chercheurs définissent un concept qui va guider leur travail: créer un « moi » du robot et le séparer de la tâche proprement dite. Ainsi, chaque nouvelle expérience permettrait à la machine de redéfinir elle-même son modèle et d’apprendre en permanence. 

Ces concepts sont probablement abstraits pour nombre de lectrices et de lecteurs. Nous allons maintenant décrire l’expérience, ce qui devrait aider  à les comprendre. 

QUELLE A ETE L'EXPERIENCE REALISEE PAR LES CHERCHEURS?

Description du robot

Le robot étudié est très éloigné de l'humanoïde de l'illustration ci-dessus. L'humanoïde est probablement l'image qui nous arrive lorsque l'on évoque un robot conscient capable d'apprendre. En réalité, la recherche n'en est pas encore à ce stade. Le robot étudié par les chercheurs de Columbia est un bras robotisé avec 4 degrés de liberté, avec une pince à l'extrémité. Il peut réaliser un plan horizontal de 37 cm de diamètre et de 51 cm dans le plan vertical. La distance maximale entre 2 points atteignable est de 74 cm.  

 Principe de l’apprentissage et de la création du modèle de soi-même (self-modeling)

La première étape a consisté à faire réaliser au bras robotisé 1000 trajectoires aléatoires au cours de laquelle il a découvert par lui-même ce qu’il était capable de faire. Pour chaque trajectoire, le système informatique a enregistré 1000 couples de données que les chercheurs ont nommé paires d'action-sensation. L'action correspond à la commande motrice ( la commande qui déplace la position du bras robotisé). La sensation correspond aux coordonnées dans l'espace (la position du robot après l'action de la commande motrice). Ceci donne un schéma en 3 dimensions en forme de cloche. Le "modèle de soi-même" n'est donc pas une représentation physique réelle du bras robotisé mais un graphique qui représente toutes les positions possibles du bras robotisé dans l'espace. 

Vous pouvez visualiser à la fois le robot de l'expérience et le graphique du modèle dans les 40 premières secondes de la video ci-dessous. (Video en anglais mais le plus important est de voir les images)

Les tâches apprises par le robot

Pour pouvoir apprendre, le robot doit capter les relations entre les positions dans l'espace et les commandes motrices. Les méthodes actuelles d’apprentissage profond, une forme particulière d’apprentissage machine, permettent de réaliser le traitement informatique des données nécessaire à cet objectif.

Les chercheurs ont donc implémenté un algorithme de deep-learning pour entraîner l'auto-modèle à réaliser 2 tâches, l'une de ramassage/placement, la seconde d'écriture à la main. Les 2 tâches peuvent être visionnée sur la video. 

Dans le premier exercice, il fallait saisir des billes de 20 mm de diamètre, 9 au total et les placer dans un verre. Le taux de réussite du ramassage a été de 44%, celui du dépôt dans le verre de 100%. Le deuxième exercice était une tâche d’écriture à la main. 

Enfin, les chercheurs ont réalisé une troisième expérience pour laquelle un élément du robot a été remplacée par un morceau plus long et déformé, l'idée étant de simuler une partie accidentée. Le robot a réussi à détecter la partie modifiée et s’est reprogrammé tout seul. La reprogrammation a demandé seulement 10% de données en plus. Le bras « accidenté » a ensuite été capable de réaliser la tâche de ramassage/placement avec seulement une petite perte de performance.

La conclusion des chercheurs

Pour les chercheurs, la réalisation de représentations de soi-même sera essentielle pour que les robots franchissent les limites de l’IA restreinte ( effectuer un petit nombre de tâches précises) et parviennent à l’IA générale (posséder des capacités cognitives comparables à celles du cerveau humain). Selon leur opinion, la séparation du « soi » et de la tâche, qu’ils ont essayé de reproduire dans leur expérience est, dans l’évolution de l’espèce humaine,  à l’origine de la conscience.

COMMENTAIRE DE LA REDACTION DE MEDECINE ET ROBOTIQUE

Les chercheurs new-yorkais ont présenté leur travail comme la réussite d’un robot qui a appris seul, parti de zéro, sans aucune notion de physique ou de géométrie. La nouvelle a été largement diffusée et commentée sur les réseaux sociaux. A leur suite, de nombreux commentateurs y ont vu l’apparition de la conscience des machines. 

Qu'en est-il réellement? 

Notre première interrogation porte sur le point de départ de l'apprentissage. Peut-on affirmer, comme le font les chercheurs, que le robot apprend à partir de zéro? Certes, aucun logiciel de physique ni de géométrie n’a été implémenté mais le bras robotisé n’est pas un objet inerte. L'apprentissage s'est fait par, et au moyen d'un système informatique auquel on a ajouté des algorithmes de deep learning.  L’informatique a été un élément essentiel de cette expérience et en a été le point de départ.

Ecrire que le robot a appris de zéro, c'est oublier un peu vite l’informatique. Les algorithmes d'apprentissage profond sont en effet des outils élaborés. En amont de leur expérience, les chercheurs ont réalisé une programmation informatique complexe pour orienter les algorithmes vers les tâches à accomplir. Elle ne représente certainement pas zéro et il est tout à fait regrettable qu'elle soit ainsi occultée dans la discussion des auteurs.

Cette expérience constitue une indéniable avancée technique mais il nous semble que le seul résultat scientifique qui puisse être retenu est le rôle efficace que peut jouer l'intelligence artificielle, l'apprentissage profond en particulier, dans l'élaboration de nouveaux robots.

Si la prouesse technique est indéniable, il ne faut pas extrapoler. Les chercheurs s'aventurent dans le champs des neurosciences et font de surprenantes comparaisons avec la biologie du cerveau. Ils sous-entendent que leurs algorithmes d'apprentissage ont donné au robot un « soi », détaché de l’action. Ils reprennent l'une des hypothèses en cours en sciences psychologiques pour affirmer que cette dissociation entre le "soi", capable de former une image de soi-même, et l'action est à l'origine de l'apparition de la conscience chez les humains. En réalité, nous ignorons totalement comment la conscience est arrivée aux   êtres vivants. Neuroscientifiques et anthropologues ont formulé de nombreuses hypothèses, toutes dignes d’intérêt, mais, à ce stade de nos connaissance scientifiques, aucune conclusion ne peut être avancée. Dès lors, comment affirmer avoir reproduit une entité dont on ignore presque tout?

Chacun appréciera la conclusion des chercheurs selon ses opinions et sa sensibilité personnelles. Pour notre part, nous estimons que les algorithmes d'apprentissage profond introduits dans ce bras robotisé ne forment pas un esprit conscient. Il ne sont rien d'autre que des composants techniques, tout à fait humains, issus des sciences et des techniques du XXIe siècle. Le robot des chercheurs de Columbia n’a rien imaginé et n’a pas pris conscience de lui-même. Il n’a pas de « soi », terme que nous continuerons à réserver à la psychologie humaine et animale. Attribuer des capacités cérébrales à ce bras robotisé est un anthropomorphisme.

 Lien vers la publication de Science Robotics que nous avons commentée

https://robotics.sciencemag.org/content/4/26/eaau9354/tab-figures-data

Video de présentation de la publication de Science Robotics (en anglais)

POUR EN SAVOIR PLUS

Sur l'apprentissage machine

LEXIQUE DE L'IA EN SANTE : QU'EST-CE QUE L'APPRENTISSAGE MACHINE?

Sur l'apprentissage profond (deep learning)

LEXIQUE DE L'IA EN SANTE: QU'EST-CE QUE LE DEEP LEARNING ?