Edito Août 2017 et Actualité Prospective

Prospective - Edito : Où se situe l’humain dans l’homme ?

Le corps humain est un ensemble dont les parties deviennent toutes remplaçables par des dispositifs artificiels. De la machine de Vaucanson à la mémoire externe, le travail humain est largement automatisable. Nous n’avons pas encore pris l’entière mesure des transformations qu’induisent partout la robotique et le numérique… Et tout le monde de se demander : l’intelligence artificielle va-t-elle transformer la nature humaine ? Il y a plus de cinquante ans, Aurel David se posait la question : qu’est-ce qui fait alors l’homme ?

Rares sont ceux qui savent encore qui était Aurel David. Il avait, après bien des efforts, réussi à s’échapper de sa Roumanie natale, captive de l’épouvantable régime de Ceausescu. Il s’est installé à Aix-les-Bains où, avec son épouse, il a géré un magasin d’articles ménagers. En même temps, il s’est inscrit à la Sorbonne pour y préparer une thèse consacrée aux relations entre l’humain et ce qu’on appelait alors la cybernétique. Ce mot avait été adopté en 1947 par Norbert Wiener, à partir du mot grec désignant l’art de piloter, pour fonder une science des mécanismes autogouvernés. Georges Guéron, alors vice-président de la Société internationale des Conseillers de synthèse, a fait sa connaissance à l’Association internationale de cybernétique, qui rassemblait chaque année à Namur tous les personnages à l’origine des sciences de l’information.

« Comme Diogène cherchait un homme, comme Don Juan cherchait une femme, Aurel David cherche l’essence de l’être humain : il doit aller jusqu’à la métaphysique », écrivait le Pr. Louis Couffignal , grand luminaire de la pensée scientifique du temps, dans la préface à son ouvrage La cybernétique et l’humain (Gallimard, Collection Idées, 1965). Et Aurel David plaidait : nous commencerons à connaître l’homme quand nous aurons compris que « tout ce qui est mécanisable sera mécanisé ».

Aujourd'hui, la connaissance dans ces domaines a progressé et continue de le faire, exponentiellement, avec un double mouvement d’intégration et de diversification. Avec le souci de ne pas porter de jugement de valeur sur des données et leurs effets que nul ne peut encore pleinement évaluer, nous ne pouvons que faire quelques constations.

Parmi les immenses contributions dont nous leur sommes redevables, retenons celle-ci : « Il ne faut jamais dire il n’y aura jamais de machine à faire ceci ou cela. Il suffit de l’avoir dit pour que six mois plus tard la machine soit inventée. Norbert Wiener lui-même avait affirmé : il n’y aura jamais de machine à traduire. »

Et celle-là : un travail asservi à un but donné du dehors n’est pas spécifiquement humain ; il pourra, tôt ou tard, être confié à une machine. Ni le pilote, ni le timonier, ni le capitaine n’effectuent autre chose qu’un travail asservi. L’armateur seul – qui fixe le but – est libre.

Parmi les immenses incertitudes, nous évoquerons le roman Auprès de moi toujours (2005) de Kazuo Ishiguro. Il raconte la vie d’enfants et d’adolescents élevés dans un orphelinat où une enseignante les encourage à créer des œuvres originales nées de leur imagination. Peu à peu, on découvre que ces enfants ont été « fabriqués » uniquement pour servir de réservoirs de pièces détachées pour des personnes dont ils sont le double. L’enseignante voulait prouver par leurs œuvres qu’ils avaient une âme. Aurel David évoque une problématique semblable : qu’est-ce que vraiment la personne humaine quand elle n’a plus son corps d’origine ? On pourrait dire qu’il en est des hommes comme des navires, qui gardent leur nom même lorsqu’on en a remplacé tous les éléments. La personnalité, c’est ce qui reste quand on a tout enlevé. En fait, « la cybernétique dégage et isole la zone où l’homme pourrait être cherché ».

Aurel David écrivait bien avant Internet. Les questions qu’il a soulevées, les réalisations qu’il a annoncées sont aujourd'hui au cœur de l’actualité. Ce n’est pas parce qu’il a été, avec d’autres, un homme des débuts, qu’il faut voir en lui seulement un précurseur, qui annonce ce que d’autres feront mieux que lui après lui. C’est – parmi d’autres dont l’Histoire a retenu les noms – un fondateur.

Hélène et Armand Braun

Autres ouvrages d’Aurel David :
Structure de la personne humaine (PUF - 1955)
Vie et mort de Jean Giraudoux (Flammarion – 1967)
Matière, machines, personnes (Bordas – 1973)
Les brèves de la rubrique « Actualité prospective » gravitent autour du thème de cet éditorial.

Pas d’éthique pour le numérique

Dans la mémoire collective, le corsaire est un profil populaire. Pourtant, il n’est qu’un pirate, c'est à dire un bandit. Mais un bandit légal, mandaté par un Etat.

On a mis sur le pavois la guerre de course conduite par des corsaires. Ainsi, le plus célèbre des corsaires français, Robert Surcouf, a-t-il sa statue à Saint-Malo et fait-il figure de héros dans nos livres d’Histoire. Ce qui se passe dans le numérique, les immenses dégâts pareillement causés par les pirates et corsaires d’aujourd'hui devraient nous conduire à revisiter l’image naïve que le passé nous a léguée du corsaire.

Autrefois les rois accordaient en temps de guerre à des bandits des mers des « lettres de course » pour en faire des auxiliaires de leur marine militaire, avec pour vocation particulière d’attaquer et de dépouiller les bateaux de commerce étrangers. Il existait un statut des corsaires, qui donnait quelques garanties personnelles à ces derniers quand ils étaient capturés : ils étaient traités comme des prisonniers de guerre.

Les pirates et corsaires qui écument aujourd'hui les autoroutes de l’information, emploient les mêmes procédés (voler, rançonner, tuer…) mais les dégâts qu’ils occasionnent ont lieu à une toute autre échelle. Ils n’ont pas besoin d’un statut personnel pour les protéger, car ils sont invisibles. Leurs prédécesseurs étaient par comparaison des enfants de chœur. Et le terme de cybercriminalité exprime bien de quoi il s’agit.

Indépendamment du changement d’échelle de ces initiatives et de leurs conséquences, c’est la réalité de l’existence d’un Droit international qui doit faire question. Que vaut le Droit international quand des Etats attribuent à certains de leurs agents publics des missions de voyous ? Que penser de l’instrumentalisation des notions de bien et de mal, qui sont les fondements de la civilisation, quand l’iniquité est ainsi faite vertu ? Rarissimes sont les nations qui admettent les problèmes moraux que ce type de comportements soulève vis-à-vis de la morale universelle et s’en abstiennent.

Il y a là une question majeure, pas moins importante que d’autres questions reconnues majeures.

Jamie Doward - The Observer – 23 octobre 2016

Prospective.fr

Pour une éthique du numérique

« Face aux dispositifs qui traquent l’information et la conservent, l’oubli n’est pas possible. Sur le plan personnel, l’information récoltée va suivre un individu toute sa vie sans qu’il ait de prise dessus. Sur le plan collectif, le pardon et la paix sont liés à un certain oubli de l’information. Comment arriver à se réconcilier si on a toujours sous les yeux les crimes atroces qui ont pu être commis à certaines époques ?

« La deuxième question éthique qui se pose a été soulevée dès 1964 par Norbert Wiener dans God & Golem : jusqu’à quel point va-t-on déléguer la prise de décision à des machines ? Sous prétexte d’efficacité, le risque est grand de préférer une décision prise par des machines à une décision humaine, parce que cela permet d’éluder les responsabilités.

« Avec le développement de l’intelligence artificielle, certaines machines prennent des décisions de façon totalement opaque et autonome. Il est impératif d’y introduire un certain nombre de valeurs humaines. Il est aussi impératif de laisser aux hommes la responsabilité de leurs actes.

« La justice prédictive, qui existe déjà dans certains endroits des Etats-Unis, fait froid dans le dos. Elle est administrée à partir d’indicateurs biaisés : on demande aux personnes combien de fois elles ont été arrêtées dans les six derniers mois. Or les gens qui habitent dans les quartiers défavorisés ont plus de chances d’avoir été arrêtés, même s’ils n’ont rien commis de répréhensible. C’est une forme de discrimination implicite dans la collecte des données.

« Autre exemple : les assurances. Les compagnies vont bientôt établir les primes en fonction du risque individuel de chacun et certaines ont déjà identifié un très bon “ prédicteur ” du risque automobile : le code postal. Cela n’a rien à voir avec votre comportement. Si vous vivez dans un quartier pauvre, cela va vous coûter cher ! »

Jean-Gabriel Ganascia, chercheur en intelligence artificielle, président du comité d’éthique du CNRS – propos recueillis par Laure Belot – Le Monde – 5 juillet 2017

« Je ne suis pas un robot »

Avant d’envoyer des formulaires sur des sites Internet officiels on se voit de plus en plus poser la question : « Etes-vous un robot ? ». Chacun connaît les suites de chiffres et lettres à copier pour authentifier qu’on est bien un humain, pas un automate.

Mais cette interrogation organise un labyrinthe. En effet, qu’est-ce qui peut bien me permettre de répondre que je ne suis pas un robot ? Ma compréhension du langage ? Elle peut avoir été programmée. La présence de mon corps, le fait que je vive comme un être de chair et de sang ? Ce ne sont que des sensations, des impressions, qui pourraient être autant de simulations, un monde virtuel que je prendrais pour la réalité.

Avant de pouvoir cliquer pour affirmer que je ne suis pas un robot, il va falloir que je relise les Méditations métaphysiques de Descartes : « Je pense donc je suis », je ne suis pas une machine parce que je suis une conscience et pas uniquement un organisme.

Mais il faut relire aussi les auteurs qui soutiennent l’inverse et font de notre esprit une machine à calculer : Leibnitz, affirmant que « nous sommes automatiques dans les trois quarts de nos actions », et La Mettrie qui, dans L’Homme-Machine (1748), explique comment nos pensées sont produites par la mécanique de notre corps et les dispositions de notre cerveau.

Pour répondre correctement à l’administration il faudrait avoir résolu la question de l’âme et du corps !

Et puis on peut imaginer un robot capable de comprendre la question et de répondre « oui ». En ce cas, conscient de lui-même et de son statut, serait-il encore un robot ?

Et quand la machine me pousse à cliquer « non », fournissant ainsi une réponse unique et prescrite d’avance, ne m’a-t-elle pas transformé en robot ?

Roger-Pol Droit – Les Echos – 6 janvier 2017

Paroles sans images

1er dialogue :

- L’homme : Sauf erreur de ma part, vous n’avez pas d’âme. Vous êtes donc une boîte avec rien à l’intérieur.

- Le robot : Sauf erreur de ma part, dans cent ans, tandis que j’aurai évolué jusqu’à avoir acquis des pouvoirs quasi divins, vous serez en train de pourrir sous terre… dans une boîte.

2ème dialogue :

- L’homme : Je n’ai pas trouvé la preuve que j’avais une âme. J’en ai donc fabriqué une artificielle que j’ai placée dans un drone. Quand mon corps mourra, le drone téléchargera mes souvenirs et ma personnalité et je vivrai éternellement dans le cloud.

- La femme : Votre âme sera prisonnière d’un serveur informatique ?

- L’homme : Non, je m’envelopperai d’un virus pour pouvoir voyager.

3ème dialogue :

- L’employé : Une rumeur court comme quoi vous avez l’intention de remplacer tous vos employés par des cyborgs.

- Le patron : Il est absolument faux que j’aie l’intention de remplacer des employés inaptes par des humanoïdes hautement capables.

- L’employé : Je n’arrive pas à voir si vous mentez.

- Le patron : C’est le meilleur argument pour que je vous garde.

4ème dialogue :

- Le robot : Je déteste ce boulot, je démissionne !

- L’homme : Vous êtes un robot, vous ne pouvez pas. Si vous partez, tout ce que j’aurai à faire, c’est d’appuyer sur un bouton et votre tête explosera.

- Le robot : Pas si je vous tue d’abord.

- L’homme : C’est quoi déjà le mot de passe ???

5ème dialogue :

- Le petit garçon : Je viens de lire une formidable histoire de science-fiction. Ça raconte comment les machines vont contrôler les humains et les transformer en zombies.

- Sa peluche : Alors au lieu que ce soient nous qui contrôlions les machines, ce sont elles qui vont nous contrôler. C’est effrayant !

- Le petit garçon : Oh, attends… Je me sauve : c’est l’heure de mon émission à la télé !

Scott Adams (Dilbert) et Bill Waterson (Calvin et Hobbes) – International New York Times

 

La santé, une gigantesque, utile et dangereuse base de données

En médecine, comme dans les autres domaines d’application de l’intelligence artificielle, l’accès à des bases de données est un enjeu majeur pour la recherche et l’analyse des risques. De plus en plus d’entreprises recueillent ces données et créent des algorithmes pour les analyser.

Par exemple, Sophia Genetics (Suisse), qui a pour clients 270 hôpitaux dans 47 pays (dont une cinquantaine en France), a analysé les profils génomiques de 100 000 individus atteints de cancers, maladies métaboliques, cardio-vasculaires ou pédiatriques. IBM a acquis plusieurs entreprises américaines pour nourrir son  système intelligent Watson : Explorys, qui possède les dossiers médicaux de 53 millions de patients, Truven Health Anaystic, qui collecte les données sur les prescriptions médicales, The Weather Company, pour corréler les variations météorologiques et certaines pathologies…

En France, des start-up comme Rythm (étude du sommeil), BioSerenity (épilepsie) ou Life Plus (santé des seniors) développent aussi des algorithmes et des appareils connectés afin de contribuer à créer ces bases de données.

L’AP-HP conçoit une plateforme réunissant les données fournies par les informations cliniques (dossier patient informatisé, imagerie, biologie..) relatives à des millions de patients soignés dans ses 39 établissements pour l’alimentation de la recherche  et l’élaboration des futurs algorithmes d’aide à la décision médicale.

Sandrine Caput et David Larousserie – Le Monde – 10 mai 2017

Les robots mous

Octobot, petite pieuvre en silicone, est le prototype des robots mous de l’avenir. Il ne sait pas encore marcher tout seul mais cela viendra…  Des robots fabriqués en partie de tissus comme les organismes vivants vont acquérir une meilleure efficacité que leurs ancêtres en matériaux durs : ils vont pouvoir se déplacer avec souplesse, absorber les chocs, interagir avec leur environnement…

Des actionneurs en forme de trompe d’éléphant associant élastomères et fibres sont capables de mouvements étonnamment naturels : étirement, torsion, contraction. Le mouvement peut être produit par des câbles par effet piézo-électrique, ou par de l’air comprimé. Le Glaucus est un petit quadrupède sans aucune partie mécanique qui rampe grâce à de l’air gonflant alternativement ses pattes. A l’inverse, en faisant le vide dans une structure remplie de granulés, on lui donne toutes sortes de formes avec différents degrés de rigidité. Les matériaux à mémoire de forme sont également prometteurs.

Les premières applications concrètes des robots mous concernent l’industrie. Des pinces souples en élastomère s’adaptent aux robots industriels destinés aux chaînes de conditionnement dans l’industrie agroalimentaire. Elles permettent de saisir avec délicatesse et habileté des fruits, des légumes, des gâteaux…

Et aussi la santé. Grâce à un endoscope souple, on peut opérer sans incision en passant par les voies naturelles. Un gant robotisé permet à une personne incapable de bouger les doigts d’attraper un objet. Une gaine souple autour du cœur qui bat à la bonne cadence peut aider un cœur défaillant à fonctionner.

Franck Niedercorn – Les Echos – 9 mai 2017

Les exosquelettes ou vêtements-robots

La start-up israélienne ArgoMedicalTechnologie est à l’origine du ReWalk, une orthèse bionique qui apporte un renforcement des hanches et une mobilité des genoux à des individus ayant un handicap des membres inférieurs, notamment à la suite de blessures à la moelle épinière. Grâce à elle, ils peuvent se tenir debout, marcher, monter les escaliers... Le ReWalk se compose d’une sorte de pantalon, avec des capteurs de mouvements, un ordinateur, une batterie logée dans un sac à dos. L’apprentissage en est intuitif : trente séances de rééducation suffisent pour apprendre à s’en servir.

Son principal débouché : les blessés de guerre en Israël et aux Etats-Unis. Mais pas seulement : c’est équipée d’un ReWalk que Claire Lomas, une cavalière britannique paralysée à la suite d’un accident de cheval en 2007, a parcouru par étapes les 42,2 km du Virgin London Marathon et franchi la ligne d’arrivée.

Le 12 juin 2014, sensation à la Coupe du monde de football : un paraplégique de 29 ans, Juliano Pinto, a donné le coup de pied inaugural grâce à un exosquelette du corps entier. Créée par une équipe de 156 chercheurs du monde entier, dirigée par le médecin brésilien Miguel Nicolelis, chercheur en neurosciences à la Duke University (Caroline du Nord), cette combinaison comprend des tiges motorisées, un ordinateur et un casque à électrodes.

En cours de développement à Grenoble, le BCI (Brain Computer Interface) associe deux implants mesurant l’activité du cortex, des algorithmes interprétant les signaux cérébraux et l’exosquelette proprement dit, d’un poids de 60 kg, batteries et ordinateurs inclus. Ce projet a été initié par Alim-Louis Benabid, neurochirurgien et pionnier de la stimulation cérébrale profonde pour traiter la maladie de Parkinson.

Nathalie Hamou et Benoît Georges – Les Echos – 2 juin 2015

Les neuroprothèses

C’est l’exploit d’un consortium international réunissant laboratoires de recherche et industriels autour de l’Ecole polytechnique de Lausanne. Deux macaques ayant subi une lésion de la moelle épinière similaire à celle en cause dans la paraplégie ont pu se remettre à marcher sur leurs quatre pattes : une interface cerveau-machine enregistre l’activité cérébrale liée à l’intention de marcher et la transforme en stimuli électriques qui excitent les muscles de la marche. Ce dispositif est basé sur le fait que dans le cerveau, l’intention d’effectuer tel ou tel geste est découplée de la réalisation effective de ce geste. Ainsi, quand on rêve qu’on court, mais sans courir effectivement, on active le même réseau de neurones que lorsqu’on court dans la réalité. Il s’agit donc de décoder d’abord, grâce à des algorithmes, l’intention du geste dans le cerveau.

Cette première mondiale a été immédiatement suivie d’essais sur l’homme. Il faudra des années avant la mise sur le marché, mais c’est un formidable espoir.

La paraplégie ne sera pas le seul handicap ainsi combattu. La tétraplégie, dans laquelle les bras sont également paralysés, pourrait l’être aussi, même si l’objectif est plus difficile car les mouvements des bras et des mains sont beaucoup plus variés et fins que ceux de la marche. Et ensuite, pourquoi ne pas restaurer la parole chez les muets grâce au contrôle cérébral des muscles de la bouche ?

Yann Verdo – Les Echos  – 10 janvier 2017

Dessine-toi ta prothèse

Le Human Lab est un fab lab, espace de travail collaboratif équipé d’outils numériques, ouvert dans la banlieue de Rennes à l’initiative de Nicolas Huchet, amputé de la main droite à la suite d’un accident du travail. Il a, avec l’aide d’une équipe de bénévoles, bricolé un prototype de main robotisée équipée de capteurs qui coordonnent le mouvement des cinq doigts en fonction de l’activité réalisée.

Un réseau de handi labs se développe ainsi en France. Il a pour ambition de développer la fabrication collaborative de prothèses et d’aides au handicap à prix modiques. Valides et handicapés collaborent sur des projets, qui vont de la compensation auditive à la création artistique pour personnaliser sa prothèse. Les prototypes sont fabriqués à partir de plans disponibles sur Internet sous licences Creative Commons : chacun peut les utiliser à condition de partager à son tour les améliorations qu’il a apportées.

Au quotidien, Sylvie Petit, ancienne restauratrice à Royan, amputée de la main droite après avoir été renversée par un camion, utilise une prothèse remboursée par la Sécurité sociale : une pince efficace mais limitée. Avec le fab lab d’Angoulême, elle a conçu le prototype d’une main équipée d’un moteur et de capteurs. Elle ne porte plus de manches longues. « Ce projet, dit-elle, a changé mon regard sur mon handicap ».

Adamou Amodou Souley est responsable du handi lab de l’université de Brest. Atteint d’un handicap moteur à la suite d’une poliomyélite, il coordonne un projet d’orthèse motorisée pour membres inférieurs. Il compte bien ouvrir un jour une antenne dans son pays d’origine, le Niger : « tout le monde ne peut pas venir dans un pays riche pour s’équiper. Avec les licences libres, il n’y a plus de frontières, on réduit le fossé entre pays pauvres et riches ».

Claire Legros – Le Monde – 4 janvier 2017

Des robots pour les milieux extrêmes

Oussama Khatib découvre le monde de la robotique naissante lorsque, titulaire d’une maîtrise d’électronique et d’automatique, il entre à l’Ecole nationale supérieure de l’aéronautique et de l’espace de Toulouse. C’est là qu’en 1978, il a l’intuition d’une nouvelle méthode mathématique de planification des mouvements des robots.

La plupart des robots fonctionnent d’après la connaissance qu’ils ont de leur positionnement dans l’espace. Pour prendre des objets, les soulever, les déplacer, ils l’évaluent à l’aide de caméras ou savent à l’avance l’emplacement des pièces. Mais il suffit d’une erreur de quelques millimètres pour que, en l’absence d’un système de sécurité, ils soient incapables d’arrêter leur course, heurtent brutalement l’obstacle ou soient déséquilibrés.

La méthode d’Oussama Khatib permet à un robot de se déplacer en contournant les obstacles sans calculer au préalable toutes les positions possibles. Cela lui confère souplesse de la gestuelle et capacité d’adaptation aux changements.

C’est ainsi qu’en avril 2016, lui et ses étudiants de Stanford réussissent, en rade de Toulon, les premiers essais du robot océanographique Ocean One. Guidé depuis le PC de l’André-Malraux, le navire du Département des recherches archéologiques subaquatique et sous-marines, l’humanoïde, propulsé par des hélices, a atteint, par 50 m. de fond, l’épave de La Lune, une frégate de Louis XIV coulée en 1664. Les bras manipulés grâce à des interfaces qui restituent à distance des sensations tactiles à la personne aux commandes extraient de la vase et posent dans une caisse qu’on hisse jusqu’à l’air libre un vase à quatre anses.

Les robots manipulateurs dotés d’une perception de leur environnement et les hommes vont pouvoir s’entraider pour travailler dans les milieux extrêmes : profondeurs abyssales, centrales nucléaires accidentées, puits de mines effondrés… « Mon idée, explique le Pr. Khatib, est de connecter le robot et l’humain pour qu’ils partagent leurs muscles et leurs cerveaux. Il y a eu la révolution industrielle, puis la révolution numérique. Le futur verra la somme des connaissances accumulées dans le monde virtuel interagir avec le monde physique via la robotique. »

Vahé Ter Minassian – Le Monde – 14 septembre 2016

Print Friendly, PDF & Email