TOUS LES ROBOTS S’APPELLENT ROBERT et les IA Paul

DÉCOUVREZ LE PROJET

SUIVEZ LE ROMAN PROSPECTIF DE L’ÉTÉ 2019

Au Bastion, Génie et ses quatre collaborateurs accueillent Paul, le poulpe de prédiction des crimes. Manque de chance, cette intelligence artificielle prédit des crimes à la « Nouvelle intelligence », la résidence où vit, Maléfik, la mère de la Génie

Ce roman prospectif est l’occasion d’imaginer et de mettre en scène une centaine de concepts, services et objets de demain et après-demain. Découvrez-les chapitre après chapitre.

 

6. Mauvaise posture

Après avoir donné un cours de yoga, Paul est en posture critique : il ignore qui seront les morts et les criminels.

Tino, Alfa, Éliane, Lyne sont et moi-même sommes assis autour du bocal de Paul. Mes collègues sourient, soupirent, reniflent en regardant Paul effectuer des postures de yoga. Paul frappe sur la vitre avec un de ses tentacules et dit :
— Chers collègues, j’ai détecté un niveau d’angoisse bien supérieur à la moyenne, je vous propose quelques postures pour le faire redescendre.

Tino éclate de rire et dit :
— Halte-là Zébulon. Ici, on est au Bastion, pas chez les hérons.

— Moi, j’ai une dispense « bras bionique », ajoute Éliane.

— Je peux programmer ton bras pour que tu puisses faire les exercices du jour, rétorque Paul.

— Jouez sans moi. Dans mon pays, les hommes ne jouent pas au yoyo et ne font pas de yoga, dit Alfa.

Lyne a débarrassé les chaises et posé les tapis, désormais présents dans chaque salle de réunion du Bastion et dit :
— Laissez-vous faire. Cela ne peut que faire du bien. Paul va vous apprendre à respirer afin que vous activiez les feux sacrés que nous avons tous en nous.

– Génie, je n’ai pas envie de devenir un « happy-flics », maugrée Tino pour préciser que, au regard de ses mensurations, il n’était pas d’un modèle avec option « feux sacrés » dans le buffet.

Je lui réponds en m’allongeant sur un tapis. Une dizaine de minutes de détente ne peut nous faire que du bien. Deux minutes plus tard, Éliane fait un magnifique chien tête en bas avec sa prothèse. Tino ferme les yeux pour ne pas voir ce qu’il est en train de faire. Alfa est transformé en arbre. Lyne a rendez-vous avec la Lune. et moi, j’essaye de lâcher-prise.

À l’issue de la séance, Éliane s’exclame :
— J’ai une idée. Paul, est-ce qu’il y aura 10 morts à la Nouvelle intelligence ?
— Non, dit Paul en secouant ses têtes.
— Plus ?
— Non
— Moins ?
— Oui
— 2 morts ?
— Non
— Plus ?

L’idée d’Éliane fonctionne à merveille. Quelques minutes plus tard, nous savons qu’il y aura 4 morts dans 4 jours à la résidence de la Nouvelle intelligence.

— D’accord, maintenant est-ce que tu peux nous dire qui sont ces 4 morts ? Qui va les tuer ? Quels sont les mobiles des crimes ? demande Tino.

— Non, affirme Paul.

— Le poulpe, on se reprend, dit Tino. D’accord, on a compris que tu ne donneras plus d’informations chiffrées. Là, ce n’est pas le cas. On demande des noms  ? On a besoin de ceux des morts et, si ce n’est pas trop te demander, ceux des criminels.

— Je ne sais pas, dit Paul.

Éliane se lève brusquement et agite un des douze doigts de sa prothèse.

— Tu ne sais pas. Tu te fous de nous. Si tu ne savais pas, tu ne saurais pas qu’il va avoir 4 morts, dit Éliane alors que son doigt bionique se met à clignoter.

— Je ne sais pas, reprend Paul.

Éliane s’approche du bocal et y pose son doigt clignotant.

— Paul, ce n’est pas parce que tu es vendu comme doté d’une intelligence artificielle supérieure que tu dois nous prendre pour des abrutis. Avant d’être un animal, tu es une machine. Tu ne peux pas ne pas savoir. Toi, tu as une mémoire connectée qui ne s’efface pas, alors active-la.

— Éliane, arrête de t’énerver. S’il ne sait pas, c’est qu’il ne sait pas, dit Lyne. Comme tu dis, c’est une machine, elle ne peut donc pas avoir de mauvaises intentions.

— Oui, au lieu de t’énerver, fais comme tout à l’heure, essaye de lui poser la question autrement, suggère Tino.

La proposition fait tilt dans ma tête.

— Est-ce que Maléfik Schneider, une locataire habitant au premier étage sera une des victimes ?

— Je ne sais pas, répond Paul.

Un silence s’installe dans le bureau. En entendant le nom, mes collègues viennent de comprendre que ma mère habite dans la résidence visée par les crimes.

— C’est peut-être à cause du boitanoir (11), finit par dire Alfa. Les intelligences artificielles sont victimes de l’effet boîte noire. On a la maîtrise sur les données qui entrent dans une intelligence artificielle, on découvre celles qui en sortent, mais entre les deux c’est le grand mystère. Lyne, tu connais le phénomène ?

— Le boitanoir est un vrai fléau, ajoute Lyne. On nourrit une intelligence artificielle avec des images de chats. Quand elle est bien gavée de chats, elle va identifier les chats. Mais, on ne sait pas pourquoi elle décide que l’image n’est pas celle d’un lapin. Est-ce à cause de ses yeux, ses oreilles, son poil ?

— Si le résultat est bon, quelle importance, dit Tino. C’est comme une pièce de théâtre, on veut vibrer. Cela n’a aucune importance que l’auteur a été escort boy présidentiel ou agent de propreté.

Alfa secoue la tête. Fidèle à lui-même, il ne va pas contredire Tino. Pourtant, il est bien placé pour savoir que la boîte noire est le talon d’Achille de l’intelligence artificielle.

— Imaginez qu’une voiture autonome dégomme une vingtaine d’enfants portant des gilets jaunes, on veut savoir ce qui l’a conduit à opérer ce ménage, dit-il. Est-ce que la faute du programmateur qui a une hargne historique contre les gilets jaunes ? Est-ce que le véhicule a confondu les enfants avec des balles de mousse ? Est-ce que la voiture s’est suicidée pour ne pas être victime de l’obsolescence programmée ? `Connaître les raisons du carnage permettra d’éviter qu’il se répète.

Je partage la vision d’Alfa. Si mon toubib me dit : « Désolé. L’IA m’a dit que vous pouvez compter les nuits qu’il vous reste à vivre sur cette terre sur les doigts d’une main », je ne vais pas lui serrer la paluche avec cette même main. Je donnerai plutôt l’autre à couper pour savoir pourquoi l’IA me rabote la vie.

— Alfa a raison, glisse Paul. La boîte…

— Oh, le poulpe, rendors-toi. Quand on est un tout petit peu intelligent, on sait pourquoi on fait une prévision, dit Éliane en cognant le bocal avec son doigt lumineux.

À ce moment, Alfa se lève, emprunte la trottobèse de Lyne et se dirige vers la porte en disant :
— Il faut que je vérifie quelque chose. Attendez-moi, je reviens.

En attenant le retour d’Alfa, Tino commande une part de galette des Rois et remercie le Robert qui lui apporte. Il aime être poli avec les robots. Il a l’impression que cela améliore leurs conditions de vie.

— Qui veut de la galette ? demande-t-il

— Tino, arrête de croire qu’on fait fortune en mangeant de la galette des Rois tous les jours, dit Lyne.

Éliane s’approche et pose un doigt sur le gâteau.
— Ne mange pas cette cochonnerie. Elle est remplie d’huile de palme et d’édulcorants.

— Ta main analyse les aliments ? demande Tino.

— Elle est yukésée (12). C’est la cerise sur le gâteau du handicap ! On transforme un moins en un plus.

Lyne en profite pour régler un problème qui l’obsède :

— Paul, pourquoi as-tu dit que Charlie mange de la viande tous les jours ?

— Je ne sais pas, répond Paul.

— Je ne sais pas. Je ne sais pas…, dit Éliane. On ne peut pas se laisser manipuler par des machines ignorantes. Avec leurs « Je ne sais pas », elles vont commettre des dégâts inimaginables. Il faut se débarrasser de ce poulpe. On n’en tirera rien de bon.

— Est-ce que tu as été nourri par de fausses informations ? insiste Lyne.

Paul se décompose et tente de se mettre en boule. Après avoir rangé ses huit tentacules, il murmure :

— Je ne sais pas.

— Ok Paul, alors moi, je sais. Charlie est mon oncle. Sache qu’il ne mange pas de viande. Si tu continues à colporter ce genre de rumeurs, il risque de perdre son poste. Tu as compris. Charlie est végane. OK le poulpe. Charlie, le boss du bastion ne mange jamais de viande, ne prend pas l’avion, n’a pas de plastique chez lui, dit Lyne. Si tu continues à affirmer le contraire, je te passe à la poêle. Avec un peu d’ail, on va se régaler.

— Lyne, tu exagères.

— Non, je corrige sa base de données, répond Lyne. Introduire de fausses données dans des intelligences artificielles est monnaie courante. Dans les écoles, en Chine, on nous apprend à le faire.

Lyne n’a pas à me convaincre. Il a suffi d’ajouter une ligne de code avec un achat de viande sur le détail des courses du boss pour qu’il soit soupçonné de ne pas être intègre. Ensuite, les fonctionnaires du Ministère lui diront qu’ils sont désolés, mais qu’ils ne peuvent pas douter de la bonne foi d’une machine. Une machine n’a pas d’opinions, d’émotions, de préjugés, donc une machine est fiable à 100 %.

Le pire est que ces informations peuvent être faussées de manière non intentionnelle. Le dossier d’emploi de mon amie Syrielle était systématiquement rejeté par les intelligences artificielles. Elle a fini par faire un recours. On découvrit que les rejets venaient d’un dessin de Maya l’abeille qui illustrait sa présentation. Le créateur de ce dessin animé étant un sympathisant nazi, les machines déduisaient qu’il en était de même pour Syrielle.

Est-ce que des programmateurs malfaisants ont manipulé Paul pour faire tomber Charlie ? Je suis comme l’animal. Pour l’instant, je ne sais pas. J’ai néanmoins la désagréable impression qu’on cherche à me déstabiliser. Un poulpe arrive de Chine pour aider la police française à diminuer la criminalité. Nos services l’accueillent en grande pompe. Sa première prévision implique la responsable du service dans lequel il est accueilli, en l’occurrence moi-même. Cela ne peut pas être le fruit du hasard.

Lyne a passé plusieurs mois en Chine à éduquer Paul. Est-ce qu’elle n’aurait pas orienté sa première prédiction ? Enfin, s’il avait eu accès au code, elle n’aurait pas impliqué Charlie. Les interrogations tournent en boucle dans ma calebasse quand Tino, parti se laver les mains, revient en pestant :
— J’ai envie de devenir muet pour ne plus être obligé de parler aux machines. On passe notre journée à dire : OK, toilettes, je veux une deuxième feuille de papier. OK, robinet, envoie de l’eau. OK, robinet, plus chaude l’eau… OK, porte, ouvre-toi.. OK, chaussure, indique-moi la direction de mon nouveau bureau.

— OK, parapluie, déplie-toi… OK, réfrigérateur, fais-moi la liste des courses, continue Éliane. On parle tellement aux machines qu’on finit par être incapable de parler à des humains.

— Le pire est que maintenant nos enfants nous parlent comme si nous étions des machines, ajoute Tino. OK, papa, porte-moi. OK, papa, achète-moi des bonbons. Et bien sûr, ils râlent si on n’obtempère pas sur-le-champ.

Postez vos commentaires ou envoyez-les par mail. Découvrez le projet.

11. Boitanoir

Non-compréhension de la manière dont une intelligence artificielle fournit des résultats

Les intelligences artificielles fonctionnent à partir d’une grande quantité de données. Ces données sont traitées par des réseaux de neurones, des algorithmes qui prennent en compte des milliers, voire des millions de paramètres.
Le boitanoir ou phénomène de la « boîte noire » consiste à identifier avec précision les données qui entrent dans le dispositif, découvrir les résultats, mais ne pas savoir comment la machine y arrive. Quels ont été les critères qui ont fait pencher la balance dans un sens ou un autre ?

12. Yukiser

Analyser la composition d’un produit

Yukser consiste à scanner un produit alimentaire et voir s’afficher différents éléments : sa provenance, la date de la récolte, ses traitements si c’est un fruit ou un légume, sa composition, ses lieux et sa date de fabrication pour les autres…
Le verbe vient de l’application Yuka qui détermine la qualité d’un aliment en scannant le code-barre,

Abonnez-vous pour suivre l’aventure