L’humain reste maître de l’IA

22 novembre 2018

Les 16 et 17 octobre derniers, Paris accueillait le « AI NOW : Paris 2018 Summit ». Deux jours d’échanges ponctués par les interventions des meilleurs spécialistes de l’Intelligence Artificielle.

« La science acquiert les connaissances plus vite que la société n’acquiert la sagesse ». Sur la scène du « AI NOW 2018 Summit », le futurologue Graeme Codrington lance avec les mots d’Isaac Asimov un appel à la prudence au moment d’imaginer les futures applications de l’intelligence artificielle. Autre invité de KPMG en cette matinée du 16 octobre 2018, Stéphane Richard, CEO d’Orange, invoque lui Stephen Hawking. L’astrophysicien estimait pour sa part que face à l’intelligence artificielle « les humains, limités par une lente évolution biologique, ne pourraient pas rivaliser et seraient dépassés ».

La machine apprend par l’exemple. Encore faut-il lui montrer le bon exemple. Dans le cas de cette entreprise qui a demandé à une IA de l’aider à recruter, l’expérience n’a pas été concluante. Entraîné à passer en revue les candidatures reçues par la société ces 10 dernières années, l’ordinateur a fini par reproduire un biais, qui consiste à exclure systématiquement les femmes. De même pour la fonction « écriture automatique » des smartphones. Le futurologue Graeme Codrington a tenté l’expérience. Il suffit de taper le nom d’une profession pour que le logiciel y adjoigne un genre. Ainsi pour le métier de « nurse » le téléphone propose un pronom féminin, tandis que « docteur » est automatiquement suivi d’un pronom masculin.

La machine n’est pas plus sage que les humains. Si elle reproduit certains de ses comportements, c’est qu’elle apprend par imitation. Un intervenant donne l’exemple de l’apprentissage de la parole chez l’humain. « Vos premiers mots, vous ne les avez pas appris dans un dictionnaire ou dans un précis de grammaire ». De la même manière, la machine apprend pas à pas, par imitation, recoupe les informations, et ça prend du temps. Mais ça marche. Par exemple les « chatbots » du service client d’Ocado savent désormais reconnaître lorsqu’un client est mécontent.


Lire aussi : Les questions à vous poser avant de vous lancer dans l’IA

Si les modes d’apprentissage de l’humain et de la machine peuvent se ressembler par endroits, en revanche la capacité de calcul des IA surpasse déjà celle de l’humain. Deepmind, la filiale de Google qui mène des recherches sur l’intelligence artificielle, a ainsi entraîné un ordinateur à jouer à un jeu vidéo. « Brick out » consiste à jeter une bille en l’air pour casser des briques. Les 10 premières minutes sont assez laborieuses. En revanche, au bout de 240 minutes de jeu, l’ordinateur ne se contente plus de réussir à chaque coup. Il a mis au point une stratégie pour optimiser le résultat.

« Vous pouvez devenir entraîneur d’IA sans être un doctorant ni un spécialiste. En revanche qui va vous aider à prendre soin de votre cerveau ? » Le journaliste britannique Michael Mosley insiste sur le fait que l’usage de la technologie tend à déresponsabiliser les individus. « Pourquoi mémoriser quelque chose, le nom de quelqu’un ou un itinéraire si vous pouvez juste le demander à Google ? » Le fait de ne pas exercer sa mémoire peut avoir des conséquences graves selon lui, pouvant aller jusqu’à la démence sénile.

« Une tech doit fournir une vraie valeur ajoutée, ajoute Paul Eid, Chief Digital Officer de la Société Générale. Nous avons mis au point et testé un assistant personnel qui fait le point avec le client tous les matins sur son portefeuille, identifie les risques et les opportunités. Mais très vite nous avons constaté la portée limitée de cette innovation, qui manquait d’intuitivité et d’empathie, alors nous sommes passés à autre chose. »

Au fil des interventions, certains enjeux et perspectives liées au développement de l’IA commencent à se dessiner. Ses limites entrent en résonance avec la promesse d’avancées majeures. « Il ne s’agit pas de les ignorer, ni de les craindre absolument » estime Stéphane Richard. « Seulement dans l’état actuel des choses, certaines décisions importantes doivent revenir aux humains ». Graeme Codrington embraye avec une anecdote : « On a demandé à un ordinateur ce qu’il faudrait faire pour rendre les humains heureux. L’ordinateur a répondu : le moment où les humains sont les plus heureux, ne souffrent pas, c’est quand ils dorment. Alors l’ordinateur a préconisé d’endormir tous les humains ». Il conclut en réponse à Stephen Hawking : « Ne cherchez pas à entrer en compétition avec les machines, soyez plus humains_».

La rédaction HOW

par L'ADN

Linkedin