Competences & rh

Prévenir la «bêtise» des algorithmes

Par Ahlam NAZIH | Edition N°:5387 Le 07/11/2018 | Partager
rachid_guerraoui_087.jpg

Rachid Guerraoui, professeur à l’Ecole Polytechnique Fédérale de Lausanne, titulaire de la chaire du numérique au Collège de France: «L’intelligence artificielle reste encore du domaine de la science fiction. Les bêtises des algorithmes, elles, sont palpables, du domaine du réel. Elles peuvent avoir des effets dramatiques» (Ph. Collège de France)

Combinés à des puissances de calcul augmentées de l’outil informatique, les algorithmes gèrent de plus en plus d’aspects de notre vie. Médecine, finance, éducation… Ils sont partout. Mais ils ne sont pas pour autant sans risques. Les algorithmes sont susceptibles de commettre des «bêtises».

Pour Rachid Guerraoui, cette menace est bien plus préoccupante que celle de l’intelligence artificielle. Il en a fait le sujet de sa leçon inaugurale au prestigieux Collège de France, prononcée le 25 octobre dernier autour du thème: «Algorithmes: à la recherche de l’universalité perdue».  

- L’Economiste: Les algorithmes, bien qu’ils nous facilitent la vie, peuvent commettre des «bêtises». Comment est-ce possible?
- Rachid Guerraoui:
Les algorithmes aujourd’hui sont souvent plus efficaces que les êtres humains dans plusieurs domaines, y compris pour des tâches jugées complexes, comme un diagnostic médical à partir d’une image radio. Non seulement ils nous facilitent la vie, mais ils peuvent nous la sauver.
J’ai précisé que les algorithmes étaient «souvent» plus efficaces que les humains car «parfois» ils ne le sont pas. Ils peuvent produire des erreurs. Et ces erreurs peuvent provenir de données biaisées, de fautes de conceptions d’algorithmes, de méprises de programmation, de défauts de fabrication de matériel informatique... A cause de tout cela, ils  peuvent donc commettre des bêtises et donner des résultats pas du tout escomptés.

- Beaucoup appréhendent l’intelligence artificielle. Mais pour vous, les «bêtises algorithmiques» sont encore plus dangereuses. Dans quel sens?
- L’intelligence artificielle reste encore du domaine de la science fiction. Les «bêtises» des algorithmes sont palpables, du domaine du réel. Nous les subissons aujourd’hui. Elles peuvent avoir des effets dramatiques, car elles sont amplifiées par la puissance du système informatique sous-jacent. Il peut s’agir de la voiture autonome qui a foncé dans un obstacle «pensant» que c’était du brouillard, de patients exposés à des radiations dangereuses à cause d’un «bug» de programmation, ou de millions perdus par des clients d’une banque, à cause de latence de communication dans un réseau.

- Que pouvons-nous face à ces bévues des algorithmes?
- Les informaticiens travaillent certes depuis un demi-siècle sur des techniques pour réduire ces risques d’erreurs et ces bêtises. Le problème est que ces techniques sont pour la plupart basées sur une hypothèse fondamentale: celle du modèle de la machine universelle de Turing, modèle selon lequel sont construits les ordinateurs depuis la mort du mathématicien britannique Alan Turing en 1954. Mais lorsque les machines sont mises en réseau, soit à travers le monde, comme sur Internet, soit à l’intérieur d’un ordinateur, comme sur une carte multi-processeurs, on perd l’universalité de Turing. Les techniques classiques qui réduisent les risques d’erreurs ne s’appliquent plus aux réseaux.

- L’algorithmique répartie serait, selon vous, la solution?
- L’algorithmique répartie est la discipline scientifique qui explique pourquoi le modèle de Turing ne s’applique plus directement dans les réseaux: intuitivement, lorsque l’on déploie un algorithme sur un réseau, aussi bien un grand réseau d’ordinateurs géographiquement distants, qu’un «petit» réseau de processeurs à l’intérieur d’un ordinateur, les machines doivent se mettre d’accord sur l’ordre d’exécution des instructions de l’algorithme. L’un des résultats fondamentaux de l’algorithmique répartie est que l’accord est un problème impossible à résoudre en général.
L’algorithmique répartie essaye aussi de retrouver ce modèle universel, au moins sous une forme restreinte, pour un monde algorithmique plus sûr.

- Où en êtes-vous dans vos recherches?
- Je travaille sur de nouveaux algorithmes répartis, aussi bien dans le contexte de l’intelligence artificielle que dans celui que l’on appelle la blockchain. Mon laboratoire à l’Ecole Polytechnique Fédérale de Lausanne (EPFL) a déposé plusieurs brevets sur ces sujets l’année dernière.
Dans le contexte de l’intelligence artificielle, par exemple, nous travaillons sur des techniques permettant aux algorithmes d’apprendre de leur environnement le maximum de choses, sauf comment échapper au contrôle de l’humain. Dans le contexte de la blockchain, connue pour consommer énormément d’énergie, nous travaillons sur une technique originale frugale qui en consomme beaucoup moins, en nous basant sur des algorithmes développés à l’EPFL.

Le premier marocain élu au Collège de France

Mathématicien, génie de l’informatique de renommée internationale, professeur à l’Ecole Polytechnique Fédérale de Lausanne, où il dirige un laboratoire de recherche en algorithmique, Rachid Guerraoui est un grand esprit. En juin dernier, il a été élu au Collège de France, où il est titulaire de la chaire du numérique. C’est le premier Marocain à intégrer le prestigieux établissement. «Je souhaite qu’il y en ait  plus», répond-il, questionné sur son sentiment suite à cette distinction.
Rachid est engagé auprès de la jeunesse marocaine. Avec des collègues de l’Ensias de Rabat et de l’étranger, il mène la caravane marocaine du numérique. Une initiative visant à favoriser les échanges entre de jeunes chercheurs en informatique et des stars du domaine.
A l’Université Mohammed VI polytechnique de Benguérir, il participe au lancement d’un programme de recherche en informatique, y compris les sciences des données et l’intelligence artificielle. Une vingtaine de jeunes brillants de tout le Maroc ont déjà été sélectionnés pour cette formation doctorale.
Le spécialiste des algorithmes a été primé à plusieurs reprises. Il est lauréat de la prestigieuse distinction américaine d’ACM fellow, du prestigieux prix européen d’ERC Senior, ainsi que du Google Focused Award. Il est auteur de plusieurs ouvrages et de centaines d’articles sur l’algorithmique.

Propos recueillis par Ahlam NAZIH

  • SUIVEZ-NOUS:

  • Assabah
  • Atlantic Radio
  • Eco-Medias
  • Ecoprint
  • Esjc