Analyser la complexité d’une entreprise au travers d’une simple suite de chiffre ou d’un modèle m’a toujours paru être insuffisant. Dernièrement, l’intelligence artificielle aurait plutôt tendance à me donner raison.
“Tous les modèles sont faux, mais certains sont utiles”
Dès qu’on aborde une problématique complexe, il est difficile d’avoir des modèles qui prennent en compte toutes les dimensions de cette même problématique. Tel un objet tridimensionnel qui est projeté sur un plan à deux dimensions, certaines informations peuvent être masquées ou déformées.
Les outils de gestion de projets, par exemple, sont souvent efficaces pour planifier le travail, comprendre ce qu’il reste à faire et suivre le budget. Cependant se fier entièrement à eux pour savoir si un projet va être mené à bien ou non est clairement insuffisant. Il y manque par exemple une dimension essentielle à la réussite d’un projet : celle de la qualité. Le projet peut bien répondre aux notions de coût de délais et de périmètres adressés par l’outil, ce qui est livré en production peut être de très mauvaise qualité et ainsi rallonger le projet jusqu’à plusieurs fois sa durée estimée initialement. Il y manque aussi bien d’autres aspects difficiles à factualiser comme le degré d’engagement des équipiers qui influe directement sur le bon atterrissage du projet.
Mais cette projection partielle de la réalité n’est pas le seul défaut de nos modèles et j’en vois encore au moins trois :
- Etant souvent une généralisation de nos propre expériences, nos outils sont incapables de détecter les événements inattendus, rares, ou isolés. J’en veux pour exemple les banques qui dépensent chacune des millions dans des calculs de risques et qui pourtant ont été incapables de prévenir la crise de 2008. Plusieurs experts, comme Nouriel Roubini, l’avaient pourtant prédit ou pressenti plusieurs mois à l’avance.
- Des biais peuvent parfois être implémentés dans nos outils. Cela a été le cas par exemple avec l’IA de recrutement d’Amazon qui privilégiait les CV des hommes à l’encontre de ceux des femmes (cf. un article ici).
- La plupart de ces modèles, même les plus sophistiqués, sont facilement dupables. Et d’autant plus lorsqu’on connaît leur mode de fonctionnement et qu’on souhaite les contourner. Il existe par exemple des maquillages pour lutter contre la reconnaissance faciale ainsi que des vêtements.
Les réseaux neuronaux : la fin des modèles logiques
J’ai réalisé récemment que les ingénieurs en informatique avaient changé de paradigme dans leur manière de résoudre des problèmes complexes et qu’ils ne se contentaient plus d’implémenter simplement des modélisations.
En effet, depuis quelques années, les grandes avancées dans la résolution de problèmes complexes viennent des réseaux de neurones (une catégorie d’algorithmes d’Intelligence Artificielle). Ces systèmes sont à l’origine schématiquement inspirés du fonctionnement des neurones biologiques, et se sont rapprochés par la suite des méthodes statistiques.
Ces nouveaux programmes doivent, pour fonctionner, passer d’abord par une phase d’apprentissage plus ou moins longue. Par exemple, un réseau neuronal qui doit reconnaître des chaises, assimilera des milliers d’images avec ou sans chaises pour pouvoir enfin reconnaître une chaise dans une image dans 99,9% des cas.
Quel est le cheminement mis en œuvre par ce réseau neuronal pour détecter la chaise ? On ne le sait pas exactement et il est encore difficile de le déterminer. Il en est de même pour notre propre cerveau ; nous ne savons pas comment nous reconnaissons exactement un objet d’un autre. C’est la répétition des essais et des erreurs qui permet de façonner le réseau de neurones jusqu’à ce qu’il obtienne la bonne réponse.
Si même les ingénieurs en informatique reprennent les principes de fonctionnement d’apprentissage par expérience de notre propre cerveau, il serait peut être temps de refaire confiance en notre propre intelligence et à notre expérience. Même s’il a déjà été battu dans certains domaines complexes comme au jeux de Go, le réseau de neurones le plus performant à ce jour pour expliquer et analyser le monde dans son ensemble est encore celui qui habite dans notre boîte crânienne.
Ne pas jeter le bébé avec l’eau du bain
Les modèles restent cependant très utiles dans nos prises de décision. Ils nous facilitent la vie en permettant entre autres de factualiser un certain nombre d’éléments et de réduire notre subjectivité. Il en est de même pour les IAs les plus pertinentes qui ne sont pas constituées que de réseaux de neurones. Elles sont souvent accompagnées de modèles plus classiques. AlphaGo par exemple est une combinaison de réseaux de neurones et de parcours de graphe (très utilisé dans les programmes de jeux d’échecs par exemple).
Pour reprendre une image donnée par Idriss Aberkane, les modèles sont des poignées à nos objets mentaux qui nous permettent de les manipuler plus facilement, comme l’on pose des poignées sur des valises qui seraient sinon incommodes. Mais contrairement aux valises lorsque ces modèles ne permettent pas de contenir correctement la réalité, ce n’est pas immédiatement perceptible.
Nous devons donc voir ces modèles pour ce qu’ils sont : des outils. Ils doivent fonctionner sous notre contrôle et ne pas déclencher la décision. La science-fiction a suffisamment traité le sujet pour montrer à quel point ce pourrait être dévastateur (je vous renvoie tout de même au classique WarGames). ll est nécessaire de porter un regard critique sur ce qu’il en sort et de confronter les résultats à la réalité brute (et non modélisée) et à l’expérience collective.
En guise de conclusion
Notre réalité est complexe et nous devons l’aborder comme telle. Les modèles nous aident à la détourer et à la cerner. Ils sont cependant insuffisants. Nous devons rester sceptiques quant aux résultats obtenus et les confronter systématiquement à la réalité. Jusqu’à ce jour rien ne remplace l’esprit humain et l’expérience d’autant plus si nous faisons confiance au collectif qui nous permettra entre autre de réduire le risque dû à nos propres biais cognitif et de profiter ainsi d’une expérience encore plus vaste.
S’il vous plaît, n’ayez plus jamais une confiance aveugle en votre tableau Excel : vous pourriez le regretter !