Dans cet épisode de Logique Floue, rencontre avec William Ledoux, chercheur en intelligence artificielle chez SpirOps depuis 17 ans.
Amateur de science-fiction, de jeux vidéo et de robotique depuis l'enfance, William raconte ce qui l’a conduit à consacrer sa carrière à une question simple : comment créer des intelligences artificielles capables de prendre des décisions crédibles et de se comporter de manière autonome ?
À contre-courant de l'approche dominante fondée sur l'apprentissage à partir de données massives, il défend une intelligence artificielle conçue comme un artisanat : des mécanismes explicitement construits par des humains, dont chaque règle, chaque décision et chaque comportement peuvent être compris, expliqués et améliorés.
Au fil de la conversation, il nous plonge dans les coulisses du travail de SpirOps : la modélisation de comportements, la simulation de foule, la création de personnages virtuels dotés de souvenirs, mais surtout un équilibre constant entre développement logiciel, travail d’équipe, et exercices de pensée, dans l’espoir d’un jour capturer l’essence des mécanismes humains.
L'épisode aborde également plusieurs enjeux actuels de l'IA :
Au-delà des questions techniques, William défend une conviction : comprendre comment une solution émerge est souvent plus important que la solution elle-même.
Un épisode qui explore une autre façon de faire de l'intelligence artificielle : plus explicable, plus maîtrisée, mais aussi plus humaine.
[00:00] INTRODUCTION
Logique Floue est un podcast consacré à l'intelligence artificielle et au monde qui se construit autour d'elle. Au fil des épisodes, des chercheurs, entrepreneurs, philosophes ou acteurs publics viendront partager leur vision de l'IA. D'autres épisodes seront consacrés aux femmes et aux hommes qui la développent au quotidien. Aujourd'hui, rencontre avec William Ledoux qui travaille chez SpirOps depuis 17 ans.
[00:28] EXTRAIT
[01:40] Carole
Est-ce que tu pourrais te présenter et nous dire ce que tu fais aujourd'hui ?
William Ledoux
Je m'appelle William et je travaille à SpirOps depuis 17 ans. Donc nous, à SpirOps, on fait de l'IA un peu "à l'ancienne", c'est-à-dire qu'on écrit nos règles, on fait nos mécanismes décisionnels à la main avec des outils et une méthode. On ne fait pas de l'apprentissage automatique, on peut faire de l'apprentissage de parties de règles, mais globalement, ça reste quelque chose de... ça reste un peu de l'artisanat, quelque chose de maîtrisé, de dessiné par un humain.
[02:17] Carole
Qu'est-ce qui te plaît particulièrement chez SpirOps ?
William Ledoux
J'aime le fait qu'on développe beaucoup nos technologies en interne, qu'on prenne les décisions en commun. On a du coup, au fil des années, construit une manière de fonctionner et des outils technologiques qui sont hyper agréables et dont je ne me verrais pas me passer si je devais travailler ailleurs. Tous les développeurs sont libres de travailler sur le sujet sur lequel ils pensent que c'est important de travailler. Et on est souvent partagé entre faire des fonctionnalités, c'est-à-dire faire le travail qu'il faut qu'on fasse, et faire les outils qui nous permettent de faire ce travail plus vite.
Donc on a un curseur à trouver parce qu'on peut passer, si on prend une analogie d'un menuisier, il peut passer tout son temps de travail à faire la machine parfaite qui lui permettrait de faire des meubles ou inversement il peut faire des meubles. Et donc celui qui va faire que des meubles, il va les faire lentement parce qu'il n'aura jamais investi pour se construire ses outils et celui qui va faire que les outils, il n'aura fait aucun meuble.
Et dans la boîte, on a différents profils qui ont une appétence pour différentes parties. Il y en a qui sont des très bons starters, c'est-à-dire qui vont commencer un projet très vite. Et puis il y en a qui sont plus dans le détail, faire le truc parfait. Et il y en a qui aiment bien faire les outils. Il y en a qui aiment bien débuguer, on a chacun nos compétences. Donc l'idée, c'est de faire beaucoup de pair-programming, on travaille beaucoup plus vite à deux, et d'aller chercher quelqu'un qui va venir tacler le problème qu'on a sur la planche là. Et ça peut tourner beaucoup entre les projets.
On a aussi à SpirOps le fait qu'on construit de la technologie pour un client et on sait que cette technologie elle peut servir à autre chose derrière donc on peut trouver un intérêt plus large que le projet sur lequel on travaille vraiment l'application.
[4:29] Carole
Tu peux me donner un exemple ?
William Ledoux
Un des objectifs de l'entreprise c'est de faire des villes un peu vivantes et autonomes, qui ont l'air vivantes avec des personnages qui ont l'air de vivre leur vie, qui ont leurs souvenirs, qui ont leurs émotions, qui vont réagir à ce qui se passe autour. Et ça de manière procédurale, c'est-à-dire qu’ils ne soient pas scriptés ou programmés. Et avec cet objectif-là, du coup, on fait beaucoup de technologies, parfois pour des applications qui ont l'air lointainement liées, mais nous, on sait que cette brique-là, elle nous est utile pour notre route à nous. Et donc, en fait, quel que soit le client, on a cet objectif-là en ligne de mire, donc ça donne de l'intérêt.
[4:15] Carole
Mais concrètement, ça veut dire quoi ? Ça s'applique comment ?
William Ledoux
Typiquement, on avait été contacté par le centre de recherche et innovation d'un grand parc d'attractions. Ils avaient été contactés par un des parcs d'attractions du groupe parce qu'ils avaient refait un restaurant, et après l'avoir refait, il marchait moins bien qu'avant. Et donc, ils disaient comment est-ce qu'on aurait pu se prémunir de ça ? Et donc, la partie recherche-innovation s'est dit, en fait, si on construisait un simulateur, on pourrait permettre à tous nos parcs d'attraction d'améliorer certains agencements pour faire que les visiteurs soient plus contents, que ça se passe mieux.
Et donc, c'est comme ça qu'on avait commencé à développer la simulation de foule, et donc à s'intéresser à qu'est-ce que c'est que l'espace personnel des gens, pourquoi les gens naviguent comme ça, pourquoi est-ce qu'ils vont se décaler, pas se décaler, se mettre près d'un mur, etc. Comment naviguent les gens en groupe, en famille, est-ce qu'ils s'attendent, est-ce qu'ils ne s'attendent pas, est-ce qu'ils se splitent, comment est-ce que des gens évitent des gens qui se prennent en photo, ce genre de choses.
Toujours en gardant à l'idée de comprendre les motivations qui font que les gens se comportent comme ça. On ne veut pas reproduire bêtement quelque chose qu'on observe on va essayer de comprendre c'est quoi les facteurs cognitifs qui font que les gens font ça pourquoi ils font ça et une fois qu'on a fait ça après on a travaillé on a poursuivi ce travail sur la simulation de piétons dans d’autres environnements y compris urbain etc et on a toujours gardé ce modèle-là, parce que nous, ça nous permet d'avancer sur des mécanismes cognitifs humains et les biais cognitifs, etc.
[07:04] Carole
Mais comment vous réfléchissez à ces mécanismes cognitifs ?
William Ledoux
Il peut y avoir plein de raisons pour lesquelles les gens ne se collent pas l'épaule au mur quand ils marchent dans le métro. Et en fait, c'est en designant des expériences pour essayer de les pousser à le faire, qu'on se rend compte des raisons pourlesquelles ils le font. Donc il y a des moyens, des expériences de pensées - on fait beaucoup ça à SpirOps - c'est-à-dire on se place dans une situation hypothétique et on essaye d'imaginer comment est-ce qu'on réagirait dans ce cadre-là et on confronte les réactions des différentes personnes et en général à 5-10 personnes qui ont des réactions différentes on arrive à dire ah oui ok toi t'aurais fait comme ça moi j'aurais fait comme ça mais alors pourquoi on fait pas pareil et donc on explique ah bah moi ça c'est parce que j'ai peur de tel truc ah ok donc moi j'ai pas du tout peur de ça pourquoi est-ce qu'on comment est-ce qu'on pourrait mettre un paramètre derrière ça et dire ah oui ok donc toi c'est parce que tu as ce respect des règles, par exemple, qui est plus fort que chez moi. Et donc, OK, on peut designer les différentes stratégies et les lier à un paramètre qui a une caractéristique. Puis après, dans nos piétons, on tire au sort les caractéristiques et on obtient des gens qui ont des comportements qui sont différents, mais qui ne sont pas complètement aléatoires, qui s'expliquent par des caractéristiques propres aux personnes.
[08:20] Carole
Tout ça, finalement, ça me paraît assez réfléchi, raisonné. Pourquoi tu penses que les gens aujourd'hui ont peur de l'IA ?
William Ledoux
Ce qui fait peur, c'est l'IA qui apprend toute seule et qui du coup perd les pédales.. En fait quand on fait de l'IA on peut vulgariser un peu la pratique en disant qu'on fait un programme qui doit choisir quelque chose. Et pour choisir, il y a souvent ce truc de savoir qu'est-ce qui est le mieux. Et donc, ça prend différentes formes, mais en gros, on va essayer de faire une fonction de score qui va essayer de noter les choses. Et après, on va optimiser ce score-là. Même dans des techniques d'IA très proches des maths appliquées, de l'optimisation combinatoire, des choses comme ça, on va écrire une formule qui correspond à la qualité d'une solution et on va chercher ensuite à obtenir une solution qui fait le meilleur score.
Si on se trompe dans cette formule, c'est-à-dire que si on oublie un paramètre qui en fait était important, les solutions qui vont être trouvées auront un très bon score mais répondront pas à ce qu'on veut. Et c'est ça qui fait peur dans l'IA. C'est-à-dire qu'on se dit, si je demande à une IA, je ne sais pas, trouve une solution pour sauver la planète du réchauffement climatique, et puis j'ai oubli é de lui dire de maintenir une population humaine décente, bon, la solution, elle est vite trouvée: j'éradique tous les humains. Et du coup, c'est ça qui fait peur. En fait, si j'ai oublié un critère dans le score ça peut faire n'importe quoi.
Donc nous c'est notre expertise, c'est d'essayer de faire une formule qui n'a pas de faille qui n'a pas de trou dans la raquette qui va ménager tous les aspects du problème et c'est souvent multi-objectif on veut à la fois quelque chose de safe, de rapide de pas coûteux, donc c'est toujours un peu, c'est une compétence, de réussir à développer des formules qui tiennent la route. Et c'est un peu le centre de tout.
Et du coup, c'est ça qui fait que les gens ont peur des IA, c'est quand les formules ne sont pas bonnes. Et la seule manière de se rassurer, c'est de savoir c'est quoi les objectifs de l'IA et d'avoir confiance dans le fait qu'il n'y aura pas de raccourci qui sera délétère.
[10:48] Carole
Et toi, il y a des choses qui peuvent te faire peur dans l'usage de l'IA ?
William Ledoux
Un des trucs, moi, qui m'alerte, effectivement, c'est l'empreinte écologique. Ce qui se passe, c'est que c'est un peu comme si on avait inventé la voiture et qu'on avait amené ça dans un endroit où les gens ne se déplaçaient qu'à pied. Et donc évidemment, ils trouvent ça génial. Et ensuite, comment est-ce qu'on leur apprend à ne pas utiliser la voiture quand ils vont à deux pas, quand ils vont chercher le pain à 500 mètres, etc. Le problème avec les IA là, un des problèmes, c'est que plus elles sont généralistes, plus elles arrivent à faire des choses, plus elles sont malléables, plus on va pouvoir leur faire des choses qu'en fait on savait déjà faire avec des techniques traditionnelles.
Et en fait, plus ça va rendre accessible ça à des gens et qui n'ont pas connaissance des techniques traditionnelles qui potentiellement allaient mille fois plus vite et donnaient des résultats plus fiables sans hallucinations etc. Et ça je sais pas trop comment faire mais moi je me mets à la place de quelqu'un qui ne sait pas programmer ou qui n'a pas de connaissances et qui a besoin de faire quelque chose d'en fait assez simple si on demandait un programmeur, mais lui il est pas programmeur. Puis on lui passe une IA, bah il va le faire faire à l’IA et en fait du coup l'empreinte carbone elle a rien à voir ! Donc ça m'interpelle
Un autre truc qui m'interpelle c'est que donc les systèmes d’IA par apprentissage on peut les tester et on peut leur faire passer des tests qui sont assez complexes, mais on ne peut pas les corriger. Donc il faut imaginer qu'une IA, c'est une sorte d'immense table de mixage avec plein de petits potards. Et par un processus mathématique, on a appris à tourner les potards de manière à ce qu'elles donnent la réponse attendue dans le plus grand nombre de cas possibles. Mais personne, même la personne qui a construit le modèle, ne sait dire « ce potard, il sert à ça, ce potard, il sert à ça ». Et en fait, si jamais l'IA ne dit pas la bonne réponse, il suffit que je bouge ça un peu, personne ne sait faire ça.
Donc on ne sait pas pourquoi elle marche et on ne sait pas la corriger quand elle ne marche pas. Ça, c'est un autre des problèmes. Et donc, il y a du travail maintenant pour essayer de faire une IA qui génère aussi ses propres explications de pourquoi elle marche comme ça, mais ça reste quelque chose d'un peu généré.
Moi, ça m'enlève un peu une partie de l'intérêt du travail. C'est-à-dire que réfléchir avec mes collègues à comment marche le cerveau humain et comment on pourrait simuler, par exemple, la construction de préjugés ou de l'oubli sélectif, ou des choses comme ça, je trouve ça hyper intéressant parce qu'on vient apporter ensemble les réponses à ces questions et les tester et je comprends à la fin pourquoi ça marche ou pas, comment on pourrait faire mieux et c'est un peu ce travail de d'artisanat que j'aime bien.
Si j'utilisais des techniques d'IA par apprentissage, mon travail consisterait à créer des ensembles de données créer la manière dont je place mes potards et comment ils sont reliés entre eux, regarder le résultat et puis si ça marche pas je peux pas partir là-dessus et améliorer, je vais dire ah bon, je vais... ok je... mon travail consistera à prendre des données et regarder des statistiques et essayer de faire quelque chose qui bat ces statistiques mais sans comprendre comment ça les a battues. Et au final l'amélioration j'ai l'impression qu'elle vient pas de moi. C'est pas moi qui ai trouvé la solution, donc je trouve ça moins gratifiant intellectuellement.
[14:54] Carole
Donc ce qui te plaît c'est de trouver la solution ? à plusieurs ?
William Ledoux
Ouais. C'est un peu comme si, moi si on me donne un casse-tête je peux rester des heures dessus, mais construire une machine qui trouverait toute seule la solution au casse-tête, par essai-erreur ? ça m'intéresse moins. C'est le chemin qui est intéressant