Dans ce 7ème épisode de Logique Floue, rencontre avec Jérôme Hoibian, cofondateur de SpirOps.
Depuis plus de vingt ans, il poursuit la même voie : développer une intelligence artificielle inspirée des mécanismes du raisonnement humain, capable de comprendre, de décider et d'interagir, tout en restant explicable et sobre
Au fil de cet échange, Jérôme revient sur les débuts de SpirOps, son fonctionnement atypique et les valeurs qui guident le laboratoire : une recherche menée sur le temps long, une organisation fondée sur la liberté et la collégialité et le refus d'une logique de croissance à tout prix.
La conversation explore également plusieurs questions :
• Comment concevoir des intelligences artificielles compréhensibles et économes en ressources ?
• Quel avenir imaginer pour une société où humains et intelligences artificielles cohabiteraient ?
Pour Jérôme Hoibian, l'enjeu n'est pas de construire une intelligence artificielle toute-puissante, mais de créer des systèmes capables d'enrichir les relations, de transmettre les connaissances et d'accompagner les humains plutôt que de s'y substituer.
Un épisode qui dévoile la philosophie de SpirOps et invite à imaginer une autre trajectoire pour l'intelligence artificielle.
[00:00] INTRODUCTION :
Logique Floue est un podcast consacré à l'intelligence artificielle et au monde qui se construit autour d'elle. Au fil des épisodes, des chercheurs, entrepreneurs, philosophes ou acteurs publics viennent partager leur vision de l'IA. D'autres épisodes sont consacrés aux femmes et aux hommes qui la développent au quotidien. Dans ce nouvel épisode, rencontre avec Jérôme Hoibian, cofondateur de SpirOps, amateur de jeux de rôle et de monde virtuel. ...
[00:30] Jérôme Hoibian :
Pour imprimer ChatGPT sur un papier et essayer de comprendre ce que c'est, il faudrait imprimer un papier quasiment grand comme la Terre, sur lequel seraient remplis des numéros, des milliards de numéros, où personne ne comprendrait rien. C'est-à-dire que le créateur de ChatGPT serait incapable de dire « Ah, là, à la colonne 4 milliards machin truc, il y a un chiffre qui n'est pas bon, il faudrait le changer. » Les données sont conçues enfin pas les données mais les algorithmes sont écrits de manière à ce que n'importe qui, mais vraiment n'importe qui soit capable de relire l'algorithme puisse le comprendre et de se dire ah bah là je vois, il y a eu telle faute de raisonnement à cet endroit-là c'est pas comme ça qu'on aurait dû faire, c'est plutôt comme si etc et quelqu'un tomberait par exemple on mettrait dans un... On enfouirait sous le sol un cerveau, on appelle ça des cerveaux, un cerveau de SpirOps et quelqu'un le retrouverait dans 500 ans, il l'ouvrirait, il comprendrait complètement . Il pourrait s'en servir pour transmettre des données à quelqu'un d'autre. ...
Oui bonjour, je m'appelle Jérôme, je suis le cofondateur de SpirOps, qui est ce laboratoire indépendant d'intelligence artificielle, c'est-à-dire de technique de prise de décision.
[01:54] Carole :
Ça fait combien de temps que Spirops existe ?
[01:57] Jérôme Hoibian :
On a créé avec Axel l'entreprise en 2003, donc ça fait 22 ans.
[02:04] Carole :
Tu as défini SpirOps comme un laboratoire de recherche, donc pourquoi est-ce que tu utilises ce terme-là ?
[02:10] Jérôme Hoibian :
Alors, pourquoi on utilise le terme de laboratoire de recherche ? C'est parce qu'on est dans une société très orientée, on va dire, capitaliste, où finalement le but d'une entreprise est essentiellement de faire du profit. Et donc, si on ne... Je ne précise pas que nous, on est une entreprise orientée recherche. L'objectif n'est pas de faire du bénéfice, mais de faire avancer la recherche. On va tout de suite tomber sur des clients ou des prospects qui ne vont pas être alignés avec nos valeurs. Donc, on a décidé de faire, on a fait ce choix de directement présenter l'entreprise comme un laboratoire privé qui permettait assez rapidement aux gens de comprendre où est-ce qu'on se situait sans introduire à chaque fois tous les concepts.
[02:55] Carole :
Ok, est-ce que tu veux nous parler du fonctionnement un peu particulier de SpirOps justement ?
[03:00] Jérôme Hoibian :
La particularité de SpirOps, en ce qui concerne son fonctionnement, on pourrait décrire ça comme l'idée de faire passer en avant l'intérêt, la motivation des personnes, de trouver ce qu'on appelle des incentives qui ne soient pas liées à l'argent, mais liées à d'autres valeurs, pour pouvoir garder le plus longtemps possible des chercheurs, pour être capable d'avoir des recherches qui vont durer 10-15 ans. Là où finalement on s'aperçoit dans les autres entreprises privées qu'il y a une durée à peu près de 3 ans. Au bout de 3 ans, on considère qu'on a fait le tour de son poste et on change d'entreprise. Nous on prend les choses par un autre bout. Le salaire ne va pas augmenter au cours des années, très linéairement et ça va être l'intérêt des projets, la liberté de choix, la liberté de décision, le fait de se sentir, faire entièrement partie de l'entreprise qui vont être les valeurs principales qui vont faire que les gens vont vouloir venir travailler ici.
Comme nous, on est tous des passionnés de développement. Ça fait que même les plus anciens comme moi-même, qui sommes donc là depuis 22 ans, on continue tous les matins à faire ce qu'on aime, c'est-à-dire faire de la programmation.
[04:20] Carole :
Comment toi, en venant du jeu vidéo finalement, tu as fini par te dire que ce qui t'intéressait, c'était l'intelligence artificielle ?
[04:28] Jérôme Hoibian :
Alors, en fait, l'intelligence artificielle, c'est une notion qu'aujourd'hui on ne présente plus. Mais pendant de nombreuses années, je devais expliquer ce que c'était, parce que les gens ne comprenaient pas exactement le concept. Et même quand on parle d'intelligence artificielle avec des scientifiques, avec des chercheurs, en fait, ils présentent quand ils font une timeline de l'histoire de l'IA, ils parlent d'une période d'or, un âge d'or, puis ensuite un peu une pause avec un truc qu'ils appellent l'hiver de l'IA où pendant de nombreuses années il n'y aurait pas eu de progrès scientifique comme si tout était en attente jusqu'à ce qu'il y ait ces nouvelles technologies qui permettent de faire de l'IA et qu'on entende tous parler de ça.
Mais en fait ce n'était pas vraiment vrai, dans certains domaines l'IA était très active, particulièrement dans le monde du jeu vidéo. Dans le monde du jeu vidéo, depuis toujours, on peut jouer contre l'ordinateur. On va avoir l'ordinateur qui va être soit par exemple dans un match de foot, il va pouvoir jouer les personnages du camp opposé ou un jeu de combat ou n'importe quel jeu comme ça. Même dans un jeu comme Pac-Man, on peut considérer que les fantômes qui nous poursuivent sont des formes simplifiées d'IA. Donc dans le monde du jeu vidéo, c'est tout à fait normal de continuer depuis toujours à penser à l'intelligence artificielle et essayer de rêver d'avoir des personnages, ce qu'on appelle des NPC, des personnages non joueurs, plus intelligents, plus intéressants, avec qui on pourrait s'attacher à ces personnages, etc.
[06:00] Carole :
En reprenant cette idée de labo de recherche qu'est SpirOps, quel est finalement le but que tu cherches à atteindre en faisant ces recherches ?
[06:10] Jérôme Hoibian :
Alors moi, mon but personnel, qui n'est pas forcément le but de tous les membres du laboratoire, c'est d'être capable de créer des mondes virtuels remplis d'intelligences artificielles qui auraient la capacité de raisonnement proche de celle d'un humain. En fait, moi je suis un passionné de jeux de rôle et mon grand rêve, c'est de pouvoir aller dans des mondes virtuels remplis d'autres êtres humains virtuels, avec qui je vais pouvoir échanger, créer des liens d'amitié, créer toute forme de connexion, exactement les mêmes, enfin exactement, du même ordre d'idées que ceux que je pourrais avoir avec des copains quand on décide de jouer ensemble à quelque chose. Et pour arriver à ça, l'idée serait de réussir petit à petit à reproduire les différents mécanismes du cerveau humain, comme le raisonnement, synthétiser des concepts, être capable d'avoir de la mémoire, synthétiser sa mémoire pour en extraire des nouvelles notions, pouvoir avoir des liens affectifs avec les gens, des motivations personnelles, etc. Donc, essayer de faire que toutes ces briques technologiques puissent un jour être assemblées ensemble pour créer des cerveaux complets, proches de la réflexion humaine. Le but n'est pas d'aller aussi loin que ce que ferait un humain, mais d'avoir quelque chose de beaucoup plus riche et de beaucoup plus intéressant que ce qu'on va avoir aujourd'hui, où dans des jeux, finalement, les personnages virtuels sont des personnages un peu immobiles qui vont nous vendre des objets et avoir un dialogue très limité.
[07:54] Carole :
Est-ce que ça ressemble un peu à ce que tu avais en tête quand tu as commencé à bosser dans le jeu vidéo ? Ou est-ce que ta vision de tout ça a évolué ?
[08:05] Jérôme Hoibian :
Alors, cette vision n'a pas tellement évolué. Parce que pendant très longtemps, finalement, c'était une préoccupation qui n'était pas tellement évoquée. Et là, de plus en plus, j'entends parler de projets qui vont dans cette direction. Donc, il est possible que ça voit un... Ça voit le jour, peut-être bientôt. Et peut-être qu'on pourra collaborer à ce genre de projet, puisque finalement, nous, en étant un petit laboratoire de notre côté, on va beaucoup moins vite que si on pouvait s'associer avec d'autres.
[08:35] Carole :
Et tu trouves ça excitant ?
[08:38] Jérôme Hoibian :
Ça, j'adorerais. En fait, c'est assez paradoxal, mais alors qu'aujourd'hui, on parle énormément d'intelligence artificielle, on continue à se sentir très seuls. Pendant une quinzaine d'années, on ne connaissait quasiment aucune entreprise qui faisait de l'IA, donc on était un peu tout seul. Et maintenant, tout le monde en parle, mais ils font des IA extrêmement différentes de ce qu'on veut faire. Donc, ce n'est pas beaucoup plus des partenaires potentiels qu'à l'époque.
[09:03] Carole :
Et là, aujourd'hui, tu sens un mouvement qui est différent.
[09:06] Jérôme Hoibian :
Oui, je vois différents projets qui commencent à émerger et qui vont dans la direction de ce qu'on veut faire.
[09:13] Carole :
Et donc dans l'idéal, vous rassembleriez aussi vos forces ou votre élan avec d'autres sociétés ou tu vois ça plutôt au sein de SpirOps ?
[09:25] Jérôme Hoibian :
Alors nous, ça fait plusieurs années que personnellement, moi j'ai ce projet de créer une communauté de gens de l'IA qui ont les mêmes valeurs que nous. C'est-à-dire finalement pas un but commercial, pas le but d'être dans la hype de ce qui marche le plus en ce moment, mais plutôt d'être dans cette idée de reproduire les mécanismes du raisonnement humain pour faire des personnalités proches de ce qu'on peut retrouver dans le film Her, où on a cette assistante vocale qui est extrêmement intelligente et avec qui un lien affectif très fort se lie avec le personnage principal. Donc oui, on a cet objectif de créer cette communauté pour faire entendre notre voix. Parce que pour l'instant, pas grand monde sait qu'on existe. Parce que c'est assez certain qu'il doit exister d 'autres équipes qui ont le même genre de valeurs que nous et avec qui on pourrait créer une communauté.
[10:26] Carole :
Est-ce que tu trouves que vos valeurs se retrouvent à un certain endroit avec eux ? de tout le boom de l'IA dont on parle aujourd'hui ? Ou est-ce que tu sens que SpirOps s'est positionné très différemment et pourquoi ?
[10:38] Jérôme Hoibian :
Alors, on se sent extrêmement différent. Déjà, on est encore catalogué de start-up. Donc la notion de start-up, elle est un peu large. Et comme on fait de l'IA, qu'on développe de nouvelles technologies, souvent on est mis dans le même bain que les start-ups. Et le problème, c'est qu'en fait, on n'est pas du tout startup. Déjà, on n'est pas start puisque ça fait 22 ans qu'on est là. On n'est pas up parce que nous, on n'a pas de logique de croissance. On est à effectif constant depuis des années et on n'a pas d'objectif de revendre notre entreprise. Nous, on veut faire des recherches au long cours et faire ça avec différentes personnes. Donc, cette notion-là, elle est traitre parce que dès qu'on essaye de nous accoquiner avec d'autres, finalement on se rend compte qu'on a des valeurs quasiment opposées.
Donc les autres chefs d'entreprise que l'on rencontre comme ça par hasard, quand des gens essayent de nous associer parce qu'ils voient en nous des similitudes, parce qu'on serait des start-ups d'IA, ont des valeurs très généralement opposées aux nôtres. Et ils sont très sympathiques, je leur souhaite du succès. Mais ce n'est pas du tout ce qu'on cherche. C'est pour ça qu'on a besoin de créer cette communauté et d'expliquer notre démarche pour pouvoir trouver les personnes avec qui on pourrait avancer dans cette direction.
[12:02] Carole :
Est-ce que tu veux me reformuler cette démarche, justement, là, clairement ?
[12:06] Jérôme Hoibian :
Nous, notre objectif, c'est de faire de la recherche où intellectuellement, on va travailler sur des algorithmes et on va avoir ce plaisir de créer. Donc ça veut dire faire ces algorithmes à la main. Aujourd'hui, les technologies d'IA les plus répandues utilisent des systèmes d'apprentissage automatique à partir d'un grand nombre de données. Ça donne des résultats géniaux, mais pour l'ingénieur qui développe ça, ce n'est pas passionnant. Donc ça, c'est le premier truc. Le deuxième, c'est que finalement, cette approche de prendre énormément de données, de le mettre dans un très gros calculateur et de faire mouliner l'ensemble, c'est extrêmement énergivore, ce qui est en contradiction avec nous, nos valeurs, d'essayer de faire des IA qui puissent finalement être bénéfiques pour la société, alors que là, j'ai un gros problème de surconsommation énergétique. Surtout que là, on parle de ChatGPT ou équivalent, ou on pose une question à une personne, etc. Moi, dans les univers que j'imagine, on joue un jeu et il y a genre 50 000 personnes qui sont en train de penser et qui sont en train de vivre dans l'univers. Si on utilisait des techniques proches de celles de ChatGPT, on aurait une consommation qui serait énorme.
Donc nous, on a des approches très différentes. On sait que le fonctionnement des machines vivantes est orienté sur le minimum de consommation énergétique. Donc à travers l'évolution, etc., on se doute que le principe de réflexion d'un être humain a été conçu, orienté pour être le moins énergivore possible. Donc on se dit qu'en imitant ce mécanisme-là, on va réussir à avoir des résultats qui vont consommer extrêmement peu de ressources. On voit bien qu'un être humain, on lui donne un petit sandwich, donc un petit morceau de pain, un petit morceau de jambon, et il peut réfléchir toute la journée. On est très loin des consommations énergétiques qu'aurait besoin un ChatGPT, si je lui posais des questions 24h sur 24 toute la journée. Alors, il y a aussi d'autres valeurs. C'est-à-dire que nous, notre approche de développement d'intelligence artificielle, ça consiste à prendre des experts ou prendre des gens qui ont une façon de réfléchir et d'essayer d'imiter leur réflexion et de transformer un peu cette réflexion dans une machine.
Alors, qu’est-ce que ça a comme conséquence ? Ça a comme conséquence finalement, il y a une sorte d'apprentissage, de transmission émotionnelle d'informations, de transmission de savoirs. Donc c'est un expert qui va finalement expliciter tout son savoir-faire qu'il a accumulé durant des années et il va les transmettre à, en l'occurrence là, finalement à un algorithme, alors qu'avant il aurait transmis ça à son apprenti, etc. Donc on a une continuité de chaînes d'apprentissage où, génération après génération, il y a le savoir qui se transmet de maître à élève, on va dire, en étant un peu caricatural. Nous, on voudrait conserver cette approche. Donc, on a des experts qui transmettent leur savoir à des machines, c'est transféré de manière compréhensible, c'est-à-dire que la machine, elle, ensuite, est capable à elle-même d’apprendre à un autre être humain ou d'apprendre à une autre machine. On continue, comme ça, à faire génération après génération cette notion de transmission d'informations qui a fait qu'on est parti de l'homme des cavernes et qu'aujourd'hui on est capable d'aller dans l'espace. Et ces technologies qu'on appelle le deep learning, qu'on voit avec ChatGPT, etc., n'ont pas cette approche. Donc elles n'ont pas besoin d'experts pour accumuler des données et faire des réflexions. Donc elles ne sont pas capables de prendre le savoir-faire d'un expert. Donc c'est un peu compliqué.
Moi, je trouve que dans une société où d'un seul coup, tous les êtres humains vont alors dire, bon, c'est bon, vous pouvez partir à la retraite et tout ce que vous avez fait jusqu'à présent, on ne va pas s'en servir. Je trouve ça un peu dommage. Et puis après, on a ce questionnement. Une fois que les IA auront appris plein de choses sans qu'on leur transmette quoi que ce soit, mais qu'elles n'ont pas cette capacité d'apprendre ou de transmettre leur savoir à d'autres êtres humains ou d'autres machines, est-ce qu'on ne va pas dans une voie sans issue ? Quelle est la suite du raisonnement ?
[16:40] Carole :
Est-ce que ça ne fait pas un peu peur finalement à un monde où on aurait transmis tout notre savoir à des machines ? Et puis qu'est-ce qui se passe pour les humains ? Qu'est-ce qu'ils savent ? Qu'est-ce qu'ils apprennent ? Comment ils continuent à vivre ?
[16:51] Jérôme Hoibian :
Alors moi je trouve que cette vision qui peut faire un peu peur et on va dire est caricaturale, à priori, il n'y a aucune raison que les humains décident de transmettre tout ce qu'ils savent uniquement à des machines. Les gens, par exemple, qui vont se retrouver à devoir travailler moins parce qu'il y a des machines qui vont faire une partie de leur travail à leur place, ils ne vont pas rester enfermés chez eux à rien faire. Ils vont aller voir des amis, ils vont discuter avec leur famille, leurs enfants, ils vont transmettre des choses, ils vont se raconter des histoires. La transmission humain-humain existera, j'espère, toujours. Il y aura aussi des transmissions humains-machines. Il y aura des transmissions machines-humains. On peut tout à fait imaginer qu'il y aurait des machines avec qui on développe des affinités, qui puissent avoir des rôles de professeurs et enseigner des choses à des humains, etc. Moi, on va se retrouver dans un monde hybride où il y a d'un côté des humains, d'un autre côté des IA, tous ces personnages interagissent ensemble, ont une forme d'empathie, c'est-à-dire que les humains veulent du bien aux machines et les machines veulent du bien aux humains. Et on a comme ça cette espèce de continuité de transmission de savoir. **Par contre, si on a ce scénario d'une immense IA qui concentre tous les savoirs, toutes les connaissances, là, effectivement, j'ai du mal à voir un avenir positif à cette vision du futur.
[18:18] Carole :
Et ça, c'est plutôt quel lien ?
[18:20] Jérôme Hoibian :
Alors, moi, je parle de ce que je fais, donc j'ai plein d'enthousiasme, etc. Je pense que ça va être sympathique. Effectivement, ce qui me fait plus peur, c'est les autres grosses IA qui sont développées aujourd'hui. Mais bon, disons ChatGPT, etc. Par contre, je ne sais pas quels sont leurs projets et peut-être vont-ils arriver à la même conclusion que moi et vont décider de faire plutôt plein de petites IA plutôt qu'une très grosse qui contrôlerait tout le savoir.
[18:50] Carole :
Pourquoi plusieurs plutôt qu'une grosse ?
[18:53] Jérôme Hoibian :
Parce que je pense que déjà une grosse, je trouve que ce n'est pas le cœur de l'intérêt de l'humanité. Pour moi, l'intérêt dans l'humanité, c'est, les échanges entre personnes, c'est les relations humaines. Avoir une immense IA toute seule qui connaîtrait tout, qui saurait tout et qui se parlerait avec elle-même, je ne trouve pas que ce soit un avenir passionnant.