Les nouveaux masochistes de l’IA

Opportuniste, mais aussi sincèrement intéressé par le domaine de l’intelligence artificielle (comme 99% de la communauté business depuis l'avènement de chatGPT), nourri de très grandes ambitions, et totalement naïf, je me suis découvert un nouveau trait de personnalité : le masochisme intellectuel. Avant d’aller plus avant, sachez que mon niveau de maths est celui d’un élève de sixième, au point que je ne sais même plus poser une multiplication (l’ai-je jamais su ?). Mais tout échauffé par la récente pluie de news sur l’intelligence artificielle qui engorgent mon inbox et mes feeds RS, curieux quand mes collègues ingénieurs de Google nous parlaient du machine learning appliqué au marketing digital, je me suis longtemps fait mal au cerveau, et je ne suis peut être pas le seul. Au point que nous serions une nouvelle communauté d’apprentis sorciers qui aiment se faire souffrir en essayant de comprendre l’incompréhensible : meet les néomasos de l’IA. Petit tour d’horizon des souffrances auto infligées.

L’algorithme de Youtube me propose à intervals réguliers des supers contenus sur l’intelligence artificielle. Par exemple : la leçon inaugurale de Yann LeCun (qu’on ne présente plus) au Collège de France. Je bookmark la vidéo direct, et, confiant que, quand on veut, on peut, j'appuie sur play avec mon latte coco dans le creux de la main. Les formules d’usage et l’intro, je suis. La courte histoire de l’IA, les analogies avec le cerveau des animaux, quelques concepts de base, jusque là tout va bien. Mon attention est élevée. Puis viennent les équations barbares, les concepts très conceptuels : multilayer neural net architecture, computing gradients by back propagation, very deep convnet architectures… Au bout de quinze minutes, mes yeux pleurent et je ne comprends plus rien, mais rien de rien. Dans la même famille, la leçon de Stanislas Pollu au Collège de France. Après une très courte intro intelligible par le commun des mortels, vient très vite la jolie phrase suivante : “Les vecteurs vont être passés à travers les layers du modèle neural, il faut voir ça comme une multiplication de matrice vue de très loin”. Même de très loin, je ne vois rien, sorry Stan. Et voilà, j’ai fini mon café et ruiné ma motiv’. J’ai deux options : option 1 - faking it en feignant que je comprends et en espérant une illumination venue du Ciel, option 2 - giving it up, avec un petit goût amer. Devinez l’issue de ce premier accès de masochisme intellectuel ?

Un paper est une publication de et dans la communauté scientifique, écrite par un groupe de chercheurs, issus de labos privés ou publics. Ces fameux papers sont pléthore dans le domaine de l’IA et souvent cités dans la presse Tech. Prenons un best seller : “Attention is all you need” (j’adore le titre, je sais pas vous?), je le trouve sur arxiv.org, je l’ouvre, je le télécharge. Ça a l’air tout beau et bien dense, comme une nouvelle de littérature fraîchement ouverte. Je lis la première phrase, je la comprends. Je lis la deuxième phrase, je la comprends un peu moins. Je lis la troisième phrase et je me rends compte que je n’ai finalement pas compris la première. Puis apparaissent des graphiques, avec des flèches et des noms tout foufous : input, embeddings, softmax etc. Ça a l’air de rentrer d’un côté et de sortir de l’autre. La cinétique des graphiques me rassure, mais c’est une illusion. Viennent les équations, je commence à avoir des sueurs froides. Puis apparaissent des signes étranges, des puissances, des racines carrées, qui me rappellent les heures sombres des années collège. Puis apparaissent des tableaux récap des performances mesurées. Le chiffre en gras tout en bas du tableau semble indiquer que les résultats rendus possibles par la recherche sont meilleurs que le benchmark. Je suis content mais totalement perdu. Devinez l’issue de ce deuxième accès de masochisme intellectuel ?

Avec les cours en ligne et les “universités”, le fruit d’un gros travail de plusieurs entreprises pour vulgariser les concepts de l’IA, je me rapproche du format idoine, pour l’ignorant que je suis. De ce point de vue, je vous recommande l’excellente LLM University de Cohere ou les formations Gen AI de Google Cloud. J’ai trouvé ici le bon rythme, le bon ton et la bonne approche. Les exemples sont simples, les cas d’usage intelligibles. On est dans le domaine de la vulgarisation qui me sied à merveille. Mais il y a toujours un moment où ça part en vrille après un court moment d’apaisement. Les embeddings, les tokens, les encoders, les vecteurs, j’ai l’idée (et encore). La similarité cosine, moui. Les transformers, pas vraiment sûr, le dense retrieval encore moins sûr. Devinez l’issue de ce troisième accès de masochisme intellectuel ? Une illusion de compréhension qui me convient parfaitement parce qu’elle correspond à ce qu’on nous a inculqué dans les Parisiennes : tout mal comprendre mais savoir bien en parler.

In fine avec l’IA, il y a quelque chose qui rentre, qui se fait traiter de tous les noms et quelque chose qui sort. In and out, in and out, in and out…ad libitum. Et ça, tout le monde peut le comprendre, n’est ce pas ? C’est terminé, je ne me ferai plus avoir avec du contenu expert. Je me suis trop fait mal, alors il est temps de se faire du bien : je vais écrire des histoires. Et pourquoi pas des petites chroniques sur l’IA ? La prochaine dans deux semaines sur millefeuille.ai.

‍

Très belle semaine à tous !

‍

— l’équipe millefeuille.ai

‍