De ChatGPT aux modèles spécialisés : l'avenir de l'IA

Au menu aujourd’hui :

🛡 Comment construire une défensibilité avec les LLMs ?

⚙️ Comment le marché de l'infrastructure va se structurer

🤘 L'engouement pour l'IA n’est-elle qu’une hype comme on a vécu avec l’univers crypto ?

👀 Quelques sources recommandées par Maxime

‍

🍰 MF : Max, merci de prendre le temps de nous parler aujourd'hui. Avant d'aller plus loin, j'aimerais savoir si Resonance utilise les outils GenAI ?

👉 Maxime :

C'est un plaisir d'être ici, merci de m'avoir invité. Effectivement, chez Resonance, nous utilisons abondamment ChatGPT dans deux domaines clés.

Il nous est d'une grande aide pour étudier le marché concurrentiel et obtenir des données sur les revenus ou l'EBITDA, un atout particulièrement précieux pour les entreprises cotées en bourse !

ChatGPT est aussi un acteur clé dans notre processus de création de contenu, nous aidant à perfectionner nos articles de blog et autres publications.

L’IA générative est un outil puissant quand il s'agit de chercher de l'inspiration et de formuler des phrases qui captent l’attention.

Mathieu, notre analyste, travaille également sur un outil personnalisé capable de résumer automatiquement les échanges avec les fondateurs et de les intégrer facilement dans notre CRM.

🍰 MF : Comment peut-on aller au delà de la création d’une simple interface au-dessus des APIs d’OpenAI et créer de la défensibilité pour un produit basé sur un LLM ?

👉 Maxime :

La stratégie n'est pas très différente de celle adoptée par les grandes entreprises d'IA pour se renforcer au fil des années. L'exploitation de données uniques et la création d'une interface utilisateur captivante sont deux moyens essentiels pour se différencier.

Bien que la possibilité offerte récemment par OpenAI de former GPT 3.5 sur des données personnalisées soit une avancée notable, ChatGPT garde une part de mystère, empêchant les startups de le maîtriser pleinement. Cependant, l'apparition de LLMs open-source comme Mistral.ai en France et Llama 2 de META, associée à un accès libre aux poids des modèles d'IA, offre aux startups la possibilité d'adapter leur formation IA à des jeux de données et des applications spécifiques de manière plus détaillée. Ainsi, au lieu de dépendre de GPT 3.5, qui est excellent pour les requêtes générales mais moins performant dans les domaines spécialisés, les startups peuvent développer des experts dans des domaines spécifiques.

La réussite d'un système axé sur l'IA ne dépend pas uniquement de sa capacité technologique, mais aussi de l'expérience utilisateur. Une interface intuitive et conviviale, enrichie par des réponses IA précises issues de données d'entraînement de qualité, est cruciale. Il est également vital de continuellement améliorer l'IA pour suivre les tendances en évolution. Intégrer un mécanisme de feedback où les utilisateurs peuvent partager leurs retours, similaire à la fonction de pouce levé ou baissé dans ChatGPT, contribue à affiner la précision de l'IA au fil du temps

🍰 MF : Comment perçois-tu l'évolution de la structure du marché ? Assisterons-nous à la domination d'un LLM polyvalent comme ChatGPT, ou à une multiplication de modèles spécifiques à des niches ?

👉 Maxime :

C'est une question clé. Bien que l'idée d'un LLM universel comme ChatGPT soit séduisante, la tendance semble s'orienter vers le développement de modèles axés sur des niches spécifiques.

L'aspect financier est un élément qu'on ne peut ignorer. Faire fonctionner un modèle massif et unique peut s'avérer extrêmement coûteux. Le coût de l'inférence, c'est-à-dire le coût associé à la génération d'une réponse à une sollicitation donnée, est directement lié à la "taille" du LLM. Un LLM plus grand offre une intelligence plus étendue, mais à un coût plus élevé.

Prenons l'exemple du secteur juridique. Un LLM spécialisé nommé 'Harvey' a été affiné pour répondre aux questions juridiques. Si OpenAI souhaite concurrencer Harvey en adaptant ChatGPT pour le domaine juridique, elle devra d'abord sélectionner des jeux de données pertinents pour les experts juridiques, ce qui représente un défi considérable. Ensuite, il s'agira de garantir que ce modèle adapté égale ou surpasse Harvey en termes de qualité de réponse. Atteindre une telle spécialisation au sein d'un modèle plus généralisé est non seulement exigeant en termes de ressources, mais présente également des obstacles pour garantir la précision et la pertinence des réponses.

‍

🍰 MF : Avec la baisse récente de l'utilisation de ChatGPT, penses-tu que l'IA pourrait connaître un engouement similaire à la frénésie autour de la crypto il y a quelques années ?

👉 Maxime :

Votre analogie établit un parallèle fascinant! Le domaine de la crypto-monnaie a certainement connu une phase d'enthousiasme intense, où, malheureusement, une grande majorité (environ 90%) des initiatives se sont révélées être frauduleuses ou manquaient de mérite concret.

La ferveur entourant le potentiel de l'IA conduit souvent à des attentes exacerbées. Cette montée des attentes, ou 'hype', peut être attribuée aux affirmations parfois exagérées sur les capacités de l'IA.

Un défi majeur auquel les LLMs sont confrontés actuellement est leur propension aux "hallucinations", c'est-à-dire qu'ils génèrent occasionnellement du contenu de qualité inférieure et qui ne respecte pas strictement l'exactitude factuelle.

Cependant, contrairement au scénario de la crypto, nous assistons déjà à des exemples concrets de valeur réelle apportée par des produits d'IA généraux. Des startups comme Jasper, Midjourney et Stable Diffusion peuvent se vanter de compter des millions d'utilisateurs actifs chaque mois et ont déjà accumulé des revenus substantiels de l'ordre de dizaines de millions.

🍰 MF : Merci Maxime pour ce partage. Peux-tu nous recommander des sources pour approfondir le sujet ?

👉 Maxime :

Bien sûr ! Voici quelques newsletters qui valent la peine d'être lues si vous vous intéressez à GenAI et plus largement à la tech :

• Exponential View par Azeem Azhar
• La newsletter de Benedict
• Le podcast de Dwarkesh Patel

‍

Très belle semaine à tous !

‍

— l’équipe millefeuille.ai

‍