Les LLMs transforment le quotidien des développeurs !

Au menu aujourd’hui :

🤯 Jusqu’à 50% de productivité gagné avec Copilot !

🤔 Quand utiliser les LLMs dans le quotidien d’un développeur?

📚 Quels effets pervers sur la connaissance des développeurs?

🛠 Accompagner les équipes dans le changement est clé

👀 Où se renseigner - les sources recommandées par Emmanuel

‍

🍰 MF : hello Emmanuel, dis nous, concrètement, qu’est-ce que l’arrivée des modèles LLM a changé dans ton job au quotidien?

👉 Emmanuel :

L'arrivée des modèles LLM a radicalement transformé notre quotidien professionnel, marquant une rupture significative avec les innovations incrémentales précédentes. Nous ne parlons pas simplement d'un IDE (integrated development environment) amélioré ou d'un langage de programmation optimisé, mais d'une révolution qui nous oblige à réévaluer et à modifier en profondeur nos méthodes de travail.

Chez Sicara, cette transformation est palpable. Dans mes équipes, les développeurs intègrent de plus en plus ces technologies dans leurs routines quotidiennes. Des outils comme Copilot et ChatGPT ne sont pas seulement des gadgets technologiques ; ils sont devenus des compagnons indispensables pour deux tiers de notre équipe technique avec des gains de productivité de l’ordre de 30 à 50% en moyenne.

Un exemple concret et récent : un Data Scientist me confiait ne pas être expert en SQL (et pgsql en particulier) et m’expliquait comment il génère du code fonctionnel à partir d’un schéma et d’un prompt, grâce à ChatGPT.

Un Data Engineer me disait également comment Copilot réduit le temps nécessaire pour accomplir certaines tâches spécifiques de 40 minutes à 5 minutes. Avec environ 5 à 10 de ces tâches chaque semaine, il économise entre 3 et 6 heures, ce qui se traduit par une augmentation de la productivité de 25 à 30%.

En tant que CEO, ces témoignages révèlent pour moi trois défis :

• Premièrement, il est essentiel de connaître les situations pour lesquelles l’usage de ces technologies est utile.
• Deuxièmement, comment détecter, en vue de les atténuer, les effets pervers potentiels.
• Enfin, comment déployer ces technologies à grande échelle, non seulement au sein de Sicara, mais également pour nos clients, maximisant ainsi les avantages tout en minimisant les risques.

🍰 MF : Quand utiliser ces technos dans le quotidien de tes équipes Tech?

👉 Emmanuel :

Il y a à mon sens deux axes d’analyse qu’on peut utiliser ici :

1. Les actions que font les développeurs proprement dites
2. Les conditions dans lesquelles ces actions sont exécutées

Sur le premier axe, on peut décomposer le travail d’un développeur en 3 étapes :

• avant l’implémentation (analyse de besoin et conception logicielle)
• pendant l’implémentation (coding, test, déboggage)
• après l’implémentation (déploiement, maintenance, monitoring)

Sur le second axe (les conditions), nous utilisons chez Sicara et dans le groupe Theodo le modèle mental du lean pour fixer le cadre d’analyse de ces conditions de travail, comme le montre le schéma ci-dessous :

Les technologies GenAI vont permettre d’agir à plusieurs niveaux sur ces conditions. Pour simplifier, je vais uniquement garder les 3 qui sont à mon sens le plus impactés : les connaissances, les compétences et l’auto-qualité. Voici donc concrètement des exemples où l’IA générative est utilisée aujourd’hui au quotidien chez nous.

🍰 MF : Mais quels sont les effets pervers de ça ?

👉 Emmanuel :

C’est la question difficile. Je pense qu’il y a des effets pervers à long terme, en particulier sur la connaissance des développeurs. Sans nécessairement adhérer à l'idée que la technologie nous rend plus bêtes en nous évitant de réfléchir, il est indéniable que des précautions sont nécessaires.

Un des problèmes majeurs réside dans les "hallucinations" de chatGPT. Sa nature assertive peut nous amener à accepter ses réponses sans remise en question, un piège potentiel, surtout lorsqu'il s'agit de débugger un code qu'il a écrit (personne n’aime relire un code écrit par quelqu’un d’autre). Parfois, il peut être plus judicieux de l'écrire soi-même.

De plus, l'utilisation de ces technologies peut entraver l'apprentissage. Prenons l'exemple du Data Scientist qui utilise chatGPT pour écrire des requêtes SQL ; il ne maîtrisera jamais vraiment ce langage. Cela soulève la question de savoir si c'est une compétence clé pour nous ou non.

Une étude récente mené conjointement par l’université de Harvard et le Henderson Institute a mis en lumière un apprentissage intéressant. Lors de l’étude, on demandait à deux groupes distincts de réaliser des tâches habituellement réalisées par un consultant en stratégie. Le premier groupe avait le droit d’utiliser l’IA pour répondre tandis que le deuxième en était privé. Même si c’est différent du monde du développement logiciel, il y a des parallèles intéressants.

Deux points cruciaux en ressortent : d'une part, ceux qui utilisent l'IA voient leurs résultats améliorés de 40%. D'autre part, ils sont moins performants que ceux qui ne l'utilisent pas lorsqu’ils doivent répondre à une question à laquelle on sait pertinemment que l'IA ne saura pas répondre. En quelque sorte, ils ne savent pas identifier lorsque l’IA dit des bêtises.

Pour naviguer dans ce paysage complexe, la clé réside dans la capacité à identifier quand utiliser ces technologies, à reconnaître et à atténuer leurs effets pervers, et à les intégrer à grande échelle de manière efficace. Ignorer ces défis pourrait conduire à une obsolescence rapide, un sort que nous cherchons tous à éviter, rappelant le syndrome Kodak.

Il est possible que ces technologies provoquent une redistribution des acteurs. Ceux qui sauront adopter et adapter ces innovations seront positionnés pour prospérer dans un environnement en constante évolution.

🍰 MF :  Comment le faire à grande échelle, à la fois pour toi et pour tes clients?

👉 Emmanuel :

Là aussi, c’est un grand défi car l’ampleur du changement est importante et le changement se fait rapidement. Par rapport à d’autres innovations qu’on a connues dans le domaine logiciel, les résistances aux changements vont probablement être importantes. Et de façon générale, l’être humain n’aime pas vraiment changer.

Pour moi, la première chose à faire, c’est de guider les utilisateurs (développeurs ou autre). Le rôle de l’entreprise (et de ses dirigeants et managers senior) est de fixer le cadre dans lequel les collaborateurs vont pouvoir exprimer leur créativité et leur intelligence. Sur le sujet GenerativeAI, on peut vite se perdre dans la multitude d’outils existants et aider les utilisateurs en identifiant les bons outils à utiliser et les cas d’usage où ils peuvent être pertinents est nécessaire. Ensuite, je pense qu’il va y avoir un gros travail de formation continue et d’accompagnement des équipes.

🍰 MF : Au-delà des populations tech, est-ce que d’autres fonctions bénéficient d’outils GenAI au quotidien ?

👉 Emmanuel :

Absolument, les outils GenAI ne sont pas exclusivement bénéfiques pour les populations tech. Au sein de notre organisation, nous avons développé un outil interne nommé Hikari. Cet outil se manifeste sous la forme d'un outil conversationnel intégré à notre base de connaissances Notion et au CRM HubSpot, étendant ainsi les avantages de l'intelligence artificielle au-delà des équipes techniques.

Avec Hikari, des questions telles que "Quand ai-je parlé à ce client pour la dernière fois ?" ou "Quels sont les points importants du dernier meeting avec telle personne ?" peuvent être posées directement au chatbot. Cela facilite l'accès à des informations cruciales, optimisant ainsi la gestion de la relation client et la préparation des réunions.

Un avantage collatéral notable réside dans la valeur ajoutée que Hikari apporte aux équipes de vente. Grâce à la facilité d'accès aux informations, à la rapidité et la pertinence synthétiques des réponses fournies par le chatbot, les vendeurs sont encouragés à enregistrer de manière régulière et détaillée les comptes rendus de leurs rendez-vous dans HubSpot. Cela non seulement améliore la qualité des données stockées dans le CRM, mais renforce également la collaboration et la communication au sein de l'équipe, contribuant ainsi à une meilleure performance globale.

🍰 MF : Au-delà des populations tech, est-ce que d’autres fonctions bénéficient d’outils GenAI au quotidien ?

👉 Emmanuel :

j’aime bien trois sources d’information que je lis en plus de MF :

• le blog Sicara.com - Les articles de fond sur des sujets techniques
• la newsletter superhuman.ai - j’aime bcp leur côté pragmatique, les informations sont concrètes.
• la newsletter The Sequence - les informations ne sont pas exclusivement concentrées sur l’IA Générative. Ca permet d’avoir un regard plus large. Il y a un peu plus d’analyse dans les articles que superhuman.ai.

‍

Très belle semaine à tous !

‍

— l’équipe millefeuille.ai

‍