Hier j’ai utilisé ChatGPT, j’avais des questions sur une analyse prévisionnelle que je dois réaliser pour un client. J’ai été impressionné par la qualité de ses réponses. Et en plus c’est gratuit !
Attention. Le raisonnement naïf de penser que l’intelligence artificielle a réponse à tout et gratuitement peut avoir des conséquences lourdes pour l’entreprise. D’autant plus avec les outils grand public.
L’IA générative, en particulier les Large Language Models (LLM), offre des opportunités incroyables, c’est vrai. Néanmoins, avant de se lancer dans un projet IA, les dirigeants doivent être conscients de certains points de vigilance critiques.
Connaissances insuffisantes
Les LLM sont entraînés sur de vastes ensembles de données, mais ils sont limités à ces informations. Ils ne peuvent donc pas accéder à des données en temps réel ou à des informations spécifiques à votre entreprise si elles n’ont pas été incluses dans leur données d’entraînement.
Exemple de cas
Une entreprise de mode utilise un LLM pour générer des descriptions de produits. Cependant, le modèle ne connaît pas les dernières tendances de la saison en cours ni les spécificités de la marque. Résultat : les descriptions générées sont génériques et ne reflètent pas l’identité de la marque ou les caractéristiques actuelles des produits.
Pistes à étudier
Créez un corpus de données spécifique à votre entreprise contenant des informations utiles pour la tâche que vous souhaitez réaliser. Utilisez ces données pour guider le LLM vers des résultats pertinents et actualisés.
Phénomène d’hallucination
Un LLM est entraîné à trouver le mot suivant le plus probable, qu’il invente si on s’écarte de son corpus d’entraînement. Il peut donc générer des informations qui semblent plausibles mais qui sont en réalité complètement fausses. C’est ce que l’on appelle le phénomène d’hallucination. Pour découvrir les concepts importants qui régissent le fonctionnement des LLM, nous vous invitons à découvrir le Glossaire du LLM.
Exemple de cas
Une société de conseil utilise un LLM pour générer des études de marché. Lors d’une analyse sur un marché émergent peu documenté, le LLM génère des statistiques et des noms d’entreprises qui semblent crédibles mais sont en fait inexistants. L’équipe intègre ensuite ces informations erronées dans une présentation client.
Pistes à étudier
Associez les LLM aux bases de données de votre entreprise pour intégrer des informations véridiques et à jour dans le processus. Mettez en place des systèmes de vérification par croisement de données. Établissez ensuite un protocole de révision humaine pour les informations critiques.
Traçabilité des informations
Contrairement à une recherche traditionnelle, les LLM ne citent pas leurs sources. Couplé au phénomène d’hallucination, cette opacité rend difficile voir impossible la vérification des faits et la traçabilité de l’information.
Exemple de cas
Un cabinet juridique utilise un LLM pour effectuer des recherches sur des décisions de justice. Le modèle fournit des informations qui semblent pertinentes, mais sans fournir de sources spécifiques. Les avocats s’appuient sur ces informations sans vérification approfondie. Lors du procès, il s’avère que les exemples étaient erronés, compromettant la défense du client. Cet exemple est tiré de faits réels : cas Steven Schwartz.
Pistes à étudier
Développez un système permettant d’accéder aux sources d’informations que le LLM a utilisé pour générer sa réponse. En ayant accès aux sources, l’utilisateur peut vérifier rapidement la véracité de la réponse.
Souveraineté des données
L’utilisation de LLM en mode SaaS (Software as a Service) peut soulever des questions de souveraineté des données, surtout si des informations sensibles ou confidentielles sont soumises au système. En effet, nous ne savons pas réellement comment les fournisseurs traitent les données que nous soumettons aux LLM.
Exemple de cas
Une entreprise pharmaceutique utilise un LLM SaaS pour analyser des données de recherche et développement. Bien que pratique, cette approche soulève des inquiétudes quant à la confidentialité des informations sur les molécules en développement. L’entreprise réalise que ses données pourraient être accessibles ou utilisées par le fournisseur du LLM, mettant en péril sa propriété intellectuelle et son avantage concurrentiel.
Pistes à étudier
Optez pour une approche hybride ou on-premise pour votre projet IA générative. Utilisez des modèles open-source que vous pouvez héberger en interne pour les tâches impliquant des données sensibles. Pour les tâches moins sensibles, vous pouvez continuer à utiliser des services SaaS.
Dépendance au fournisseur
En s’appuyant sur un fournisseur spécifique de LLM, une entreprise peut se retrouver dépendante de ses services, de ses mises à jour, et de ses politiques de tarification.
Exemple de cas
Une entreprise de formation e-Learning développe un chatbot réglementaire autour d’un LLM spécifique. Après un an de succès, le fournisseur du LLM augmente considérablement ses tarifs et modifie ses conditions d’utilisation. L’entreprise se retrouve dans une situation délicate : soit absorber les coûts supplémentaires au détriment de sa rentabilité, soit reconstruire entièrement son produit avec une autre solution, ce qui nécessiterait un temps et des ressources considérables.
Pistes à étudier
Adoptez une architecture multi-modèles et une stratégie d’abstraction. Concevez votre système pour qu’il puisse facilement s’interfacer avec différents LLM via une couche d’abstraction. Cela vous permettra de basculer entre différents fournisseurs ou modèles open-source selon vos besoins.
Scalabilité du système
La scalabilité concerne la capacité d’un système IA à gérer une augmentation de la charge de travail ou du volume de données, sans compromettre les performances ou augmenter excessivement les coûts.
Exemple de cas
Un site e-commerce implémente un assistant virtuel basé sur un LLM pour son service client. Pendant les périodes normales, le système fonctionne parfaitement. Cependant, lors du Black Friday, le volume de requêtes explose, entraînant des temps de réponse lents et de multiples erreurs. L’entreprise n’avait pas anticipé les ressources nécessaires pour gérer les pics d’activité, l’expérience client est dégradée et des ventes sont perdues.
Pistes à étudier
Utilisez des services cloud qui permettent une montée en charge automatique en fonction de la demande. Vous pouvez aussi implémenter un système de mise en cache pour les requêtes fréquentes, réduisant ainsi la charge sur le LLM.
Coût global du projet IA générative
Les fournisseurs de LLM ne réalisent pour le moment pas de bénéfices avec leurs services. Ceux-ci étant financés par de multiples levées de fonds. Mais qu’en sera-t-il dans le futur ? Il est fort probable que cette situation évolue et que les coûts des LLM augmentent de manière significative. Les écarts entre les prix de ces fournisseurs sont déjà très importants avec des coûts qui vont de 1 à 444. Les coûts associés à l’utilisation des LLM incluent aussi les dépenses indirectes liées à l’intégration, la formation du personnel, et la maintenance du système.
Exemple de cas
Une agence de marketing intègre un LLM pour générer du contenu pour ses clients. Elle découvre que les coûts augmentent rapidement. Chaque itération de contenu, chaque révision demandée par les clients, et chaque formation du modèle pour de nouveaux secteurs augmentent les frais. L’agence doit aussi investir dans la formation de ses employés pour utiliser efficacement l’outil. Ces coûts imprévus impactent de manière significative la marge de l’agence, forçant une réévaluation de la stratégie de tarification et d’utilisation de l’IA.
Pistes à étudier
Commencez par une phase pilote pour évaluer précisément les coûts et les bénéfices de la solution avant un déploiement à grande échelle. Implémentez des outils de suivi de l’utilisation des LLM, permettant d’identifier les plus rentables en fonction de vos besoins. Optimisez vos prompts pour réduire le nombre de tokens utilisés sans compromettre la qualité. Enfin, considérez l’utilisation de modèles plus légers ou open-source pour les tâches moins complexes.
En adressant ces sept points de vigilance et en étudiant les pistes proposées, les dirigeants peuvent mieux se préparer à intégrer l’IA de manière responsable et bénéfique pour leur activité.
L’adoption réussie de l’IA nécessite une approche réfléchie, une planification minutieuse et une volonté d’adapter continuellement sa stratégie en fonction des réalités opérationnelles et technologiques.
Vous avez un projet en tête mais vous ne savez pas par où commencer ? Reglo propose des solutions d’accompagnement personnalisé pour vous guider dans la réalisation de projets IA générative utiles et réussis.
Améliorez vos compétences en IA générative et exploitez tout son potentiel en entreprise
Nos formations IA générative personnalisées s’adressent aux dirigeants, décideurs, managers et à leurs équipes, afin de leur donner les clés pour intégrer efficacement l’IA générative dans leurs activités.
