POC ChatGPT

Ce POC avait pour objectif de mettre en oeuvre un chatbot directement sur un site Wordpress, afin de tester et démontrer les différentes possibilités d’utilisation de ChatGPT, en particulier :

• L’optimisation du prompting : rédaction du contexte et de la demande pour obtenir le contenu voulu, tant sur le fond, la longueur que la structuration de la réponse

• L’apport de données spécifiques pour améliorer la réponse de ChatGPT, en ajoutant des informations complémentaires dans la question (contexte élargi) ou en entraînant le modèle ChatGPT avec les données spécifiques

Le POC s'appuie sur un plugin Wordpress existant, qui permet de se connecter à ChatGPT. Il a été adapté et paramétré aux besoins du POC

POC chat IA Open Source

En parallèle un POC similaire a été mise en oeuvre, s'appuyant sur un modèle d'IA LLM Open source géré en local, en remplacement de ChatGPT, dans une approche RAG (Retrieval Augmented Generation) :

• Modèles LLM de type LLama2 et Mistral

• Embedding de sources de données spécifiques

• Prompting intégrant ces données spécifiques

• Entraînement de modèles (fine tuning) avec les données spécifiques

Technique :

• Langage : Python

• Librairies : LlamaIndex, Langchain, CTransformers, transformers