Un outil d'IA générative à l'Université de Rennes : introduction au RAG

Voir sur YouTube

Résumé

Olivier Wong, enseignant en IUT et vice-président chargé de la stratégie numérique de l'Université de Rennes, explique le RAG (Retrieval Augmented Generation) : avant de répondre, le modèle va chercher dans une base de documents indexés les passages pertinents, comme un étudiant qui passerait un examen avec ses notes plutôt que seul face à sa copie. C'est une alternative bien moins coûteuse au réentraînement d'un modèle pour exploiter des documents fiables (cours, polycopiés, textes juridiques). Une démonstration sur le rapport des « 25 recommandations pour l'IA » montre des réponses plus pertinentes, mais pas parfaites. Il présente ensuite l'IA générative locale déployée par l'université sur ses propres serveurs (Open WebUI, Ollama, vLLM, modèles ouverts dont Codestral et des petits modèles sobres) et son bilan : plus de 300 utilisateurs, environ 6 000 requêtes en trois mois, des usages en pédagogie, en administration et en recherche, et des coûts bien inférieurs à ceux des offres commerciales.

Points clés

• Le principe du RAG : indexer des documents, retrouver les passages utiles, enrichir la question posée au modèle
• RAG ou réentraînement (fine-tuning) : exploiter un corpus fiable sans le coût d'un entraînement
• Démonstration comparée, avec et sans RAG, sur un rapport officiel : plus juste, mais toujours à vérifier
• Une IA souveraine hébergée par l'université : Open WebUI, Ollama, vLLM et modèles ouverts
• Premier bilan : plus de 300 utilisateurs, environ 6 000 requêtes en trois mois, usages variés
• Usages pédagogiques : syllabus, quiz, assistant de cours hybride qui propose des réponses à l'enseignant

Outils et références cités

• Open WebUI
• Ollama
• vLLM
• Rapport « 25 recommandations pour l'IA en France » (commission de l'IA, 2024)

Présentation d'origine (description YouTube)

Bienvenue à notre webinaire, animé par Julien Morice, responsable du service PracTice de l'IMT-BS. Nous avons eu le plaisir d'accueillir Olivier Wong, expert en pédagogie, gamification et enseignement hybride, et vice-président de la stratégie numérique à l'Université de Rennes. Il nous présente le Retrieval Augmented Generation (RAG), une technologie qui améliore les chatbots en intégrant une base de documents pour fournir des réponses plus précises 📚🤖. Cette technologie a des applications pratiques en éducation, comme la création de syllabi, la génération de quiz et l'assistance à la recherche 📘📝.

Nous vous encourageons à expérimenter et à partager vos retours pour améliorer cet outil 💡🔧.