Be(e)Chat – IA sûre et responsable pour l’enseignement supérieur

Durée : janvier 2024 – décembre 2024
Statut : terminé
Niveau de formation : niveau tertiaire
Thème : artificial intelligence AI, data science for education
Mots-clés : science des données au service de l’éducation, IA

Situation initiale

L’intégration croissante des outils d’IA générative (GenAI), tels que ChatGPT, dans l’enseignement supérieur présente à la fois des opportunités et des défis. Bien que ces outils puissent appuyer l’apprentissage, la rédaction et l’enseignement, leur usage en contexte académique soulève d’importantes préoccupations liées à la protection des données, à la transparence, aux biais et au contrôle institutionnel. Les systèmes commerciaux traitent les données des utilisateur·trice·s en externe, manquent souvent de transparence dans la gestion des données et intègrent des biais opaques dans leurs jeux de données de formation. De plus, les modèles de tarification par abonnement risquent d’aggraver les inégalités entre les étudiant·e·s. Dans ce contexte, les établissements d’enseignement supérieur se trouvent face à un dilemme : comment tirer parti du potentiel éducatif de la GenAI tout en assurant la conformité aux lois sur la vie privée, en préservant l’intégrité académique et l’autonomie institutionnelle ? Le projet Be(e)Chat répond à ce défi en développant et évaluant un système de chatbot open source hébergé localement, conçu selon les besoins des établissements universitaires du canton de Berne. Le système vise à offrir aux étudiant·e·s et aux enseignant·e·s un accès sûr et transparent à la GenAI, dans le respect des normes éthiques. Au-delà de la mise en œuvre technique, le projet explore les implications pédagogiques, éthiques et de durabilité liées aux systèmes d’IA déployés localement.

Objectifs

Be(e)Chat a pour ambition de concevoir, mettre en œuvre et évaluer un chatbot GenAI sécurisé, respectueux de la vie privée et exploité localement pour l’enseignement supérieur. Les objectifs sont :

1. fournir une alternative open source aux outils d’IA commerciaux,
2. garantir le contrôle institutionnel et la protection des données,
3. évaluer les performances du système et les garde-fous éthiques, et
4. créer des ressources réutilisables — notamment des guides d’hébergement et de maintenance — pour la communauté éducative au sens large.

Méthode

Le projet a suivi un processus de conception et d’évaluation itératif et participatif. Lors d’un atelier interdisciplinaire avec des étudiant·e·s, des enseignant·e·s, des expert·e·s informatiques et des parties prenantes institutionnelles, des besoins et des risques ont été identifiés. Ceux-ci ont alimenté le développement d’une architecture système non dépendante d’un modèle particulier, utilisant « Open WebUI » et « Ollama » comme composantes open source centrales. Un prototype a été testé au moyen d’un cadre d’évaluation qualitative structuré, couvrant sept domaines fonctionnels clés — tels que la précision de la synthèse, les garde-fous éthiques et la fiabilité de la recherche web — sur la base de 15 cas de test standardisés. En outre, un test de charge a été réalisé pour évaluer l’extensibilité du système et les temps de réponse en usage simultané.

Résultats

Le prototype Be(e)Chat est un système de chatbot open source déployé localement, reposant sur Open WebUI pour l’interface utilisateur et Ollama pour l’inférence du modèle. Il intègre des fonctions comme le chargement et l’analyse de documents, la recherche web, des statistiques de consommation d’énergie basées sur les sorties, la suppression du « ß », et l’authentification institutionnelle via LDAP. L’architecture du système permet l’intégration flexible de nouveaux grands modèles de langage différents afin d’assurer durabilité et adaptabilité. L’évaluation quantitative réalisée avec 15 cas de test standardisés dans sept domaines fonctionnels clés a donné un taux de conformité de 73.3 %. L’analyse qualitative a mis en évidence de bonnes performances dans la synthèse, les garde-fous éthiques et la sécurité des données, tout en pointant des limites dans la fiabilité de la recherche web et la génération de textes inclusifs. Globalement, les résultats confirment la faisabilité technique et le potentiel pédagogique des systèmes GenAI sécurisés hébergés localement, en tant qu’alternative transparente et respectueuse de la vie privée aux services d’IA commerciaux.

Mise en œuvre de la translation

Le système Be(e)Chat a été déployé institutionnellement à la Haute école spécialisée bernoise (BFH) et mis à disposition des enseignant·e·s et étudiant·e·s à des fins pédagogiques au sein du département « Technique et Informatique » (BFH TI). Dans le cadre de plusieurs projets ultérieurs, les enseignant·e·s ont commencé à intégrer le chatbot dans des contextes d’enseignement et d’évaluation, par exemple via la création d’un « module bot » fournissant aux étudiant·e·s des ressources d’apprentissage sélectionnées. Tous les livrables du projet, y compris la documentation du système, le cadre d’évaluation et les guides de déploiement, ont été publiés sur le site web du projet et/ou lors de la conférence EC TEL 2025. Les perspectives de recherche futures incluent un déploiement institutionnel plus large et des partenariats avec d’autres établissements d’enseignement supérieur du canton de Berne.

À la suite directe du projet, BFH‑TI a décidé de mettre en place un service dédié d’inférence LLM local basé sur l’architecture Be(e)Chat. Pour cela, la BFH a investi dans du matériel haute performance et économe en énergie, contribuant à une application plus durable de l’IA. Le cadre d’évaluation publié pourrait être adopté par d’autres chercheur·euse·s pour évaluer l’utilisation d’outils GenAI dans le contexte de l’enseignement supérieur. De plus, nous avons organisé un atelier lors de la conférence EC‑TEL 2025 au cours duquel les participant·e·s ont appliqué le Digital Ethics Canvas (Hardebolle et al., 2023) à des cas d’usage éducatif basés sur Be(e)Chat et identifié collectivement des vulnérabilités potentielles et des stratégies d’atténuation (voir médias).

Institutions participantes