La direction générale de l'éducation, de la jeunesse, des sports et de la culture de la Commission européenne (2022) formule des questions clés dans ses lignes directrices sur l’éthique de l’IA dans l’éducation, qui aident les enseignant·e·s à engager un dialogue constructif sur l’utilisation éthique de l’IA dans l’éducation. Elles se fondent sur des exigences éthiques diverses. Les orientations données à titre d'exemple ci-dessous se trouvent dans les lignes directrices, qui peuvent être consultées dans leur intégralité dans l'annuaire des sources ou en ligne à l'adresse suivante : «lien» (lien vérifié en dernier le 16.10.2024). Ces questions clés ne sont pas destinées à préparer une leçon d’enseignement, mais à examiner les possibilités et les risques de l’IA à l’école, afin d’en évaluer les aspects éthiques.
- Exigence éthique : Priorité à l'action humaine et surveillance humaine
Exemple de question clé : Le rôle de l’enseignant·e est-il clairement défini de manière à garantir la présence d’un·e enseignant·e lors de l’utilisation du système d’IA ? (signifie : Est-il clairement établi qu’un·e enseignant·e est présent lors de l’utilisation du système d’IA ?) Quel est l’impact du système d’IA sur le rôle pédagogique de l’enseignant·e ?
- Exigence éthique : Transparence
Exemple de question clé : Les enseignant·e·s et les directeur·rice·s d’école connaissent-ils les méthodes et les fonctions de l’IA qui sous-tendent le système ?
- Exigence éthique : Diversité, non-discrimination et équité
Exemple de question clé : Le système est-il accessible de la même manière et accessible à tous ?
- Exigence éthique : Bien-être social et environnemental
Exemple de question clé : Quel est l’impact du système d’IA sur le bien-être social et émotionnel des apprenant·e·s et des enseignant·e·s ?
- Exigence éthique : Protection des données et gestion de la qualité des données
Exemple de question clé: Existe-t-il des mécanismes garantissant que les données sensibles restent anonymes ? Existe-t-il des procédures permettant de limiter l'accès aux données aux personnes qui en ont besoin ?
- Exigence éthique : Robustesse et sécurité techniques
Exemple de question clé: Existe-t-il des garanties suffisantes contre les violations de données ?
- Exigence éthique : Responsabilité
Exemple de question clé : Qui est responsable du suivi permanent des résultats du système d’IA et comment les résultats sont-ils utilisés pour améliorer l’enseignement, l’apprentissage et l’évaluation ?