Sécurité et RGPD

Utilisation responsable de l'IA à l'école

AI-School est conçu pour une utilisation responsable de l'IA dans l'enseignement avec :

• Possibilité de connexion via l'école
• Accompagnement et supervision des enseignants
• Mesures techniques et organisationnelles pour la protection de la vie privée
• Option de comptes anonymes sans données personnelles

Comment AI-School soutient la conformité au RGPD

Le RGPD exige que les établissements scolaires traitent les données personnelles avec soin et protègent la vie privée des élèves. AI-School soutient cela par :

• La conclusion d’un contrat de sous-traitance avec les écoles, définissant le traitement des données personnelles.
• L’utilisation de la clause contractuelle type du Privacyconvenant Onderwijs comme base pour le contrat de sous-traitance.
• La fourniture anonyme des prompts aux modèles d’IA via un compte général, sans lien avec un utilisateur identifiable.
• L’information des écoles, enseignants et élèves qu’aucune donnée personnelle ne doit être incluse dans les prompts ou documents.
• L’utilisation de tags réservés et de remplacements locaux dans les modèles de documents, afin que des données connues comme le nom de l’école, l’adresse, le nom du compte, l’adresse e-mail et la fonction ne soient pas transmises au modèle linguistique.
• La conclusion de contrats de sous-traitance ou d’avenants de traitement des données avec les fournisseurs des modèles d’IA utilisés.

L’école reste responsable en tant que responsable du traitement pour la configuration choisie, les autorisations, les durées de conservation et l’utilisation au sein de sa propre organisation.

Cadre conceptuel pour le traitement des données

Données d’administration des comptes et des élèves : données telles que nom, adresse e-mail, nom d’utilisateur et numéro d’élève utilisées par AI-School pour l’accès, la gestion et l’accompagnement. Ces données ne sont pas automatiquement ajoutées à un modèle d’IA.

Contenu du prompt : la question ou la tâche saisie par un utilisateur. Le modèle d’IA choisi reçoit ce contenu pour générer une réponse. Si un utilisateur inclut des données personnelles dans le prompt, le fournisseur du modèle peut traiter ces données.

Contexte de chat : questions et réponses précédentes nécessaires pour fournir une réponse cohérente. Le contexte pertinent peut être envoyé avec le nouveau prompt au modèle choisi.

Contexte supplémentaire : pour des fonctions telles que le chat avec des documents, images et outils, des extraits de documents, images, résultats de recherche ou résultats d’outils peuvent être ajoutés à l’entrée du modèle. Ce contenu peut aussi contenir des données personnelles.

Sous-traitant : une partie externe qui traite des données pour le compte, par exemple pour l’hébergement, l’authentification ou l’exécution d’un modèle d’IA. Le contrat de sous-traitance et ses annexes définissent les parties actuelles, catégories de données, emplacements et garanties.

Modèles de documents et données sensibles

Lors de la création de documents via des modèles Word, AI-School utilise un système de tags réservés. Par exemple, le modèle peut contenir {nom_ecole}, {adresse_ecole}, {nom_compte} ou {email_compte}. Le modèle linguistique reçoit alors uniquement le nom du champ et la consigne de remplir le formulaire. Les vraies données personnelles et organisationnelles sont ensuite remplacées par AI-School dans l’application.

Ainsi, ces données connues ne doivent pas être incluses dans le prompt envoyé au modèle d’IA. Cela réduit la quantité d’informations sensibles traitées en dehors de l’application.

Complément à la protection des PII

Ce mécanisme de tags et de remplacement ne remplace pas la protection des PII. Il évite surtout que des données connues de l’application soient inutilement envoyées au modèle linguistique. Si un utilisateur saisit lui-même des données personnelles dans un prompt ou un document, la protection des PII reste importante.

Supervision et filtres de contenu

Historique des chats : Les enseignants ont uniquement accès à l’historique des chats des élèves dont ils sont responsables. Cet accès peut être restreint davantage selon le rôle.

Surveillance des cours : Les enseignants peuvent démarrer des cours et, si souhaité, surveiller les élèves pendant le cours.

Filtres de contenu : AI-School et les fournisseurs de modèles utilisent des mesures de sécurité et des filtres de contenu pour limiter les sorties indésirables ou risquées. Ces filtres réduisent les risques, mais ne garantissent pas que chaque réponse indésirable soit bloquée.

Dans la section « Consultation de l’historique », vous pouvez en savoir plus sur les réglages possibles en matière de supervision.

Connexion avec un compte scolaire

Nous connectons AI-School avec Microsoft ou Google pour permettre une connexion sécurisée avec votre compte scolaire. L’école doit donner son consentement pour l’utilisation de la connexion Microsoft 365 ou Google Workspace d’AI-School.

La connexion vérifie que l’adresse e-mail est enregistrée dans l’application AI-School. Cela empêche que des adresses e-mail non enregistrées puissent utiliser l’environnement scolaire. Aucune donnée personnelle supplémentaire n’est échangée dans ce processus en dehors de l’adresse e-mail.

Enquêtes et contrôles

DPIA : Grip IT Consultancy a réalisé l’Evaluation d’Impact sur la Protection des Données (DPIA) en avril 2026. Le rapport a été finalisé le 20 mai 2026 et examine quelles données AI-School traite, qui y a accès et comment les données sont fournies et retirées. Dans ce cadre, le risque moyen pour la vie privée a été évalué comme faible et aucun risque résiduel élevé n’a été identifié. Le Délégué à la Protection des Données a examiné et approuvé le rapport. Il a également validé la version publique sur ces pages. La DPIA est un instantané et peut être consultée par les écoles.

Scan de vulnérabilité : Grip IT Consultancy a examiné ai-school-pro.web.app à distance et de manière partiellement automatisée du 16 avril au 16 juin 2025. Le score global était de 8 (risque faible), avec quelques points d’attention et recommandations. Le scan reflète la situation dans le périmètre et la période étudiés et ne garantit pas l’absence de vulnérabilités.

Analyse des risques en sécurité de l’information : l’analyse du 19 juin 2025 cartographie les menaces, mesures existantes et risques résiduels, y compris le risque qu’un utilisateur inclue des données personnelles dans un prompt. Cette analyse est également un instantané.