Veiligheid en AVG
Veilig AI-gebruik op school
AI-School is voor verantwoord AI-gebruik in het onderwijs ingericht met:
- Schoolinlogmogelijkheid
- Docentenbegeleiding en -monitoring
- Technische en organisatorische maatregelen voor privacybescherming
- Optie voor anonieme accounts zonder persoonsgegevens
Hoe AI-School AVG-naleving ondersteunt
De AVG vereist dat onderwijsinstellingen persoonsgegevens zorgvuldig verwerken en de privacy van leerlingen beschermen. AI-School ondersteunt dit met:
- Het afsluiten van een verwerkersovereenkomst met scholen, waarin de verwerking van persoonsgegevens wordt vastgelegd.
- Het gebruiken van de modelovereenkomst van het Privacyconvenant Onderwijs als basis voor de verwerkersovereenkomst.
- Het anoniem aanbieden van prompts aan AI-modellen via een algemeen account, zonder koppeling aan een identificeerbare gebruiker.
- Het informeren van scholen, leerkrachten en leerlingen dat er geen persoonsgegevens in prompts of documenten moeten worden opgenomen.
- Het gebruiken van gereserveerde tags en lokale vervanging bij documenttemplates, zodat bekende gegevens zoals schoolnaam, adres, accountnaam, e-mailadres en functie niet aan het taalmodel hoeven te worden meegestuurd.
- Het afsluiten van verwerkersovereenkomsten of Data Processing Addenda met de leveranciers van de gebruikte AI-modellen.
De school blijft als verwerkingsverantwoordelijke verantwoordelijk voor de gekozen inrichting, autorisaties, bewaartermijnen en het gebruik binnen de eigen organisatie.
Begrippenkader voor gegevensverwerking
Account- en leerlingadministratiegegevens: gegevens zoals naam, e-mailadres, gebruikersnaam en leerlingnummer die AI-School gebruikt voor toegang, beheer en begeleiding. Deze gegevens worden niet automatisch aan een AI-model toegevoegd.
Promptinhoud: de vraag of opdracht die een gebruiker invoert. Het gekozen AI-model ontvangt deze inhoud om een antwoord te genereren. Als een gebruiker persoonsgegevens in de prompt zet, kan de modelaanbieder die gegevens verwerken.
Chatcontext: eerdere vragen en antwoorden die nodig zijn om een samenhangend antwoord te geven. Relevante chatcontext kan samen met de nieuwe prompt naar het gekozen model worden gestuurd.
Aanvullende context: bij functies zoals chatten met documenten, afbeeldingen en tools kunnen gekozen documentfragmenten, afbeeldingen, zoekresultaten of toolresultaten aan de modelinvoer worden toegevoegd. Ook deze inhoud kan persoonsgegevens bevatten.
Subverwerker: een externe partij die in opdracht gegevens verwerkt, bijvoorbeeld voor hosting, authenticatie of het uitvoeren van een AI-model. De verwerkersovereenkomst en bijlagen zijn leidend voor de actuele partijen, gegevenscategorieën, locaties en waarborgen.
Documenttemplates en privacygevoelige gegevens
Bij het maken van documenten via Word-templates gebruikt AI-School een systeem van gereserveerde tags. In het template kan bijvoorbeeld {naam_school}, {adres_school}, {naam_account} of {email_account} staan. Het taalmodel krijgt dan alleen de veldnaam en de opdracht om het formulier te vullen. De echte persoonsgegevens en organisatiegegevens worden pas daarna door AI-School zelf in de applicatie vervangen.
Hierdoor hoeven deze bekende gegevens niet in de prompt naar het AI-model te worden opgenomen. Dit verkleint de hoeveelheid privacygevoelige informatie die buiten de applicatie wordt verwerkt.
Dit tag- en replacement-mechanisme is geen vervanging van PII-bescherming. Het voorkomt vooral dat bekende gegevens uit de applicatie onnodig naar het taalmodel gaan. Als een gebruiker zelf persoonsgegevens in een prompt of document zet, blijft PII-bescherming belangrijk.
Supervisie en inhoudsfilters
Chatgeschiedenis: Leerkrachten hebben uitsluitend inzage in de chatgeschiedenis van leerlingen waarvoor zij verantwoordelijk zijn. Deze inzage kan per rol verder worden beperkt.
Lesmonitoring: Docenten kunnen lessen starten en leerlingen tijdens de les desgewenst monitoren.
Inhoudsfilters: AI-School en de modelaanbieders gebruiken veiligheidsmaatregelen en inhoudsfilters om ongewenste of risicovolle uitvoer te beperken. Zulke filters verkleinen risico's, maar kunnen niet garanderen dat ieder ongewenst antwoord wordt tegengehouden.
Bij "Inzage geschiedenis" kun je meer lezen over de instellingen die mogelijk zijn op het gebied van supervisie.
Inloggen met schoolaccount
Wij koppelen AI-School met Microsoft of Google om veilig te kunnen inloggen met jullie schoolaccount. De school dient toestemming te geven voor het gebruik van de Microsoft 365- of Google Workspace-koppeling van AI-School.
De koppeling controleert of het e-mailadres is aangemeld binnen de AI-School applicatie. Zo voorkomen wij dat niet-aangemelde e-mailadressen gebruik kunnen maken van de schoolomgeving. Buiten het e-mailadres worden bij dit proces geen aanvullende persoonsgegevens uitgewisseld.
Onderzoeken en controles
DPIA: Grip IT Consultancy voerde de DPIA uit in april 2026. Het rapport is op 20 mei 2026 vastgesteld en onderzoekt welke gegevens AI-School verwerkt, wie toegang heeft en hoe gegevens worden aangeleverd en onttrokken. Binnen die scope is het gemiddelde privacyrisico als laag beoordeeld en zijn geen hoge restrisico's vastgesteld. De Functionaris Gegevensbescherming heeft het rapport beoordeeld en akkoord bevonden. De Functionaris Gegevensbescherming heeft ook de publiekscopy op deze pagina's beoordeeld en goedgekeurd. De DPIA is een momentopname en is opvraagbaar voor scholen.
Vulnerabilityscan: Grip IT Consultancy onderzocht ai-school-pro.web.app op afstand en deels geautomatiseerd van 16 april tot en met 16 juni 2025. De globale score was 8 (laag risico), met enkele aandachtspunten en aanbevelingen. De scan geeft de situatie binnen de onderzochte scope en periode weer en is geen garantie dat er geen kwetsbaarheden bestaan.
Risicoanalyse informatiebeveiliging: de analyse van 19 juni 2025 brengt dreigingen, bestaande maatregelen en restrisico's in kaart, waaronder het risico dat een gebruiker persoonsgegevens in een prompt opneemt. Ook deze analyse is een momentopname.
