Segurança e GDPR
Uso responsável de IA na escola
AI-School foi configurado para o uso responsável de IA na educação com:
- Possibilidade de login escolar
- Supervisão e monitoramento por professores
- Medidas técnicas e organizacionais para proteção da privacidade
- Opção para contas anônimas sem dados pessoais
Como o AI-School apoia a conformidade com o GDPR
O GDPR exige que as instituições educacionais processem dados pessoais com cuidado e protejam a privacidade dos alunos. O AI-School apoia isso com:
- A celebração de um contrato de processamento de dados com as escolas, que estabelece o processamento de dados pessoais.
- O uso do acordo-modelo do Privacyconvenant Onderwijs como base para o contrato de processamento.
- A oferta anônima de prompts aos modelos de IA por meio de uma conta geral, sem ligação a um usuário identificável.
- A informação às escolas, professores e alunos de que não devem incluir dados pessoais em prompts ou documentos.
- O uso de tags reservadas e substituição local em templates de documentos, para que dados conhecidos como nome da escola, endereço, nome da conta, e-mail e função não precisem ser enviados ao modelo de linguagem.
- A celebração de contratos de processamento de dados ou Data Processing Addenda com os fornecedores dos modelos de IA usados.
A escola permanece como controladora dos dados responsável pela configuração escolhida, autorizações, prazos de retenção e uso dentro da própria organização.
Quadro conceitual para o processamento de dados
Dados de conta e administração de alunos: dados como nome, e-mail, nome de usuário e número do aluno que o AI-School usa para acesso, gestão e supervisão. Esses dados não são automaticamente adicionados a um modelo de IA.
Conteúdo do prompt: a pergunta ou tarefa que um usuário insere. O modelo de IA escolhido recebe esse conteúdo para gerar uma resposta. Se um usuário inserir dados pessoais no prompt, o provedor do modelo pode processar esses dados.
Contexto do chat: perguntas e respostas anteriores necessárias para fornecer uma resposta coerente. O contexto relevante do chat pode ser enviado junto com o novo prompt ao modelo escolhido.
Contexto adicional: em funções como chat com documentos, imagens e ferramentas, fragmentos de documentos selecionados, imagens, resultados de busca ou resultados de ferramentas podem ser adicionados à entrada do modelo. Esse conteúdo também pode conter dados pessoais.
Subprocessador: uma parte externa que processa dados em nome do controlador, por exemplo, para hospedagem, autenticação ou execução de um modelo de IA. O contrato de processamento e anexos são determinantes para as partes atuais, categorias de dados, locais e garantias.
Templates de documentos e dados sensíveis à privacidade
Ao criar documentos via templates do Word, o AI-School usa um sistema de tags reservadas. No template pode haver, por exemplo, {naam_school}, {adres_school}, {naam_account} ou {email_account}. O modelo de linguagem recebe apenas o nome do campo e a tarefa de preencher o formulário. Os dados pessoais reais e dados da organização são substituídos posteriormente pelo próprio AI-School na aplicação.
Assim, esses dados conhecidos não precisam ser incluídos no prompt enviado ao modelo de IA. Isso reduz a quantidade de informações sensíveis à privacidade processadas fora da aplicação.
Esse mecanismo de tags e substituição não substitui a proteção de PII. Ele previne principalmente que dados conhecidos da aplicação sejam enviados desnecessariamente ao modelo de linguagem. Se um usuário inserir dados pessoais em um prompt ou documento, a proteção de PII continua sendo importante.
Supervisão e filtros de conteúdo
Histórico do chat: Professores têm acesso apenas ao histórico de chat dos alunos pelos quais são responsáveis. Esse acesso pode ser ainda mais limitado por função.
Monitoramento de aula: Professores podem iniciar aulas e monitorar alunos durante a aula, se desejado.
Filtros de conteúdo: AI-School e os provedores de modelos usam medidas de segurança e filtros de conteúdo para limitar saídas indesejadas ou arriscadas. Esses filtros reduzem riscos, mas não garantem que toda resposta indesejada seja bloqueada.
Em "Visualização do histórico" você pode ler mais sobre as configurações possíveis em termos de supervisão.
Login com conta escolar
Conectamos o AI-School com Microsoft ou Google para permitir login seguro com a conta escolar. A escola deve autorizar o uso da conexão Microsoft 365 ou Google Workspace do AI-School.
A conexão verifica se o e-mail está registrado na aplicação AI-School. Assim, evitamos que endereços de e-mail não registrados possam usar o ambiente escolar. Além do e-mail, nenhum dado pessoal adicional é trocado nesse processo.
Pesquisas e auditorias
DPIA: A Grip IT Consultancy realizou a DPIA em abril de 2026. O relatório foi finalizado em 20 de maio de 2026 e examina quais dados o AI-School processa, quem tem acesso e como os dados são fornecidos e removidos. Dentro desse escopo, o risco médio de privacidade foi avaliado como baixo e não foram identificados riscos residuais altos. O Encarregado de Proteção de Dados avaliou e aprovou o relatório. O Encarregado também revisou e aprovou a cópia pública nestas páginas. A DPIA é um retrato do momento e está disponível para as escolas.
Vulnerability scan: A Grip IT Consultancy examinou ai-school-pro.web.app remotamente e parcialmente automatizado de 16 de abril a 16 de junho de 2025. A pontuação geral foi 8 (risco baixo), com alguns pontos de atenção e recomendações. A varredura reflete a situação dentro do escopo e período analisados e não garante que não existam vulnerabilidades.
Análise de risco de segurança da informação: a análise de 19 de junho de 2025 mapeia ameaças, medidas existentes e riscos residuais, incluindo o risco de um usuário inserir dados pessoais em um prompt. Essa análise também é um retrato do momento.
