安全性与GDPR
学校中的安全AI使用
AI-School为教育中的负责任AI使用提供了以下支持：
- 学校登录功能
- 教师指导与监控
- 隐私保护的技术和组织措施
- 提供匿名账户选项，无需个人数据
AI-School如何支持GDPR合规
GDPR要求教育机构谨慎处理个人数据并保护学生隐私。AI-School通过以下方式支持这一要求：
- 与学校签订数据处理协议，明确个人数据的处理方式。
- 以教育隐私公约的模型协议作为数据处理协议的基础。
- 通过通用账户匿名向AI模型提供提示，无需关联可识别用户。
- 通知学校、教师和学生，提示或文档中不得包含个人数据。
- 在文档模板中使用保留标签和本地替换，避免将学校名称、地址、账户名、电子邮件地址和职务等已知信息发送给语言模型。
- 与所用AI模型供应商签订数据处理协议或数据处理附录。
学校作为数据控制者，仍需对所选配置、授权、保存期限及组织内部使用负责。
数据处理术语框架
账户和学生管理数据： 如姓名、电子邮件、用户名和学生编号等，AI-School用于访问、管理和指导。这些数据不会自动发送给AI模型。
提示内容： 用户输入的问题或任务。所选AI模型接收该内容以生成回答。如果用户在提示中包含个人数据，模型提供商可能会处理这些数据。
聊天上下文： 为提供连贯回答所需的先前问答。相关聊天上下文可能与新提示一起发送给所选模型。
附加上下文： 在文档、图片和工具聊天等功能中，所选文档片段、图片、搜索结果或工具结果可添加到模型输入中。这些内容也可能包含个人数据。
子处理者： 代表处理数据的外部方，例如托管、身份验证或执行AI模型。数据处理协议及附件规定了当前的参与方、数据类别、地点和保障措施。
文档模板与隐私敏感数据
通过Word模板创建文档时，AI-School使用保留标签系统。模板中可能包含 {naam_school}、{adres_school}、{naam_account} 或 {email_account} 等标签。语言模型仅接收字段名和填写表单的指令。真实的个人和组织数据随后由AI-School在应用内替换。
因此，这些已知信息无需包含在发送给AI模型的提示中，减少了应用外处理的隐私敏感信息量。
该标签和替换机制不能替代PII保护。它主要防止应用中的已知数据不必要地发送给语言模型。如果用户自行在提示或文档中输入个人数据，PII保护仍然非常重要。
监督与内容过滤
聊天记录： 教师仅可查看其负责学生的聊天记录。此访问权限可根据角色进一步限制。
课堂监控： 教师可启动课程，并在课程中根据需要监控学生。
内容过滤： AI-School及模型提供商使用安全措施和内容过滤器限制不良或高风险输出。此类过滤器降低风险，但不能保证阻止所有不良回答。
有关监督设置的更多信息，请参见“查看历史记录”。
使用学校账户登录
我们将AI-School与Microsoft或Google集成，实现使用学校账户安全登录。学校需授权使用AI-School的Microsoft 365或Google Workspace集成。
该集成会验证电子邮件地址是否已在AI-School应用中注册，防止未注册的邮箱访问学校环境。此过程中除电子邮件外，不交换其他个人数据。
调查与审查
DPIA： Grip IT Consultancy于2026年4月执行了DPIA。报告于2026年5月20日确定，调查了AI-School处理的数据、访问权限及数据的提供和撤回方式。在此范围内，平均隐私风险被评估为低，未发现高残余风险。数据保护官已审核并批准该报告，并审核通过本页面的公开版本。DPIA为快照，可供学校查询。
漏洞扫描： Grip IT Consultancy于2025年4月16日至6月16日对 ai-school-pro.web.app 进行了远程及部分自动化扫描。总体评分为8（低风险），有若干关注点和建议。扫描反映了调查范围和期间的状况，不能保证不存在漏洞。
信息安全风险分析： 2025年6月19日的分析评估了威胁、现有措施和残余风险，包括用户在提示中输入个人数据的风险。该分析同样为快照。
