Безопасность и GDPR
Безопасное использование ИИ в школе
AI-School создан для ответственного использования ИИ в образовании с учетом:
- Возможности входа через школьный аккаунт
- Поддержки и мониторинга со стороны преподавателей
- Технических и организационных мер по защите конфиденциальности
- Опции анонимных аккаунтов без персональных данных
Как AI-School поддерживает соблюдение GDPR
GDPR требует от образовательных учреждений аккуратно обрабатывать персональные данные и защищать конфиденциальность учащихся. AI-School поддерживает это через:
- Заключение договора об обработке данных с учебными заведениями, в котором фиксируется обработка персональных данных.
- Использование типового соглашения из Privacyconvenant Onderwijs в качестве основы для договора об обработке данных.
- Анонимное предоставление подсказок ИИ-моделям через общий аккаунт без связи с идентифицируемым пользователем.
- Информирование школ, преподавателей и учащихся о том, что в подсказках или документах не должны содержаться персональные данные.
- Использование зарезервированных тегов и локальной замены в шаблонах документов, чтобы известные данные, такие как название школы, адрес, имя аккаунта, адрес электронной почты и должность, не передавались языковой модели.
- Заключение договоров об обработке данных или Data Processing Addenda с поставщиками используемых ИИ-моделей.
Школа остается ответственным контролером обработки за выбранную организацию, авторизации, сроки хранения и использование внутри своей организации.
Терминология обработки данных
Данные аккаунта и учащегося: данные, такие как имя, адрес электронной почты, имя пользователя и номер учащегося, которые AI-School использует для доступа, управления и сопровождения. Эти данные не добавляются автоматически в ИИ-модель.
Содержимое подсказки: вопрос или задание, введённые пользователем. Выбранная ИИ-модель получает это содержимое для генерации ответа. Если пользователь вводит персональные данные в подсказку, поставщик модели может обработать эти данные.
Контекст чата: предыдущие вопросы и ответы, необходимые для связного ответа. Соответствующий контекст чата может быть отправлен вместе с новой подсказкой выбранной модели.
Дополнительный контекст: при функциях, таких как чат с документами, изображениями и инструментами, выбранные фрагменты документов, изображения, результаты поиска или инструменты могут быть добавлены к вводу модели. Это содержимое также может содержать персональные данные.
Субобработчик: внешняя сторона, которая обрабатывает данные по поручению, например, для хостинга, аутентификации или выполнения ИИ-модели. Договор об обработке данных и приложения определяют актуальные стороны, категории данных, местоположения и гарантии.
Шаблоны документов и конфиденциальные данные
При создании документов через шаблоны Word AI-School использует систему зарезервированных тегов. В шаблоне могут быть, например, {naam_school}, {adres_school}, {naam_account} или {email_account}. Языковая модель получает только имя поля и задание заполнить форму. Настоящие персональные и организационные данные заменяются AI-School уже в приложении.
Таким образом, эти известные данные не нужно включать в подсказку для ИИ-модели. Это уменьшает количество конфиденциальной информации, обрабатываемой вне приложения.
Этот механизм тегов и замены не заменяет защиту PII. Он в основном предотвращает ненужную передачу известных данных из приложения в языковую модель. Если пользователь сам вводит персональные данные в подсказку или документ, защита PII остается важной.
Надзор и фильтры содержимого
История чата: Преподаватели имеют доступ только к истории чатов тех учащихся, за которых они отвечают. Этот доступ может быть дополнительно ограничен в зависимости от роли.
Мониторинг уроков: Преподаватели могут запускать уроки и при необходимости контролировать учащихся во время занятия.
Фильтры содержимого: AI-School и поставщики моделей используют меры безопасности и фильтры содержимого для ограничения нежелательных или рискованных ответов. Такие фильтры снижают риски, но не гарантируют блокировку каждого нежелательного ответа.
Подробнее о настройках надзора можно прочитать в разделе «Просмотр истории».
Вход с использованием школьного аккаунта
Мы интегрируем AI-School с Microsoft или Google для безопасного входа с вашим школьным аккаунтом. Школа должна дать согласие на использование интеграции Microsoft 365 или Google Workspace с AI-School.
Интеграция проверяет, зарегистрирован ли адрес электронной почты в приложении AI-School. Это предотвращает использование школьной среды незарегистрированными адресами. Кроме адреса электронной почты, в этом процессе не передаются дополнительные персональные данные.
Исследования и проверки
DPIA: Grip IT Consultancy провела DPIA в апреле 2026 года. Отчет был утвержден 20 мая 2026 года и исследует, какие данные обрабатывает AI-School, кто имеет доступ и как данные передаются и удаляются. В рамках этой оценки средний риск для конфиденциальности был оценен как низкий, высоких остаточных рисков не выявлено. Офицер по защите данных рассмотрел и одобрил отчет, а также публичную версию на этих страницах. DPIA является снимком текущего состояния и доступна для школ по запросу.
Сканирование уязвимостей: Grip IT Consultancy исследовала ai-school-pro.web.app удаленно и частично автоматизировано с 16 апреля по 16 июня 2025 года. Общий балл составил 8 (низкий риск), с некоторыми замечаниями и рекомендациями. Сканирование отражает ситуацию в рамках исследуемого периода и области и не гарантирует отсутствия уязвимостей.
Анализ рисков информационной безопасности: анализ от 19 июня 2025 года выявляет угрозы, существующие меры и остаточные риски, включая риск того, что пользователь введет персональные данные в подсказку. Этот анализ также является снимком текущего состояния.
