Datenschutz und verantwortungsvolle Nutzung

Sicherer Umgang mit KI an deiner Schule

AI-School unterstützt Schulen dabei, KI verantwortungsvoll zu nutzen – mit Kontrolle über Zugriffe, Aufsicht und Datenverarbeitung. Mit den Anbietern der KI-Modelle haben wir Vereinbarungen zur Verarbeitung personenbezogener Daten getroffen. Auch Chats innerhalb der Schulumgebung sind dadurch sorgfältig geregelt.

Häufig gestellte FragenStell deine Frage

Die Schulleitung kann außerdem selbst festlegen, wie AI-School mit personenbezogenen Daten in Chats umgeht: Sie können durchgelassen, ausgeblendet, ersetzt oder zurückgehalten werden. Kontodaten werden nicht an den KI-Anbieter übermittelt. Daten, die Nutzerinnen und Nutzer selbst eingeben, können jedoch übermittelt werden. Verwende deshalb nur die erforderlichen Angaben und halte dich bei Audioaufnahmen an die Vereinbarungen deiner Schule.

Im Video erfährst du, wie das funktioniert. Weiter unten findest du mehr zu den Maßnahmen und Vereinbarungen.

Erläuterung als PDF herunterladen

Du möchtest alles in Ruhe nachlesen? In dieser PDF findest du eine übersichtliche Zusammenfassung dazu, wie du sicher mit AI-School arbeitest.

Dieses PDF ist auf Niederländisch.

Sichere Nutzung an der Schule

Sichere Lernumgebung

AI-School wurde speziell für Schulen entwickelt und ermöglicht die Anmeldung über die Schulumgebung.

Begleitung und Monitoring

Schülerinnen und Schüler werden bei der Nutzung der Anwendung begleitet und überwacht.

Schutz personenbezogener Daten

AI-School setzt technische und organisatorische Maßnahmen zum Schutz personenbezogener Daten ein.

Anonymes Arbeiten möglich

In der Anwendung kann auch mit anonymen Konten gearbeitet werden, ohne personenbezogene Daten zu verwenden.

Datenschutz und Verarbeitung

Datenschutz-Grundverordnung (DSGVO)

Was ist die DSGVO?

Bildungseinrichtungen erfassen und verwenden viele personenbezogene Daten ihrer Schülerinnen, Schüler und Studierenden. Die DSGVO verpflichtet dich, diese Daten sorgfältig zu verwenden und die Privatsphäre der Lernenden zu schützen.

Wie unterstützt AI-School die Einhaltung der DSGVO?

AI-School arbeitet mit einer Auftragsverarbeitungsvereinbarung, Rollen, Aufbewahrungsfristen und technischen Datenschutzmaßnahmen. Die Schule bleibt als Verantwortliche für die eigene Einrichtung und Nutzung verantwortlich.

Welche Auftragsverarbeitungsvereinbarung?

AI-School verwendet das Vertragsmuster des Privacyconvenant Onderwijs als Grundlage für die Auftragsverarbeitungsvereinbarung.

Privacyconvenant Onderwijs

Was geschieht mit gesendeten Chats?

Das ausgewählte KI-Modell erhält den Inhalt des Prompts, den relevanten Chatkontext und gegebenenfalls ausgewählte Dokumente oder Tool-Ergebnisse, um eine Antwort zu generieren. Diese Inhalte werden ohne Verknüpfung mit dem AI-School-Konto übermittelt.

Konto- und Verwaltungsdaten

AI-School verarbeitet unter anderem Namen, E-Mail-Adresse und Schülernummer für Konten und die Verwaltung. Diese Daten werden nicht automatisch zum Prompt für ein KI-Modell hinzugefügt.

Personenbezogene Daten im Chat oder in einer Aufnahme?

Wenn Nutzende selbst personenbezogene Daten in einen Prompt, ein Dokument oder einen Tool-Auftrag eingeben, kann der ausgewählte Modellanbieter diese Daten verarbeiten. Gib daher keine unnötigen personenbezogenen Daten ein. Wenn möglich, kann die Administration den Schutz personenbezogener Daten (PII-Schutz) einrichten. Bei Audiodateien kann AI-School personenbezogene Daten nicht automatisch herausfiltern. Halte dich bei Aufnahmen an die Vereinbarungen deiner Schule.

Datenschutzbeauftragter

Grip IT Consultancy

Patrick Lankhaar, FG0016243. Bei Fragen zum Datenschutz kannst du dich direkt an den Datenschutzbeauftragten wenden.

privacy@ai-school.info +31 10 310 7997Nummer der Handelskammer: 68836066

Aufsicht und Begleitung

Aufsicht und Inhaltsfilter

Chatverlauf

Berechtigte Lehrkräfte können den Chatverlauf je nach festgelegten Rollen und Rechten zur Begleitung und Überwachung einsehen.

Direkter Einblick während des Unterrichts

Lehrkräfte können eine Unterrichtsstunde starten und die Schülerinnen und Schüler währenddessen überwachen.

Inhaltsfilter

AI-School und Modellanbieter setzen Sicherheitsmaßnahmen und Inhaltsfilter ein, um unerwünschte oder riskante Ausgaben zu begrenzen. Filter verringern Risiken, verhindern aber nicht jede unerwünschte Antwort.

Sicherer Zugang

Anmeldung mit deinem Schulkonto

Wir verbinden AI-School mit Microsoft oder Google, damit du dich sicher mit deinem Schulkonto anmelden kannst. Die Schule muss der Nutzung unserer Microsoft-Anwendung zustimmen oder kann eine eigene Microsoft-Anwendung zur Verknüpfung bereitstellen.

Bei der Verknüpfung wird geprüft, ob die E-Mail-Adresse in der AI-School-Anwendung registriert ist. So verhindern wir, dass nicht registrierte E-Mail-Adressen die Schulumgebung nutzen können.

Vereinbarungen und Dokumente

AI-School-Abonnement

Hier findest du unsere Allgemeinen Geschäftsbedingungen für das AI-School-Abonnement, die Servicebedingungen und die Datenschutzerklärung. Diese Dokumente sind Bestandteil des Vertrags mit AI-School. Mit der Schulleitung schließen wir außerdem einen Auftragsverarbeitungsvertrag ab.

Allgemeine Geschäftsbedingungen zum Abonnement Servicebedingungen Datenschutzerklärung

Ein Blick hinter die Kulissen

Was passiert, wenn ich im Chat eine Frage stelle?

1
Frage abrufen
Bei einer neuen Frage rufen wir zunächst die Fragen und Antworten aus dem Chat aus unserer Datenbank ab.
2
Verschlüsselt übertragen
Der Chatverlauf wird zusammen mit der neuen Frage verschlüsselt über eine API-Verbindung an ein Sprachmodell übertragen.
3
Antwort anzeigen
Das Sprachmodell generiert eine Antwort. AI-School empfängt diese und zeigt sie im Chatfenster an.

Wohin werden die Daten übertragen?

AI-School bietet verschiedene Sprachmodelle wie GPT, Claude und Gemini an. Die Informationen werden an den Anbieter übertragen, der die Verbindung zum gewählten Sprachmodell bereitstellt. In den meisten Fällen ist das OpenAI oder Google.

Was macht das Sprachmodell?

Das Sprachmodell verarbeitet die Informationen und generiert eine Antwort. Diese Modelle sind komplex. AI-School hat keinen Einfluss darauf, wie sie funktionieren oder welche Ergebnisse sie liefern.

Was passiert, wenn ich den Bildmodus aktiviere?

Im Bildmodus wird aus einer Beschreibung ein Bild generiert. Dabei rufen wir keinen Chatverlauf ab, sondern übertragen die Frage direkt über eine API-Verbindung an das Text-zu-Bild-Modell.

Was ist OpenAI?

OpenAI ist das Unternehmen hinter ChatGPT. AI-School nutzt über API-Verbindungen Sprach- und Bildmodelle, um Antworten und Bilder in der eigenen Schulumgebung zu generieren.

Welche Daten erhält der Modellanbieter?

Der Anbieter erhält den Inhalt des Prompts und den erforderlichen Kontext, aber nicht automatisch den Namen, die E-Mail-Adresse, die Schülernummer oder die Kontoverknüpfung. Personenbezogene Daten, die Nutzer selbst in ihre Eingaben aufnehmen, kann der Anbieter jedoch verarbeiten.

Werden Eingaben für das Training von Modellen verwendet?

AI-School gibt API-Eingaben nicht für das Modelltraining frei. Bei regulären geschäftlichen API-Diensten verwenden Anbieter Eingaben nicht ohne ausdrückliche Zustimmung für das Modelltraining. Die technischen Speicherfristen unterscheiden sich je nach Anbieter, Modell und Funktion. Sie können eine vorübergehende Speicherung zur Erkennung von Missbrauch umfassen.

KI im Klassenzimmer

Häufig gestellte Fragen

Dürfen Kinder KI nutzen?

Eine Schule muss die KI-Nutzung im Einklang mit den geltenden Gesetzen und den eigenen Richtlinien gestalten. AI-School bietet dafür Verwaltungsfunktionen, Aufsicht, Vereinbarungen zur Auftragsverarbeitung und technische Datenschutzmaßnahmen.

Was bedeutet der europäische AI Act?

Der europäische AI Act legt risikobasierte Regeln für KI-Systeme fest. AI-School verfolgt diese Entwicklungen und gestaltet die Umgebung so, dass die Nutzung sicher, transparent und unter menschlicher Aufsicht erfolgt.

Warum kein separates ChatGPT-Abo?

Separate Privatkonten gehören nicht zur geschützten Schulumgebung. Mit AI-School können Schulen Konten verwalten und die Nutzung beaufsichtigen. Außerdem sind keine Schülerdaten für externe Konten erforderlich.

Warum ist Aufsicht notwendig?

Ohne Aufsicht können Schülerinnen und Schüler KI-Tools falsch nutzen. AI-School ermöglicht Einblick in den Chatverlauf und direkte Einsicht während des Unterrichts, damit Schülerinnen und Schüler gut begleitet werden können.

Verknüpfungen und Unterauftragsverarbeiter

Liste der Unterauftragsverarbeiter

AI-School arbeitet mit Unterauftragsverarbeitern für Hosting, Anmeldung und KI-Modelle zusammen. Im Folgenden erfährst du, wofür die einzelnen Anbieter eingesetzt werden. Die Standorte basieren auf der Edu-V-Anlage zu den Unterauftragsverarbeitern vom 6. Juli 2026.

OpenAI

Für GPT-Modelle nutzen wir OpenAI. OpenAI verarbeitet Eingaben, Prompts und Chatverläufe, um Antworten zu generieren. Die Verarbeitung findet in Irland und den Vereinigten Staaten statt. Mit OpenAI wurde eine Vereinbarung zur Auftragsverarbeitung abgeschlossen.

Google Cloud

Wir nutzen Google Cloud, um die virtuelle Umgebung von AI-School zu hosten. Google Cloud verarbeitet Namen, Schülernummern, E-Mail-Adressen und Chatverläufe. Die Speicherung und Verarbeitung finden in den Niederlanden und Belgien statt.

Google Identity Toolkit

Für die Authentifizierung der Nutzer verwenden wir Google Identity Toolkit. Dabei werden E-Mail-Adresse, IP-Adresse, User-Agent und User-ID verarbeitet. Die Speicherung und Verarbeitung finden in den Niederlanden und Belgien statt.

Google Gemini

Wir nutzen Google Gemini als KI-Modell, mit dem Nutzer Fragen stellen, Texte generieren und Daten analysieren können. Gemini verarbeitet Eingaben, Prompts und Chatverläufe. Die Speicherung erfolgt in den Niederlanden und Belgien; Prompts können in den Niederlanden, Belgien und den Vereinigten Staaten verarbeitet werden.

Anthropic

Für Claude-Modelle nutzen wir Anthropic. Anthropic verarbeitet Eingaben, Prompts und Chatverläufe, um Antworten zu generieren. Die Verarbeitung findet in den Vereinigten Staaten statt. Mit Anthropic besteht ein Data Processing Addendum. Für Übermittlungen außerhalb des Europäischen Wirtschaftsraums werden Standardvertragsklauseln verwendet.

Mistral AI

Für Mistral-Modelle nutzen wir Mistral AI. Mistral AI verarbeitet Eingaben, Prompts und Chatverläufe, um Antworten zu generieren. Die Verarbeitung findet in Frankreich statt.

Sicherheitsmaßnahmen

Wie schützt ihr eure Systeme?

Wir kombinieren Infrastruktursicherheit, Rollen, Zugriffsrechte für Umgebungen und technische Kontrollen, damit nur berechtigte Nutzerinnen und Nutzer auf Daten zugreifen können.

Cloud-Sicherheit

Für Speicher- und Backenddienste nutzen wir Google Cloud Platform und Firebase. Google Cloud arbeitet mit verschiedenen Standards und Zertifizierungen, darunter ISO/IEC 27001, ISO/IEC 27017, ISO/IEC 27018, SOC 1, SOC 2, SOC 3 und die DSGVO.

Unbefugten Zugriff verhindern

Nutzer melden sich über Microsoft oder Google an, erhalten Rollen wie Schüler, Mitarbeiter, Lehrkraft, Admin oder Super Admin und haben nur Zugriff auf die für sie vorgesehene Umgebung.

Security Rules und App Check

Firestore Security Rules setzen Rollen und Zugriffsrechte für die jeweilige Umgebung um. Firebase App Check trägt zum Schutz der Backend-Ressourcen bei, indem geprüft wird, ob Anfragen von autorisierten Frontend-Anwendungen stammen.

Mehr zur Sicherheit

Bewertungen und Prüfungen

Diese Bewertungen beschreiben die Situation innerhalb ihres eigenen Umfangs und Bewertungszeitraums. Sie stellen keine allgemeine Zertifizierung von AI-School dar.

DPIA

Gutachter: Grip IT Consultancy
Datum: 8. September 2026
Umfang: Risiken bei der Erhebung von Daten in AI-School: welche Daten verfügbar sind, wer Zugriff hat und wie Daten bereitgestellt und abgerufen werden.

Für die untersuchte Datenverarbeitung wurde das durchschnittliche Datenschutzrisiko als gering bewertet; hohe Restrisiken wurden nicht festgestellt. Schulen können den Bericht anfordern.

Schwachstellen-Scan

Gutachter: Grip IT Consultancy
Datum: 16. April bis 16. Juni 2025
Umfang: Fern- und teilweise automatisierte Bewertung von ai-school-pro.web.app.

Die Gesamtbewertung lag bei 8 (geringes Risiko), mit einigen Punkten zur Beachtung und Empfehlungen. Dies garantiert nicht die Abwesenheit von Schwachstellen.

Analyse der Informationssicherheitsrisiken

Gutachter: Grip IT Consultancy
Datum: 19. Juni 2025
Umfang: Bedrohungen, bestehende Sicherheitsmaßnahmen und Restrisiken von AI-School.

Die Analyse identifiziert unter anderem das Risiko, dass ein Nutzer persönliche Daten in eine Eingabe einfügt. Die Erkenntnisse beziehen sich auf die bewerteten Maßnahmen.

Noch Fragen zum Datenschutz?

Schreib unserem Datenschutzbeauftragten bei Grip IT oder ruf direkt dort an.

privacy@ai-school.info +31 10 310 7997