Sicherheit und GDPR

Sicherer KI-Einsatz in der Schule

AI-School ist für den verantwortungsvollen Einsatz von KI im Bildungsbereich eingerichtet mit:

• Schul-Login-Möglichkeit
• Begleitung und Überwachung durch Lehrkräfte
• Technische und organisatorische Maßnahmen zum Datenschutz
• Option für anonyme Konten ohne personenbezogene Daten

Wie AI-School die GDPR-Konformität unterstützt

Die GDPR verlangt von Bildungseinrichtungen, personenbezogene Daten sorgfältig zu verarbeiten und die Privatsphäre der Lernenden zu schützen. AI-School unterstützt dies durch:

• Abschluss eines Auftragsverarbeitungsvertrags mit Schulen, in dem die Verarbeitung personenbezogener Daten festgelegt wird.
• Verwendung der Modellvereinbarung des Datenschutzabkommens Bildung als Grundlage für den Auftragsverarbeitungsvertrag.
• Anonyme Übermittlung von Prompts an KI-Modelle über ein allgemeines Konto, ohne Verknüpfung mit einem identifizierbaren Nutzer.
• Information der Schulen, Lehrkräfte und Lernenden, dass keine personenbezogenen Daten in Prompts oder Dokumenten enthalten sein dürfen.
• Verwendung reservierter Tags und lokaler Ersetzungen bei Dokumentvorlagen, sodass bekannte Daten wie Schulname, Adresse, Kontoname, E-Mail-Adresse und Funktion nicht an das Sprachmodell übermittelt werden müssen.
• Abschluss von Auftragsverarbeitungsverträgen oder Data Processing Addenda mit den Anbietern der verwendeten KI-Modelle.

Die Schule bleibt als Verantwortliche für die Verarbeitung verantwortlich für die gewählte Einrichtung, Berechtigungen, Aufbewahrungsfristen und die Nutzung innerhalb der eigenen Organisation.

Begriffsrahmen für die Datenverarbeitung

Account- und Lernendendaten: Daten wie Name, E-Mail-Adresse, Benutzername und Lernendennummer, die AI-School für Zugang, Verwaltung und Begleitung verwendet. Diese Daten werden nicht automatisch an ein KI-Modell übermittelt.

Promptinhalt: Die Frage oder Aufgabe, die ein Nutzer eingibt. Das gewählte KI-Modell erhält diesen Inhalt, um eine Antwort zu generieren. Wenn ein Nutzer personenbezogene Daten in den Prompt eingibt, kann der Modellanbieter diese Daten verarbeiten.

Chatkontext: Frühere Fragen und Antworten, die benötigt werden, um eine zusammenhängende Antwort zu geben. Relevanter Chatkontext kann zusammen mit dem neuen Prompt an das gewählte Modell gesendet werden.

Zusätzlicher Kontext: Bei Funktionen wie Chatten mit Dokumenten, Bildern und Tools können ausgewählte Dokumentfragmente, Bilder, Suchergebnisse oder Toolergebnisse der Modelleingabe hinzugefügt werden. Auch diese Inhalte können personenbezogene Daten enthalten.

Subunternehmer: Eine externe Partei, die im Auftrag Daten verarbeitet, z. B. für Hosting, Authentifizierung oder den Betrieb eines KI-Modells. Der Auftragsverarbeitungsvertrag und Anhänge sind maßgeblich für die aktuellen Parteien, Datenkategorien, Standorte und Schutzmaßnahmen.

Dokumentvorlagen und datenschutzrelevante Daten

Beim Erstellen von Dokumenten über Word-Vorlagen verwendet AI-School ein System von reservierten Tags. In der Vorlage kann z. B. {naam_school}, {adres_school}, {naam_account} oder {email_account} stehen. Das Sprachmodell erhält dann nur den Feldnamen und den Auftrag, das Formular auszufüllen. Die echten personenbezogenen und Organisationsdaten werden erst danach von AI-School selbst in der Anwendung ersetzt.

Dadurch müssen diese bekannten Daten nicht im Prompt an das KI-Modell übermittelt werden. Dies reduziert die Menge an datenschutzrelevanten Informationen, die außerhalb der Anwendung verarbeitet werden.

Ergänzend zum Schutz personenbezogener Daten

Dieser Tag- und Ersetzungsmechanismus ersetzt keinen Schutz personenbezogener Daten. Er verhindert vor allem, dass bekannte Daten aus der Anwendung unnötig an das Sprachmodell gesendet werden. Wenn ein Nutzer selbst personenbezogene Daten in einen Prompt oder ein Dokument eingibt, bleibt der Schutz personenbezogener Daten wichtig.

Aufsicht und Inhaltsfilter

Chatverlauf: Lehrkräfte haben ausschließlich Einsicht in den Chatverlauf der Lernenden, für die sie verantwortlich sind. Diese Einsicht kann je nach Rolle weiter eingeschränkt werden.

Unterrichtsüberwachung: Lehrkräfte können Unterricht starten und Lernende während des Unterrichts bei Bedarf überwachen.

Inhaltsfilter: AI-School und die Modellanbieter verwenden Sicherheitsmaßnahmen und Inhaltsfilter, um unerwünschte oder risikoreiche Ausgaben zu begrenzen. Solche Filter verringern Risiken, können aber nicht garantieren, dass jede unerwünschte Antwort verhindert wird.

Unter „Einsicht Verlauf“ können Sie mehr über die möglichen Einstellungen im Bereich Aufsicht lesen.

Anmeldung mit Schulaccount

Wir koppeln AI-School mit Microsoft oder Google, um eine sichere Anmeldung mit eurem Schulaccount zu ermöglichen. Die Schule muss die Nutzung der Microsoft 365- oder Google Workspace-Verknüpfung von AI-School genehmigen.

Die Verknüpfung prüft, ob die E-Mail-Adresse innerhalb der AI-School-Anwendung registriert ist. So verhindern wir, dass nicht registrierte E-Mail-Adressen die Schulumgebung nutzen können. Außer der E-Mail-Adresse werden bei diesem Prozess keine weiteren personenbezogenen Daten ausgetauscht.

Untersuchungen und Kontrollen

DPIA: Grip IT Consultancy führte die DPIA im April 2026 durch. Der Bericht wurde am 20. Mai 2026 verabschiedet und untersucht, welche Daten AI-School verarbeitet, wer Zugriff hat und wie Daten bereitgestellt und entzogen werden. Innerhalb dieses Rahmens wurde das durchschnittliche Datenschutzrisiko als niedrig bewertet und keine hohen Restrisiken festgestellt. Der Datenschutzbeauftragte hat den Bericht geprüft und genehmigt. Der Datenschutzbeauftragte hat auch die öffentliche Version auf diesen Seiten geprüft und freigegeben. Die DPIA ist eine Momentaufnahme und für Schulen abrufbar.

Schwachstellenscan: Grip IT Consultancy untersuchte ai-school-pro.web.app aus der Ferne und teilweise automatisiert vom 16. April bis 16. Juni 2025. Die Gesamtnote war 8 (niedriges Risiko), mit einigen Punkten zur Beachtung und Empfehlungen. Der Scan zeigt die Situation innerhalb des untersuchten Rahmens und Zeitraums und garantiert nicht, dass keine Schwachstellen bestehen.

Risikoanalyse Informationssicherheit: Die Analyse vom 19. Juni 2025 erfasst Bedrohungen, bestehende Maßnahmen und Restrisiken, darunter das Risiko, dass ein Nutzer personenbezogene Daten in einem Prompt eingibt. Auch diese Analyse ist eine Momentaufnahme.