Der Einzug von KI ins Bildungswesen bringt wesentliche Datenschutzfragen mit sich. An dieser Stelle wird nur auf die Nutzung von Text- und Bildgeneratoren im Unterricht eingegangen.

Für die Nutzung weiterer KI-Dienste (z.B. Learning Analytics, KI-basierte, adaptive Lernumgebungen) empfiehlt es sich, mittels einer Vorabkontrolle durch die Datenschutzbeauftragten zu prüfen, ob das Vorhaben datenschutzkonform umgesetzt werden kann.

Geltende AGB’s

Die Nutzung von Text- und Bildgeneratoren (ChatGPT, Copilot, Dall-E etc.) ist nach den AGB meist erst ab 13 Jahren und bis 18 Jahre nur mit Einwilligung der Eltern erlaubt. Zudem werden während der Nutzung des Dienstes Nutzungsdaten von den Anbietern abgespeichert und ausgewertet. Aus diesen Gründen darf von den Schülerinnen und Schülern nicht verlangt werden, für den Einsatz im Unterricht Konten mit ihrer persönlichen E-Mail-Adresse zu erstellen.

Wenn Schülerinnen und Schüler im Unterricht einen Text- oder Bildgenerator nutzen, müssen die Lehrpersonen sicherstellen, dass KI-Dienste ohne Verbindung zu persönlichen Schülerdaten zur Verfügung stehen. Dies ist beispielsweise dann der Fall, wenn Schülerinnen und Schüler via Freigabelink oder QR-Code auf einen KI-Dienst zugreifen.

Datenschutzgesetzt ausländischer Anbieter

Die Mehrheit der KI-Systeme und -Dienste wird von Unternehmen mit Sitz in den USA entwickelt und betrieben. Die Datenschutzstandards in den USA unterscheiden sich von jenen in der Schweiz, was zu Konflikten bezüglich des Schutzniveaus personenbezogener Daten führen kann.

Um diesen Herausforderungen zu begegnen, müssen Schweizer Bildungseinrichtungen sorgfältig prüfen, mit welchen KI-Anbietern sie zusammenarbeiten und wie sie den Datenschutz ihrer Nutzenden unter diesen komplexen internationalen Bedingungen sicherstellen können. Dazu gehören die sorgfältige Auswahl von Dienstanbietern, die Einhaltung strenger Datenübermittlungsregeln und gegebenenfalls die Suche nach alternativen Lösungen, die den Schweizer Datenschutzstandards besser entsprechen.

Quelle: KI-Wiki der PHZH, Datenschutz

KI-Dienste ohne Verbindung zu persönlichen Schülerdaten

Anbieter wie Schabi, Fobizz oder Schulki bieten KI-Tools an, die für den Bildungsbereich entwickelt wurden und folgende Vorgaben bezüglich Datenschutz berücksichtigen:

• Anonyme Nutzung für Schüler:innnen
• Datenverarbeitung gemäss DSVGO-Richtlinien / Hosting der Daten in der CH (Schabi)
• Keine Werbung und Tracking

Grundsätzlich gilt:

• Der Bildungsauftrag kann die Verwendung des KI-Generators als Unterrichtsmittel rechtfertigen.
• Die Schule bleibt in jedem Fall verantwortlich für die Datenbearbeitung.
• Aus Transparenzgründen sind die Erziehungsberechtigten über den Einsatz von KI-Generatoren und die damit verbundenen Datenbearbeitungen zu informieren.