KI im Unterricht: Praktische Einsatzmöglichkeiten und rechtssicheres Handeln Teil 2/3

Kennzeichnung von KI-generierten Inhalten

Der EU AI Act verlangt eine klare Kennzeichnung von KI-generierten Inhalten. Das bedeutet:

• Alle mit schulKI erstellten Materialien für den Unterricht sollten als solche gekennzeichnet werden
• Bei Texten kann ein einfacher Vermerk wie "Erstellt mit Unterstützung von KI" am Ende des Dokuments ausreichen
• Bei Bildern sollte in der Bildunterschrift oder im entsprechenden Kontext auf die KI-Erstellung hingewiesen werden

Diese Kennzeichnung fördert Transparenz und hilft Schüler:innen, ein Bewusstsein für KI-generierte Inhalte zu entwickeln.

Rechtskonforme Nutzung gemäß AI Act

Datenschutz im Schulkontext: Die wichtigsten Regeln

Beim Einsatz von KI sind diese datenschutzrechtlichen allgemeinen Grundsätze zu beachten:

• Keine Eingabe personenbezogener Daten: Vermeiden Sie jegliche Eingabe von Namen, Adressen oder anderen Informationen, die auf einzelne Schülerinnen und Schüler zurückgeführt werden können
• Keine Daten zu Gesundheit, Religion oder Herkunft: Diese besonders sensiblen Daten dürfen nicht in KI-Systeme eingegeben werden - datensparsam umgehen
• Freiwilligkeitsprinzip: Die Nutzung von KI-Anwendungen sollte für Schülerinnen, Schüler und Lehrkräfte freiwillig sein – es dürfen keine Nachteile entstehen, wenn jemand die Systeme nicht nutzen möchte

Besonderheiten beim Einsatz von schulKI:

• personenbezogene Daten dürfen im privaten Chat (Sprachmodell DeepSeek) eingegeben werden: beim Verwenden des privaten Chats, können Schülernamen bspw. verwendet werden, um Zeugnisformulierungen zu erstellen
  • privater Chat: eingegebene Daten werden nicht zum Training verwendet oder zwischengespeichert, DeepSeek läuft über niederländische Server. Mehr dazu hier.

Verantwortlichkeiten von Lehrkräften und Schulen 

Der AI Act definiert klare Verantwortlichkeiten:

1. Schulleitung: Trägt die Gesamtverantwortung für den rechtskonformen Einsatz von KI an der Schule
   • Sollte diese Schulungsinformationen an das Kollegium weitergeben
   • Muss klare Richtlinien für den KI-Einsatz an der Schule festlegen
   • Ist verantwortlich für die regelmäßige Aktualisierung der KI-Nutzungsregeln
2. Lehrkräfte: Sind verpflichtet zum Schutz personenbezogener Daten und zur verantwortungsvollen Nutzung von KI
   • Müssen sich über die Grundlagen der KI-Nutzung informieren
   • Sollten an entsprechenden Fortbildungen teilnehmen, beispielsweise diese:
     • Bias Fortbildung
     • Selbstlernkurs KI Grundlagen
     • Selbstlernkurs KI in Gesellschaft
     • KI Einsatz im Unterricht
   • Sind verantwortlich für die korrekte Kennzeichnung von KI-generierten Inhalten
3. Risikobewertung: Bei KI-Anwendungen sollte geprüft werden, ob sie als Hochrisiko-KI einzustufen sind (schulKI stellt keine Hochrisiko-KI dar)
4. Transparenz: Schülerinnen, Schüler und Eltern müssen über den Einsatz von KI-Systemen informiert werden

Übung: Formuliere eine kurze Information für deine Klasse, mit dem du den KI-Einsatz im Unterricht transparent machen kannst.

Praktische Checkliste für den rechtssicheren KI-Einsatz

✓ KI-Anwendung klar als solche kennzeichnen
✓ Keine personenbezogenen Daten eingeben
✓ Finale Entscheidung immer bei der Lehrkraft belassen
✓ Schülerinnen und Schüler über KI-Einsatz informieren
✓ KI nur als Unterstützung, nicht als Ersatz für Lernen und selbstständiges Denken
✓ Von der Schule gesetzte Grenzen respektieren

In diesem Kapitel hast du bisher die vielfältigen Funktionen von KI im Schulkontext kennengelernt und erfahren wie du rechtskonform KI in der Schule einsetzen kannst. Im letzten Teil dieser Fortbildung haben wir für dich noch einmal ganz spezielle Übungen aus verschiedenen Fächern vorbereitet.