KI verstehen und bewerten: Grundlagen und Risiken im Schulalltag Teil 2/2

Risikokategorien des AI Acts

KI-Systeme werden nach dem EU-AI Act in vier verschiedene Klassen kategorisiert. Im nachfolgenden Video erfährst du, welche Klassen es gibt, wie KI-Systeme bewertet werden und Beispiele aus dem Schulkontext für jede Klasse.

Zum Video

Was macht eine KI zur Hochrisiko-KI im Bildungsbereich?

Der EU AI Act klassifiziert KI-Anwendungen nach ihrem Risikopotenzial. Im Bildungsbereich können bestimmte Anwendungen als Hochrisiko eingestuft werden:

Bewertungssysteme: KI-Systeme, die über den Bildungsweg entscheiden können (z.B. Schulempfehlungen)
Beurteilung von Lernergebnissen: Wenn KI zur Bewertung von Tests oder Hausaufgaben verwendet wird
Zugangssteuerung: Systeme, die über die Zulassung zu Bildungseinrichtungen entscheiden

Diese Einstufung basiert auf dem potenziellen Einfluss auf die Bildungs- und Berufswege der Schüler:innen.

Für Schulen bedeutet das:

Die schulKI-Plattform ist so konzipiert, dass sie nicht unter die Hochrisiko-Einstufung fällt. Als Lehrkraft sollten Sie beachten:

KI-Tools sollten als Unterstützung, nicht als Ersatz für pädagogische Entscheidungen dienen
Bei der Bewertung von Schülerleistungen sollte die finale Entscheidung immer bei der Lehrkraft liegen
Die Nutzung sollte transparent erfolgen, Schüler:innen sollten wissen, wann KI eingesetzt wird
KI-Ergebnisse sollten kritisch geprüft werden, besonders bei wichtigen Entscheidungen

Wir bei schulKI sind stets an der Verbesserung und Implementierung neuer Funktionen bemüht. Datenschutzkonformität und Transparenz sind uns wichtig, weshalb wir als Plattform keine Hochrisiko-KI (weder das Modell an sich noch eine von uns angebotene Funktion) sind.

Zwischenfazit 1/3

Den ersten von drei Bereichen der Fortbildung hast du nun schon geschafft. Gelernt hast du dabei

Wie ein KI-Assistent deine Anfragen verarbeitet und dir eine Antwort erstellt.
Welche Fehlerquellen bei Antworten auftreten können.
In welche Risikoklassen der EU AI-Act unterschiedliche KI-Systeme einteilt.

Im nächsten Schritt lösen wir uns von dem "Wie?" hinter KI-Systemen und wollen uns KI und den Auswirkungen des AI-Acts auf den Schulkontext annähern.