24 ETHISCHE LEITLINIEN
24 ETHISCHE LEITLINIEN FÜR LEHRKRÄFTE ÜBER DIE NUTZUNG VON KI Bewertung von Aufsätzen mit automatisierten Tools Eine Schule prüft, wie KI-Systeme die Bewertung schriftlicher Aufgaben unterstützen können. Ein Anbieter hat ein automatisiertes System zur Bewertung von Aufsätzen empfohlen, das komplexe Modelle auf der Grundlage natürlicher Sprache verwendet, um verschiedene Aspekte von Texten mit hoher Genauigkeit zu bewerten. Das System kann verwendet werden, um die Aufgaben der Schülerinnen und Schüler zu überprüfen, automatisch Fehler zu erkennen und Noten zu vergeben. Es kann aber auch zur Erstellung von Musteraufsätzen verwendet werden. Im Laufe der Zeit kann das System große künstliche neuronale Netze mit historischen Fällen trainieren, die verschiedene Arten von Fehlern enthalten, um eine noch genauere Benotung zu ermöglichen. Das System verfügt über eine Funktion zur Erkennung von Plagiaten, mit der die von den Schülerinnen und Schülern eingereichten schriftlichen Arbeiten automatisch auf Plagiate oder Urheberrechtsverletzungen untersucht werden können. Die folgenden Leitfragen beleuchten Bereiche, die Aufmerksamkeit erfordern: • Wird mit bestimmten Verfahren sichergestellt, dass durch die Nutzung der KI niemand diskriminiert oder ungerecht behandelt wird? Vielfalt, Nichtdiskriminierung und Fairness • Wer ist für die laufende Überwachung der Ergebnisse des KI-Systems verantwortlich, und wie werden die Ergebnisse zur Verbesserung des Lehrens, Lernens und Bewertens genutzt? Rechenschaftspflicht • Verstehen Lehrkräfte und Schulleitungen, wie bestimmte Algorithmen für Personalisierung und Bewertung im KI-System funktionieren? Transparenz
UND DATEN FÜR LEHR- UND LERNZWECKE 25 Verwaltung der Schüleranmeldung und Ressourcenplanung Eine Schule nutzt die bei der Anmeldung der Schülerinnen und Schüler erhobenen Daten, um die Anzahl der Kinder, die im kommenden Jahr die Schule besuchen werden, vorherzusagen und besser zu organisieren. Das KI-System wird auch zur Unterstützung bei der Vorausplanung, Ressourcenzuweisung, Klassenzuteilung und Haushaltsplanung eingesetzt. Dies hat es der Schule ermöglicht, neue schülerspezifische Aspekte zu berücksichtigen, z. B. um die Geschlechterparität und die Vielfalt in der Schule zu erhöhen. Die Schule erwägt nun, frühere Noten und andere Messgrößen wie standardisierte Tests zu verwenden, um Zielvorgaben für die Schülerinnen und Schüler zu entwickeln und die Lehrkräfte dabei zu unterstützen, den Schulerfolg in einzelnen Fächern vorherzusagen. . Die folgenden Leitfragen beleuchten Bereiche, die Aufmerksamkeit erfordern: • Wer ist für die laufende Überwachung der Ergebnisse des KI-Systems verantwortlich, und wie werden die Ergebnisse zur Verbesserung des Lehrens, Lernens und Bewertens genutzt? Rechenschaftspflicht • Gibt es Mechanismen, mit denen sichergestellt wird, dass sensible Daten anonym bleiben? Gibt es Verfahren, mit denen der Datenzugang auf die Personen beschränkt werden kann, die ihn benötigen? Datenschutz und Datenqualitätsmanagement • Wie werden die Wirksamkeit und die Auswirkungen des KI-Systems bewertet und dabei die zentralen Werte der Bildung berücksichtigt? Rechenschaftspflicht Einsatz von Chatbots, um Lernende und Eltern bei administrativen Aufgaben zu unterstützen Eine Schule setzt auf ihrer Website einen virtuellen Chatbot-Assistenten ein, der Lernende und Eltern bei administrativen Aufgaben wie der Anmeldung zu Kursen, der Zahlung von Kursgebühren oder der Beantwortung technischer Supportfragen unterstützt. Das System soll Schülerinnen und Schülern auch dabei helfen, Lernmöglichkeiten zu finden, und ihnen Feedback zur Aussprache oder zum Verständnis geben. Der virtuelle Assistent wird auch genutzt, um Kinder mit sonderpädagogischen Bedürfnissen bei administrativen Aufgaben zu unterstützen. Die folgenden Leitfragen beleuchten Bereiche, die Aufmerksamkeit erfordern: • Signalisiert das KI-System deutlich, dass seine soziale Interaktion simuliert ist und es weder zu Gefühlen noch zu Empathie fähig ist? Gesellschaftliches und ökologisches Wohlergehen • Lässt sich mit einer Strategie zur Überwachung und Erprobung überprüfen, ob das KI-System die Ziele, Zwecke und vorgesehenen Anwendungen erfüllt? Technische Robustheit und Sicherheit • Gibt es einen Mechanismus, der es Lehrkräften und Schulleitungen ermöglicht, Probleme mit der Privatsphäre oder dem Datenschutz zu melden? Datenschutz und Datenqualitätsmanagement
