22 ETHISCHE LEITLINIEN
22 ETHISCHE LEITLINIEN FÜR LEHRKRÄFTE ÜBER DIE NUTZUNG VON KI Leitlinien für Lehrkräfte und Schulleitungen KI könnte die Lehr-, Lern- und Bewertungsmethoden für Lehrkräfte und Lernende maßgeblich verbessern. Unabhängig davon, ob es sich um das gesamte System, eine Schule oder eine Klasse handelt, ist es wichtig, dass die ethische Nutzung von KI- und Datensystemen sorgfältig geprüft wird. Dies sollte laufend und unter Federführung der Schulleitung erfolgen. Es folgen einige grundlegende Schritte, mit denen Lehrkräfte und Schulleitungen überprüfen können, wie KI und Daten in der gesamten Schule genutzt werden bzw. werden können, damit sie zu besseren Ergebnissen für alle Lernenden führen und gleichzeitig ethische Aspekte berücksichtigt werden. Die Leitfragen anwenden Die Leitfragen können auf unterschiedliche Weise angewendet werden, um eine Überprüfung des KI-Systems durchzuführen, je nachdem, ob es in einer Schule eingeführt werden soll oder bereits im Einsatz ist. Die Fragen können an die Lehrkräfte selbst, an die Entscheidungsträger auf der Leitungsebene oder an die Systemanbieter gerichtet werden. Die Fragen können auch als Grundlage für Diskussionen mit Lernenden, Eltern und der breiteren Schulgemeinschaft dienen. Anhand der Fallbeispiele wird aufgezeigt, wie die Leitfragen zur ethischen und verantwortungsvollen Nutzung von KI-Systemen beitragen können. Die Leitfragen können in allen Fällen herangezogen werden. Gleichwohl werden bei jedem Fallbeispiel drei Fragen hervorgehoben, da sie mit Blick auf die vorgeschlagene KI-Lösung, mit der ein bestimmtes Ziel verfolgt wird, besonders relevant sind. Einige dieser Fallbeispiele werden Gegenstand des Rechtsrahmens für KI sein, und für die entsprechenden regulierten KI-Systeme werden verbindliche Anforderungen und Verpflichtungen gelten. Einsatz adaptiver Lerntechnologien, die sich an die Fähigkeiten der einzelnen Lernenden anpassen Eine Grundschule setzt ein intelligentes Tutoren-System ein, um den Lernenden automatisch Ressourcen zu empfehlen, die auf ihre Lernbedürfnisse zugeschnitten sind. Das KI-gestützte System nutzt die Daten der Lernenden, um die Aufgaben an den vorhergesagten Wissensstand der Lernenden anzupassen. Das System liefert den Lernenden nicht nur laufend Feedback, sondern auch Echtzeitinformationen über ihre Fortschritte auf einem Lehrer-Dashboard. Die folgenden Leitfragen beleuchten Bereiche, die Aufmerksamkeit erfordern: • Sind die Prozesse und Ergebnisse des Systems auf die erwarteten Lernergebnisse der Lernenden ausgerichtet? Wie zuverlässig sind die Vorhersagen, Bewertungen und Klassifizierungen des KI-Systems bei der Erklärung und Bewertung der Relevanz seines Einsatzes? Transparenz • Bietet das System geeignete Interaktionsmöglichkeiten für Lernende mit Behinderungen oder sonderpädagogischem Förderbedarf? Ist das KI-System so konzipiert, dass es die Lernenden respektvoll behandelt und sich an ihre individuellen Bedürfnisse anpasst? Vielfalt, Nichtdiskriminierung und Fairness • Gibt es Überwachungssysteme, die ein übermäßiges Vertrauen auf das KI-System oder einen übermäßigen Rückgriff darauf verhindern? Vorrang menschlichen Handelns und menschliche Aufsicht
UND DATEN FÜR LEHR- UND LERNZWECKE 23 Nutzung von Schüler-Dashboards für effizienteres Lernen Eine weiterführende Schule erwägt den Einsatz eines personalisierten Online-Schüler-Dashboards, über das die Lernenden Feedback erhalten und das die Entwicklung ihrer Selbstregulierungsfähigkeiten unterstützt. Anstatt das Gelernte in den Mittelpunkt zu stellen, wird den Lernenden anhand von Grafiken vermittelt, wie sie lernen. Die folgenden Leitfragen beleuchten Bereiche, die Aufmerksamkeit erfordern: • Signalisiert das KI-System deutlich, dass seine soziale Interaktion simuliert ist und es weder zu Gefühlen noch zu Empathie fähig ist? Gesellschaftliches und ökologisches Wohlergehen • Ist der Zugang zu den Daten der Lernenden geschützt und werden sie an einem sicheren Ort aufbewahrt und nur für die vorgesehenen Zwecke verwendet? Datenschutz und Datenqualitätsmanagement • Gibt es eine Dienstleistungsvereinbarung, in der die Support- und Wartungsdienste sowie die Schritte zur Behebung gemeldeter Probleme klar beschrieben sind? Rechenschaftspflicht Individualisierte Maßnahmen für Lernende mit besonderen Bedürfnissen Eine Schule prüft, wie KI-Systeme dazu beitragen können, Hindernisse für Schülerinnen und Schüler mit sonderpädagogischem Förderbedarf abzubauen. Die Schule testet derzeit ein KI-System, das den Förderbedarf von Schülerinnen und Schülern frühzeitig erkennt und maßgeschneiderte didaktische Unterstützung bietet. Durch die Ermittlung von Mustern entsprechender Merkmale auf der Grundlage von Parametern wie Lernleistung, standardisierten Tests, Aufmerksamkeitsspanne oder Lesegeschwindigkeit bewertet das System die Wahrscheinlichkeit bestimmter Diagnosen und schlägt Empfehlungen für Interventionen vor. Die folgenden Leitfragen beleuchten Bereiche, die Aufmerksamkeit erfordern: • Gibt es Verfahren, die Lehrkräften eine Überwachung und ein Eingreifen ermöglichen – beispielsweise wenn Einfühlungsvermögen im Umgang mit Lernenden oder Eltern erforderlich ist? Vorrang menschlichen Handelns und menschliche Aufsicht • Haben Lernende und Eltern Zugriff zu Informationen, die die technische Robustheit und Sicherheit des Systems belegen? Technische Robustheit und Sicherheit • Ist die Rolle der Lehrkraft klar definiert, sodass sichergestellt ist, dass eine Lehrkraft bei der Nutzung des KI-Systems anwesend ist? Wie wirkt sich das KI-System auf die didaktische Rolle der Lehrkraft aus? Vorrang menschlichen Handelns und menschliche Aufsicht
