20 ETHISCHE LEITLINIEN
20 ETHISCHE LEITLINIEN FÜR LEHRKRÄFTE ÜBER DIE NUTZUNG VON KI 3 Vielfalt, Nichtdiskriminierung und Fairness • Ist das System für jeden in gleicher Weise und barrierefrei zugänglich? • Bietet das System geeignete Interaktionsmöglichkeiten für Lernende mit Behinderungen oder sonderpädagogischem Förderbedarf? Ist das KI-System so konzipiert, dass es die Lernenden respektvoll behandelt und sich an ihre individuellen Bedürfnisse anpasst? • Ist die Benutzeroberfläche für die Altersgruppe der Lernenden geeignet und zugänglich? Wurden die Benutzerfreundlichkeit und das Benutzererlebnis für die Altersgruppe getestet? • Wird mit bestimmten Verfahren sichergestellt, dass durch die Nutzung der KI niemand diskriminiert oder ungerecht behandelt wird? • Geben die Systemdokumentation oder der Trainingsprozess der KI Aufschluss über mögliche Verzerrungen in den Daten? • Gibt es Verfahren zur Aufdeckung und Beseitigung von möglichen Verzerrungen oder vermeintlichen Ungleichheiten? 4 Gesellschaftliches und ökologisches Wohlergehen • Wie wirkt sich das KI-System auf das soziale und emotionale Wohlergehen von Lernenden und Lehrkräften aus? • Signalisiert das KI-System deutlich, dass seine soziale Interaktion simuliert ist und es weder zu Gefühlen noch zu Empathie fähig ist? • Sind die Schülerinnen und Schüler oder ihre Eltern an der Entscheidung für die Nutzung des KI-Systems beteiligt und befürworten sie es? • Werden Daten genutzt, um Lehrkräfte und Schulleitungen bei der Bewertung des Wohlergehens der Schülerinnen und Schüler zu unterstützen, und wenn ja, wie wird dies überwacht? • Entsteht durch die Nutzung des Systems Schaden oder Angst für den Einzelnen oder für die Gesellschaft?
UND DATEN FÜR LEHR- UND LERNZWECKE 21 5 Datenschutz und Datenqualitätsmanagement • Gibt es Mechanismen, mit denen sichergestellt wird, dass sensible Daten anonym bleiben? Gibt es Verfahren, mit denen der Datenzugang auf die Personen beschränkt werden kann, die ihn benötigen? • Ist der Zugang zu den Daten der Lernenden geschützt und werden sie an einem sicheren Ort aufbewahrt und nur für die vorgesehenen Zwecke verwendet? • Gibt es einen Mechanismus, der es Lehrkräften und Schulleitungen ermöglicht, Probleme mit der Privatsphäre oder dem Datenschutz zu melden? • Sind Lernende und Lehrkräfte darüber informiert, was mit ihren Daten geschieht und wie und für welchen Zweck sie verwendet werden? • Ist es möglich, die Privatsphäre- und Dateneinstellungen anzupassen? • Steht das KI-System im Einklang mit der Datenschutz-Grundverordnung? 6 Technische Robustheit und Sicherheit • Gibt es ausreichende Sicherheitsvorkehrungen zum Schutz vor Datenverletzungen? • Lässt sich mit einer Strategie zur Überwachung und Erprobung überprüfen, ob das KI-System die Ziele, Zwecke und vorgesehenen Anwendungen erfüllt? • Gibt es geeignete Kontrollmechanismen für die Erhebung, Speicherung, Verarbeitung, Minimierung und Nutzung von Daten? • Haben Lernende und Eltern Zugriff zu Informationen, die die technische Robustheit und Sicherheit des Systems belegen? 7 Rechenschaftspflicht • Wer ist für die laufende Überwachung der Ergebnisse des KI-Systems verantwortlich, und wie werden die Ergebnisse zur Verbesserung des Lehrens, Lernens und Bewertens genutzt? • Wie werden die Wirksamkeit und die Auswirkungen des KI-Systems bewertet und dabei die zentralen Werte der Bildung berücksichtigt? • Wer ist für die endgültigen Entscheidungen über die Beschaffung und Implementierung des KI-Systems verantwortlich und rechenschaftspflichtig? • Gibt es eine Dienstleistungsvereinbarung, in der die Support- und Wartungsdienste sowie die Schritte zur Behebung gemeldeter Probleme klar beschrieben sind?
