Aufrufe
vor 1 Jahr

Ethische Leitlinien für Lehrkräfte über die Nutzung von KI und Daten

  • Text
  • Daten
  • Künstliche intelligenz
  • Wwwkmkpadorg
  • Schulleitungen
  • Digitale
  • Entwicklung
  • Schule
  • Ethische
  • Leitlinien
  • Bildung
  • Nutzung
Künstliche Intelligenz hat längst in unser Leben Einzug gehalten. In ganz Europa nutzen Lernende und Lehrkräfte zunehmend KI-Systeme, oftmals ohne sich dessen bewusst zu sein. Lehrkräfte müssen sich darüber im Klaren sein und hinterfragen, ob die von ihnen verwendeten KI-Systeme zuverlässig, fair, sicher und vertrauenswürdig sind und ob die Verwaltung von Bildungsdaten sicher ist. Hierzu sollen die Leitlinien eine Hilfe bieten.

20 ETHISCHE LEITLINIEN

20 ETHISCHE LEITLINIEN FÜR LEHRKRÄFTE ÜBER DIE NUTZUNG VON KI 3 Vielfalt, Nichtdiskriminierung und Fairness • Ist das System für jeden in gleicher Weise und barrierefrei zugänglich? • Bietet das System geeignete Interaktionsmöglichkeiten für Lernende mit Behinderungen oder sonderpädagogischem Förderbedarf? Ist das KI-System so konzipiert, dass es die Lernenden respektvoll behandelt und sich an ihre individuellen Bedürfnisse anpasst? • Ist die Benutzeroberfläche für die Altersgruppe der Lernenden geeignet und zugänglich? Wurden die Benutzerfreundlichkeit und das Benutzererlebnis für die Altersgruppe getestet? • Wird mit bestimmten Verfahren sichergestellt, dass durch die Nutzung der KI niemand diskriminiert oder ungerecht behandelt wird? • Geben die Systemdokumentation oder der Trainingsprozess der KI Aufschluss über mögliche Verzerrungen in den Daten? • Gibt es Verfahren zur Aufdeckung und Beseitigung von möglichen Verzerrungen oder vermeintlichen Ungleichheiten? 4 Gesellschaftliches und ökologisches Wohlergehen • Wie wirkt sich das KI-System auf das soziale und emotionale Wohlergehen von Lernenden und Lehrkräften aus? • Signalisiert das KI-System deutlich, dass seine soziale Interaktion simuliert ist und es weder zu Gefühlen noch zu Empathie fähig ist? • Sind die Schülerinnen und Schüler oder ihre Eltern an der Entscheidung für die Nutzung des KI-Systems beteiligt und befürworten sie es? • Werden Daten genutzt, um Lehrkräfte und Schulleitungen bei der Bewertung des Wohlergehens der Schülerinnen und Schüler zu unterstützen, und wenn ja, wie wird dies überwacht? • Entsteht durch die Nutzung des Systems Schaden oder Angst für den Einzelnen oder für die Gesellschaft?

UND DATEN FÜR LEHR- UND LERNZWECKE 21 5 Datenschutz und Datenqualitätsmanagement • Gibt es Mechanismen, mit denen sichergestellt wird, dass sensible Daten anonym bleiben? Gibt es Verfahren, mit denen der Datenzugang auf die Personen beschränkt werden kann, die ihn benötigen? • Ist der Zugang zu den Daten der Lernenden geschützt und werden sie an einem sicheren Ort aufbewahrt und nur für die vorgesehenen Zwecke verwendet? • Gibt es einen Mechanismus, der es Lehrkräften und Schulleitungen ermöglicht, Probleme mit der Privatsphäre oder dem Datenschutz zu melden? • Sind Lernende und Lehrkräfte darüber informiert, was mit ihren Daten geschieht und wie und für welchen Zweck sie verwendet werden? • Ist es möglich, die Privatsphäre- und Dateneinstellungen anzupassen? • Steht das KI-System im Einklang mit der Datenschutz-Grundverordnung? 6 Technische Robustheit und Sicherheit • Gibt es ausreichende Sicherheitsvorkehrungen zum Schutz vor Datenverletzungen? • Lässt sich mit einer Strategie zur Überwachung und Erprobung überprüfen, ob das KI-System die Ziele, Zwecke und vorgesehenen Anwendungen erfüllt? • Gibt es geeignete Kontrollmechanismen für die Erhebung, Speicherung, Verarbeitung, Minimierung und Nutzung von Daten? • Haben Lernende und Eltern Zugriff zu Informationen, die die technische Robustheit und Sicherheit des Systems belegen? 7 Rechenschaftspflicht • Wer ist für die laufende Überwachung der Ergebnisse des KI-Systems verantwortlich, und wie werden die Ergebnisse zur Verbesserung des Lehrens, Lernens und Bewertens genutzt? • Wie werden die Wirksamkeit und die Auswirkungen des KI-Systems bewertet und dabei die zentralen Werte der Bildung berücksichtigt? • Wer ist für die endgültigen Entscheidungen über die Beschaffung und Implementierung des KI-Systems verantwortlich und rechenschaftspflichtig? • Gibt es eine Dienstleistungsvereinbarung, in der die Support- und Wartungsdienste sowie die Schritte zur Behebung gemeldeter Probleme klar beschrieben sind?

Publikationen

Folgen Sie dem PAD