26 ETHISCHE LEITLINIEN
26 ETHISCHE LEITLINIEN FÜR LEHRKRÄFTE ÜBER DIE NUTZUNG VON KI Planung einer wirksamen Nutzung von KI und Daten in der Schule Wenn die Nutzung von KI und Daten in Erwägung gezogen wird, ist es wichtig, dass die Schule einen kollaborativen und reflexiven Prozess der internen Überprüfung vorbereitet und einführt. Daher müssen Lehrkräfte ermitteln, wie sie KI-Systeme nutzen können, um ihren Unterricht und die Lernerfahrung der Schülerinnen und Schüler positiv zu beeinflussen. Eine Vorhersage der Folgen und Auswirkungen der Nutzung von Daten und KI in der Bildung kann sehr schwierig sein. Daher ist ein schrittweises Vorgehen bei der Entwicklung und Einführung dieser Technologien und ihrer Bewertung erforderlich. Die Idee besteht darin, diese Instrumente schrittweise in den jeweiligen Kontext einzuführen und die potenziellen gesellschaftlichen Auswirkungen laufend zu überwachen sowie die Möglichkeit offen zu lassen, bei unerwünschten Folgen zurückzurudern. Die ethische Anwendung von KI in der Bildung erfordert Handlungsfähigkeit auf der Ebene der Schülerinnen und Schüler, der Lehrkräfte, der Schulleitung und der Institutionen. Vorhandene KI-Systeme und Datennutzung überprüfen Die Fragen in diesem Leitfaden können als Ausgangspunkt für die Auslotung bereits vorhandener KI-Systeme oder als Diskussionsgrundlage dienen, wenn die künftige Nutzung von KI und Daten in einer Schule erwogen wird. Bei einer Überprüfung ist es sinnvoll, die Art und den Zweck der von der Schule erhobenen Daten aufzulisten. Es sollte geprüft werden, ob für dasselbe Ergebnis möglicherweise weniger konkrete Informationen erforderlich sind. Außerdem sollte geprüft werden, wie lange die Daten benötigt werden und wie die Schule die Speicherfrist möglichst kurz halten kann. Diese Überprüfung ist in der Datenschutz-Grundverordnung der Europäischen Union (DSGVO) vorgeschrieben. Strategien und Verfahren einführen Vor der Implementierung eines KI-Systems müssen schulweite Strategien und Verfahren aufgestellt werden, um die Erwartungen zu ermitteln und Leitlinien für den einheitlichen Umgang mit etwaigen Problemen zu geben. Hierzu könnten Maßnahmen zählen für: • die Sicherstellung der öffentlichen Beschaffung von vertrauenswürdiger und menschenzentrierter KI; • die Einrichtung menschlicher Aufsicht; • die Sicherstellung, dass die Eingabedaten für den beabsichtigten Zweck des KI-Systems relevant sind; • die angemessene Schulung des Personals; • die Überwachung des Betriebs des KI-Systems und Abhilfemaßnahmen; • die Einhaltung der einschlägigen Verpflichtungen in der DSGVO, einschließlich der Durchführung einer Datenschutz-Folgenabschätzung. Das wird Aufschluss darüber geben, was angemessenes und unangemessenes oder inakzeptables Verhalten ist, und trägt zu einer fairen und gleichberechtigten Behandlung der Menschen bei. Es ist wichtig, Lehrkräfte, Lernende und Eltern über Strategien und Verfahren zu informieren, damit sie Bescheid wissen, was von ihnen erwartet wird. Das KI-System testen KI-Systeme sollten vor ihrer Einführung in der gesamten Schule mit einer bestimmten Schülergruppe getestet werden. Dabei sollte klar ersichtlich sein, was die Schule mit der neuen Technologie erreichen will, damit eine fundierte Entscheidung unter Einbeziehung der Schülerinnen und Schüler und ihrer Eltern getroffen werden kann. Spezifische Bewertungskriterien sind erforderlich, damit ein fundiertes Urteil über die Wirksamkeit des KI-Systems im Hinblick auf die Verbesserung der Lernergebnisse, das Preis-Leistungs-Verhältnis und die ethische Nutzung gefällt werden kann. Dies wird auch einige der wichtigsten Fragen aufzeigen, die mit dem Anbieter vor der Beschaffung des Systems zu klären sind. Mit dem KI-Systemanbieter zusammenarbeiten Es ist wichtig, vor der Einführung und während des gesamten Lebenszyklus des KI-Systems mit dem Anbieter in Kontakt zu bleiben. Eine klare technische Dokumentation und die Klärung aller offenen Fragen sind unerlässlich. Mit dem Anbieter sollte eine Dienstleistungsvereinbarung geschlossen werden, in der die Support- und Wartungsdienste sowie die Maßnahmen zur Behebung gemeldeter Probleme festgelegt sind. Ferner sollten vom Anbieter Zusicherungen hinsichtlich der Einhaltung der geltenden rechtlichen Verpflichtungen erwirkt werden. Auch die künftige Abhängigkeit von dem Anbieter sollte in Betracht gezogen werden, falls der Wunsch besteht, in Zukunft den Anbieter oder gar das KI-System zu wechseln. Wichtig ist auch, dass die Schule während der Nutzung des KI- Systems alle vom Anbieter für die menschliche Aufsicht festgelegten Maßnahmen umsetzt. Den Betrieb des KI-Systems überwachen und Risiken bewerten Die Nutzung des KI-Systems sollte laufend überwacht werden, um die Auswirkungen auf das Lernen, Lehren und Bewerten zu evaluieren. Auf Schulebene muss entschieden werden, wie die Überwachung organisiert und durchgeführt werden soll, wer dafür verantwortlich ist und wie Fortschritte ermittelt und gemeldet werden sollen. Die aus der laufenden Überwachung gewonnenen Erkenntnisse sollten in die künftige Nutzung von KI-Systemen oder in die Entscheidung einfließen, sie unter bestimmten Umständen nicht einzusetzen.
UND DATEN FÜR LEHR- UND LERNZWECKE 27 Sensibilisierung und Beteiligung der Gemeinschaft Mit Kolleginnen und Kollegen zusammenarbeiten Die Zusammenarbeit zwischen Lehrkräften trägt zur Schulentwicklung und zum Schulerfolg bei. Lehrkräfte unterstützen sich oft gegenseitig und können bestimmte Aufgaben verteilen, um effizienter zu arbeiten. Durch Zusammenarbeit können fundiertere Entscheidungen getroffen und ein einheitlicherer Ansatz für die Nutzung von KI- und Datensystemen in der gesamten Schule gewährleistet werden. Mit anderen Schulen zusammenarbeiten Die Zusammenarbeit zwischen Schulen bietet eine gute Möglichkeit, um Erfahrungen und bewährte Verfahren auszutauschen und herauszufinden, wie die Einführung von AI-Systemen an anderen Schulen abläuft. Dies kann auch nützlich sein, um zuverlässige Anbieter von KI- und Datensystemen, die die wichtigsten Anforderungen für vertrauenswürdige KI erfüllen, zu finden und an diese heranzutreten. Schulen sollten an betreuten Projekten und Experimenten teilnehmen, die auf regionaler, nationaler oder europäischer Ebene im Rahmen von Initiativen wie Erasmus+ durchgeführt werden. Diese bieten Lehrkräften und Schulleitungen die Möglichkeit, gemeinsam an Prozessen der angewandten Forschung teilzunehmen und sich über die künftige Nutzung und Entwicklung von KI und Datennutzung in Schulen zu informieren. Sich mit Eltern, Lernenden und der Schulgemeinschaft austauschen Die Einbeziehung von Eltern sowie Schülerinnen und Schülern in Diskussionen und Entscheidungen führt zu einem besseren Verständnis und Vertrauen in die Ziele, die die Schule mit der Nutzung von KI- Systemen erreichen will. Es sollte genau erklärt werden, welche Daten wie und warum gesammelt werden, was mit ihnen geschieht und wie der Datenschutz gewährleistet wird. Außerdem ist es wichtig, den Lernenden und den Eltern diese Informationen mitzuteilen und ihnen die Möglichkeit zu bieten, Feedback zu geben und mögliche Bedenken zu äußern. Je nach Alter der Lernenden könnten unterschiedliche Ansätze angebracht sein, um sie dazu zu bringen, an einer fundierten Entscheidungsfindung teilzunehmen. Auf dem Laufenden bleiben Da sich KI-Systeme weiterentwickeln und die Datennutzung zunimmt, ist es äußerst wichtig, ihre Auswirkungen auf unser Umfeld besser zu verstehen, auch in der allgemeinen und beruflichen Bildung. Lehrkräfte müssen über neue Innovationen und Entwicklungen auf dem Laufenden bleiben, indem sie an Weiterbildungsmaßnahmen teilnehmen und sich an Nutzergemeinschaften beteiligen. Schulleitungen müssen ihren Mitarbeitenden die Möglichkeit geben, sich weiterzubilden und ihre Kompetenzen für die ethische Nutzung von KI und Daten auszubauen.
