10 ETHISCHE LEITLINIEN
10 ETHISCHE LEITLINIEN FÜR LEHRKRÄFTE ÜBER DIE NUTZUNG VON KI Künstliche Intelligenz und Datennutzung Was ist künstliche Intelligenz? In ganz Europa nutzen Lernende und Lehrkräfte zunehmend KI- Systeme, oftmals ohne sich dessen bewusst zu sein. Suchmaschinen, intelligente Assistenten, Chatbots, maschinelle Übersetzung, Navigations-Apps, Online-Videospiele und viele andere Anwendungen, die wir täglich nutzen, beruhen auf KI. KI-Systeme basieren auf Daten, die aus unterschiedlichen Quellen stammen (z. B. Tonaufnahmen, Bilder, Text, Posts, Klicks) und die zusammen unsere digitalen Spuren bilden. KI könnte die allgemeine und berufliche Bildung für Lernende, Lehrkräfte sowie Schulleitungen verbessern. Aktuell unterstützen KI-Systeme einige Lehrkräfte dabei, spezifische Lernbedürfnisse zu erkennen und Lernenden personalisierte Lernerfahrungen zu bieten, und sie helfen Schulen bei der Entscheidungsfindung, sodass sie die ihnen zur Verfügung stehenden Lehrressourcen wirksamer einsetzen können. Da sich KI-Systeme weiterentwickeln und die Datennutzung zunimmt, ist es von größter Bedeutung, das Verständnis ihrer Auswirkungen auf unsere Lebenswelt zu vertiefen, insbesondere in der allgemeinen und beruflichen Bildung. Lehrkräfte und Schulleitungen müssen zumindest über Grundkenntnisse über KI und Datennutzung verfügen, um sich positiv, kritisch und ethisch mit dieser Technologie auseinandersetzen und sie richtig einsetzen zu können, damit ihr Potenzial vollständig ausgeschöpft wird. Die im Vorschlag des KI-Gesetzes enthaltene Definition von „System der künstlichen Intelligenz“ (KI-System) lautet: „Software, die mit einer oder mehreren der [unten aufgeführten] Techniken und Konzepte entwickelt worden ist und im Hinblick auf eine Reihe von Zielen, die vom Menschen festgelegt werden, Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen hervorbringen kann, die das Umfeld beeinflussen, mit dem sie interagieren.“ Die erwähnten KI-Techniken und Ansätze sind: a) Konzepte des maschinellen Lernens, mit beaufsichtigtem, unbeaufsichtigtem und bestärkendem Lernen unter Verwendung einer breiten Palette von Methoden, einschließlich des tiefen Lernens (Deep Learning); b) Logik- und wissensgestützte Konzepte, einschließlich Wissensrepräsentation, induktiver (logischer) Programmierung, Wissensgrundlagen, Inferenz- und Deduktionsmaschinen, (symbolischer) Schlussfolgerungs- und Expertensysteme; c)statistische Ansätze, Bayes-Schätzung, Such- und Optimierungsmethoden. Wenn wir von KI-Systemen sprechen, meinen wir Software in Computern oder Maschinen, die mit dem Ziel programmiert wurde, Aufgaben auszuführen, die normalerweise menschliche Intelligenz erfordern, z. B. Lernen oder logisches Denken. Bestimmte KI-Systeme können anhand von Daten „trainiert“ werden, um Vorhersagen zu treffen, Empfehlungen zu geben oder Entscheidungen zu treffen, manchmal ohne jede menschliche Beteiligung.
UND DATEN FÜR LEHR- UND LERNZWECKE 11 Was ist mit KI- und Datennutzung in der Bildung gemeint? Schulen verarbeiten in der Regel große Mengen von Bildungsdaten, einschließlich personenbezogener Daten über Schülerinnen und Schüler, Eltern, Personal, die Verwaltung und Lieferanten. Daten, die im Bildungswesen erhoben, genutzt und verarbeitet werden, werden häufig als „Bildungsdaten“ bezeichnet. Dabei handelt es sich um Daten, die in Schülerinformationssystemen erfasst werden, z. B. Bildungsleistungen, Namen der Eltern, Noten sowie um Daten auf Mikroebene, die bei der Nutzung digitaler Werkzeuge entstehen. Wenn Schülerinnen und Schüler mit digitalen Geräten interagieren, erzeugen sie digitale Spuren wie Mausklicks, Daten über aufgerufene Seiten, den zeitlichen Ablauf von Interaktionsereignissen oder die Betätigung von Tasten. Auch beim Einsatz von intelligenten Tutoren-Systemen (ITS) im Unterricht entstehen beim Mathematik- oder Fremdsprachenlernen Spuren von Lernaktivitäten. All diese Daten können kombiniert werden, um das Online-Verhalten der einzelnen Schülerinnen und Schüler zu erfassen. Diese Art von Trace-Daten (Spuren der digitalen Nutzung und der Lernaktivitäten) werden häufig für die Lernanalytik (Learning Analytics) verwendet. Daten in Schülerinformationssystemen können darüber hinaus für die Ressourcenplanung und Lehrplanaufstellung sowie für die Prognose von Schulabbrüchen und als Orientierungshilfe genutzt werden. Angesichts der großen Datenmengen, die zum Trainieren von KI-Systemen benötigt werden, dem automatisierenden Charakter von Algorithmen und der Skalierbarkeit der KI- Anwendungen wirft die Nutzung von KI wichtige Fragen in Bezug auf personenbezogene Daten, Datenschutz und Privatsphäre auf. Warum sind diese Leitlinien notwendig? Der Einsatz von KI-Systemen kann das Lehren, Lernen und Bewerten verbessern, zu besseren Lernergebnissen führen und Schulen helfen, effizienter zu arbeiten. Werden diese KI-Anwendungen jedoch nicht angemessen konzipiert oder nachlässig eingesetzt, könnte dies schädliche Folgen haben. Lehrkräfte müssen sich darüber im Klaren sein und hinterfragen, ob die von ihnen verwendeten KI- Systeme zuverlässig, fair, sicher und vertrauenswürdig sind und ob die Verwaltung von Bildungsdaten sicher ist, die Privatsphäre des Einzelnen schützt und dem Gemeinwohl dient. „Ethische KI“ bezeichnet die Entwicklung, Einführung und Nutzung von KI-Systemen, die ethischen Normen, Ethikgrundsätzen und damit verbundenen Grundwerten gerecht werden. Diese ethischen Leitlinien über die Nutzung von KI und Daten für Lehr- und Lernzwecke sollen Lehrkräften helfen, das Potenzial von KI-Anwendungen und Datennutzung in der Bildung zu begreifen und sie für die möglichen Risiken zu sensibilisieren, damit sie in der Lage sind, sich positiv, kritisch und ethisch mit KI- Systemen auseinanderzusetzen und deren Potenzial vollständig auszuschöpfen. Schulen müssen sicherstellen, dass alle von ihnen verarbeiteten Daten vertraulich und sicher gespeichert werden, und sie müssen über geeignete Strategien und Verfahren zum Schutz und zur ethischen Verwendung aller personenbezogenen Daten verfügen, die mit der Datenschutz-Grundverordnung (DSGVO) im Einklang stehen.
