Aufrufe
vor 1 Jahr

Ethische Leitlinien für Lehrkräfte über die Nutzung von KI und Daten

  • Text
  • Daten
  • Künstliche intelligenz
  • Wwwkmkpadorg
  • Schulleitungen
  • Digitale
  • Entwicklung
  • Schule
  • Ethische
  • Leitlinien
  • Bildung
  • Nutzung
Künstliche Intelligenz hat längst in unser Leben Einzug gehalten. In ganz Europa nutzen Lernende und Lehrkräfte zunehmend KI-Systeme, oftmals ohne sich dessen bewusst zu sein. Lehrkräfte müssen sich darüber im Klaren sein und hinterfragen, ob die von ihnen verwendeten KI-Systeme zuverlässig, fair, sicher und vertrauenswürdig sind und ob die Verwaltung von Bildungsdaten sicher ist. Hierzu sollen die Leitlinien eine Hilfe bieten.

18 ETHISCHE LEITLINIEN

18 ETHISCHE LEITLINIEN FÜR LEHRKRÄFTE ÜBER DIE NUTZUNG VON KI Ethische Aspekte und Anforderungen, die den ethischen Leitlinien zugrunde liegen Ethische Aspekte Bei der Erarbeitung dieser Leitlinien wurden vier zentrale Aspekte ermittelt, die der ethischen Nutzung von KI und Daten beim Lehren, Lernen und Bewerten zugrunde liegen. Dabei handelt es sich um den Vorrang menschlichen Handelns, Fairness, Menschlichkeit und den Grundsatz der gerechtfertigten Entscheidung. Der Vorrang menschlichen Handelns bezieht sich auf die Fähigkeit des Einzelnen, sich zu einem mündigen Mitglied der Gesellschaft zu entwickeln. Eine handlungsfähige Person kann selbstbestimmte Lebensentscheidungen treffen und die Verantwortung für ihr Handeln übernehmen. Einige weitverbreitete Konzepte wie Autonomie, Selbstbestimmung und Verantwortung gründen auf den Begriff der Handlungsfähigkeit. Fairness bezieht sich darauf, dass jedes Gesellschaftsmitglied gerecht behandelt wird. Es bedarf klarer Verfahren, damit alle Nutzerinnen und Nutzer einen gleichberechtigten Zugang zu den Möglichkeiten genießen. Dazu gehören Gleichbehandlung, Inklusion, Nichtdiskriminierung und eine gerechte Verteilung von Rechten und Pflichten. Menschlichkeit bezieht sich auf die Achtung gegenüber Menschen, ihrer Identität, Integrität und Würde. In diesem Zusammenhang spielen Wohlergehen, Sicherheit, sozialer Zusammenhalt, sinnvolle Kontakte und Respekt eine bedeutende Rolle, da sie für bedeutsame zwischenmenschliche Beziehungen unerlässlich sind. Das impliziert zum Beispiel, dass wir den inneren Wert von Menschen anerkennen und sie nicht als Datenobjekt oder Mittel zum Zweck betrachten. Diese Annahme bildet den Kern des menschenzentrierten Ansatzes der KI. Der Grundsatz der gerechtfertigten Entscheidung bezieht sich auf die Verwendung von Wissen, Fakten und Daten, auf deren Grundlage notwendige oder angemessene kollektive Entscheidungen von mehreren Interessenträgern im schulischen Umfeld begründet werden. Gerechtfertigte Entscheidungen müssen transparent sein und auf partizipativen und kollaborativen Modellen der Entscheidungsfindung sowie auf Erklärbarkeit beruhen. Diese ethischen Überlegungen sind per se wertvoll und ihre Beachtung in der Bildung wünschenswert. Sie dienen Lehrkräften und Schulleitungen als Richtschnur für ihre Entscheidungen über die Nutzung von KI-Systemen in der Bildung. Die im Folgenden aufgeführten ethischen Kernanforderungen können dazu beitragen, dass KI-Systeme, die in der allgemeinen und beruflichen Bildung genutzt werden, vertrauenswürdig sind und einschlägige Bedenken entkräften. Kernanforderungen an eine vertrauenswürdige KI Das von der Kommission vorgeschlagene KI-Gesetz wird rechtsverbindliche Anforderungen für KI-Systeme enthalten, die aufgrund ihrer Zweckbestimmung als „Hochrisiko-KI-Systeme“ gelten. 4 Dazu gehören bestimmte KI-Systeme, die im Bereich der allgemeinen und beruflichen Bildung eingesetzt werden. Wenn das KI-Gesetz in Kraft tritt, können sich Bildungseinrichtungen als Nutzer von KI-Systemen auf die Vertrauenswürdigkeit dieser „Hochrisiko-KI- Systeme“ verlassen, da der Anbieter eine zugehörige Bescheinigung vorlegen muss; die Nutzer müssen jedoch auch bestimmten Verpflichtungen nachkommen. Unabhängig davon, ob die KI-Systeme in den Anwendungsbereich des Rechtsrahmens aufgenommen werden, werden Unternehmen, die KI-Systeme entwickeln und anbieten (Systemanbieter), dazu angehalten, ethische Anforderungen für vertrauenswürdige KI in ihren Konzipierungs- und Entwicklungsprozessen umzusetzen und anzuwenden. Gleichzeitig ist es wichtig, dass die Schulen und Lehrkräfte sich dessen bewusst sind und in der Lage sind, relevante Fragen zu formulieren, um sich sinnvoll mit dieser Problematik auseinanderzusetzen. Die nachstehenden Anforderungen, die auf den Ethik-Leitlinien für eine vertrauenswürdige KI der Hochrangigen Expertengruppe für KI beruhen, sind daher für jedes KI-System zu empfehlen, das im Bildungsbereich eingesetzt und verwendet wird. Dadurch werden wichtige Bedenken angegangen, z. B. das Risiko von Verzerrungen oder Fehlern, die sich auf die Bildungsergebnisse auswirken: Vorrang menschlichen Handelns und menschliche Aufsicht, z. B. Grundrechte, Kinderrechte, menschliches Handeln und menschliche Aufsicht. Transparenz, z. B. Nachverfolgbarkeit, Erklärbarkeit und Kommunikation. Vielfalt, Nichtdiskriminierung und Fairness, z. B. Zugänglichkeit, universeller Entwurf, Vermeidung unfairer Verzerrungen, Beteiligung der Interessenträger; dadurch wird eine Nutzung unabhängig von Alter, Geschlecht, Fähigkeiten oder Merkmalen ermöglicht – mit speziellem Schwerpunkt auf Schülerinnen und Schülern mit besonderen Bedürfnissen. 4 Die vorgeschlagenen Anforderungen beziehen sich auf das Risikomanagement, die Trainings- und Testdaten des KI-Systems und die Daten-Governance, die Bereitstellung technischer Dokumentationen, Aufzeichnungen, die Transparenz und die Bereitstellung von Informationen für die Nutzer, die menschliche Aufsicht sowie die Robustheit, Genauigkeit und Cybersicherheit.

UND DATEN FÜR LEHR- UND LERNZWECKE 19 Gesellschaftliches und ökologisches Wohlergehen, z. B. Nachhaltigkeit und Umweltschutz, soziale Auswirkungen, Gesellschaft und Demokratie. Datenschutz und Datenqualitätsmanagement, z. B. Achtung der Privatsphäre, Qualität und Integrität der Daten sowie Datenzugriff. Technische Robustheit und Sicherheit, z. B. Abwehrfähigkeit, Schutz und allgemeine Sicherheit, Präzision, Zuverlässigkeit und Reproduzierbarkeit. Rechenschaftspflicht, z. B. Nachprüfbarkeit, Minimierung und Meldung von negativen Auswirkungen, Kompromisse und Rechtsbehelfe. Die Überlegungen und Anforderungen können Lehrkräften, Schulleitungen und Technologieanbietern helfen, die Auswirkungen angemessen zu bewerten, den potenziellen Risiken zu begegnen und die Vorteile der Nutzung von KI-Systemen in der Bildung zu erkennen. Sie dienen als Leitlinien für die Entwicklung, Einführung und Nutzung vertrauenswürdiger KI-Systeme. Leitfragen für Lehrkräfte Um ein KI-System nutzen zu können, muss nicht unbedingt dessen Funktionsweise verstanden werden. Wichtig ist jedoch, dass die Schule oder die Lehrkraft in der Lage ist, einige relevante Fragen zu formulieren und einen konstruktiven Dialog mit den Anbietern von KI-Systemen oder mit den zuständigen öffentlichen Stellen (z. B. Marktaufsichtsbehörden, Bildungsministerien, regionale und lokale Bildungsbehörden und Schulbehörden) zu führen. Die nachstehenden Leitfragen basieren auf den wichtigsten Anforderungen an vertrauenswürdige KI-Systeme und sollen einen konstruktiven Dialog über deren ethischen Einsatz in der allgemeinen und beruflichen Bildung ermöglichen. Einige davon sind eher auf die praktische Umsetzung ausgerichtet, andere auf ethische Aspekte. Die Leitfragen sind eine Orientierungshilfe und sollen die Lehrkräfte dazu anregen, ihre berufliche Praxis zu reflektieren. Sie sind keiner umfassenden rechtlichen oder ethischen Bewertung gleichzusetzen. Letztere sollte auf der Grundlage der Bewertungsliste für vertrauenswürdige KI (Assessment List for Trustworthy Artificial Intelligence, ALTAI) sowie des künftigen KI-Gesetzes durchgeführt werden. Dennoch werden Lehrkräfte anhand der Fragen befähigt, besser mit einer komplexen und hochinnovativen Technologie umzugehen und ein Bewusstsein dafür zu entwickeln. 1 Vorrang menschlichen Handelns und menschliche Aufsicht • Ist die Rolle der Lehrkraft klar definiert, sodass sichergestellt ist, dass eine Lehrkraft bei der Nutzung des KI-Systems anwesend ist? Wie wirkt sich das KI-System auf die didaktische Rolle der Lehrkraft aus? • Werden die Entscheidungen, die sich auf die Schülerinnen und Schüler auswirken, unter Aufsicht der Lehrkraft getroffen, und ist die Lehrkraft in der Lage, Anomalien oder Fälle von Diskriminierung zu erkennen? • Gibt es Verfahren, die Lehrkräften eine Überwachung und ein Eingreifen ermöglichen – beispielsweise wenn Einfühlungsvermögen im Umgang mit Lernenden oder Eltern erforderlich ist? • Gibt es einen Mechanismus, der es den Lernenden ermöglicht, aus dem Programm auszusteigen, wenn ihre Bedenken nicht angemessen berücksichtigt wurden? • Gibt es Überwachungssysteme, die ein übermäßiges Vertrauen in oder einen übermäßigen Rückgriff auf das KI-System verhindern? • Wurden Lehrkräfte und Schulleitungen angemessen angelernt und verfügen sie über alle Informationen, um das System wirksam zu nutzen und zu gewährleisten, dass es sicher ist und keine Schäden verursacht oder keine Rechte von Schülerinnen und Schülern verletzt? 2 Transparenz • Kennen Lehrkräfte und Schulleitungen die KI-Methoden und -Funktionen, die dem System zugrunde liegen? • Ist ersichtlich, welche Aspekte innerhalb des Systems von der KI gesteuert werden können und welche nicht? • Verstehen Lehrkräfte und Schulleitungen, wie bestimmte Algorithmen für Personalisierung und Bewertung im KI-System funktionieren? • Sind die Prozesse und Ergebnisse des Systems auf die erwarteten Lernergebnisse der Lernenden ausgerichtet? Wie zuverlässig sind die Vorhersagen, Bewertungen und Klassifizierungen des KI-Systems bei der Erklärung und Bewertung der Relevanz seines Einsatzes? • Sind die Anleitungen und Informationen zugänglich und sowohl für Lehrkräfte als auch für Lernende verständlich aufbereitet?

Publikationen

Folgen Sie dem PAD