12 ETHISCHE LEITLINIEN
12 ETHISCHE LEITLINIEN FÜR LEHRKRÄFTE ÜBER DIE NUTZUNG VON KI EU-Politik im KI-Bereich und Vorschlag für einen Rechtsrahmen Als Teil ihrer digitalen Agenda schlug die Europäische Kommission auf der Grundlage der „Ethik-Leitlinien für vertrauenswürdige KI“, die 2019 von der Hochrangigen Expertengruppe für KI veröffentlicht wurden, im Jahr 2021 einen umfassenden Rechtsrahmen für KI (KI-Gesetz) vor, in dem verbindliche Anforderungen für „Hochrisiko-KI- Systeme“ in mehreren Bereichen, einschließlich allgemeiner und beruflicher Bildung, festgelegt sind. Aufbauend auf den regulatorischen und politischen Entwicklungen der EU im Bereich KI und Daten, zu denen die DSGVO und der Vorschlag für ein Datengesetz gehören, sollen die vorliegenden Leitlinien unter Berücksichtigung des spezifischen Kontexts der allgemeinen und beruflichen Bildung das Bewusstsein schärfen und als praktische Anleitung für Lehrkräfte dienen, die in ihrer Unterrichtspraxis zunehmend mit der Nutzung von KI konfrontiert sind. Zum besseren Verständnis der EU-Politik über vertrauenswürdige KI wird verwiesen auf: den Vorschlag für einen Rechtsrahmen für künstliche Intelligenz 1 ; die Arbeiten der Hochrangigen Expertengruppe für KI, darunter die Ethik- Leitlinien für eine vertrauenswürdige KI und die Bewertungsliste für vertrauenswürdige KI (ALTAI) 2 sowie die Arbeiten der Europäischen Kommission zum Thema Daten³. Gängige Fehleinschätzungen über KI Es gibt viele Annahmen und Bedenken in Bezug auf KI und ihre kurzund langfristigen Auswirkungen auf unsere Bildungssysteme und die Gesellschaft im Allgemeinen. Im Folgenden werden einige der gängigsten Fehleinschätzungen über die Nutzung von KI und Daten im Bildungswesen aufgegriffen. KI ist zu komplex und schwer verständlich Viele Menschen ohne IT-Hintergrund werden durch den Fachjargon im Zusammenhang mit KI- und Datensystemen abgeschreckt. Selbst Personen, die über den entsprechenden Hintergrund verfügen, haben mitunter Schwierigkeiten, die Funktionsweise der KI vollständig nachzuvollziehen, da es sich um ein breites und komplexes Feld handelt. Dies wird manchmal als „Blackbox“-Problem bezeichnet, da es schwierig ist, die innere Funktionsweise des KI-Systems zu verstehen. KI ist kein spezifisches Konstrukt, sondern eine Sammlung von Methoden und Verfahren zur Entwicklung eines KI-Systems. Lehrkräfte müssen die Funktionsweisen von KI-Systemen nicht vollständig verstehen, sondern vielmehr grundlegende Mechanismen und die Grenzen von KI-Systemen kennen und wissen, wie KI-Systeme eingesetzt werden können, um das Lehren und Lernen auf sichere und ethische Weise zu verbessern. In diesen Leitlinien werden einige grundlegende Fragen aufgegriffen, die vor der Nutzung eines KI- Systems in Betracht zu ziehen sind. Sie enthalten leicht verständliche Anwendungsszenarien aus dem Bildungswesen sowie ein Glossar für ein besseres Verständnis der Terminologie im Zusammenhang mit diesen Systemen und ihren Funktionen. KI hat in der Bildung nichts zu suchen KI verändert bereits jetzt die Art und Weise, wie wir lernen, arbeiten und leben – das wirkt sich auch auf das Bildungswesen aus. Jeder sollte die Möglichkeit haben, zur Entwicklung der KI beizutragen und von ihr zu profitieren. Indem Ethikgrundsätze in den Mittelpunkt der Diskussion über die Rolle der KI in der Bildung gerückt werden, kann der Weg für die Entwicklung und Nutzung von KI-Systemen und -Lösungen auf ethische, vertrauenswürdige, faire und inklusive Weise bereitet werden. KI ist nicht inklusiv KI kann zu neuen Formen von Ungleichheiten oder Diskriminierung führen und bestehende verschärfen. Wenn sie jedoch richtig konzipiert und eingesetzt wird, kann sie auch den Zugang und die Inklusion verbessern – im Alltag, bei der Arbeit und im Bildungswesen. KI birgt auch ein erhebliches Potenzial für die Bereitstellung von Bildungsressourcen für junge Menschen mit Behinderungen und besonderen Bedürfnissen. So können beispielsweise KI-gestützte Lösungen wie Live-Untertitelung Menschen mit eingeschränktem Hörvermögen helfen, während Audiobeschreibungen den Zugang für Menschen mit geringem Sehvermögen einfacher und wirksamer machen können. 1 Rechtsrahmen für künstliche Intelligenz, https://digital-strategy.ec.europa.eu/de/policies/regulatory-framework-ai 2 Hochrangige Expertengruppe für künstliche Intelligenz, https://digital-strategy.ec.europa.eu/de/policies/expert-group-ai 3 Gestaltung der digitalen Zukunft Europas: Daten, https://digital-strategy.ec.europa.eu/de/policies/data
UND DATEN FÜR LEHR- UND LERNZWECKE 13 KI-Systeme sind nicht vertrauenswürdig Da KI-Systeme immer leistungsfähiger werden, werden sie künftig bestimmte von Menschen ausgeführte Aufgaben zunehmend ergänzen oder ersetzen. Dies könnte ethische und vertrauensbezogene Bedenken dahin gehend aufwerfen, ob KI in der Lage ist, faire Entscheidungen zu treffen, und ob der Schutz der gesammelten und zur Unterfütterung dieser Entscheidungen genutzten Daten gegeben ist. Die komplexen Rechtsvorschriften können für Lehrkräfte eine große Herausforderung darstellen. Der Vorschlag der EU für ein KI-Gesetz wird jedoch dazu beitragen, dass bestimmte KI-Systeme, die als „Hochrisiko-KI-Systeme“ eingestuft werden (im Hinblick auf die Risiken, die sie für die Gesundheit, die Sicherheit und die Grundrechte des Einzelnen darstellen können), von den Anbietern in Übereinstimmung mit den verbindlichen Anforderungen entwickelt werden, um diese Risiken zu mindern und ihre Zuverlässigkeit zu gewährleisten. Bildungsbehörden und Schulen werden dadurch überprüfen können, ob KI-Systeme mit dem KI-Rechtsrahmen im Einklang stehen. Außerdem werden sie den Schwerpunkt auf die ethische Nutzung von KI und Daten legen können, um Lehrkräfte und Lernende beim Lehren, Lernen und Bewerten zu unterstützen, wobei auch die geltenden Datenschutzbestimmungen einzuhalten sind. KI wird die Rolle der Lehrkraft untergraben Viele Lehrkräfte befürchten, dass diese Systeme ihre Rolle schmälern oder sie gar ersetzen werden, wenn künftig die Nutzung und Bedeutung von KI in der Bildung zunimmt. KI kann Lehrkräfte nicht ersetzen, ihnen jedoch bei der Konzeption von Lernerfahrungen helfen, die die Lernenden dazu befähigen, ihre Kreativität zu entfalten, nachzudenken, reale Probleme zu lösen und wirksam zusammenzuarbeiten. Außerdem können Lehrkräfte dank KI Lernerfahrungen gestalten, die KI-Systeme allein nicht hervorbringen können. Darüber hinaus kann KI repetitive Verwaltungsaufgaben automatisieren, sodass mehr Zeit für das eigentliche Lehren und Lernen übrig bleibt. So dürfte die Rolle von Lehrkräften erweitert und um die Fähigkeit ergänzt werden, die mit neuen KI-gestützten Bildungsinnovationen einhergehen. Dies setzt jedoch voraus, dass die Entwicklung und Nutzung von KI-Anwendungen umsichtig gesteuert werden und die Handlungsfähigkeit von Lehrkräften erhalten bleibt.
