Dieser Leitfaden dient als Orientierung für einen pädagogisch verantwortungsvollen, reflektierten und regelkonformen Einsatz von Chatbots mit textgeneriernder KI im schulischen Umfeld. Größtenteils kann er aus den Erkenntnissen der ersten beiden Kacheln dieses Kurses hergeleitet werden. Es finden sich auch Empfehlungen aus dem Handlungsleitfaden zum „Umgang mit textgenerierenden KI-Systemen” 🔗 wieder.
Nutzungsregelungen und Altersfreigaben
Die Nutzung von KI-Anwendungen unterliegt den jeweiligen Altersfreigaben und Nutzungsregelungen der Anbieter. Exemplarisch sind hier die Altersfreigaben von drei Anbietern genannt:
ChatGPT: Der Einsatz ist grundsätzlich erst ab 18 Jahren zulässig. Jugendliche ab 13 Jahren dürfen die Anwendung nutzen, sofern eine ausdrückliche Zustimmung der Erziehungsberechtigten vorliegt.
Gemini AI: Diese Plattform ermöglicht sogar Kindern unter 13 Jahren den Zugriff, sofern die Nutzung über ein Android-Gerät erfolgt und durch das Family Link-System der Eltern kontrolliert wird.
Datenschutz und Vermeidung der Eingabe sensibler Daten
Beim Umgang mit KI-Anwendungen ist auf einen konsequenten Datenschutz zu achten:
Personenbezogene Daten dürfen keinesfalls in Prompts eingebunden werden.
Dokumente sollten vor dem Hochladen in die KI-Anwendung auf Meta-Daten, die Rückschlüsse auf Autorenschaft oder andere personenbezogene Informationen zulassen könnten, überprüft werden. In allen Office-Produkten findet man bespielsweise unter Datei / Eigenschaften auf dem Reiter Zusammenfassung Informationen über den Autor. Beim Erstellen eines neuen Office-Dokuments setzt die Anwendung das Feld Autor in der Regel auf den in Office konfigurierten Benutzernamen – bzw. auf den Anzeigenamen des angemeldeten Microsoft-365-Kontos.
Eine altersangemessene Sensibilisierung der Lernenden für Datenschutzfragen ist regelmäßig durchzuführen. Dabei sollte nicht nur auf die DSGVO verwiesen werden, sondern auch auf die Tatsache, dass die Hersteller der Sprachmodelle möglicherweise die Eingaben der Nutzerinnen und Nutzer verwenden, um neue Sprachmodelle zu trainieren. Diese trainierten Sprachmodelle beinhalten dann die Eingaben der Nutzerinnen und Nutzer.
Didaktische Verankerung
KI-Anwendungen sollen gezielt in den Unterricht integriert werden:
Der Einsatz erfolgt ausschließlich für klar definierte, pädagogisch begründete Lernziele, um Ablenkungen zu minimieren.
Schülerinnen und Schüler sind darauf hinzuweisen, dass sie mit einer KI arbeiten, die Fehler machen, Informationen auslassen oder unpassende Inhalte generieren kann.
Die kritische Auseinandersetzung mit KI-Ergebnissen, deren Fehlern und Verzerrungen ist systematisch zu fördern.
Entsprechend des Dagstuhl-Dreiecks sind folgende Dimensionen verbindlich in den Unterricht einzubetten:
Technologische Perspektive: Funktionsweise der KI verstehen
Gesellschaftlich-kulturelle Perspektive: Reflexion gesellschaftlicher Auswirkungen von KI
Anwendungsbezogene Perspektive: Möglichkeiten und Grenzen der Nutzung kennen und anwenden
Ziel ist die Förderung von Reflexionsfähigkeit, Problemlösekompetenz sowie kritischem Denken und Hinterfragen der KI-Ergebnisse.
Transparenz, Nachvollziehbarkeit und Sanktionen bei mit KI unterstützten Arbeiten
Alle durch KI unterstützten Arbeiten (z. B. Haus- oder Projektarbeiten) müssen klar mit Angabe der verwendeten Tools und Prompts gekennzeichnet werden.
Der Entstehungsprozess ist zu dokumentieren, um Nachvollziehbarkeit und Transparenz sicherzustellen.
Verstöße gegen die Kennzeichnungspflicht sind als Täuschungsversuche zu werten.
Die Nutzung von KI-Anwendungen während Prüfungen − sofern diese nicht zugelassen sind − wird als Täuschungsversuch gewertet.
Bei Täuschungsversuchen finden die einschlägigen Regelungen von APO-SI § 6 (7), APO-GOSt § 13 (6) und APO-BK § 20 Anwendung.
Information der Eltern und Ausbildungsverantwortlichen
Die Information der Eltern und ggf. Ausbildungsverantwortlichen über den Einsatz von KI im Unterricht ist frühzeitig und transparent vorzunehmen.
Unsicherheiten bei den Beteiligten sind durch Aufklärung über Chancen und Risiken auszuräumen.
Ziel ist es, Vertrauen zu schaffen und die verantwortungsvolle Integration von KI in Schule und Unterricht nachvollziehbar zu gestalten.
Leistungsbewertung unter Einbeziehung von KI
KI kann unterstützend von den Lehrkräften zur Korrektur eingesetzt werden. Dabei dürfen keinesfalls personenbezogene Daten der Schülerinnen und Schüler übertragen werden.
Anwendungen, die die automatisierte Bewertungen von Arbeiten ermöglichen, fallen laut EU AI Act in die Kategorie Hohes Risiko und sind nur unter strengen Auflagen und voller Transparenz zulässig.
Die Bewertungshoheit verbleibt zu jeder Zeit bei der Lehrkraft, die sich ein eigenes Bild von den Leistungen verschafft.
Die Leistungsbewertung von Arbeiten, die mit Unterstützung von KI erstellt worden sind, sollte sich an folgenden Kriterien orientieren:
Dokumentation und Reflexion der Lern- und Arbeitsprozesse durch die Lernenden
Kritische Analyse und Weiterentwicklung von KI-generierten Inhalten
Mündliche Prüfungsformate zur Überprüfung von Verständnis und Anwendungskompetenz
Sicherstellung verantwortungsbewusster Nutzung
Die Nutzung von KI ist ausschließlich für schulische Lernzwecke gestattet.
Es ist strengstens untersagt, KI zur Generierung oder Verbreitung von beleidigenden, diskriminierenden, gewaltverherrlichenden, rassistischen oder anderen gesetzeswidrigen Inhalten zu verwenden.
Verstößt eine Schülerin oder ein Schüler gegen die festgelegten Nutzungsregeln, stellt dies eine Pflichtverletzung dar, die erzieherischen Einwirkungen oder bei schweren und wiederholten Verletzungen sogar Ordnungsmaßnahmen (§ 53 Schulgesetz NRW) nach sich ziehen kann.
Für den Einsatz von KI im Unterricht gilt: Gemäß § 57 Absatz 1 Schulgesetz NRW unterrichten, erziehen, beraten, beurteilen, beaufsichtigen und betreuen Lehrkräfte die Schülerinnen und Schüler in eigener Verantwortung. Insoweit obliegt es aufgrund deren pädagogischer Verantwortung der Entscheidung der Lehrkraft, inwieweit KI-Anwendungen in konkreten Unterrichtssituationen eingesetzt werden können.