Künstliche Intelligenz in der Schule
Der Begriff Künstliche Intelligenz (kurz: KI) ist ein Sammelbegriff für digitale Systeme, die menschliche Fähigkeiten nachbilden, zum Beispiel Texte schreiben, Sprache übersetzen, Fragen beantworten oder Bilder erkennen und erzeugen, aber auch völlig neue Formen der Analyse und Problemlösung ermöglichen.
Was KI von gewöhnlicher Software unterscheidet: Sie lernt aus Daten und ist anpassungsfähig. Das heißt, sie kann Muster erkennen und auf neue Situationen reagieren – ähnlich wie ein Mensch, der aus Erfahrung lernt.
Aber KI versteht Inhalte nicht. Ihre Antworten beruhen auf mathematischen Wahrscheinlichkeiten. Manchmal kommt sie dadurch zu falschen Ergebnissen. Deshalb ist es wichtig, KI-Ergebnisse kritisch zu prüfen: Stimmen die Informationen? Welche Quellen fehlen? Hat die KI etwas übersehen oder verzerrt dargestellt?
KI kann ein hilfreiches Werkzeug beim Lernen und Lehren sein – wenn sie bewusst eingesetzt wird: zur Unterstützung, nicht als Ersatz für das eigene Denken.
Beispiel für KI - KI-Bildgenerator von KAI
Die Entwicklung im Bereich KI ist rasant. Es ist ein akutes Zukunftsthema, das zwingend seinen Platz in der schulischen Bildung finden muss.
Daher informiert diese Seite Schulleitungen, Lehrkräfte, Schülerinnen und Schüler, Eltern und Interessierte darüber, wie KI die schulische Bildung in Sachsen unterstützten kann. Im Zentrum stehen häufig gestellte Fragen und Antworten, die Sie gern durch die Übermittlung Ihrer Fragen erweitern können. Viel Freude!
Assistent KAI
Mit dem Assistent KAI stellt das Land Lehrerinnen und Lehrern eine Lösung zu Verfügung, die datenschutzkonform und kostenlos Text- und Bildgenerierung ermöglicht. Damit können Sie bei vielfältigen Aufgaben des pädagogischen Alltags auf KI-Unterstützung zurückgreifen.
Der Zugang erfolgt über Schullogin. Nähere Informationen zum Assistent KAI finden Sie in der Schullogin-Dokumentation.
Unterstützung
Sie haben Fragen oder Anregungen zum Thema KI-Anwendungen in sächsischen Schulen? Senden Sie uns Ihren Beitrag gern über das Kontaktformular. Die häufigsten Fragen nehmen wir auf. Wünschen Sie eine persönliche Beratung, wenden Sie sich bitte an Ihr zuständiges MPZ oder das Landesamt für Schule und Bildung.
🌎 Für alle
Was ist Künstliche Intelligenz (KI)?
KI ist ein Begriff, der sich auf die Fähigkeit von Computern und Maschinen bezieht, menschenähnliche Intelligenz nachzuahmen. Computersysteme analysieren dabei ihre Umwelt und reagieren eigenständig auf diese. Nicht alle Schritte des Systems sind also vordefiniert.
Mit einer speziellen Form von KI, die maschinelles Lernen nutzt, können Computersysteme in die Lage versetzt werden, Entscheidungen zu treffen und Probleme zu lösen, indem sie große Datenmengen analysieren und darin selbstständig Muster identifizieren („Training“).
Wenn im Rahmen des maschinellen Lernens sehr komplexe neuronale Netze zum Einsatz kommen, dann spricht man vom Deep Learning. Der Begriff der neuronalen Netze rührt daher, dass sich deren Funktionsweise an derjenigen des menschlichen Gehirns orientiert. Das heißt, einzelne Knoten mit unterschiedlichen Funktionalitäten (diese entsprechen Neuronen) sind in Schichten organisiert und über Verbindungen miteinander verknüpft, die unterschiedlich stark ausgeprägt sein können (diese entsprechen Zellfortsätzen und Synapsen). Die Ausprägung, auch Gewichtung genannt, sagt dann aus, welche Entscheidung am wahrscheinlichsten das richtige Ergebnis repräsentiert.
Was kann Künstliche Intelligenz (KI)?
Um den Grad der Autonomie einer KI zu beschreiben, wird oft deren „Stärke“ bewertet. Unterschieden wird dann zwischen schwacher und starker KI. Der Begriff „schwache KI“ bezieht sich auf Systeme, die auf eine ganz bestimmte Aufgabe spezialisiert sind, wie z. B. Spracherkennung oder Bilderkennung. Der Begriff „stärkere KI“ hingegen bezieht sich auf Systeme, die in der Lage sind, menschenähnliche Intelligenz auf einer breiteren Ebene zu zeigen, indem sie in der Lage sind, komplexe bzw. abstrakte Probleme zu lösen und Entscheidungen auf Basis nicht eindeutiger Datenlage zu treffen.
Auch wenn vielversprechende Lösungen, insbesondere aus dem Bereich der generativen KI, existieren, kann davon ausgegangen werden, dass noch keine „starke KI“ existiert. Die Fähigkeit, selbstständig komplexere Zusammenhänge herzustellen, Ergebnisse zu reflektieren und in weitergehenden Kontext zu setzen, vermochte bisher noch keine KI unter Beweis zu stellen.
Für die Mustererkennung, für Übersetzungen, Zusammenfassungen und die Wiedergabe von erlernten Informationen stellt jedoch auch die schwächere KI ein effizientes und effektives Werkzeug dar.
Warum gehört das Thema KI in den Unterricht?
Weil es bereits eine Realität ist, die unsere Gesellschaft stark verändert.
Durch die breiten gesellschaftlichen Auswirkungen von KI, bietet der Lehrplan viele Anknüpfungspunkte weit über die technischen Fragen hinaus. Mit dem Kompetenzrahmen zur „Bildung in der digitalen Welt“, der die Umsetzung des allgemeinen Erziehungs- und Bildungsziels der Medienbildung entsprechend § 1 Abs. 5 Nr. 7 SächSchulG konkretisiert, wurden explizite Ziele für das schulische Lernen verankert. Diese sind auch für das Thema KI maßgeblich.
KI-Anwendungen verändern die Perspektive auf Unterricht grundlegend. Mit der Verbreitung des Internets seit mehr als einem Vierteljahrhundert wurden Informationen und Wissen frei zugänglich. Das hatte Auswirkungen auf die Vermittlung von Recherche- und Quellenkompetenz. Mit generativer KI werden weitere Kompetenzen erforderlich. So müssen Schüler beispielsweise lernen, wie man KI-generierte Informationen kritisch bewertet, ihre Qualität beurteilt und sie effektiv nutzt. Auch das Verständnis dafür, wie künstliche Intelligenz funktioniert und wie sie das Lernen beeinflusst, wird immer wichtiger. Darüber hinaus gewinnen digitale und technische Fähigkeiten an Bedeutung. Joscha Falck schlägt fünf Dimensionen vor, wie Künstliche Intelligenz beim Lernen Berücksichtigung finden kann:
Fünf Dimensionen für den Unterricht im Umgang mit KI (https://joschafalck.de/ki-in-der-schule/, CC-BY-SA 4.0, Joscha Falck, 16.10.2023)
Was ist eigentlich ein Prompt?
Ein Prompt ist die Anfrage in Textform, die einer KI gestellt wird. Ein Prompt kann aus mehreren Sätzen bestehen. Die Sätze sollten präzise, klar und leicht verständlich formuliert werden, zum Beispiel:
„Ich bin Schüler der 8. Klasse eines Gymnasiums in Sachsen. In zwei Wochen schreibe ich eine Klassenarbeit im Fach X zum Thema Y. Bitte agiere wie ein erfahrener Lerncoach. Stelle mir Fragen, um mir einen guten Lernplan mit konkreten Zeiten zu erstellen.“
Das Material der Kollegen Höra und Schiller bietet einen guten Zugang zur Gestaltung von Prompts:
🏫 Für Lehrkräfte
Wie kann KI zur Entlastung von Lehrkräften beitragen?
Künstliche Intelligenz (KI) kann Lehrkräfte entlasten – vor allem bei zeitaufwändigen, wiederkehrenden Aufgaben. So bleibt mehr Raum für das, was Schule im Kern ausmacht: Beziehung, Begleitung und pädagogisches Handeln.
Ein wesentlicher Teil der Arbeitszeit einer Lehrkraft entfällt auf Vorbereitungen, Suche und Auswahl von Materialien für die Unterrichtsvorbereitung. Diese Auswahl kann durch KI-gestützte Systeme deutlich schneller realisiert werden.
Beispiele für eine Entlastung durch KI:
Unterrichtsvorbereitung: KI-Tools können bei der Erstellung von Arbeitsblättern, Quizfragen, differenzierten Aufgaben oder Unterrichtsentwürfen unterstützen – schnell, ideenreich und anpassbar.
Diagnose und Feedback: Lernplattformen mit KI-Unterstützung können Lernstände analysieren und automatisiert Rückmeldungen geben. So erhalten Lehrkräfte gezielte Hinweise, wo Förderung nötig ist. Beachten Sie dazu bitte den Abschnitt zu rechtlichen Hinweisen.
Individualisierung: KI kann helfen, Lerninhalte an das Niveau einzelner Schülerinnen und Schülern anzupassen – ohne dass Lehrkräfte alles manuell differenzieren müssen. Bemerkenswert sind auch Ergebnisse beim Einsatz von KI bei Schülerinnen und Schülern mit besonderen Bedarfen, z. B. in den Förderschwerpunkten Sehen oder Hören.
Sprachliche Unterstützung: Automatische Übersetzungen oder Textvereinfachungen erleichtern die Arbeit, z. B. mit sprachlich heterogenen Lerngruppen.
Organisatorischen Aufgaben: KI kann bei der Erstellung von Stoffverteilungsplänen, die Raumplanung und die Arbeit an anderen administrativen Aufgaben unterstützen.
Dabei gilt: KI ersetzt nicht die pädagogische Entscheidung der Lehrkraft – sie unterstützt. Entscheidend ist, dass Lehrkräfte souverän mit KI umgehen. Zum Lehrerberuf gehört zunehmend das Verstehen technologischer Grundlagen von KI, die Fähigkeit KI-Anwendungen praktisch einzusetzen, diesbezüglich eigene Ideen zu entwickeln und deren Wirksamkeit im Unterricht zu erproben.
Was sind Prompts, die mich als Lehrkraft bei der Unterrichtsvorbereitung entlasten?
Prompts sind gezielte Anfragen, mit denen Sie KI-Anwendungen zu konkreten Ergebnissen oder Vorgängen auffordern – etwa zur Erstellung von Materialien, Ideen oder Erklärungen. Gut formulierte Prompts sparen Zeit und liefern schnell passende Impulse für die Unterrichtsvorbereitung. Wichtig ist, die Ergebnisse immer kritisch zu prüfen und bei Bedarf anzupassen.
Ein Prompt sollte präzise, klar und leicht verständlich formuliert werden. Folgende Angaben sollte ein Prompt enthalten:
Wie ist ein guter Prompt aufgebaut?
Beispiel-Prompt
Beispiele für hilfreiche Prompts im Schulkontext:
| Einsatzmöglichkeit | mögliche Prompts |
|---|
| Erstellen von Arbeitsaufträgen und Aufgaben | „Erstelle einen Arbeitsauftrag zum Thema Erörterung im Fach Deutsch für 90 Minuten mit einer Informationsphase, Anwendungsphase und Übungsphase“ |
| Erstellen von Analogien und Beispielen | „Nenne mir 3 reale Beispiele für Oligopole in der Wirtschaft“
„Nenne mir 10 authentische Beispielsätze für das Present Progressive“ |
| Erstellen von Quizzes oder Multiple-Choice-Tests | „Erstelle fünf Testfragen für eine 8. Klasse bezogen auf Blutzellen. Schreibe die Antworten getrennt darunter.“ |
| Erstellen von Lückentexten | „Erstelle einen Lückentext für eine 4. Klasse, der den Unterschied zwischen dem antiken Griechenland und dem römischen Reich erläutert mit insgesamt 5 Lücken.“ |
| Erstellen von Zusammenfassungen | „Fasse das Buch ‚Effi Briest‘ in ca. 1000 Wörtern zusammen.“ |
| Differenzieren von Texten auf verschiedenen Niveaustufen | „Gib den Text in einfacher Sprache aus, so dass ein Viertklässler mit geringen Deutschkenntnissen ihn verstehen kann.“
Text eingeben & „Formuliere die Aufgabenstellung für Schüler mit einer Lese-Rechtschreib-Schwäche“ |
| Erstellen von Lernplänen | „Erstelle mir einen Lernplan, der meinen Schülern hilft, die Bruchrechnung zu verstehen und abschließend ein Lernplakat zur Bruchrechnung zu erstellen“ |
| Unterstützung bei der Konzeption von Lehreinheiten und der Unterrichtsvorbereitung | Erstelle einen Unterrichtsplan zum Unterrichten von [Thema] |
| Erstellen von Diskussionsfragen | „Erstelle Diskussionsfragen zum Thema XY für eine Gruppendiskussion in Klasse 9. Die Schüler haben grundlegendes Vorwissen.“ |
| Erstellen von Geschichten oder Szenarios | „Erstelle eine kurze Geschichte oder ein Szenario, um Thema XY zu veranschaulichen“ |
| Erstellen von Vokabellisten | „Erstelle eine Liste von Vokabeln (deutsch-spanisch) auf Sprachniveau A2, die zum Thema XY gehören“
Text einfügen & „Notiere alle im Text vorkommenden Fachbegriffe in einer Liste“ |
Sie finden außerdem eine umfangreiche Prompt-Bibliothek im Assistenzmodus von KAI.
Wie kann ich KI im Unterricht thematisieren und was gilt es dabei zu beachten?
Der Einsatz von KI-Anwendungen gelingt dann am besten, wenn die Fragestellung und die Ergebnisse von Lehrkräften, Schülerinnen und Schülern gemeinsam analysiert und fachlich-inhaltlich bewertet werden. So können Lehrkräfte vermitteln, dass KI-generierte Ergebnisse stets menschlicher Prüfung und eines Fakten- und Quellenchecks bedürfen und somit das kritische Denken ihrer Schülerinnen und Schüler anregen. Dabei sollten Sie folgende Punkte beachten:
| • | Für die Bedeutung von Quellen(angaben) sensibilisieren: Da KI-gestützte Textgeneratoren keine zuverlässigen Quellenangaben bieten, sind für eine weitere Einordnung und Verwendung der Ergebnisse Quellenrecherchen ratsam. Auch Quellenrecherchen von KI-Anwendungen sind zu überprüfen. Zudem bietet sich die Nutzung von KI-Anwendungen an, um das korrekte Zitieren von Quellen und Hilfsmitteln mit den Schülerinnen und Schülern zu üben. KI-gestützte Texte sollten als solche immer kenntlich gemacht werden. Hilfreich ist es, dafür Regeln einzuführen und diese einzuüben.. |
|---|
| • | Ergebnisse einordnen: KI-erzeugte Ergebnisse können oft überzeugend wirken. Dabei ist es wichtig, sich zu vergegenwärtigen, dass die Technologie nichts „versteht“ und nicht über ein „Bewusstsein“ verfügt. KI-Anwendungen greifen auf große Textmengen aus dem Internet zu und generieren ihren Output auf der Basis statistischer Wahrscheinlichkeiten und der Rückmeldung der Nutzenden. Sie sind daher nicht objektiv, sondern erzeugen dadurch mitunter falsche Informationen. Verzerrungen und Vorurteile können so reproduziert werden. Zudem neigen Menschen potentiell dazu, Vorschläge von automatisierten Entscheidungssystemen trotz widersprüchlichen Informationen zu bevorzugen (Automation Bias). Um sich dem Risiko des Automation Bias bewusst zu machen, sollte die Fehleranfälligkeit generativer KI umfassend mit Schülerinnen und Schülern behandelt werden. |
| • | Für Transparenz sorgen: Lehrkräfte sollten den Schülerinnen und Schülern erklären, |
| | • | wie KI im Unterricht eingesetzt werden kann, |
|---|
| | • | welche Daten bei der Nutzung von KI-Werkzeugen erhoben und verarbeitet werden und |
|---|
| | • | welche Auswirkungen das auf das informationelle Selbstbestimmungsrecht und Urheberrecht der Schülerinnen und Schüler haben kann. |
|---|
| | • | Werden KI-Algorithmen eingesetzt, um Schülerinnen und Schülern individuelle Rückmeldungen zu geben, bspw. in Lernprogrammen für Deutsch oder Mathematik, sollten die Schülerinnen und Schüler darüber informiert werden, welche Kriterien dabei berücksichtigt werden. |
|---|
Welche Auswirkungen haben KI-Anwendungen auf die Leistungsermittlung und -bewertung?
Wenn KI-Anwendungen Einfluss auf Unterricht nehmen, muss dies auch in der Leistungsermittlung und -bewertung Berücksichtigung finden. KI-Anwendungen können dabei als Hilfs-mittel betrachtet werden, das je nach Prüfungssituation bzw. Aufgabenstellung erforderlich, zugelassen oder nicht zugelassen sein kann. Gerade bei schriftlichen Arbeiten, die im häuslichen Umfeld anzufertigen sind, ergeben sich neue Anforderungen. Zwar können Lehrkräfte im Rahmen ihrer eigenen pädagogischen Einschätzung u. A. auf der Basis der bisherigen Leistungen beurteilen, ob der bzw. die Lernende dabei auf die Unterstützung durch KI-Anwendungen zurückgegriffen hat. Erschwerend gestaltet sich jedoch, dass „copy-and-paste“ aus einer textgenerierenden KI-Anwendung nicht durch Vergleich erkennbar ist, da bei jeder Anfrage ein individueller Text entsteht. Es bleibt somit eine Frage der pädagogischen Beurteilung, ob eine Leistung eigenständig in Bearbeitung, geistiger Durchdringung und sprachlichem Ausdruck erbracht wurde.
Damit Lehrkräfte dem Gleichbehandlungsgrundsatz gerecht werden und Täuschungsversuche vermieden werden, sollten sie folgende Hinweise beachten:
| - | Transparenz: Den Schülerinnen und Schülern ist stets vorab mit der Aufgabenstellung mitzuteilen, welche Grundsätze für die Leistungsbewertung gelten, was die zugelassenen Hilfsmittel und wie sie als Quelle anzugeben sind. Dabei sollte auch vermittelt werden, dass ein rein durch KI generiertes Ergebnis keine eigenständige Leistung, sondern als Täuschungsversuch gewertet werden kann, wenn die Quelle nicht entsprechend angegeben wird. |
|---|
| - | Formatives Assessment: Die Bewertungsform von Leistungen soll weniger ergebnis- als prozessorientiert gestaltet sein. Der Lernprozess kann dabei beispielsweise mithilfe von Lernportfolios dokumentiert werden. |
| - | Mündliche Leistungen sollten stärker berücksichtigt bzw. sollten sie höher gewichtet werden. Dazu zählen z. B. Referate, Live-Präsentationen und Reflexionsgespräche zum Lern- und Arbeitsprozess und zu den erzielten Ergebnissen. |
| - | Anpassung von Prüfungsformaten: Aufgaben sind so zu stellen, dass sie sich nicht ausschließlich mit KI-Anwendungen bearbeiten lassen, sondern ein hohes Maß an geistiger Eigenleistung ermöglichen. Daher sind Prüfungsformate zu bevorzugen, die die Planung, Arbeitsweise und Kooperation des Schülers bzw. der Schülerin berücksichtigen: |
| | • | kreative Leistungen, die einen Format- bzw. Medienwechsel erfordern (Erstellen von Erklärvideos, Ebooks, Podcasts, Infografiken, Sketchnotes, eigenen Quizzes …) |
|---|
| | • | projektbezogene oder forschende Fragestellung bzw. Praxisarbeiten |
| | • | reflexive Lernprodukte wie Lerntagebücher und Portfolios |
| | • | Wenn KI-Anwendungen als Assistenz für Recherche, Strukturierung und/oder Textoptimierung zugelassen sind, können Lehrkräfte die schülerseitig verwendeten Prompts selbst in die Leistungsbewertung einbeziehen. Dazu sollten die Schülerinnen und Schüler ihre Prompts und die erhaltenen Ausgaben der KI dokumentieren, z. B. mithilfe von Screenshots. So können Lehrkräfte anhand der der Prompts prüfen, wie tief die Lerninhalte geistig durchdrungen wurden und wie versiert die Schülerin oder der Schüler die KI-Anwendung zu steuern vermag. |
| - | Angepasste Aufgabenstellung: Schriftliche Aufgabenstellungen sollten nicht nur Daten und Fakten abfragen, sondern so gestellt sein, dass sie Analysefähigkeit, kritisches Denken und die Fähigkeit zu kreative Problemlösungen von Schülerinnen und Schülern erfordern. |
|---|
| - | Überprüfung: Ob eine Aufgabenstellung für die Leistungsbewertung im häuslichen Umfeld geeignet ist, können Lehrkräfte im Zweifelsfall auf einfache Weise prüfen, indem sie die Aufgabe von ChatGPT, Google Bard o.ä. beantworten lassen. Erhalten sie einen plausiblen und korrekten Output, sollte die Aufgabenstellung entsprechend der hier gegebenen Hinweise angepasst oder geprüft werden, ob dieselben Kompetenzen besser im Unterricht bzw. im mündlichen Format geprüft werden können. Schülerleistungen, bei denen nicht objektiv beurteilt werden kann, ob sie eigenständig und nur mit den zugelassenen Hilfsmitteln erbracht wurden, sollten nicht bewertet werden. Dies gilt im Übrigen auch unabhängig von KI-Anwendungen. |
KAI bietet in seiner Bibliothek im Assistenzmodus einen Prompt für das Erstellen „KI-resistenter Aufgaben“.
Was bedeutet das für Hausaufgaben?
Hausaufgaben dienen im Allgemeinen dem eigenständigen Üben, Wiederholen, Festigen und Reflektieren von Lerninhalten. Dabei sollten Schülerinnen und Schüler die Möglichkeit erhalten, ihre Hausaufgaben eigenständig und kreativ zu bearbeiten. Dafür bieten sich auch unter Nutzung von mit KI-Anwendungen viele Möglichkeiten.
In der Regel werden Hausaufgaben nicht zur Bewertung von Schülerleistungen herangezogen. Schließlich ergibt sich auch hier das Problem, dass sich bei Aufgaben, die im häuslichen Umfeld erstellt werden, nicht prüfen lässt, ob diese mit der Hilfe Dritter oder unter Zuhilfenahme von textgenerierenden KI-Anwendungen erstellt wurden. Möglich ist es jedoch,
| - | Hausaufgaben mit einem größeren Fokus auf Kreativität und Lebensweltbezug zu stellen |
|---|
| - | die Lernenden nach authentischem Material recherchieren zu lassen |
| - | die Durchdringung der Lerninhalte im Unterricht mündlich abzufragen |
| - | die Nutzung von KI-Anwendungen zuzulassen unter der Voraussetzung, dass die genutzten Hilfsmittel vollständig und unter Angabe der verwendeten Prompts angegeben werden. |
Welche Regeln gelten für den Einsatz von KI für Fach- und Belegarbeiten?
Schulen sollten nach dem gemeinsamen Entdecken und Erproben von KI im Unterricht mit den Schülerinnen und Schülern und durch den pädagogischen Austausch im Kollegium gemeinsam Regeln für KI im Unterricht entwerfen. Dazu gehört es auch, Formen der Leistungsermittlung und -bewertung zu überdenken und die bestehenden Regeln in einem abgestimmten Prozess anzupassen. Dies gilt insbesondere für schriftliche Arbeiten, die im häuslichen Umfeld erstellt werden.
Dabei können neben den weiter oben genannten Grundsätzen für die Leistungsermittlung und -bewertung folgende Empfehlungen helfen:
| - | Der Arbeitsprozess der Lernenden benötigt eine intensive Begleitung. So kann die Lehrkraft sicherstellen, dass die Schülerinnen und Schüler für die Arbeit mit Quellen und Hilfsmitteln sensibilisiert sind. Zudem kann die Lehrkraft durch Vorgespräche erkennen, wie intensiv sich die Schülerin bzw. der Schüler bereits mit dem Gegenstand der Arbeit auseinandergesetzt hat. |
|---|
| - | Lehrkräfte legen die Kriterien für die Bewertung und für die erlaubten Hilfsmittel und Quellen vorab offen und besprechen mit den Schülerinnen und Schülern, ob und wenn ja, in welchem Ausmaß KI-Anwendungen bei der Erstellung der Leistungen genutzt werden dürfen. |
| - | Schulen können Vorlagen für Eigenständigkeitserklärungen und Textbausteine für die Übersicht der verwendeten Hilfsmittel und Quellen nutzen, mithilfe derer die Schülerinnen und Schüler offenlegen, ob und wenn ja, welche KI-Anwendungen sie wie und wo bei der Erstellung der schriftlichen Arbeit genutzt haben. Sind ganze Textpassagen bspw. von ChatGPT übernommen worden, sind diese zu kennzeichnen, denn eine Nicht-Angabe kommt einem Täuschungsversuch gleich (siehe Rechtsgutachten der Ruhr-Universität Bochum). Die Dokumentation der KI-Nutzung kann durch Angabe der genutzten Prompts, Links und mithilfe von Screenshots erfolgen. Somit lässt sich beurteilen, wie weitreichend der Einsatz der KI war und wie kompetent die Schülerin oder der Schüler den Einsatz der KI-Anwendung gesteuert hat. |
| - | Zusätzlich kann die Plausibilität der eigenständigen Erarbeitung der schriftlichen Arbeit durch den Schüler bzw. die Schülerin im Rahmen eines Lerngesprächs bzw. Kolloquiums überprüft werden. Diese sind im Freistaat Sachsen bei der sog. Komplexen Leistung an Gymnasien und beim fachlichen Gespräch an der Fachschule bereits vorgesehen. Diese mündliche Prüfung stellt eine kritisch-reflektierte Ergänzung zur (ggf. mit KI-Unterstützung erstellten) schriftlichen Arbeit dar. Im pädagogischen Gespräch über die Arbeit lässt sich gut erfragen, inwieweit die Schülerin bzw. der Schüler die Leistung eigenständig erbracht hat und ob ggf. KI-gestützte Textstellen unreflektiert übernommen wurden. |
⚖️ Rechtliche Hinweise
Datenschutzrecht
KI-Anwendungen im Internet speichern und verarbeiten Daten. Diese Verarbeitung erfolgt durch die hinter den KI-Systemen stehenden Unternehmen regelmäßig für eigene kommerzielle Zwecke. Daher dürfen personenbezogene und andere sensible Daten nicht unreflektiert in die Anfragen an KI-Anwendungen eingegeben werden, soweit nicht für diese Fälle die entsprechenden datenschutzrechtlichen Rechtsgrundlagen geklärt sind. Nicht nur Informationen, die sich explizit auf natürliche Personen beziehen (Name, Anschriften, etc.) sind personenbezogene Daten. Auch personenbeziehbare Daten, also Daten, die aus dem Zusammenhang heraus Rückschlüsse auf einzelne Personen erlauben, zählen dazu.
KI-Modelle sind in unterschiedlich großem Maße intransparent. Nicht nur sind sie oft Gegenstand von Geschäftsgeheimnissen, sie sind auch aufgrund ihrer Funktionsweise und Architektur eine „Black Box“. Häufig wissen die Entwicklerinnen und Entwickler selbst nicht, wie genau ein KI-Modell zu seinem Ergebnis kommt. Eine Verarbeitung von personenbezogenen Daten durch KI-Systeme ist deshalb in der Regel datenschutzrechtlich problematisch. Die Eingabe von Texten, die personenbezogene Daten von Lehrkräften oder Schülerinnen und Schülern sowie weiteren Personen enthalten, ist daher zu vermeiden.
Die großen frei verfügbaren KI-Anwendungen können nur nach vorheriger Registrierung mit E-Mail und ggf. auch Mobilfunknummer bei den Anbietern genutzt werden. Die Unternehmen erheben in der Regel über ihre KI-Dienste Nutzungsdaten, die in Länder außerhalb der Europäischen Union übertragen, dort gespeichert und regelmäßig zu kommerziellen Zwecken verarbeitet werden. Lediglich Nutzungsdaten europäischer Anbieter verbleiben in der EU. Lehrkräfte dürfen Schülerinnen und Schüler daher nicht verpflichten, einen eigenen Account anzulegen.
Eine datenschutzkonforme Nutzung von generativen KI-Anwendungen ist möglich, wenn über eine sichere Schnittstelle (API) auf ein KI-Modell zurückgegriffen wird. Wenn hierbei alle Nutzenden der Schnittstelle wie eine einzige Person gegenüber dem Anbieter behandelt werden, sind die Anmelde- und Verbindungsdaten nicht personenbezogen. Zudem soll die Nutzung der eingegebenen Daten für Trainingszwecke der KI-Modelle vertraglich ausgeschlossen werden.
Diese Kriterien erfüllt „Assistent KAI“, eine generative KI-Anwendung, die allen sächsischen Lehrkräften über Schullogin kostenfrei bereitgestellt wird. Hier finden Sie nähere Informationen zu KAI.
Auch für KI-Anwendungen, die wie „Assistent KAI“ keine Anmeldeinformationen und sonstige Metadaten an die KI-Anbieter weitergeben, gilt, dass Lehrkräfte sowie Schülerinnen und Schüler keine personenbezogenen Daten in Chats eingeben dürfen. Stattdessen sind personenbezogene Daten z. B. durch Platzhalter zu ersetzen oder Formulierungen zu nutzen, die vollständig auf diese Informationen verzichten.
Was hat KI mit Urheberrecht zu tun?
Da KI-Systeme keine natürlichen Personen sind, gibt es keinen Urheber und damit grundsätzlich kein Urheberrecht oder verwandte Schutzrechte für die Ergebnisse von KI-Anwendungen. Die Ausgaben der KI sind gemeinfrei.
Das bedeutet jedoch nicht, dass jede Ausgabe unbedenklich einsetzbar ist. Erzeugt eine KI eine Ausgabe, die einem geschützten Werk stark ähnelt, kann die Nutzung (bspw. Verbreitung) des Werkes eine Verletzung des Urheberrechts darstellen. Ursache solcher Ausgaben können beispielsweise die Trainingsdaten sein, die zum Training des KI-Dienstes verwendet wurden. Es gilt auch hier der Grundsatz, das eigene Handeln zu reflektieren. Die KI liefert zwar ein Ergebnis, für den Umgang damit aber sind immer die Nutzenden verantwortlich.
Erreichen die Prompts (Eingaben) eine gewisse Komplexität, besteht darüber hinaus die Möglichkeit, dass die Ergebnisse des KI-Systems dem Urheberrecht der Person unterliegen, die den Prompt verfasst hat. Das gleiche gilt für eine Weiterverarbeitung von KI-generierten Ausgaben.
Bei der Auswertung von Texten und anderen Werken von Schülerinnen und Schülern ist zu berücksichtigen, dass diese ab einer bestimmten sog. Schöpfungshöhe selbst dem Schutz des Urheberrechts unterliegen. Sie dürfen deshalb nicht ohne Weiteres in eine Software eingegeben und dadurch vervielfältigt werden. Soll die Auswertung von Schülerwerken KI-gestützt erfolgen, bedarf es einer Einwilligung oder sonstigen Rechtsgrundlage für die Weiterverarbeitung. Wird sichergestellt, dass Schülerwerke nicht in das Training des KI-Modells Eingang finden können und ihre weitere Verbreitung auch nicht auf andere Weise aus der Hand gegeben wird, kann die Verarbeitung als vorübergehende Vervielfältigung ohne Einwilligung der Schülerinnen und Schüler erfolgen. Andernfalls sind sie vor der Einwilligung umfassend über die Folgen der Weiterverarbeitung ihrer Werke zu informieren.
Vorgaben der KI-Verordnung der EU
Die KI-Verordnung regelt KI-Systeme je nach ihrem Risiko für Gesundheit, Sicherheit und Grundrechte. KI-Systeme in der Bildung, die bestimmte Aufgaben übernehmen, wie den Zugang zu Bildungseinrichtungen regeln, Lernergebnisse bewerten oder verbotenes Verhalten bei Prüfungen überwachen, fallen in den Hochrisiko-Bereich, wenn sie die Bewertung wesentlich beeinflussen. Eine wesentliche Beeinflussung liegt nicht vor, wenn das System eine spezifische Aufgabe erfüllt, menschliche Ergebnisse verbessert, Entscheidungsmuster erkennt und keine menschliche Bewertung ohne angemessene menschliche Überprüfung ersetzt. Es sind im Einzelfall schwierige juristische Abwägungen vorzunehmen. Ein vollständiges Verbot gibt es für die Emotionserkennung an Schulen.
Eine Einstufung in den Hochrisiko-Bereich bedeutet nicht, dass KI-Anwendungen im Bildungsbereich verboten sind. Allerdings müssen die Anbieter sicherstellen, dass die Anforderungen der KI-Verordnung eingehalten werden. Wenn Anbieter behaupten, dass ihre KI-Anwendungen nicht dem Hochrisiko-Bereich angehören, obwohl sie eine Verwendung im Rahmen der Kategorien erlauben, sind die KI-Anwendungen ausschließlich entsprechend der Nutzungsbedingungen zu verwenden. Bei Zweifeln an der durch einen Anbieter vorgenommenen Risiko-Einordnung sollten Schulen sich an das Landesamt für Schule und Bildung wenden. Auch der KI-Service-Desk der Bundesnetzagentur bietet Orientierung bei der Umsetzung der KI-Verordnung, bspw. mit Informations- und Vernetzungsveranstaltungen für Interessierte.
Vorgaben für den Einsatz von KI bei schulischen Leistungsbewertungen
Die Datenschutz-Grundverordnung, die Verordnung über Künstliche Intelligenz der Europäischen Union und das sächsische Schulrecht setzen dem zulässigen Einsatz von KI-Anwendungen im schulischen Kontext Grenzen. In den Blick zu nehmen ist insbesondere der Einsatz zum Zweck der Bewertung schulischer Leistungen.
Der Einsatz von KI-Anwendungen zur Bewertung von Prüfungsleistungen bei Abschlussprüfungen ist momentan nicht erlaubt. Das liegt daran, dass die Bewertung auf der eigenen Wahrnehmung und Beurteilung der Lehrkräfte basieren muss. Abschlussprüfungen haben eine besondere Bedeutung, auch da sie Zugang zu weiteren Bildungswegen oder Berufen ermöglichen. Außerdem gibt es ein festgelegtes Prüfungsverfahren, das derzeit keine Verwendung von KI-Anwendungen vorsieht.
Beim Einsatz von KI zum Zweck der Bewertung anderer schulischer Leistungen darf keine ungeprüfte Übernahme der Ausgaben von KI-Anwendungen stattfinden. Die Bewertung von schulischen Leistungen wie etwa Klassenarbeiten muss immer auf eine begründete Beurteilung durch eine Lehrkraft zurückzuführen sein.
Ein unterstützender Einsatz von KI-Anwendungen ist jedoch möglich. Soweit eine Lehrkraft hiervon Gebrauch macht, muss sie den Einsatz der Anwendungen offenlegen und begründen können, dass und wie die Ausgaben der KI-Anwendung in ihre Bewertung eingeflossen sind. Die Ausgaben der Anwendung können nicht als unmittelbar maßgeblich für die Festlegung der Note herangezogen werden. Stattdessen hat die Lehrkraft auf der Grundlage ihrer professionellen Fertigkeiten letztverantwortlich die Entscheidung zu treffen.
Ein unterstützender Einsatz von KI-Anwendungen im Bereich schulischer Leistungsbewertung ist zum Beispiel bei der Auswertung von Mathematik-Aufgaben oder für Rückmeldungen zu einem Text anhand festzulegender Bewertungskriterien möglich. Die Hinweise zum Datenschutz- und Urheberrecht aus dem vorhergehenden Abschnitt sind zu beachten.
🎓 Fortbildungen & Qualifizierung
Aktuelle Angebote in Sachsen
Artikel 4 der KI-Verordnung verlangt von Anbietern und Betreibern ein ausreichendes Maß an „KI-Kompetenz“ bei ihren Beschäftigten, die mit der Nutzung von KI-Systemen befasst sind. Lehrkräfte, die KI-Anwendungen dienstlich nutzen, sind daher gehalten, sich auf diesem Gebiet fortzubilden, sofern sie nicht bereits über die erforderliche Kompetenz verfügen.
Fortbildungsveranstaltungen zu Kompetenzen im Umgang mit KI-Anwendungen lassen sich im aktuellen Fortbildungskatalog des Schulportals finden (Direktlink). Auch in fachdidaktischen Fortbildungen wird KI mehr und mehr thematisiert werden. Des Weiteren stehen verschiedene Selbstlernangebote in Form von Online-Kursen zur Verfügung.
Darüber hinaus sind die Medienpädagogischen Zentren regionale Ansprechpartner für Fragen zum Thema Künstliche Intelligenz.
Selbstlernpfade für verschiedene Zielgruppen
Letzte Aktualisierung 01.08.2025