Mind The Bias – KI in der Bildung auf der BIKO

Am 29. März 2025 versammelten sich Pädagoginnen und Pädagogen, Wissenschaftlerinnen und Wissenschaftler sowie weitere Bildungsinteressierte auf der BIKO in Heilbronn, um über die Zukunft unserer Bildungslandschaft zu diskutieren. In einer Fishbowl diskutierten wir mit engagierten Menschen aus der Praxis zum Thema “MIND THE BIAS: KI in der Bildung”. Anhand von beispielhaft ausgesuchten Szenarien wurde deutlich, dass das enorme Potenzial von Künstlicher Intelligenz im Bildungsbereich bewusst kritisch begleitet werden muss und Fragen zu Ethik, Verantwortung und Datenschutz nicht übergangen werden dürfen.

Fishbowl-Diskussion

Die Teilgebenden des Workshops diskutierten anhand vorgegebener Szenarien vielfältig zum Einsatz von KI in der Schule. Im Folgenden haben wir die Inhalte der Ergebnis-Flipchart thematisch in vier Bereiche unterteilt.

© aim, [Nico Kurth (nk): Linkedin & Instagram]

KI und zukunftsorientierte Bildung

Wie KI funktioniert und wie man mit KI umgeht und arbeitet, sind zwei getrennte Dimensionen. Doch beide müssen in Zukunft für ein breites Verständnis und produktiven Einsatz von KI beachtet werden. Das bedeutet:

Neue Kompetenzen: Lehrende und Lernende benötigen ein tieferes Verständnis für Datenverarbeitung, Algorithmen und KI-Ethik.

Schulische Integration: Die Teilnehmenden betonten, dass KI breit und interdisziplinär in Lehrplänen verankert werden sollte

Chancen und Potenziale

Die Individualisierung im Unterricht und die Entlastung von Lehrenden sind zwei der zentralsten Aspekte beim Einsatz von KI in der Schule.

Personalisierte Lernwege: KI-gestützte Lernplattformen passen Übungen, Schwierigkeitsgrade, Sprachniveau und Feedback an die jeweiligen Bedürfnisse der Lernenden an. Dies ermöglicht eine Steigerung von Motivation und Lernerfolg.

Automatisiertes Feedback: KI kann Korrekturarbeiten und Diagnostik erleichtern, sodass Lehrkräfte mehr Zeit für pädagogische Interaktionen und individuelle Förderung aufwenden und gezielter mit den Lernenden umgehen können.

Risiken und „Bias“ in KI-Systemen

Wird eine Bewertung durch Hilfe von KI objektiver und gerechter? Welche Konsequenzen haben versteckte Verzerrungen im KI-Modell, wie nachvollziehbar sind seine Entscheidungen und wer trägt am Ende die Verantwortung?

Verzerrungen in den Daten oder im Modell: Fehler von KI-Modellen sind nicht auszuschließen und solange sie nicht systematisch auftreten, meist zu handhaben. Verzerrungen in den Daten oder im Modell können im großflächigen Einsatz jedoch Menschen systematisch benachteiligen. Wichtig war den Diskutierenden hier eine offene Fehlerkultur, die nicht selbst den Fehler begeht, Algorithmen zu sehr zu vertrauen.
Transparenz und Nachvollziehbarkeit: Meistens sind komplexe KI-Systeme in ihren Entscheidungen nicht nachvollziehbar. Daher verbietet sich für die Diskutierenden der Einsatz in Bewertungssituationen. Je nach Kontext oder Fach kann die Rückmeldung von KI über die Leistung von Lernenden kritisch von Lehrkräften für eine Beurteilung herangezogen werden. Der Einsatz von KI von Lehrkräften sollte stets transparent gemacht werden.
Objektivität: Bei diesem Thema zeigte sich der Zwiespalt zwischen eindeutigen Vorteilen in der Objektivität bezüglich Verhalten, Schriftbild, Sprache von Lernenden und dem Risiko der fehlenden Nachvollziehbarkeit und möglichen systematischen Benachteiligung durch KI-Modelle.

© aim, [Nico Kurth (nk): Linkedin & Instagram]

Ethische Fragestellungen

Datenschutz und Privatsphäre: Gerade wenn es um sensible Informationen zu Kindern und Jugendlichen geht, müssen DSGVO-konforme Lösungen und verantwortungsvolle Datensammlung gewährleistet sein.
Chancengerechtigkeit: Nicht alle Schulen und Lernende verfügen über gleiche infrastrukturelle Voraussetzungen. Eine flächendeckende, gerechte Ausstattung mit digitalen Mitteln war ein zentrales Anliegen.
Menschlicher Faktor: Trotz aller Automatisierung und KI-Unterstützung bleibt die pädagogische Beziehungsarbeit essenziell. KI soll Lernprozesse ergänzen, nicht menschliche Interaktion ersetzen.

Ausblick und Handlungsempfehlungen

Die Teilnehmenden waren sich einig, dass KI die Bildungswelt nachhaltig prägen wird. Um sie gewinnbringend und verantwortungsvoll einzusetzen, braucht es:

Fortlaufende Sensibilisierung: Lehrkräfte und Lernende benötigen praxisnahe Schulungen, um KI-Tools kritisch und kompetent zu nutzen.

Transdisziplinäre Allianzen: Bildungseinrichtungen, Forschung, Wirtschaft und Politik sollten eng zusammenarbeiten, um die Weiterentwicklung und Qualitätssicherung von KI-Systemen voranzutreiben.

Klare Rahmenbedingungen: Gesetze, Richtlinien und Standards müssen für Transparenz, Datenschutz und Fairness sorgen, ohne Innovation zu ersticken.

Diskutieren lohnt sich

Die Fishbowl-Diskussion auf der BIKO 2025 hat eindrücklich gezeigt, wie sehr Künstliche Intelligenz unser Bildungssystem herausfordert und zugleich bereichert. Dabei geht es nicht nur um technologische Fragen, sondern vor allem um Werte, Verantwortlichkeiten und den Mut, neue Wege in Schule, Hochschule und Weiterbildung zu beschreiten.

Über die BIKO

Die BIKO (Bildungskonferenz der aim in Kooperation mit dem Zentrum für Schulqualität und Lehrerbildung) ist eine zentrale Plattform für Akteurinnen und Akteure aus Bildung und Forschung. Sie findet jährlich auf dem Heilbronner Bildungscampus statt und stellt eine Gelegenheit dar, sich über aktuelle Entwicklungen und Praxiserfahrungen in der Bildungswelt auszutauschen.

Weitere Informationen zur BIKO, zum Veranstaltungsort und zum Programm finden Sie auf der Website der aim (Akademie für Innovative Bildung und Management).