Einsatz von (generativer) KI im Bildungsbereich regulieren

Die Stellungnahme des Ethikrates “Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz“ ist eine sehr ausführliche Diskussion der Entwicklung und dort werden verschiedenen übergreifende Herausforderungen und Problemfelder von KI in verschiedenen gesellschaftlichen Handlungsfeldern diskutiert. Der Unterabschnitt zu KI in der Schule ist mir aber nicht ausführlich genug und es fehlen aus meiner Sicht einige konkrete Probleme. Zudem ergeben sich aus meiner Sicht einige übergreifende Problemfelder, die auch z.B. für den Hochschulkontext gelten und in verschiedenen Richtliniendokumenten der EU oder der UNESCO ausführlich diskutiert wurden.

Gleichzeitig beginnen Bildungsinstitutionen bereits, auf der Basis von aktuellen KI-Diensten eigene Services zu implementieren und anzubieten, ohne dass der Diskurs zu ethischen Dimensionen und potenziellen nachteiligen Auswirkungen bereits ausreichend geführt wurde. Dabei geht es mir nicht um einen Verbot der Nutzung von KI-basierten Diensten, aber eine ausreichende Analyse der Folgen sowie eine transparente und nachvollziehbare Kommunikation sowie die Möglichkeit des Opt-Out. Zudem bin ich davon überzeugt, dass es für den Bildungsbereich wichtig ist, nicht auf propriertäre und kommerziell orientierte Sprachmodelle zu setzen, sondern auf offene und geteilte Sprachmodelle, die auch nachvollziehbar und veränderbar sind. Aus diesem Grund habe ich eine eigene Stellungnahme zum Einsatz von (generativer) KI im Bildungsbereich gestartet, die hier auf Unterstützende wartet.