Einsatz von (generativer) KI im Bildungsbereich regulieren
Die Stellungnahme des Ethikrates “Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz“ ist eine sehr ausführliche Diskussion der Entwicklung und dort werden verschiedenen übergreifende Herausforderungen und Problemfelder von KI in verschiedenen gesellschaftlichen Handlungsfeldern diskutiert. Der Unterabschnitt zu KI in der Schule ist mir aber nicht ausführlich genug und es fehlen aus meiner Sicht einige konkrete Probleme. Zudem ergeben sich aus meiner Sicht einige übergreifende Problemfelder, die auch z.B. für den Hochschulkontext gelten und in verschiedenen Richtliniendokumenten der EU oder der UNESCO ausführlich diskutiert wurden.
Gleichzeitig beginnen Bildungsinstitutionen bereits, auf der Basis von aktuellen KI-Diensten eigene Services zu implementieren und anzubieten, ohne dass der Diskurs zu ethischen Dimensionen und potenziellen nachteiligen Auswirkungen bereits ausreichend geführt wurde. Dabei geht es mir nicht um einen Verbot der Nutzung von KI-basierten Diensten, aber eine ausreichende Analyse der Folgen sowie eine transparente und nachvollziehbare Kommunikation sowie die Möglichkeit des Opt-Out. Zudem bin ich davon überzeugt, dass es für den Bildungsbereich wichtig ist, nicht auf propriertäre und kommerziell orientierte Sprachmodelle zu setzen, sondern auf offene und geteilte Sprachmodelle, die auch nachvollziehbar und veränderbar sind. Aus diesem Grund habe ich eine eigene Stellungnahme zum Einsatz von (generativer) KI im Bildungsbereich gestartet, die hier auf Unterstützende wartet.
I am a researcher in educational technology whose work explores how digital technologies reshape learning, teaching, and educational institutions. My research combines educational technology, learning sciences, feedback research, and critical perspectives on digital transformation.Current areas of interest include peer feedback and feedback literacy, open and networked learning, AI and misinformation in education, digital learning ecologies, and the societal implications of data-driven and platform-based education. Methodologically, my work spans empirical learning research, psychometric scale development, design-oriented research, and conceptual analyses of digital transformation in education.
I am working as a full professor of educational technology and Chief Information/Chief Digital Officer (CIO/CDO) at the Heidelberg University of Education. I serve as associate editor of the International Journal of Artificial Intelligence in Education and editorial board member of the Journal of Computing in Higher Education. I am a senior-fellow of the Interuniversity Center for Educational Sciences (ICO) and the Dutch research school on information and knowledge systems (SIKS). I work as director of the study program E-Learning and Media Education and director of the Heidelberg Centre for Digital Transformation in Education. Over the years I could secure approx. 4 Mio EUR of research funding for my institutions from competitive projects with a total budget of 36 Mio EUR. I have been an invited keynote speaker on more than 60 conferences and events. Besides European projects I am regularly involved in educational innovation and consulting projects with partners inside and outside of my institutions including clients like the International Labour Organisation, United Nations Environment Program, the European Commission, UNESCO, OECD or other international and national organizations.