By the European Digital Education Hub’s Squad on artificial intelligence in education
Wir haben in den vorangegangenen Diskussionen und Szenarien gesehen, dass KI das Potenzial hat, große Vorteile für die Bildung zu bringen. Wir haben aber auch gesehen, dass mit ihrem Einsatz auch Risiken verbunden sind. In vielen Fällen können wir feststellen, dass diese Risiken minimal sind. Zu den von uns erörterten Beispielen gehören die Bereitstellung von formativem Feedback, die Unterstützung von Lehrern bei der Erstellung von Unterrichtsplänen und die Unterstützung bei einigen Verwaltungsaufgaben von Schulen. Je weiter wir uns vom Einsatz der KI als Unterstützungssystem entfernen, desto größer wird das Risiko. Wie wir gesehen haben, kann der Einsatz von KI für Lernanalysen den Lehrern helfen, ihre Unterrichtsstrategien an die individuellen Bedürfnisse anzupassen. Der Einsatz von Lernanalysen ohne angemessene Aufsicht durch die Lehrkräfte kann jedoch Schüler benachteiligen, die mit ungünstigen Lebensumständen zu kämpfen haben, die sich auf ihre Leistung auswirken, wodurch sich das Risiko erhöht. Wenn es darum geht, sich bei Entscheidungen, die sich auf die Zukunftschancen eines Lernenden auswirken können, auf KI zu verlassen, bewegen wir uns in einem Bereich mit „hohem“ und vielleicht „inakzeptablem“ Risiko. Wir sehen also, dass das Risiko nicht so sehr in den Werkzeugen liegt, sondern in den Kontexten, in denen sie eingesetzt werden. Auch wenn die menschliche Aufsicht dazu beitragen kann, einige der Risiken zu mindern, sollten wir uns der Gefahr einer Abhängigkeit bewusst sein, bei der der Mensch zunehmend von der KI abhängig wird, um Entscheidungen zu treffen. All dies unterstreicht die Bedeutung der Entwicklung erklärungsfähiger KI, wie oben dargelegt.
Um ihren verantwortungsvollen Einsatz im Bildungsbereich zu gewährleisten, ist es wichtig, sich stets des Gleichgewichts bewusst zu sein, das zwischen der Nutzung der Vorteile der KI und der Bewertung und Abschwächung potenzieller Risiken hergestellt werden muss, und sicherzustellen, dass die menschliche Aufsicht einbezogen wird und die menschlichen Werte gewahrt bleiben.