Teilnehmer/innen, die Gefahr laufen, aus dem Kurs auszusteigen

Überblick

Ab Version 3.4 implementiert Moodle auf Open Source Basis eine Learning Analytics Funktionalität. Moodle stellt im Standardpaket ein Modell Teilnehmer/innen sind gefährdet auszusteigen bereit. Dieses Modell wird im Folgenden detailliert beschrieben.

Das Modell generiert Vorhersagen darüber, welche Teilnehmer/innen gefährdet sind, vorzeitig aus einem Moodle-Kurs auszusteigen (drop-out). "Vorzeitig aussteigen" bedeutet in diesem Zusammenhang, dass eine Person im letzten (zeitlichen) Viertel des Kurses keine Aktivitäten im Kurs mehr zeigt. Dieses Vorhersagemodell verwendet das Community of Inquiry Modell, welches auf dem Engagement der Kursteilnehmer/innen basiert und auf drei Konzepten beruht:

Kognitive Präsenz
Soziale Präsenz
Trainerpräsenz

Weiter unten wird beschrieben, wie diese Konzepte im Modell definiert sind.

Funktionalitäten

Durch Abstraktion der Konzepte "Kognitive Präsenz" und "Soziale Präsenz" ist das Vorhersagemodell in der Lage, eine Vielzahl von Kursen zu analysieren und daraus Schlussfolgerungen zu ziehen. Auf Basis der Schlussfolgerungen macht das Modell Vorhersagen für neue Kurse, sogar für Kurse, in denen bisher noch kein Unterricht bzw. keine Lehrtätigkeit stattgefunden hat. Damit beschränken sich die Vorhersagen des Modells nicht auf den Lernerfolg der Teilnehmer/innen in Kursen, die exakte Kopien von Kursen aus der Vergangenheit sind.

Einschränkungen

Das Vorhersagemodell setzt voraus, dass Kurse ein festes Kursbeginndatum und ein festes Kursendedatum haben. Das Modell funktioniert nicht bei Kursen mit fortlaufenden Einschreibungen. Modelle ohne diese Einschränkungen sollen in zukünftigen Moodle-Versionen verfügbar sein.
- Wegen dieser Einschränkung ist es sehr wichtig, für alle Kurse, die das Modell verwenden, die Daten von Kursbeginn und Kursende richtig zu setzen. Wenn dies für vergangene und laufende Kurse nicht der Fall ist, dann können die Vorhersagen nicht verlässlich sein.
- Es werden keine Kurse für das Training des Modells oder für Vorhersagen verwendet, in denen (fälschlicherweise) das Datum des Kursendes vor dem Datum des Kursbeginns liegt.
Das Modell erfordert es, dass innerhalb des Kurses Abschnitte verwendet werden, damit die einzelnen Aktivitäten auf Zeitabschnitte aufgeteilt werden können.
Es werden keine Kurse verwendet, deren Beginn und Ende mehr als ein Jahr zurückliegen.
Das Modell erfordert eine gewisse Menge an Moodle-internen Daten, um darauf basierend Vorhersagen zu machen. Zum gegenwärtigen Zeitpunkt werden nur Aktivitäten, die zum Standardpaket von Moodle gehören, in die Indikatoren einbezogen (siehe unten). Kurse, die pro Zeitabschnitt nur wenige Standard-Aktivitäten enthalten, werden zu schwachen Vorhersagen führen. Das Modell ist am effektivsten, wenn die Kurse substantielle Online-Komponenten enthalten.

Da die Kurseinstellung Kursende erst ab Moodle 3.2 verfügbar war und eine Kurse in der Vergangenheit möglicherweise kein Kursbeginndatum gesetzt hatten, stellen wir ein Kommandozeilen-Tool zur Verfügung:

 $ admin/tool/analytics/cli/guess_course_start_and_end.php

Dieses Skript versucht, aus den Einschreibungen der Teilnehmer/innen und den Aktivitäten-Logdaten die Daten von Kursbeginn und Kursende zu schätzen. Wenn Sie das Skript laufen lassen, prüfen Sie bitte anschließend, ob die so bestimmten Daten von Kursbeginn und Kursende hinreichend passen.

Ziel

Das Ziel in diesem Modell ist Teilnehmer/in steigt aus dem Kurs aus (das ist ein negatives Ziel). Es ist so definiert: Der/die Teilnehmer/in zeigt keine Kursaktivität im letzten Viertel des Kurses.

Beachten Sie:

Einschreibungen, die vor dem aktuellen Datum des Kursbeginns enden, werden in den Vorhersagen ausgenommen.
Einschreibungen, die länger als ein Jahr bestehen, werden ausgenommen.
Der Kursabschluss (wenn aktiviert) kann als Maß für den Erfolg verwendet werden.
Andernfalls werden Aktivitäten von Teilnehmer/innen im letzten Viertel des Kurses so bewertet, dass diese Teilnehmer/innen nicht aussteigen.

Der Code für dieses Ziel ist im PHP-Skript <moodle>/lib/classes/analytics/target/course_dropout.php implementiert, wobei <moodle> das Wurzelverzeichnis Ihrer Moodle-Installation ist.

Indikatoren

Indikatoren können in jedem Kontext definiert werden. Die Indikatoren, die in diesem Modell verwendet werden, basieren auf den Konzepten "kognitive Tiefe" und "soziale Breite". Sie sind in allen Aktivitäten des Standardpakets von Moodle implementiert.

Kognitive Tiefe

"Kognitive Tiefe" ist ein Maß für das Konzept "Kognitive Präsenz" im theoretischen Rahmenwerk der Community of Inquiry. "Kognitive Präsenz" definiert, inwieweit Teilnehmer/innen in einer beliebigen Konfiguration einer Community of Inquiry in der Lage sind, durch fortwährende Kommunikation Sinngehalte zu konstruieren (Garrison, Anderson & Archer, 2000, S. 89).

Die kognitive Präsenz wurde in der Forschung meistens durch manuelles Analysieren der Inhalte gemessen. In diesem Modell definieren wir das Konzept basierend auf der Art der Aktivität, die für die Teilnehmer/innen im Kurs bereitgestellt wird, und inwieweit die Teilnehmer/innen kognitive Beteiligung an der Aktivität zeigen. Das Maß der Tiefe reicht von 0 bis 5, wobei 0 bedeutet, dass ein/e Teilnehmer/in die Aktivität noch nicht einmal angesehen hat. Weitere Niveaustufen sind:

Der/die Lernende hat die Details der Aktivität angesehen.
Der/die Lernende hat inhaltliche Beiträge zur Aktivität eingereicht.
Der/die Lernende hat das Feedback angesehen, das Lehrende oder Kolleg/innen gegeben haben.
Der/die Lernende hat Feedback an den/die Lehrende/n oder Kolleg/innen gegeben.
Der/die Lernende hat seine/ihre inhaltliche Beiträge auf Basis des Feedbacks überarbeitet und neu eingereicht.

Das Modell weist nun jeder Aktivität eine maximale potentiell erreichbare kognitive Tiefe zu. Z.B. kann man bei der Aktivität Aufgabe maximal die Niveaustufe 4 der kognitiven Tiefe erreichen. Weiter unten finden Sie eine detaillierte Übersicht, welche Niveaustufe in welcher Aktivität erreicht werden kann.

Sobald diese Zuweisung der maximalen Niveaustufe zu den einzelnen Aktivitäten erfolgt ist, werden alle eingeschriebenen Kursteilnehmer/innen darin bewertet, welche prozentuale Tiefe sie jeweils erreicht haben. Wenn z.B. eine Aktivität die Niveaustufe 3 hat und eine Person hat diese Aktivität auf Niveau 3 bearbeitet, dann sind das 100% der erreichbaren kognitiven Tiefe.

Soziale Breite

"Soziale Breite" ist ein Maß für das Konzept "Soziale Präsenz" im theoretischen Rahmenwerk der Community of Inquiry. "Soziale Präsenz" ist definiert als die Fähigkeit von Kursteilnehmer/innen, sich mit der Gruppe oder dem Kurs zu identifizieren, zielgerichtet in einer vertrauensvollen Umgebung zu kommunizieren, schrittweise persönliche und emotionale Beziehungen aufzubauen, indem sie ihre individuelle Persönlichkeit einbringen (Garrison, 2009, S. 352).

In der Vergangenheit wurde die soziale Präsenz meistens durch Befragungen im Anschluss an einen Kurs und durch manuelles Analysieren des Diskurses in einem Kurs gemessen. Gleichzeitig gab es wachsende Bemühungen, diesen Messprozess zu automatisieren. Dieses Modell implementiert die soziale Präsenz als "soziale Breite", indem es die Breite an Gelegenheiten untersucht, die eine Person hat, um mit anderen zu kommunizieren. Das Maß der Breite reicht von 0 bis 5, wobei 0 bedeutet, dass ein/e Teilnehmer/in mit niemanden in Interaktion getreten ist. Weitere Niveaustufen sind:

Der/die Lernende ist in einer Aktivität mit keinem/r anderen/r Lernenden in Interaktion getreten.
Der/die Lernende ist mit einem/r anderen/r Lernenden in Interaktion getreten (hat z.B. eine Aufgabenabgabe eingereicht oder einen Testversuch absolviert, der Feedback gibt)
Der/die Lernende ist mit mehreren anderen Lernenden in Interaktion getreten (hat z.B. einen Beitrag in einem Forum, in einem Wiki oder in einer Datenbank geschrieben).
Der/die Lernende ist mit anderen Lernenden so in Interaktion getreten, dass es eine Kommunikation "hin" und "zurück" gab (Beitrag und Antwort/Feedback).
Der/die Lernende ist in Interaktion mit Menschen außerhalb des Kurses getreten (also innerhalb einer "Community of practise").

Das Modell weist nun jeder Aktivität eine maximale potentiell erreichbare soziale Breite zu. Z.B. kann man bei der Aktivität Aufgabe maximal die Niveaustufe 2 der sozialen Breite erreichen. Weiter unten finden Sie eine detaillierte Übersicht, welche Niveaustufe in welcher Aktivität erreicht werden kann.

Sobald diese Zuweisung der maximalen Niveaustufe zu den einzelnen Aktivitäten erfolgt ist, werden alle eingeschriebenen Kursteilnehmer/innen danach bewertet, welche prozentuale Breite sie jeweils erreicht haben. Wenn z.B. eine Aktivität die Niveaustufe 4 hat und eine Person hat diese Aktivität auf Niveau 2 bearbeitet, dann sind das 50% der erreichbaren sozialen Breite.

Potentielle Niveaustufen für ausgewählte Aktivitäten

In den beiden vorangegangenen Abschnitten wurde bereits geschrieben, dass der Grad der Beteiligung an Aktivitäten in Moodle in Bezug auf kognitive Tiefe und soziale Breite mit verschiedenen Niveaustufen bewertet wird und dass in den einzelnen Aktivitäten unterschiedliche Niveaustufen erreichbar sind.

Die folgende Grafik zeigt, welche Niveaustufen in den Aktivitäten des Moodle-Standardpakets und in auswählten Zusatz-Modulen in Bezug auf die kognitive Tiefe bzw. die soziale Breite maximal erreicht werden können.

Auf diese Weise wird jede Aktivität in Bezug auf den möglichen bzw. erwarteten Grad der Beteiligung und des Engagements der Lernenden kategorisiert. Beachten Sie, dass höhere Niveaustufen die jeweils niedrigeren Niveaustufen einschließen. Wenn z.B. eine Aktivität eine/n Lernenden und seine Kolleg/innen bzw. Peers einbezieht (Niveaustufe 3 der sozialen Breite), dann sind automatisch die Niveaustufen 1 (nur der/die Lernende ist involviert) und 2 (nur der/die Lernende und eine weitere Person sind involviert) eingeschlossen. In vielen Fällen kann die spezifische Niveaustufe nur anhand der Einstellungen für die jeweilige Aktivität bestimmt werden.

Hinweis: In Moodle 3.4 unterstützt das Modell nur die Aktivitäten des Moodle-Standardpakets (auch wenn in der Grafik weitere zusätzliche Module eingetragen sind).

Analysierbare Elemente

Das "analysierbare Element" in diesem Modell ist der Moodle-Kurs. Das Modell iteriert also über die Kurse einer Moodle-Site und verarbeitet diesen, entweder um das Modell zu trainieren oder um Vorhersagen zu generieren. Vorhersagen werden für jede Stichprobe im Kontext des Kurses getroffen, siehe unten.

Aus Gründen der Skalierbarkeit werden alle Berechnungen pro Kurs ausgeführt. Die daraus resultierenden Daten werden zusammengeführt, nachdem alle Kurse verarbeitet wurden.

Stichproben

"Stichproben" kennzeichnen im Kontext des maschinellen Lernens die Einheiten der Analyse. In diesem Model sind die Stichproben die Kurseinschreibungen. Die Vorhersagen werden für jede Einschreibung in den Kursen getroffen. Die Vorhersagen werden dabei auf der Basis von Daten getroffen, die durch das Training des Modells mit Einschreibungen in bereits abgeschlossenen Kursen generiert wurden.

Gültige Stichproben

Gültige Stichproben werden jedes Modell in Bezug auf Training und Vorhersagen definiert. In diesem Modell sind die Kriterien folgende:

Für das Ttraining = abgeschlossene Kurse mit Aktivitäten
Für die Vorhersage = laufende Kurse

Einschätzungen

Einschätzungen sind spezifische Vorhersagen, die ein Modell für jede Einheit in der Stichprobe (in diesem Modell sind das die Einschreibungen in einem Kurs) im Kontext des Modells (in diesem Modell sind das alle Kurse) generiert. Der Kontext wird verwendet, um festzulegen, wer auf der Basis der Fähigkeit moodle/analytics:listinsights benachrichtigt wird. Standardmäßig ist in diesem Modell diese Fähigkeit für die Rolle Trainer/in auf Erlauben gesetzt.

In diesem Modell sind die Einschätzungen "binär", d.h. entweder ist ein/e Teilnehmer/in gefährdet auszusteigen oder nicht.

Aktionen

Zu jeder Einschätzung kann es eine oder mehrere Aktionen geben. Für dieses Modell gibt es folgende Aktionen:

eine Mitteilung an einen Kursteilnehmenden schicken
den Aktivitätenbericht eines Kursteilnehmenden ansehen
die Details der Vorhersagen ansehen
eine Einschätzung anerkennen
eine Einschätzung als "Nicht hilfreich" markieren

Empfohlene Zeitaufteilungsmethoden

Die Zeitaufteilungsmethode wird bei der Aktivierung des Modells gewählt. Die Wahl hängt von der typischen Länge eines Kurses und der Länge des Einschreibezeitraums (falls vorhanden) ab. Wenn Sie z.B. innerhalb der ersten beiden Wochen Vorhersagen für einen 16-wöchigen Kurs haben wollen, dann müssen Sie als Zeitaufteilungsmethode Zehntel wählen (16 Wochen = 112 Tage, so dass Vorhersagen etwa alle 11 Tage generiert werden). Wenn Sie dagegen alle zwei Wochen Vorhersagen für einen 8-wöchigen Kurs benötigen, dann wählen Sie Viertel. Beachten Sie, dass der Berechnungsprozess über alle aktivierten zeitaufteilungsmethoden iteriert. D.h. je mehr Zeitaufteilungsmethoden aktiviert sind, um so länger dauert der Berechnungsprozess und um so länger dauert es, das Modell zu trainieren.

Documentation