Bewertungsstrategien bei gegenseitigen Beurteilungen: Unterschied zwischen den Versionen

Aus MoodleDocs
Wechseln zu:Navigation, Suche
Keine Bearbeitungszusammenfassung
(4 dazwischenliegende Versionen desselben Benutzers werden nicht angezeigt)
Zeile 1: Zeile 1:
{{Gegenseitige Beurteilung}}
{{Gegenseitige Beurteilung}}


{{Zum Überarbeiten}}
Bewertungsstrategien für gegenseitige Beurteilungen bestimmen, wie ein Beurteilungsformular aussehen kann und wie die Bewertung einer Einreichung auf der Basis dieses Beurteilungsformulars berechnet wird. Die gegenseitige Beurteilung stellt standardmäßig vier Bewertungsstrategien zur Verfügung. Weitere Strategien können als Plugins entwickelt und installiert werden.
Bewertungsstrategien für gegenseitige Beurteilungen bestimmen, wie ein Beurteilungsformular aussehen kann und wie die Bewertung einer Einreichung auf der Basis dieses Beurteilungsformulars berechnet wird. Die gegenseitige Beurteilung stellt standardmäßig vier Bewertungsstrategien zur Verfügung. Weitere Strategien können als Plugins entwickelt und installiert werden.


Zeile 81: Zeile 80:


== Rubriken ==
== Rubriken ==
[[Image:Rubric assessmentform list.png|200px|thumb|right|Assessment form in list mode]]
[[Image:Rubric assessmentform list.png|200px|thumb|right|Bewertungsformular mit Rubriken - Listenform]]
See [http://en.wikipedia.org/wiki/Rubric_(academic) the description] of this scoring tool at Wikipedia. The rubric assessment form consists of a set of criteria. For each criterion, several ordered descriptive levels are provided. A number grade is assigned to each of these levels.  The reviewer chooses which level answers/describes the given criterion best.


The final grade is aggregated as
Eine Beschreibung von Rubriken als Bewertungsinstrument finden Sie in [http://en.wikipedia.org/wiki/Rubric_(academic) Wikipedia].
 
Dieses Bewertungsformular besteht aus einer Anzahl von Kriterien. Für jedes Kriterium werden verschiedene beschreibende Niveaustufen bereitgestellt. Jeder Niveaustufe wird eine Punktzahl zugeordnet. Bewerter/innen wählen für jedes Kriterium aus, welche Niveaustufe eine Einreichung hat.
 
Die Gesamtbewertung berechnet sich dann gemäß folgender Formel:


: <math>G_s = \frac{\sum_{i=1}^N (g_i - min_i) }{\sum_{i=1}^N (max_i - min_i)}</math>
: <math>G_s = \frac{\sum_{i=1}^N (g_i - min_i) }{\sum_{i=1}^N (max_i - min_i)}</math>
: where <math>g_i \in \mathbb{N}</math> is the grade given to the i-th criterion, <math>min_i \in \mathbb{N}</math> is the minimal possible grade of the i-th criterion, <math>max_i \in \mathbb{N}</math> is the maximal possible grade of the i-th criterion and <math>N \in \mathbb{N} </math> is the number of criteria in the rubric.
: mit <math>g_i \in \mathbb{N}</math> - Punktzahl für das i-te Kriterium, <math>min_i \in \mathbb{N}</math> - minimale Punktzahl für das i-te Kriterium, <math>max_i \in \mathbb{N}</math> - maximale Punktzahl für das i-te Kriterium und <math>N \in \mathbb{N} </math> - Anzahl der Kriterien in der Rubrik.
[[Image:Rubric assessmentform grid.png|200px|thumb|right|Assessment Form in grid mode]]
Example of a single criterion can be: ''Overall quality of the paper'' with the levels ''5 - An excellent paper'', ''3 - A mediocre paper'', ''0 - A weak paper'' (the number represent the grade).


There are two modes how the assessment form can be rendered - either in common grid form or in a list form. It is safe to switch the representation of the rubric any time.
[[Image:Rubric assessmentform grid.png|200px|thumb|right|Bewertungsformular mit Rubriken - Matrixform]]


''Example of calculation:'' let us have a rubric with two criteria, which both have four levels 1, 2, 3, 4. The reviewer chooses level with the grade 2 for the first criterion and the grade 3 for the second criterion. Then the final grade is:
Beispiele für Niveaustufen eines Kriteriums ''Gesamtqualität der Einreichung'':
*''5 - ausgezeichnet''
*''3 - mittelmäßig''
*''0 - schwach''
(die Zahl entspricht der Punktzahl der Niveaustufe).


: <math>G_s = \frac{(2 - 1) + (3 - 1)}{(4 - 1) + (4 - 1)} = \frac{3}{6} = 50 %</math>
Es gibt zwei Modi, in denen das Bewertungsformular mit Rubriken dargestellt werden kann: Listenform und Matrixform. Sie können jederzeit zwischen den beiden Darstellungen wechseln.


Note that this calculation may be different from how you intuitively use rubric. For example, when the reviewer in the previous example chose both levels with the grade 1, the plain sum would be 2 points. But that is actually the lowest possible score so it maps to the grade 0. To avoid confusion, it is recommended to always include a level with the grade 0 in the rubric definition.
'''Beispiel''': Sie verwenden ein Bewertungsformular mit zwei Kriterien mit jeweils vier Niveaustufen 1, 2, 3, 4. Eine Einreichung wird mit Niveaustufe 2 für das 1. Kriterium und Niveaustufe 3 für das 2. Kriterium bewertet. Dann ergibt sich folgende Gesamtbewertung:


'''Note on backwards compatibility:''' This strategy merges the legacy Rubric and Criterion strategies from Moodle 1.x into a single one. Conceptually, legacy Criterion was just one dimension of Rubric. In Workshop 1.x, Rubric could have several criteria (categories) but were limited to a fixed scale with 0-4 points. On the other hand, Criterion strategy in Workshop 1.9 could use custom scale, but was limited to a single aspect of assessment. The new Rubric strategy combines the old two. To mimic the legacy behaviour, the old Workshop are automatically upgraded so that:
: <math>G_s = \frac{(2 - 1) + (3 - 1)}{(4 - 1) + (4 - 1)} = \frac{3}{6} = 50 %</math>
 
* Criterion strategy from 1.9 are replaced with Rubric 2.0 using just one dimension
* Rubric from 1.9 are by Rubric 2.0 by using point scale 0-4 for every criterion.


In Moodle 1.9, reviewer could suggest an optional adjustment to a final grade. This is not supported any more. Eventually this may be supported in the future versions again as a standard feature for all grading strategies, not only rubric.
Beachten Sie, dass diese Berechnung vieleicht von der Art abweicht, wie Sie Rubriken intuitiv nutzen würden. Wenn z.B. eine Einreichung bei beiden Kriterien mit Niveaustufe 1 bewertet wurde, dann ergibt das eine Gesamtpunktzahl von 2. Das ist die kleinste mögliche Punktzahl, die auf die Bewertung 0% umgerechnet werden würde. Um Verwirrung zu vermeiden, empfehlen wir daher stets eine Niveaustufe 0 zu verwenden (so dass eine Gesamtpunktzahl von 0 zu einer Bewertung von 0% führt).


==Gegenseitige Beurteilung ausprobieren==
==Gegenseitige Beurteilung ausprobieren==

Version vom 11. Januar 2017, 11:55 Uhr


Bewertungsstrategien für gegenseitige Beurteilungen bestimmen, wie ein Beurteilungsformular aussehen kann und wie die Bewertung einer Einreichung auf der Basis dieses Beurteilungsformulars berechnet wird. Die gegenseitige Beurteilung stellt standardmäßig vier Bewertungsstrategien zur Verfügung. Weitere Strategien können als Plugins entwickelt und installiert werden.

Akkumulative Bewertungsstrategie

Bewertungsformular für eine akkumulative Bewertungsstrategie

Das Bewertungsformular besteht aus mehreren Kriterien. Jedes Kriterium wird mit einer Punktzahl (z.B. x von 10) oder einem Skalenwert einer Bewertungsskala (systemweite oder kursspezifische Bewertungsskala) bewertet. Jedes Kriterium kann mit einem Gewicht gewichtet werden. Die Bewerter/innen können zu jedem Kriterium einen Kommentar hinterlegen.

Bei der Berechnung der Gesamtbewertung einer Einreichungen werden die Bewertungen für die einzelnen Kriterien zunächst auf einen Wert zwischen 0% und 100% normalisiert. Die Gesamtbewertung ergibt sich dann als gewichtetes Mittel der normalisierten Bewertungen der einzelnen Kriterien. Bei der Verwendung von Bewertungsskalen werden die einzelnen Skalenwerte von 0 bis M-1 durchnummeriert (wenn M die Anzahl der möglichen Skalenwerte ist) und diese "umgerechneten" Zahlenwerte werden ebenfalls normalisiert. Die entsprechende Berechnungsformel für die Gesamtbewertung einer Einreichung lautet dann:

mit - Bewertung für das i-te Kriterium, - maximale Bewertung für das i-te Kriterium, - Gewicht des i-ten Kriteriums und - Anzahl der Kriterien im Beurteilungsformular.

Wichtig: Der Einfluss eines einzelnen Kriteriums auf die Gesamtbewertung wird allein durch das Gewicht bestimmt und nicht durch die maximale Bewertung dieses Kriteriums.

Beispiel 1: Sie verwenden ein Bewertungsformular mit drei Kriterien. Für das 1. Kriterium gibt es 0-100 Punkte, für das 2. Kriterium gibt es 0-20 Punkte und für das 3. Kriterium verwenden Sie eine Bewertungsskala mit drei Skalenwerten. Wenn Sie alle drei Kriterien gleich gewichten, dann hat eine Bewertung des 1. Kriteriums mit 50 Punkten denselben Einfluss auf die Gesamtbewertung wie eine Bewertung des 2. Kriteriums mit 10 Punkten: Beide Kriterien werden mit 50% der möglichen Punktzahl bewertet (Normalisierung).

Beispiel 2: Sie verwenden ein Bewertungsformular mit drei Kriterien. Für das 1. Kriterium gibt es 0-100 Punkte, für das 2. Kriterium gibt es 0-20 Punkte und für das 3. Kriterium verwenden Sie eine Bewertungsskala mit sechs Skalenwerten (umgerechnet in Zahlen entspricht das Werten zwischen 0 und 5). Das 1. Kriterium wird mit 90 Punkten bewertet (also 90/100 = 90%), das 2. Kriterium mit 16 Punkten (also 16/20 = 80%) und das 3. Kriterium mit dem zweitbesten Skalenwert (umgerechnet in Zahlen entspricht das einer 4, also 4/5 = 80%). Die Gewichte der Kriterien seien 1, 2 und 3. Das ergibt nach der obigen Formel eine Gesamtbewertung

Accumulative formula.png


Kommentare

Bewertungsformular mit Kommentaren

Das Bewertungsformular sieht ähnlich aus wie bei der akkumulativen Bewertungsstrategie. Es werden jedoch keine Punkte oder Skalenwerte vergeben, sondern Kommentare hinterlegt. Die Gesamtbewertung einer Einreichung wird immer auf 100% gesetzt. Diese Strategie ist nützlich bei wiederholten Einreichungen, wenn Beurteiler/innen die Arbeit zunächst kommentieren und die Teilnehmer/innen anschließend ihre Abgabe überarbeiten. Die Aktivität muss dann erneut in die Einreichungsphase umgeschaltet werden.

Der Prozess des Einreichens und Kommentierens kann auch mehrfach wiederholt werden.

Für die endgültige Einreichung können Sie auf eine andere Bewertungsstrategie umgestellten.


Anzahl der Fehler

Bewertungsformular mit Anzahl der Fehler

Das Bewertungsformular besteht aus mehreren Kriterien, die als zutreffend oder nicht zutreffend markiert werden müssen (ja/nein, vorhanden/nicht vorhanden, gut/schlecht, usw.)

Die Gesamtbewertung einer Einreichung wird aus der gewichteten Anzahl der Kriterien berechnet, die als nicht zutreffend bewertet wurden. Diese gewichtete Anzahl wird nach Vorgaben, die die Trainer/innen festlegen, in eine prozentuale Bewertung umgerechnet. Wenn die Anzahl der nicht zutreffenden Kriterien gleich Null ist (also alle Kriterien erfüllt sind), ergibt sich eine Bewertung von 100%.

Umrechnungstabelle: Gewichtete Anzahl der nicht zutreffenden Kriterien - prozentuale Bewertung

Mit dieser Bewertungsstrategie stellen Sie sicher, dass eine Einreichung alle Kriterien berücksichtigen muss, um als sehr gut bewertet zu werden.

Beispiele für solche Kriterien könnten sein:

  • weniger als 3 Rechtschreibfehler
  • keine Formatierungsfehler
  • kreative Ideen
  • Umfang der Einreichung passt

usw.

Diese Bewertungsstrategie ist leicht anzuwenden, objektiv und transparent. Sie eignet sich insbesondere für jüngere Beurteiler/innen oder Personen, die noch wenig Erfahrung mit Peer-Assessment-Methoden haben.

Beispiel: Das Bewertungsformular bestehe aus drei Kriterien.

Kriterium Nr. Inhalt Status Gewicht
1 Titel vorhanden ja/nein 1
2 Kreative Ideen vorhanden/nicht vorhanden 2
3 Zusammenfassung gut geschrieben ja/nein 3

Angenommen, eine Einreichung wurde mit ja / nicht vorhanden / ja bewertet. Da die Einreichung nur das 2. Kriterium nicht erfüllt und das Gewicht dieses Kriterium 2 ist, ist die Anzahl der Fehler 2. Daraus ergibt sich eine Bewertung von 66%. Bei einer angenommen Gesamtbewertung von 100 Punkten würde die Einreichung in diesem Fall mit 66 Punkten bewertet werden.

Rubriken

Bewertungsformular mit Rubriken - Listenform

Eine Beschreibung von Rubriken als Bewertungsinstrument finden Sie in Wikipedia.

Dieses Bewertungsformular besteht aus einer Anzahl von Kriterien. Für jedes Kriterium werden verschiedene beschreibende Niveaustufen bereitgestellt. Jeder Niveaustufe wird eine Punktzahl zugeordnet. Bewerter/innen wählen für jedes Kriterium aus, welche Niveaustufe eine Einreichung hat.

Die Gesamtbewertung berechnet sich dann gemäß folgender Formel:

mit - Punktzahl für das i-te Kriterium, - minimale Punktzahl für das i-te Kriterium, - maximale Punktzahl für das i-te Kriterium und - Anzahl der Kriterien in der Rubrik.
Bewertungsformular mit Rubriken - Matrixform

Beispiele für Niveaustufen eines Kriteriums Gesamtqualität der Einreichung:

  • 5 - ausgezeichnet
  • 3 - mittelmäßig
  • 0 - schwach

(die Zahl entspricht der Punktzahl der Niveaustufe).

Es gibt zwei Modi, in denen das Bewertungsformular mit Rubriken dargestellt werden kann: Listenform und Matrixform. Sie können jederzeit zwischen den beiden Darstellungen wechseln.

Beispiel: Sie verwenden ein Bewertungsformular mit zwei Kriterien mit jeweils vier Niveaustufen 1, 2, 3, 4. Eine Einreichung wird mit Niveaustufe 2 für das 1. Kriterium und Niveaustufe 3 für das 2. Kriterium bewertet. Dann ergibt sich folgende Gesamtbewertung:

Beachten Sie, dass diese Berechnung vieleicht von der Art abweicht, wie Sie Rubriken intuitiv nutzen würden. Wenn z.B. eine Einreichung bei beiden Kriterien mit Niveaustufe 1 bewertet wurde, dann ergibt das eine Gesamtpunktzahl von 2. Das ist die kleinste mögliche Punktzahl, die auf die Bewertung 0% umgerechnet werden würde. Um Verwirrung zu vermeiden, empfehlen wir daher stets eine Niveaustufe 0 zu verwenden (so dass eine Gesamtpunktzahl von 0 zu einer Bewertung von 0% führt).

Gegenseitige Beurteilung ausprobieren

Wenn Sie die Aktivität einmal ausprobieren möchten, dann melden Sie sich als Trainer/in in diesem School demo Moodle an. Die Login-Daten sind: Anmeldename teacher und Passwort moodle. Sie können auf die verschiedenen Phasen der gegenseitigen Beurteilung zugreifen und die Bewertungen einer abgeschlossenen Aktivität ansehen.