23
e - Assessment Tools Čestmír Štuka 1 , Patrícia Martínková 2 , Jitka Feberová 3 , Eugen Kvašňák 4

e-Assessment Tools - MEFANET...e-Assessment Tools Čestmír Štuka1, Patrícia Martínkov á2, Jitka Feberová3, Eugen Kvašňák4 Na počátku bylo … •O jak důležité testování

  • Upload
    others

  • View
    1

  • Download
    0

Embed Size (px)

Citation preview

Page 1: e-Assessment Tools - MEFANET...e-Assessment Tools Čestmír Štuka1, Patrícia Martínkov á2, Jitka Feberová3, Eugen Kvašňák4 Na počátku bylo … •O jak důležité testování

e-Assessment ToolsČestmír Štuka1, Patrícia Martínková2, Jitka Feberová3, Eugen Kvašňák4

Page 2: e-Assessment Tools - MEFANET...e-Assessment Tools Čestmír Štuka1, Patrícia Martínkov á2, Jitka Feberová3, Eugen Kvašňák4 Na počátku bylo … •O jak důležité testování

Na počátku bylo …

Page 3: e-Assessment Tools - MEFANET...e-Assessment Tools Čestmír Štuka1, Patrícia Martínkov á2, Jitka Feberová3, Eugen Kvašňák4 Na počátku bylo … •O jak důležité testování

• O jak důležité testování se jedná?

– Formativní

• Pro motivaci a zpětnou vazbu studenta – velmi mnoho možností – Formuláře Google, Adobe Connect, …

– Průběžné

• Pro posouzení pokroku studenta a naplnění cílů etapy kurzu– mnoho možností řešení

– Sumativní

• Zásadní a hodnotící – omezené spektrum možných řešení

Jak z toho?

Page 4: e-Assessment Tools - MEFANET...e-Assessment Tools Čestmír Štuka1, Patrícia Martínkov á2, Jitka Feberová3, Eugen Kvašňák4 Na počátku bylo … •O jak důležité testování

• Počítačové testování– CBA - Computer-Based Assessment / Testing – testování prostřednictvím

počítače, tabletu, mobilního telefonu, aj. (protiklad k PPT)

• Počítačem podporované testování– CAA - Computer Assisted Assessment – počítačově podporované

hodnocení

Forma elektronické podpory testování

Page 5: e-Assessment Tools - MEFANET...e-Assessment Tools Čestmír Štuka1, Patrícia Martínkov á2, Jitka Feberová3, Eugen Kvašňák4 Na počátku bylo … •O jak důležité testování

• OMR (optical mark recognition).

• OMR answer sheet

– strojově zpracovatelné dotazníkové listy

Počítačem podporované testování

Page 6: e-Assessment Tools - MEFANET...e-Assessment Tools Čestmír Štuka1, Patrícia Martínkov á2, Jitka Feberová3, Eugen Kvašňák4 Na počátku bylo … •O jak důležité testování

• Specializované programy

– Moodle (doplněk Quiz OMR)

– Rogo

– Remark Office

• Univerzální programy

– Word

Příprava OMR formulářů

Page 7: e-Assessment Tools - MEFANET...e-Assessment Tools Čestmír Štuka1, Patrícia Martínkov á2, Jitka Feberová3, Eugen Kvašňák4 Na počátku bylo … •O jak důležité testování

Řešení problémů rozpoznávání

Page 8: e-Assessment Tools - MEFANET...e-Assessment Tools Čestmír Štuka1, Patrícia Martínkov á2, Jitka Feberová3, Eugen Kvašňák4 Na počátku bylo … •O jak důležité testování

• Remark Office OMR

• SPSS Data Collection Paper

• ABBYY FlexiCapture

• Kodak Capture Pro Software

• Epson Document Capture Pro

Software pro strojové rozpoznávání značek

Page 9: e-Assessment Tools - MEFANET...e-Assessment Tools Čestmír Štuka1, Patrícia Martínkov á2, Jitka Feberová3, Eugen Kvašňák4 Na počátku bylo … •O jak důležité testování

• Řešení nestandardních situací– nejasné vyznačení odpovědi, posunutí formuláře, zdeformování digitálního

obrazu, zmačkání odpovědního listu v podavači skeneru či vtažení dvou listů současně.

• Cena (desítky tisíc Kč)

• Způsob licencování (licence vázané na HW)

• Nečekaná omezení (jen MCQ, neumí vážené skórování, …).

Kompromisy

Kritéria výběru SW

Page 10: e-Assessment Tools - MEFANET...e-Assessment Tools Čestmír Štuka1, Patrícia Martínkov á2, Jitka Feberová3, Eugen Kvašňák4 Na počátku bylo … •O jak důležité testování

• Ústav cizích jazyků – rozřazovací a zápočtové testy z anglického jazyka

• Formulář – vysázený ve Wordu

• Otestováno 538 studentů během 2 dnů

• Vyhodnoceno do hodiny v Remark Office OMR

– Grafická interpretace výsledků

Nasazení v praxi

Page 11: e-Assessment Tools - MEFANET...e-Assessment Tools Čestmír Štuka1, Patrícia Martínkov á2, Jitka Feberová3, Eugen Kvašňák4 Na počátku bylo … •O jak důležité testování

Grafická interpretace výsledků

Page 12: e-Assessment Tools - MEFANET...e-Assessment Tools Čestmír Štuka1, Patrícia Martínkov á2, Jitka Feberová3, Eugen Kvašňák4 Na počátku bylo … •O jak důležité testování

• Výhody:

– Rychlé

– Levné

– Nenáročné

• Nevýhody

– Omezení druhů otázek

– Licencování anticipuje servis

– Nutnost korektního vyplnění (fixy, neškrtat, …)

– Chyby při hledání řádku odpovědi

Počítačem podporované testování

Page 13: e-Assessment Tools - MEFANET...e-Assessment Tools Čestmír Štuka1, Patrícia Martínkov á2, Jitka Feberová3, Eugen Kvašňák4 Na počátku bylo … •O jak důležité testování

• Sumativní testování

• Open Source řešení

• Testový cyklus

Počítačové testování

• Moodle

• Rogo

TVORBA

SDÍLENÍANALÝZA

TESTOVÁNÍ

Page 14: e-Assessment Tools - MEFANET...e-Assessment Tools Čestmír Štuka1, Patrícia Martínkov á2, Jitka Feberová3, Eugen Kvašňák4 Na počátku bylo … •O jak důležité testování

Komplexní systém řízení výuky (LMS)

Open source (nízké pořizovací náklady)

Celosvětové rozšíření (vznik 2001)

Centrální autentizace (CAS)

Dobré zabezpečení

Česká lokalizace

• Nízká intuitivnost

• Pracnost přípravy testu

• Komplexnost kombajnu

• Malá podpora týmové spolupráce

Testování v Moodle

TVORBA

SDÍLENÍANALÝZA

TESTOVÁNÍ

Page 15: e-Assessment Tools - MEFANET...e-Assessment Tools Čestmír Štuka1, Patrícia Martínkov á2, Jitka Feberová3, Eugen Kvašňák4 Na počátku bylo … •O jak důležité testování

Test v Moodle

Page 16: e-Assessment Tools - MEFANET...e-Assessment Tools Čestmír Štuka1, Patrícia Martínkov á2, Jitka Feberová3, Eugen Kvašňák4 Na počátku bylo … •O jak důležité testování

Nasazení v praxi

• Ústav cizích jazyků – rozřazovací a zápočtové testy z anglického jazyka

• Otestováno 168 studentů během 2 dnů

– (limitováno velikostí počítačové posluchárny)

• Vyhodnoceno okamžitě– Základní položková analýza a grafická interpretace výsledků

Page 17: e-Assessment Tools - MEFANET...e-Assessment Tools Čestmír Štuka1, Patrícia Martínkov á2, Jitka Feberová3, Eugen Kvašňák4 Na počátku bylo … •O jak důležité testování

Moodle – pohled na výsledky

Page 18: e-Assessment Tools - MEFANET...e-Assessment Tools Čestmír Štuka1, Patrícia Martínkov á2, Jitka Feberová3, Eugen Kvašňák4 Na počátku bylo … •O jak důležité testování

• Rogo vzniklo 2003 jako domácí projekt na lékařské fakultě University of Nottingham (jako TouchStone)

• Je to Open Source webová aplikace pro online testování (PHP)

• Rogō v latině znamená „ptám se“

• Reflektuje požadavky výuky medicíny.

• Podpora standardizace – (oponentura, blueprinting, Ebel)

• Zavedené metody žádostí o změny

Rogō

Page 19: e-Assessment Tools - MEFANET...e-Assessment Tools Čestmír Štuka1, Patrícia Martínkov á2, Jitka Feberová3, Eugen Kvašňák4 Na počátku bylo … •O jak důležité testování

• Implementace na 1. LF UK - https://www.rogo.cz

• Autentizace studentů v CAS (univerzitní LDAP)

• Přiřazení předmětů studentům

• Lokalizace

• Testování

• Podpora

Rogo v Čechách

Page 20: e-Assessment Tools - MEFANET...e-Assessment Tools Čestmír Štuka1, Patrícia Martínkov á2, Jitka Feberová3, Eugen Kvašňák4 Na počátku bylo … •O jak důležité testování

• Limitované zdroje na rozvoj a podporu

• Nedostatečné funkce položkové banky

• Problémy s interoperabilitou– Importní formát QTI ?

– Rrespondus

• Úzké hrdlo - podpora v UK– malá komunita

– nedokumentovaný kód

• Neumíme – míchat otázky

– náhodný výběr ze sady

Rogo

TVORBA

SDÍLENÍANALÝZA

TESTOVÁNÍ

Page 21: e-Assessment Tools - MEFANET...e-Assessment Tools Čestmír Štuka1, Patrícia Martínkov á2, Jitka Feberová3, Eugen Kvašňák4 Na počátku bylo … •O jak důležité testování

• Ústav cizích jazyků – rozřazovací a zápočtové testy z anglického jazyka - otestováno 81

• Atestace z vnitřního lékařství – otestováno 30

• Vyhodnoceno okamžitě– Položková analýza a grafická interpretace výsledků

Rogo v praxi

Page 22: e-Assessment Tools - MEFANET...e-Assessment Tools Čestmír Štuka1, Patrícia Martínkov á2, Jitka Feberová3, Eugen Kvašňák4 Na počátku bylo … •O jak důležité testování

Položková analýza testu

Page 23: e-Assessment Tools - MEFANET...e-Assessment Tools Čestmír Štuka1, Patrícia Martínkov á2, Jitka Feberová3, Eugen Kvašňák4 Na počátku bylo … •O jak důležité testování

• Nástroj pokrývající celý testový cyklus

• Důvěryhodné sdílení otázek

• Nízké náklady provozu

Vize:

TVORBA

SDÍLENÍANALÝZA

TESTOVÁNÍ