22
EasyEstimationを用いた テストデータのIRT分析 12回『日本テスト学会賞』 記念講演・ワークショップ 2018128東北大学大学院教育学研究科 熊谷 龍一 1

EasyEstimationを用いた テストデータのIRT分析テストデータのIRT分析 第12回『日本テスト学会賞』 記念講演・ワークショップ 2018 年12月8日

  • Upload
    others

  • View
    0

  • Download
    0

Embed Size (px)

Citation preview

Page 1: EasyEstimationを用いた テストデータのIRT分析テストデータのIRT分析 第12回『日本テスト学会賞』 記念講演・ワークショップ 2018 年12月8日

EasyEstimationを用いたテストデータのIRT分析

第12回『日本テスト学会賞』記念講演・ワークショップ

2018年12月8日東北大学大学院教育学研究科

熊谷 龍一

1

Page 2: EasyEstimationを用いた テストデータのIRT分析テストデータのIRT分析 第12回『日本テスト学会賞』 記念講演・ワークショップ 2018 年12月8日

EasyEstimationとは個人的に開発・公開をしている

「項目反応理論による分析」

を行うためのソフトウェア(Windows用)

2

Page 3: EasyEstimationを用いた テストデータのIRT分析テストデータのIRT分析 第12回『日本テスト学会賞』 記念講演・ワークショップ 2018 年12月8日

項目反応理論(IRT)の概要項目特性曲線(Item Characteristic Curve)

低 ← 能力・特性 → 高

正答確率

1

0

3

Page 4: EasyEstimationを用いた テストデータのIRT分析テストデータのIRT分析 第12回『日本テスト学会賞』 記念講演・ワークショップ 2018 年12月8日

項目特性関数

↑問題の識別力

↑問題の困難度

潜在特性尺度値(能力)2パラメタ・ロジスティック・モデル

𝑃𝑃 𝜃𝜃 =1

1 + exp{−𝑎𝑎(𝜃𝜃 − 𝑏𝑏)}

4

Page 5: EasyEstimationを用いた テストデータのIRT分析テストデータのIRT分析 第12回『日本テスト学会賞』 記念講演・ワークショップ 2018 年12月8日

順序付き多値型モデル

低 ← 能力・特性 → 高

反応確率

1

0

Category 1

C 2 C 3 C 4

C 5

5

Page 6: EasyEstimationを用いた テストデータのIRT分析テストデータのIRT分析 第12回『日本テスト学会賞』 記念講演・ワークショップ 2018 年12月8日

順序なし多値型(名義尺度)モデル

低 ← 能力・特性 → 高

反応確率

1

0

Category 1

C 2

C 3

C 4

6

Page 7: EasyEstimationを用いた テストデータのIRT分析テストデータのIRT分析 第12回『日本テスト学会賞』 記念講演・ワークショップ 2018 年12月8日

項目特性関数

↑問題の識別力

↑問題の困難度

潜在特性尺度値(能力)2パラメタ・ロジスティック・モデル

𝑃𝑃 𝜃𝜃 =1

1 + exp{−𝑎𝑎(𝜃𝜃 − 𝑏𝑏)}

7

Page 8: EasyEstimationを用いた テストデータのIRT分析テストデータのIRT分析 第12回『日本テスト学会賞』 記念講演・ワークショップ 2018 年12月8日

EasyEstimation(Ver. 2.0.9 2018/11/22)

• IRTの分析をするプログラム(Windows用)

•学術目的において無料利用•熊谷個人で開発(2005年公開)(http://irtanalysis.main.jp)

•簡単(Easy)な操作8

Page 9: EasyEstimationを用いた テストデータのIRT分析テストデータのIRT分析 第12回『日本テスト学会賞』 記念講演・ワークショップ 2018 年12月8日

実演2値型データ分析

1. 1次元性の確認と基礎統計量2. 項目母数の推定3. 能力母数(𝜃𝜃)の推定4. 項目特性曲線とテスト情報量

9

Page 10: EasyEstimationを用いた テストデータのIRT分析テストデータのIRT分析 第12回『日本テスト学会賞』 記念講演・ワークショップ 2018 年12月8日

使用できるデータ形式•テキストファイル(拡張子は何でもよい)

10

A0001,01100110011110110101A0002,01000010011110110100A0003,11000010011111011010A0004,11000100010111110111A0005,00000011000000010000

… … …

Page 11: EasyEstimationを用いた テストデータのIRT分析テストデータのIRT分析 第12回『日本テスト学会賞』 記念講演・ワークショップ 2018 年12月8日

Fitの指標について目安

Outfit, Infit:0.75~1.30StdOut(In)…:-2.0~2.0

目安範囲以下:overfit以上:misfit

11

Page 12: EasyEstimationを用いた テストデータのIRT分析テストデータのIRT分析 第12回『日本テスト学会賞』 記念講演・ワークショップ 2018 年12月8日

データの変換item001RawData Obs. Freq.

1 0 0.00%2 60 6.00%3 133 13.30%4 275 27.50%5 522 52.20%

Omit.Freq. 0

12

実質,「2,3,4,5」の4件法データ

Page 13: EasyEstimationを用いた テストデータのIRT分析テストデータのIRT分析 第12回『日本テスト学会賞』 記念講演・ワークショップ 2018 年12月8日

データの変換

Convert to

13

12345

11234現在の項目 全選択項目

「12345」の5件法データについて1→12→13→24→35→4 として

「1234」の4件法データにする。

Page 14: EasyEstimationを用いた テストデータのIRT分析テストデータのIRT分析 第12回『日本テスト学会賞』 記念講演・ワークショップ 2018 年12月8日

EasyEstimationでできるその他の分析

1.多母集団分析2.項目固定分析

14

Page 15: EasyEstimationを用いた テストデータのIRT分析テストデータのIRT分析 第12回『日本テスト学会賞』 記念講演・ワークショップ 2018 年12月8日

EasyEstimation Tips項目パラメタの推定方法は?・MML-EM・(3PL)cパラメタのみ

(20p+1, -20p+21)のβ分布を事前分布としたベイズ推定。デフォルト p=1/5

15

Page 16: EasyEstimationを用いた テストデータのIRT分析テストデータのIRT分析 第12回『日本テスト学会賞』 記念講演・ワークショップ 2018 年12月8日

EasyEstimation Tips•どのくらいのデータを扱える?100万人,50項目,2PL, (60MB)

約10分(Core i7 3.7G, RAM 32GB)

16

Page 17: EasyEstimationを用いた テストデータのIRT分析テストデータのIRT分析 第12回『日本テスト学会賞』 記念講演・ワークショップ 2018 年12月8日

EasyEstimation Tips•等化は?項目固定法同時尺度調整法 はできるが…

17

Page 18: EasyEstimationを用いた テストデータのIRT分析テストデータのIRT分析 第12回『日本テスト学会賞』 記念講演・ワークショップ 2018 年12月8日

EasyEstimation Tips•等化は?�𝜃𝜃を用いた等化係数の推定・野口・熊谷(2011)の補正・熊谷・野口(2012)の方法

野口裕之・熊谷龍一 (2011). 共通受検者デザインにおけるMean & Sigma法による等化係数推定値の補正. 日本テスト学会誌, 7, 15-22.

熊谷龍一・野口裕之 (2012). 推定母集団分布を利用した共通受検者法による等化係数の推定. 日本テスト学会誌, 8, 9-18.

18

Page 19: EasyEstimationを用いた テストデータのIRT分析テストデータのIRT分析 第12回『日本テスト学会賞』 記念講演・ワークショップ 2018 年12月8日

EasyEstimation Tips•潜在特性尺度値(θ)の事前分布について

「ndist.dat」

EAPやMAPにおいては…

19

Page 20: EasyEstimationを用いた テストデータのIRT分析テストデータのIRT分析 第12回『日本テスト学会賞』 記念講演・ワークショップ 2018 年12月8日

EasyEstimation を開発してみて…

•何を持って「正しいプログラム」とするのか?

•テキスト・文献に書いていないことをどうするか?

20

Page 21: EasyEstimationを用いた テストデータのIRT分析テストデータのIRT分析 第12回『日本テスト学会賞』 記念講演・ワークショップ 2018 年12月8日

3PL尤度関数(正答数6/20)

-1E-07

0

0.0000001

0.0000002

0.0000003

0.0000004

0.0000005

0.0000006

0.0000007

0.0000008

-6 -5 -4 -3 -2 -1 0 1 2 3 4 5 6

21

Page 22: EasyEstimationを用いた テストデータのIRT分析テストデータのIRT分析 第12回『日本テスト学会賞』 記念講演・ワークショップ 2018 年12月8日

ご清聴ありがとうございました

熊谷龍一[email protected]

http://irtanalysis.main.jp

22