Investigating Consequences of Using Item Pre-knowledge in Computerized Multistage Testing

Halil SARI
2019 Gazi Üniversitesi Gazi Eğitim Fakültesi Dergisi  
The goal of this study is to determine the effects of test cheating in a scenario where test-takers use item pre-knowledge in the c-MST, and to urge practitioners to take additional precautions to increase test security. In order to investigate the statistical consequences of item pre-knowledge use in the c-MST, three different cheating scenarios were created, in addition to the baseline condition (e.g., no pre-knowledge usage). The findings were compared under 30-item and 60-item test length
more » ... nditions with 1-3-3 c-MST panel design. A total of thirty cheaters were generated from a normal distribution, and EAP was used as an ability estimation method. The findings were discussed with the evaluation criteria of mean bias, root mean square error, correlation between true and estimated thetas, conditional absolute bias, and conditional root mean square. It was found that using item pre-knowledge severely affected the estimated thetas, and as the number of compromised items increased, the results got worse. It was concluded that item sharing and/or test cheating seriously damage the test scores, test usage, and score interpretations. ÖZ Bu çalışmanın amacı, bireye uyarlanmış çok aşamalı (BUÇAT) testi alan bireylerin madde ön bilgisini kullandıkları durumlarda yetenek seviyelerinin nasıl etkilendiğini ortaya çıkarmak ve bu durumun meydana getirmiş olduğu sonuçlar konusunda testi düzenleyenleri test güvenliğini arttırmak için ek önlemler almaya teşvik etmektir. BUÇAT'ta madde ön bilgi kullanımının istatistiksel sonuçlarını araştırmak için, null durumuna (madde ön bilginin kullanılmadığı) ek olarak üç farklı madde hırsızlığı senaryosu simülasyonla üretilmiştir. Bulgular, 30 maddelik ve 60 maddelik test uzunluğu koşullarında 1-3-3 BUÇAT panel tasarımı ile karşılaştırılmıştır. Madde hırsızlığı yapan 30 bireyin yetenek seviyeleri normal dağılımla üretilmiştir. Bireylerin ara ve final * Alıntılama: Sarı, H.İ. (2019). Investigating consequences of using ıtem pre-knowledge in computerized multistage testing. Gazi Üniversitesi Eğitim Fakültesi Dergisi, 39(2), 1113-1134. yetenek seviyeleri beklenen sonsal dağılım (EAP) ile hesaplanmıştır. Simülasyon sonuçları iki farklı istatistik grubuyla değerlendirilmiştir: (a) genel sonuçlar ve (b) koşullu sonuçlar. Genel istatistikler için, ortalama yanlılık (mean bias), ortalama kareler hatası (RMSE) ve hesaplanan ve doğru yetenek seviyeleri arasındaki korelasyon hesaplanmıştır. Bulgulara göre madde ön bilginin kullanılmasının öğrenci yetenek seviyelerini ciddi şekilde etkilediği ve risk altındaki (test sonrasında paylaşılan maddeler) maddelerin sayısının artmasıyla sonuçların daha da kötüleştiği görülmüştür. Madde paylaşımının ve / veya test hırsızlığının test puanlarına, test kullanımına ve puan yorumlarına ciddi şekilde zarar verdiği sonucuna varılmıştır. Anahtar Sözcükler: Bilgisayarlı çok aşamalı test, Test hilesi, Madde ön bilgisi
doi:10.17152/gefad.535376 fatcat:bb4onmfnn5ektlm3xmjqguusoq