Точность экспертной технологии обнаружения мошенничества на удаленных тестовых экзаменах (прокторинг)

Полная версия статьи доступна по ссылке РИНЦ.

Abstract

The purpose(objective) of the empirical study is the measurement of the accuracy of expert-proctors in detecting cheating in online testing. 

Sample of the study. 35 test takers passed an online test of general knowledge on the basis of 30 multiple choice questions. Half of the subjects (18 persons) were “artificial cheaters” – they used cheat sheets with correct answers. 

Methods. The video recording of the testing process included a “screen capture” so that expert-proctors could observe all cursor movements, see a recording of the subject's facial expressions and a visual focus of attention in a separate window (recording from the front camera), and could listen to the subject pronouncing the task conditions and answers (“oral decision”). 14 experts took part in rating of video recordings, of which 8 experts showed satisfactory results in terms of the level of accuracy in detecting cheating (their accuracy that was measured using the Kappa coefficient was higher than 0.5). 

Conclusions. A high asymmetric validity of expert assessments is revealed. More accurate experts allowed a negligible (about 5 percent) number of errors of the “false alarm” type, but a relatively large number of errors of the “skip” type. Recommendations are made for the practical use of the expert assessment method in combination with automatic chronometric analysis of the degree of atypical protocols and subsequent control of face-to-face offline testing of all suspected subjects (examinees). 

Аннотация

Актуальность и цель работы. В данном эмпирическом исследовании предпринята попытка измерения точности обнаружения мошенничества («читинга») на основе экспертных оценок с использованием видеозаписей хода выполнения тестовых экзаменов в режиме онлайн. 

Выборка. 35 испытуемых выполняли в режиме онлайн тест на эрудицию из 30 заданий с выбором из 4-х вариантов ответа. Половина испытуемых (18 человек) были «подставными читерами» – использовали шпаргалки с правильными ответами. 

Ход и методы. Видеозапись процесса тестирования включала «захват экрана», на котором наблюдатель-эксперт («проктор») мог наблюдать все перемещения курсора, видеть запись мимики и зрительный фокус внимания испытуемого в отдельном окне (запись с фронтальной камеры), слышать речевое проговаривание испытуемым условий задания и ответов («устное решение»). В оценивании видеозаписей приняло участие 14 экспертов, из которых 8 показали удовлетворительные результаты по уровню точности в обнаружении читинга (точность-accuracy, измеренная с помощью коэффициента Kappa, у них была выше 0,5). 

Выводы. Выявлена высокая асимметричная прогностичность экспертных оценок: более точные эксперты допускают пренебрежимо малое (около 5 процентов) число ошибок типа «ложная тревога», но сравнительно много ошибок типа «пропуск». Сделаны рекомендации по практическому использованию методики экспертной оценки в сочетании с автоматическим хронометрическим анализом степени атипичности протоколов и последующим контрольным очным тестированием всех заподозренных испытуемых (экзаменуемых).

Автор(ы)

Шмелев А.Г.

Рубрикатор

Learning & Motivation / Психология научения и мотивации ; Academic Learning & Achievement / Академическое обучение и достижения

Тип публикации

Journal article/ Журнальная статья

Название журнала или сборника

Moscow University Psychology Bulletin / Вестник Московского университета. Серия 14. Психология

Год публикации

2020

Страницы

44-66

DOI Number

10.11621/vsp.2020.04.03

Язык публикации

Ru

There are new articles from the «Moscow University Psychology Bulletin»/ Новые статьи «Вестника Московского университета. Серия 14. Психология»

30.03.2015

We are glad to inform you that the new issue of the journal "Moscow University Psychology Bulletin" - 1, 2015 - was released. Carrent Issue: http://msupsyj.ru/en/articles/volumes/2015_1.php

Мы рады представить вам первый номер «Вестника Московского университета. Серия 14. Психология» за 2015 год. http://msupsyj.ru/articles/volumes/2015_1.php

There are new articles from the «National psychological journal»/ Новые статьи «Национального психологического журнала»

30.03.2015

We are glad to inform you that the new issue of the journal "National psychological journal" - 1(17), 2015 - was released. Carrent Issue: http://npsyj.ru/en/articles/volumes/17_2015.php

Мы рады представить вам первый номер «Национального психологического журнала» за 2015 год. http://npsyj.ru/articles/volumes/17_2015.php

About / О проекте New / Новое All material / Все материалы News / Новости Contacts / Контакты
© 2012 — 2021 Psychology. Online abstract digest of psychological sciences

/ ПСИХОЛОГИЯ. Реферативнй интернет-дайджест психологических наук