Возможно существование
генерального фактора для множества неэффективных заданий. Это
критическое замечание имеет веские основания и должно быть опро-
вергнуто эмпирически. Получив при помощи процедуры анализа
заданий множество однородных заданий, мы тем не менее должны
представить доказательства их валидности. То есть недостаточно
сконструировать однородный тест, должно быть осуществлено иссле-
дование его валидности. Таком образом, это критическое замечание
легко опровергнуто.
Второе критическое замечание может быть сделано исходя из того
факта, что хотя процедура анализа заданий и обеспечивает однород-
ность теста, она не обеспечивает чистоту факторов. Возможно, что
тест, таким образом сконструированный, будет нагружать несколько
182
коррелирующих факторов. Так, если, например, в тесте способно-
стей в одно и то же множество заданий были включены задания,
измеряющие кристаллизованные способности (gc) и вербальные спо-
собности, то весьма вероятно, что по процедуре анализа заданий
будут отобраны оба эти вида заданий, поскольку эти факторы высоко
коррелируют. Следовательно, процедура анализа заданий как метод
конструирования тестов имеет меньшее значение, чем факторный
анализ.
Это последнее критическое замечание может быть опровергнуто
только дальнейшими исследованиями теста. Факторный анализ дан-
ного теста со средствами измерения других факторов покажет, изме-
ряет ли этот тест один фактор или нет. Если нет, то необходим
факторный анализ заданий (по методике, описанной в главе 9).
Однако, если в результате процедуры анализа заданий может
быть получен тест, не являющийся факторно чистым, возникает оче-
видный вопрос: почему используется этот метод? Почему нельзя
сразу использовать факторный анализ? Ответом является то, что, как
будет указано в главе 9, существуют серьезные технические пробле-
мы при факторизации заданий, которые не были преодолены полно-
стью. Помимо этого, необходимы очень большие выборки; Nunnally
(1978) утверждает, чтонеобходимовдесятьразбольшеиспытуемых,
чем имеется заданий. Все это делает сомнительной эффективность
непосредственного проведения факторизации заданий, особенно
когда процедура анализа заданий и факторно-аналитические иссле-
дования высоко коррелируют (Nunnally, 1978). Следовательно, в
качестве первого шага процедура анализа заданий является очень
ценным методом конструирования тестов.
Задания
Сконструируйте примерно вдвое больше заданий, чем необходи-
мо для окончательного теста. Величина окончательного теста будет
зависеть от его назначения и сущности. Тест способностей для детей
начальной школы должен занимать не более, чем 30 минут, в против-
ном случае на результаты повлияют усталость и скука. Личностный
тест для взрослых также должен быть не длиннее. В идеале тесты
должны быть настолько краткими, насколько возможно, в соответ-
ствии с оценками надежности и валидности. Это означает, что в
выборочной совокупности должно быть по крайней мере пятьдесят
заданий (для надежности). Задания должны отбираться из генераль-
ной совокупности заданий (для валидности).
Аналогично, в тесте, определяющем нейротические или психоти-
ческие симптомы, доля испытуемых, давших ключевые ответы, бу-
183
дет значительно отличаться в группе нормальных испытуемых и
группе, составленной из пациентов психиатрических клиник.
Важные переменные выборки
Сказать, что выборка должна отражать конкретную категорию
лиц (популяцию) - это значит не сказать ничего, пока не установ-
лены основные переменные, характеризующие данную категорию
(популяцию). Очевидно, что такие определяющие переменные будут
различными для разных тестов. Так, в тестах способностей возраст
и, в случае со взрослыми испытуемыми, уровень образования будут
существенными переменными, поскольку тест способностей для оп-
ределения некоторой переменной для всех возрастов и на всех уров-
нях способностей был бы чрезвычайно длинным. Тем не менее, для
большинства тестов несколько переменных выборки являются осо-
бенно важными. Они перечислены ниже. Их нужно принимать во
внимание при формировании выборок испытуемых для испытания
заданий.
Пол испытуемых
При конструировании заданий для тестов практически любого
типа необходимо учитывать, что весьма вероятны различия в ответах
на них в зависимости от пола испытуемых. Покажем это на несколь-
ких примерах. Обычно при выполнении тестов способностей детьми
до 16 лет девочки демонстрируют превосходство в словесно-логиче-
ских навыках, а мальчики - в работе с цифрами. Вероятнее всего,
что задания из этих областей будут иметь различные статистические
оценки. Различия испытуемых по полу также обнаруживаются во
многих заданиях личностных тестов, например, тех, которые каса-
ются интереса к одежде, спорту, своей внешности, вождению автомо-
биля, рисованию, верховой езде. Аналогично, в тестах, задания ко-
торых связаны с хобби и интересами, вероятно, также проявятся
такие тенденции. Суть состоит в том, что было бы разумно предви-
деть различия между мужчинами и женщинами при ответах на такие
задания. Но я не утверждаю, что такие различия действительно бу-
дут иметь место.
Одним из решений этой проблемы было бы разделить мужчин и
женщин на отдельные выборки, а затем отобрать задания, удовлет-
воряющие критериям процедуры анализа заданий для обеих групп.
Именно так поступал автор данной книги при разработке собствен-
ных тестов, хотя при этом возникают некоторые трудности, частично
теоретические по своей сути, которые следует полностью осознать,
прежде чем применять эту процедуру.
184
Первая проблема состоит в том, что хотя задания почти всегда
могут быть сформулированы так, что они пройдут процедуру анализа
(с корреляцией задание/общий показатель 0,2 и долей Р ответивших
в соответствии с ключом испытуемых в пределах от 0,20 до 0,80) в
обеих группах, даже для эффективных заданий эти оценки могут не
быть идентичными. Особенно важным здесь является коэффициент
Р, так как если он всегда больше, скажем, для мужчин, чем для
женщин, на большом количестве заданий, то это может привести к
влиянию пола испытуемых на результаты тестирования. Однако, на
практике, несмотря на эти отклонения, автору при использовании
данного метода всегда удавалось найти задания, эффективные для
обеих групп и составлявшие тесты, в которых пол испытуемых не
имел сколь-нибудь значительного влияния на результаты.
Вторая проблема является более фундаментальной. Если мы от-
берем задания, получившие в процедуре их анализа одинаковые
оценки для мужчин и для женщин, мы фактически создадим тест, на
результаты которого пол испытуемых не влияет. С другой стороны,
мы могли бы отобрать задания, по которым женщины показывают
более высокие результаты. Каково, однако, значение такой идентич-
ности или различия в показателях? Чтобы вычленить эту проблему,
следует вспомнить, что средние значения и дисперсии для тестов
являются функциями отдельных наборов заданий. Так что не имеет
смысла утверждать, что исходя из показателей по тесту девочки
выполняют его лучше, или хуже, или так же, как мальчики. Это
должно быть функцией конкретного набора заданий.
На практике это означает, с нашей точки зрения, что если только
у нас нет a priori некоторой веской причины ожидать влияния пола
испытуемых на тест, то должны отбираться те задания, которые не
выявляют половых различий. В случае большинства личностных и
мотивационных переменных это наиболее оптимальный подход.
Следует заметить, что если поданной переменной существуют реаль-
ные различия между полами, то не имеет значения, сколько заданий
испытывается - это проявится в статистических оценках заданий.
Так, если постоянно для каждого задания, безразлично как перефра-
зированного или видоизмененного, обнаруживается устойчивая тен-
денция, то тогда лучше всего будет использовать эти задания, даже
пусть даже тест и показывает нам теперь различия между полами.
Мы можем либо принять это различие как реально существующее
(то есть не как артефакт, порождаемый заданиями), или мы можем
нормировать показатели (см. глава 8), что исправит нарушенное
равновесие. Какой из этих вариантов мы выберем, должно зависеть
от измеряемой переменной. Короче говоря, задания должны испыты-
185
ваться отдельно для испытуемых каждого пола, и отобранные зада-
ния должны работать одинаково на этих группах. Если это не так, то
для восстановления равновесия должно применяться нормирование,
если мы не хотим, чтобы сохранялось, даже теоретически, влияние
различий между полами.
Эта процедура представляется наилучшей для конструирования
тестов, в ней допускается искусственность происхождения любых
получаемых распределений показателей. Однако, еще одна возмож-
ность состоит в том, чтобы дать тест некоторой выборке испытуемых
(которая, если правильно сформирована, будет наполовину муж-
ской), и просто отобрать наилучшие задания. При этом предполага-
ется, что никакие различия пола не впаяют на ответы. Это вполне
приемлемый подход, поскольку, если половина выборки будет вы-
полнять тест иначе, это неблагоприятно повлияет на статистические
оценки заданий, и, следовательно, задания, на которые мужчины и
женщины отвечают по-разному, будут с большей вероятностью уда-
лены. Это более быстрое, но менее изящное решение, не предостав-
ляющее разработчику теста информацию о том, как пол испытуемого
влияет на ответы на задания. Хотя при помощи этого метода и можно
получить эффективные тесты, использовать его не рекомендуется, за
исключением тех случаев, когда вы крайне ограничены во времени и
ресурсах.
В заключение следует сказать, что рекомендуется проведение
отдельных процедур анализа заданий для испытуемых разных полов.
Если a priori нет ясной противоположной гипотезы, то должны отби-
раться те задания, на которые не влияет пол испытуемых. Если пол
испытуемых оказывает влияние на результаты окончательного тес-
та, то для устранения этого в дальнейшем показатели могут быть
стандартизованы.
Возраст испытуемых
Это переменная, которая до некоторой степени должна прини-
маться в рассмотрение для всех тестов, но особенно она важна по
отношению к тестам интеллекта и специальных способностей. Что
касается тестов интеллекта, то это обычное явление - конструиро-
вать тесты для относительно узкой возрастной группы. Дело в том,
что если бы для каждой возрастной группы были бы подобраны эф-
фективные задания, надежно их дискриминирующие, то тест был бы
чрезвычайно длинным.
При испытании заданий существенно, чтобы вся сформированная
выборка была подобна той, для которой тест предназначен. Однако,
полезно также провести анализ заданий данного теста отдельно для
186
различных возрастных групп в рамках одной выборки. Так, могут
быть отобраны задания, эффективные для всех возрастных групп в
рамках данной выборки, хотя, вероятно, и наиболее подходящие для
лиц одного конкретного возраста. В данном случае целью является
получить задания с уровнем трудности, плавно уменьшающимся с
возрастом. Для тестов способностей это может быть трудной задачей,
и лучше разрабатывать тесты для конкретных возрастных групп (по
годам) отдельно, например, тесты математических способностей для
13-летних, для 14-летних и т.д.
Что касается личностных и мотивационных тестов, то в этом слу-
чае обычно принято, как мы увидим, их конструирование для взрос-
лых (16 лет и старше), для подростков (от 12 до 15 лет) и для детей
младшего возраста (с 8 лет и старше), хотя могут быть разработаны
специальные варианты тестов и для более младших.
Очевидно, что в этих случаях мы должны проводить испытания
заданий на выборках, соответствующих по возрасту той категории
лиц, для которых предназначается тест. Однако, полезно изучить
статистические оценки заданий и на подвыборках, составленных из
самых старших и самых младших испытуемых той возрастной груп-
пы, для которой предназначен тест. Так, в варианте теста для взрос-
лых должен быть выполнен анализ заданий на 16-летних испытуе-
мых., чтобы убедиться, что задания эффективны для этой группы.
Аналогично, с вариантом для подростков, где важно увидеть, как
задания работают на границе этой возрастной группы (то есть в тех
областях, для которых возможно несоответствие заданий). Напри-
мер, задание-вопрос о вечеринках может дать различные результаты
для 15-летних, которые устраивают уже свои вечеринки, и для млад-
ших детей, которые в них не участвуют. В случае личностных тестов
для младших групп детей рекомендуется выполнять анализ заданий
отдельно по группам однолеток, так как недостаточное понимание
смысла задания может значительно повлиять на их выполнение.
Другие переменные
Другие переменные, такие как принадлежность к определенному
социальному классу, культурные различия и связанный с этим уро-
вень образования могут существенно повлиять на ответы в тестах
способностей. Однако, соответствующие методики формирования
выборок должны рандомизировать влияние этих переменных, так
что задания, подверженные их воздействию, просто не будут рабо-
тать эффективно, а тем самым удаляются из окончательного теста.
Если тест предназначен для всей популяции, то это правильно. В
случае, когда тест предназначен для высокообразованных испытуе-
187
мых, то наша выборка должна, соответственно, состоять из таких
людей. В общем, не следует уделять особого внимания этим перемен-
ным при условии, что наша выборка адекватно отражает ту катего-
рию лиц (популяцию), для которой тест предназначен.
Анализ заданий: два полезных показателя
С этого момента мы будем предполагать, что наши выборки адек-
ватны по составу и достаточно велики.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47