Впрочем, с этим понятием мы познакомимся немного позже. А сейчас, к случаю, позволю себе привести, в качестве иллюстрации, обширную цитату из Лоренца: «Крэйг провел серию опытов с самцами горлицы, в которой он отбирал у них самок на ступенчато возрастающие промежутки времени и экспериментально устанавливал, какой объект способен вызвать токование самца. Через несколько дней после исчезновения самки своего вида самец горлицы был готов ухаживать за белой домашней голубкой, которую он перед тем полностью игнорировал. Еще через несколько дней он пошел дальше и стал исполнять свои поклоны и воркованье перед чучелом голубя, еще позже — перед смотанной в узел тряпкой; и наконец — через несколько недель одиночества — стал адресовать свое токование в пустой угол клетки, где пересечение ребер ящика создавало хоть какую-то оптическую точку, способную задержать его взгляд. В переводе на язык физиологии эти наблюдения означают, что при длительном невыполнении какого-либо инстинктивного действия — в описанном случае, токования — порог раздражения снижается. Это явление настолько распространено и закономерно, что народная мудрость уже давно с ним освоилась и облекла в простую форму поговорки: «При нужде черт муху слопает» (русский вариант: «На безрыбье и рак — рыба»); Гете выразил ту же закономерность словами Мефистофеля: «С отравой в жилах, ты Елену в любой увидишь непременно».
Так оно и есть! А если ты голубь — то, в конце концов, увидишь ее и в старой пыльной тряпке, и даже в пустом углу собственной тюрьмы.
Снижение порога раздражения может привести к тому, что в особых условиях его величина может упасть до нуля, т. е. при определенных обстоятельствах соответствующее инстинктивное действие может «прорваться» без какого-либо видимого внешнего стимула.
«Накопление» инстинкта, происходящее при долгом отсутствии разряжающего стимула, имеет следствием не только вышеописанное возрастание готовности к реакции, но и многие другие, более глубокие явления, в которые вовлекается весь организм в целом. В принципе, каждое подлинно инстинктивное действие, которое вышеописанным образом лишено возможности разрядиться, приводит животное в состояние общего беспокойства и вынуждает его к поискам разряжающего стимула».
2. Формирование или отбор поведенческого акта. Предположим, что нам необходимо сформировать навык «лай по команде». Попробуем подразнить собаку, привыкшую играть с апортировочным предметом, держа его вне пределов досягаемости. Можно предположить, что собака сначала попробует ухватить апортик в прыжке, затем, после неоднократных неудач, скорее всего, залает от возмущения. При первом же «гав» мы подкрепим её поведение, отдав апортик. Подкрепляя, мы отбираем поведенческий акт лая, как желательное для наших целей поведение.
Приведённый пример укладывается в рамки первого закона научения, закона проб и ошибок: выработка всякого нового поведения начинается со случайных проб, продолжающихся до тех пор, пока одна из них не приведёт к успеху (удовлетворению мотивации). Применительно к дрессировке, как частному случаю научения, успехом поведенческого акта явится подкрепление вызвавшей его мотивации дрессировщиком.
Отбор поведенческого акта — это незаменимый инструмент дрессировщика. Однако зачастую нам пришлось бы ждать целую вечность, пока собака изволит проявить желательное для наших целей поведение. В таких случаях следует подумать о том, как это поведение сформировать.
Предположим, что нам необходимо сформировать навык обозначения царапаньем места сокрытия источника разыскиваемого запаха (действительно необходимый навык, самый удачный вид обозначения, если речь не идёт о поиске взрывчатых веществ). Можно пойти по пути отбора поведения — на глазах у собаки забросить пахучий апортик под перевёрнутую миску и, прижимая миску к земле, ждать пока собака не попробует выцарапать апортик лапой. Первую же попытку царапанья подкрепить выдачей апортика.
Однако, для некоторых собак, предпочтительной реакцией в этой ситуации будет являться, например, лай или пассивное ожидание, или настойчивые попытки засунуть нос под миску. Применительно к таким собакам мы можем попытаться сформировать царапанье, применив вместо миски специальное приспособление — решётчатый конус, сквозь решётку которого собака может просунуть лапу. Естественно, в этом случае собаке гораздо быстрее придёт в голову достать апорт, выцарапывая его из конуса.
Вообще говоря, грань между отбором поведения и его формированием весьма условна, — уже создавая, или просто используя конкретную мотивацию, начиная упражнение в определённом месте с определённым окружением, искусственно создавая ситуацию, используя тот или иной реквизит, мы тем самым подталкиваем собаку к тому или иному поведению, то есть, в большей или меньшей степени, формируем поведение. Ведь миска из предыдущего примера — тоже реквизит. Реквизит удобный именно для царапанья. Если бы мы хотели отобрать другое поведение, например обозначение места сокрытия кусанием его, мы применили бы другой реквизит, — в этом случае — картонный ящик или тряпку.
3. Закрепление с помощью подкрепления. Тут всё вроде бы понятно. Действуют второй и третий законы научения. Закон эффекта: удачная, приведшая к удовлетворению мотивации, реакция закрепляется и впредь имеет тенденцию к воспроизведению. Закон упражнения: в результате многократного повторения одних и тех же реакций, реакции автоматизируются.
Применительно к дрессировке: тот поведенческий акт, или шире, то поведение, которое дрессировщик подкрепляет, после неоднократного повторения сначала будет проявляться всё чаще и чаще, а затем зафиксируется, превратившись в навык. В терминах поведенческого акта: сравнение результата поведенческого акта с образом цели (акцептирование результата действия) обнаруживает их тождественность и вызывает положительную оценочную эмоцию. Положительная эмоция позволяет зафиксировать образ способа достижения цели в долговременной памяти. Образно выражаясь, эмоция — это резец, который, с каждым повторением удачного (подкреплённого дрессировщиком) действия, оставляет всё более глубокий след в памяти дрессируемой собаки, фиксируя вырабатываемый навык.
…Кандид наперед знал, какие эмоции возникнут у него в следующую секунду. У нас в деревне это называется «думать».
Улитка на склоне. А. и Б. Стругацкие.
Очень важно для дрессировщика осознать механизм акцептирования. Совпадение или несовпадение результата поведенческого акта с образом цели осознаётся животным через эмоции. Для управления собакой мы апеллируем к её эмоциям, и любое подкрепление следует понимать именно как обращение к эмоциям собаки. Собака стремится к получению положительных эмоций и пытается избежать отрицательных. Поведение, результатом которого явится получение удовольствия, радости имеет большие шансы проявляться снова и снова. Поведение, результатом которого явится боль, страх, растерянность, отвращение, вряд ли проявится снова.
Итак, настал момент, когда мы должны разобраться — что же такое «подкрепление»? К сожалению, в этом вопросе царит большая терминологическая путаница. Логично было бы предположить, что «подкрепить» какое либо поведение, значит то же самое, что и «поощрить» его. Эти слова в обыденной речи — синонимы. В обыденной речи, но, увы, не в теории модификации поведения. Здесь подкреплением называют действие дрессировщика, вызывающее у животного либо положительную, либо отрицательную эмоции и, тем самым, согласно второму закону научения — закону эффекта, либо закрепляющее то поведение, с которым совпадает по времени, либо (после многократных повторений) исключающее его из поведенческого репертуара животного. Далее, вслед за многими авторами, можно было бы назвать подкрепление, вызывающее положительную эмоцию, положительным, а вызывающее отрицательную эмоцию, отрицательным. Однако другой ряд авторов называет положительным подкреплением такое действие дрессировщика, которое ведёт к появлению у животного положительной эмоции или исчезновению отрицательной эмоции, а отрицательным подкреплением — действие, ведущее к исчезновению положительной эмоции или появлению отрицательной эмоции. Последний вариант, с точки зрения содержательности, предпочтительнее. Однако смущает тот факт, что на 4 различных явления приходится лишь 2 термина. Поэтому я предлагаю пойти на компромисс и принять, что подкрепление может выражаться в двух формах: поощрения и наказания. (Разумеется, я знаю, что понятие «наказание» с лёгкой руки Прайор считается нынче чуть ли ни неприличным. Но ведь это всего лишь вопрос терминологии). Итак, поощрение вызывает положительную эмоцию, а наказание — отрицательную. Нужно также учесть, что подкрепление — это действие, ограниченное во времени. С точки зрения собаки, начало поощрения — это, разумеется, хорошо, и поведение, с которым оно совпадёт по времени, становится для неё предпочтительным. И наоборот, окончание поощрения — плохо, и совпадающее с ним по времени поведение становится нежелательным. В свою очередь, начало наказания — плохо, действие угашается. Окончание наказания — хорошо, действие закрепляется. Итак, мы пришли к выводу, что существует четыре вида подкрепления: начало и продолжение поощрения (закрепляющее, положительная эмоция возникает и длится), окончание поощрения (угашающее, положительная эмоция исчезает), начало и продолжение наказания (угашающее, отрицательная эмоция возникает и длится), и окончание наказания (закрепляющее, отрицательная эмоция исчезает). Кстати, когда мы говорим о поощрении и наказании в обыденной речи, мы имеем в виду именно начало поощрения и начало наказания и совершенно упускаем из виду момент их окончания, оказывающий прямо противоположное действие.
Есть ещё вариант: нет ни наказания, ни поощрения — этот случай сам по себе эмоционально не окрашен, всё зависит от контекста. В одном случае бездействие дрессировщика воспринимается собакой как поощрение, в другом — как наказание. Например, собака, уже наученная идти «рядом», стремясь на прогулку, натягивает поводок. Дрессировщик не реагирует. Тем самым такое поведение закрепляется. Противоположный пример: собака лает, требуя у дрессировщика лакомство. Дрессировщик не реагирует. Такое поведение постепенно исчезает.
Обобщая, можно сказать: что бы ни делал дрессировщик во время дрессировки, его поведение можно описать одним из пяти вышеперечисленных вариантов. И все они для собаки эмоционально окрашены, все воздействуют на её поведение. Вывод о необходимости тщательного анализа и планирования выполнения дрессировочных приёмов предоставляю сделать читателю.
Длительность поощрения и наказания, их временная продолжительность могут вызвать проблемы во время дрессировки. Например: дрессировщик тренирует посадку собаки. В ответ на то или иное воздействие дрессировщика собака садится. Дрессировщик поощряет посадку лакомством. Но даже маленький кусочек сыра собака, как правило, не глотает целиком. Какое-то время, пусть непродолжительное, собака разжёвывает лакомство — и за это время успевает встать! Что, собственно говоря, поощрено в этом случае? Тот же пример — дрессировщик поощрил лакомством посадку собаки. Собака продолжает сидеть. Дрессировщик считает, что начало выработке навыка положено. Но через какое-то количество повторений приёма собака начинает вставать, после того как съест лакомство. Поведение «посадка» закреплялось началом поощрения — лакомства, и в то же время поведение «сидение на месте» угашалось окончанием поощрения — лакомства.
Как было бы хорошо, если бы существовало моментальное, не имеющее протяжённости во времени поощрение! Во-первых, точное совпадение во времени с подкрепляемым поведением перестало бы быть проблемой (а такая проблема, и очень серьёзная есть — это подтвердит любой дрессировщик). Во-вторых, не имея протяжённости во времени, такое поощрение имело бы только значение начала поощрения, то есть, значение, вызывающее положительную эмоцию, и не имело бы значения отмены поощрения, вызывающего отрицательную эмоцию.
В действительности все не так, как на самом деле.
Станислав Ежи Лец
Оказывается, такое поощрение существует. Это условное поощрение, — условный раздражитель, которому с помощью образования условного рефлекса, придано значение поощрения. Более того, поскольку это условное поощрение представляет собой короткий (значительно более краткий чем то поощрение, на которое он вырабатывался) сигнал, оказалось возможным придать ему значение начала поощрения. (Слукавил я, выходит, когда в полемическом задоре убеждал читателей, что условные рефлексы практически не используются в дрессировке. Ещё как используются, — для выработки условных подкреплений.). Итак, условные рефлексы используются в дрессировке активно, — для того чтобы связать произвольный и первоначально индифферентный (ничего не значащий) для собаки стимул с положительной или отрицательной эмоцией, превратив его тем самым в условное подкрепление. Англоязычные дрессировщики называют условное подкрепление специально связанное с тем или иным безусловным «бридж-сигнал», то есть сигнал-мостик. Название, весьма точно отражающее содержание понятия. На понятии условного подкрепления мы остановимся поподробнее, проиллюстрировав его примером из кликер-тренинга, одной из методик оперантной дрессировки (мотивированной дрессировки, обуславливания операнта, кондиционирования операнта и т. д., терминам несть числа). В начале дрессировки тренеры, применяющие кликер (это такая маленькая, щёлкающая при нажатии коробочка) проводят так называемую «презентацию кликера». Основой такой презентации может быть начало любого безусловного поощрения, например игры с апортиком или кормления, выдача лакомства. Дрессировщик щёлкает кликером и тут же даёт собаке лакомство (бросает апортик).
1 2 3 4 5