WWW.KNIGA.SELUK.RU

БЕСПЛАТНАЯ ЭЛЕКТРОННАЯ БИБЛИОТЕКА - Книги, пособия, учебники, издания, публикации

 

Логика работы мозга

Е.Е. Витяев

Институт математики им. С. Л. Соболева СО РАН,

Новосибирский государственный университет

vityaev@math.nsc.ru

Аннотация. Логика работы мозга рассматривается как совокупность логически необходимых условий, которым должны удовлетворять информационные процессы работы мозга. Сюда включаются известные принципы опережающего отражения действительности и целенаправленного поведения, а также законы внешнего мира, которые отражает мозг. Приводится формализация этих принципов и законов внешнего мира и из них выводятся схемы информационных процессов работы мозга. Приводятся результаты экспериментов по моделированию анимата в соответствии с разработанными схемами.

1. Причинность Принцип опережающего отражения действительности, сформулированный П.К.Анохиным, подразумевает причинность наблюдаемого мира.

Что понимается под причинностью? Причинность является следствием физического детерминизма: «для всякой изолированной физической системы, произвольно фиксированное состояние системы детерминируют все последующие состояния» [1]. Но возьмем, например, автомобильную аварию [2], что явилось её причиной? Это может быть состояние поверхности дороги, её влажность, расположение солнца относительно взоров водителей, нарушение правил дорожного движения, психологическое состояние водителей, исправность тормозов и т.д. Понятно, что в этом случае нет определенной причины происшествия. Понятие причинности анализировал Д.Юм, но, как правильно отмечается в [3] он «не нашел никакого другого основания, кроме некоторого внутреннего чувства привычки». Предположение о том, что причинность не только улавливается мозгом в виде условного рефлекса, но и сыграла свою роль в процессе когнитивной эволюции в формировании информационных процессов раЭта работа поддержана проектом РФФИ №11-07-00560-а, интеграционными проектами СО РАН № 3,87,136 и программой президента Российской Федерации поддержки научных школ НШ-276.2012.1.

Е.Е. Витяев боты мозга явно высказано в [4]. Мы будем следовать этому предположению.

В философии науки причинность сводится к предсказанию и объяснению. «Причинное отношение означает предсказуемость … в том смысле, что, если полная предыдущая ситуация будет известна, событие может быть предсказано …, если будут даны все относящиеся к событию факты и законы природы» [2]. Понятно, что всех фактов, число которых потенциально бесконечно, и всех законов никто знать не может. Некоторые из законов могут быть обнаружены на данных. Поэтому причинность сводится к предсказанию в соответствии с индуктивно-номологическим выводом, состоящим в логическом выводе предсказаний из фактов и вероятностных законов с некоторой вероятностной оценкой.





При обнаружении законов (закономерностей) на реальных данных возникает проблема статистической двусмысленности, которая состоит в том, что в процессе обучения (индуктивного вывода) мы можем получать вероятностные правила, из которых выводится противоречие. Пример:

наблюдая людей, можно вывести два правила: если человек философ, то он не миллионер, а если он держатель приисков, то он миллионер. Применяя эти два правила к известному философу П. Суппесу, мы получим противоречие: поскольку он философ, то он должен быть не миллионер, а, поскольку он держатель приисков, то должен быть миллионер.

Чтобы избежать противоречий Гемпель [5] ввел требование максимальной специфичности для законов, состоящее в том, что закон должен учитывать максимум информации, относящейся к предсказываемому свойству. В нашем примере максимально специфичными должны быть правила: если человек философ, но не держатель приисков, то он с ещё большей вероятностью не миллионер, а, если он держатель приисков, но не философ, то он также, с ещё большей вероятностью, миллионер. Применение этих двух правил уже не приводит к противоречиям, поскольку они не применимы к одним и тем же объектам.

Нами разработан специальный семантический вероятностный вывод (СВВ) [6-8], который выводит максимально специфические правила. Доказано, что, если в индуктивно-номологическом выводе делать предсказания, используя только максимально специфические законы и факты, то противоречий не возникнет. Таким образом, решается проблема статистической двусмысленности и получается формализация причинности.

Поэтому семантический вероятностный вывод является формальной моделью принципа опережающего отражения действительности и причинности.

2. Причинность и формальная модель нейрона Логика работы мозга Для реализации принципа опережающего отражения действительности мозг в первую очередь должен обнаруживать причинные зависимости.

С нашей точки зрения смысл деятельности нейронов как раз и состоит в обнаружении причинных связей. Приведем формальную модель нейрона, обнаруживающую максимально специфичные условные связи.

Под информацией, поступающей на «вход» мозга, будем понимать всю воспринимаемую мозгом стимуляцию: мотивационную, обстановочную, пусковую, санкционирующую, обратную афферентацию о произведенных действиях, поступающую по коллатералям на «вход» и т. д. Из экологической теории восприятия Дж. Гибсона [9] следует, что под информацией можно понимать любую характеристику энергетического потока света, звука и т.д., поступающую на «вход» мозга.

Определим информацию, передаваемую возбуждением некоторого нервного волокна на синапсы нейрона, одноместными предикатами Pji (a ) ( xi (a ) = xij ), i = 1,..., n; j = 1,..., ni, где xi (a ) – информация, а xij – её значение в текущей ситуации (на объекте). Если информация передается на возбуждающий синапс, то она воспринимается нейроном, как истинность предиката Pji (a), если на тормозной синапс, то, как ложность ¬Pji (a) предиката. Возбуждение нейрона в ситуации и передачу этого возбуждения на аксон нейрона определим предикатом P0 (a). Если нейрон тормозится в ситуации, то определим эту ситуацию как прогнозирование отрицания предиката ¬P0 (a). Предикаты Pji (a), P0 (a) и их отрицания ¬Pji (a ), ¬P0 (a) являются литералами (атомарными высказываниями или их отрицаниями), которые будем обозначать как a, b, c,... L, где L – множество всех литералов в словаре {Pji }, i = 1,..., n; j = 1,..., ni.





Каждый нейрон имеет свое рецептивное поле, возбуждающее его безусловно. Первоначальной (до всякого обучения) семантикой предиката P0 является это рецептивное поле. В процессе обучения эта информация обогащается и может дать достаточно специализированный нейрон типа нейрона Билла Клинтона.

Е.Е. Витяев Рис. 1. Формальная модель нейрона.

Мы предполагаем, что формирование условных связей на уровне нейрона происходит по правилу Хебба [10-11]. Мы формализуем правило Хебба с помощью семантического вероятностного вывода, который принципиально отличается от других формализаций тем, что обнаруживает максимально специфические условные связи В процессе семантического вероятностного вывода нейрон обнаруживает множество {R} правил (условных связей) вида:

R = (a1 &...& ak b), a1,..., ak, b L, (1) где a1,..., ak – предикаты, приходящие на синапсы дендритов нейрона, а b – предикат P0 (a) или ¬P0 (a) аксона нейрона.

Правила характеризуются оценкой условной вероятности, которая вычисляется следующим образом. Подсчитаем число случаев n(a1,..., ak, b), когда произошло событие a1,..., ak, b – одновременное возбуждение/торможение входов a1,..., ak нейрона и самого нейрона непосредственно перед действием подкрепления (которое может быть, как положительным, так и отрицательным [12-13]). Среди случаев Логика работы мозга n(a1,..., ak, b) подсчитаем случаи n + (a1,..., ak, b) / n (a1,..., ak, b), когда подкрепление было положительным/отрицательным. Тогда оценка условной вероятности правила (1) равна:

Если эта вероятность становится отрицательной, то это означает торможение нейрона с вероятностью, взятой с обратным знаком.

Приведем формальное определение семантического вероятностного вывода и формальной модели нейрона. Свойства этой модели приведены в конце раздела.

Под данными обучения Data будем понимать все случаи возбуждения или торможения нейрона, когда было подкрепление. Множество всех правил вида (1) обозначим через Pr.

Правило R1 = (a1 & a1 &... & a11 c) будем называть более общим, общим R1 “ R2, если k1 k2.

– доказуемость в исчислении высказываний.

Таким образом, не менее общие (и более общие) высказывания логически сильнее. Кроме того, более общие правила проще, так как содержат меньшее число литер в посылке правила, поэтому отношение можно воспринимать как отношение простоты в смысле [14].

Определим множество предложений F, как множество высказываний, полученных из литер L замыканием относительно логических операций Вероятность на множестве предложений F определим как отображение : F [ 0,1], удовлетворяющее условиям [15]:

Определим условную вероятность правила R = (a1 &... & ak c) как Мы предполагаем, что оценка вероятности, определённая выше, в пределе дает вероятность. Множество всех правил из Pr, для которых условная вероятность определена, обозначим через Pr0.

Вероятностным законом будем называть такое правило R Pr0, которое нельзя обобщить (логически усилить), не уменьшив его условную вероятность, т.е. для любого R ' Pr0, если R ' R, то ( R ') ( R ).

Вероятностные законы – это наиболее общие, простые и логически сильные правила, среди правил, имеющих не более высокую условную вероятность. Обозначим множество всех вероятностных законов через PL.

Формальную модель нейрона определим как множество всех вероятностных законов = {R}, R PL, которые обнаруживает нейрон.

Отношение вероятностного вывода R1 m R2, R1, R2 PL определим как одновременное выполнение двух неравенств R1 “ R2 и ( R1 ) ( R2 ).

Если оба неравенства строгие, то отношение вероятностного вывода будем называть строгим отношением вероятностного вывода Семантическим вероятностным выводом [6-8] будем называть максимальную (которую нельзя продолжить) последовательность вероятностных законов, находящихся в отношении строгого вероятностного вывода R1 l R2 l... l Rk. Последний вероятностный закон Rk в этом выводе будем называть максимально специфическим.

Теорема (доказана в [6,8]). Предсказание по максимально специфическим правилам непротиворечиво.

Совокупность = {R}, R PL всех вероятностных законов, всех семантических вероятностных выводов, которые обнаруживает нейрон в процессе обучения, составляет его формальную модель. В соответствии с этой моделью, нейрон P0 (a) возбуждается/тормозится в соответствии с тем вероятностным законом его формальной модели, который применим в данной ситуации (посылка которого истинна) и имеет максимальную вероятность.

Опишем свойства полученной формальной модели нейрона:

1) Нейрон осуществляет «замыкание условных связей». При обнаружении условных стимулов, позволяющих предсказывать с некоторой вероятностью возбуждение нейрона, образует условную связь в виде правила (1). При обнаружении новых стимулов, позволяющих предсказывать возбуждение нейрона с ещё большей вероятностью, присоединяет их к данной условной связи. Так происходит дифференциация условной связи.

2) Возбуждение или торможение нейрона осуществляется по максимально вероятным правилам. Это подтверждается тем, что в процессе выработки условных связей, а также при замыкании условных связей на уровне нейрона, скорость ответа нейрона на условЛогика работы мозга ный сигнал, тем выше, чем выше вероятность условной связи. Поскольку максимально специфические правила, учитывающие всю имеющуюся информацию, одновременно являются максимально вероятными, то предсказание (возбуждение нейрона) осуществляется по ним.

3) Предсказание по максимально специфическим правилам, осуществляемое нейроном, в пределе непротиворечиво. Поэтому в процессе дифференциации условных связей нейрон обучается предсказывать без противоречий – срабатывают либо его возбуждающие максимально специфические правила, либо тормозные, но не одновременно.

4) На рис. 1 показано несколько семантических вероятностных выводов, осуществляемых нейроном. Например, условная связь (b a1 & a1 ) усиливается новыми стимулами a3 & a1 до связи (b a1 & a1 & a3 & a1 ), если стимулы a3 & a1 увеличивают условную вероятность предсказания возбуждения нейрона b. Эти выводы таковы:

Семантический вероятностный вывод и реализующая его программная система Discovery успешно применялись для решения ряда прикладных задач [8,16].

3. Понятие цели и теория функциональных систем Рассмотрим целенаправленное поведение. Оно возникает, когда организмы начинают двигаться. Растения не двигаются и получают только то, что им дается. Если организм может двигаться, то он стремится изменить поступающую к нему стимуляцию, пищу и энергию нужным для него образом. Поэтому любое действие с необходимостью становится целенаправленным – оно стремится изменить приходящую к организму стимуляцию, что и задает цель действия. Цель нельзя достичь, не имея критерия её достижения, иначе всегда можно считать, что цель уже достигнута и продолжать действие не нужно. Поэтому с необходимостью должен существовать критерий достижения цели, являющийся критерием остановки действия.

Понятие цели парадоксально – цель ничего не говорит о том, как её достичь и как надо организовать целенаправленное поведение. Для того, чтобы знать – как достичь цель, нужен опыт. Если нет никаких знаний и опыта, то поведение организуется методом «проб и ошибок». Для организации поведения методом «проб и ошибок» существует специальная ориентировочно-исследовательская реакция. Опыт складывается из полученных методом «проб и ошибок» случаев достижения цели.

Из принципа опережающего отражения действительности следует, что мозг, прежде всего, должен уметь осуществлять предсказания, обнаруживая причинные связи. При целенаправленных действиях предсказания должны определять, что, как и когда можно достичь в целенаправленном поведении, т.е. какие цели, как и когда достижимы.

Понятие цели и результата является центральным в Теории Функциональных Систем (ТФС), где анализируется физиологический механизм цели, целеполагания и целенаправленной деятельности. «Пожалуй, одним из самых драматических моментов в истории изучения мозга как интегративного образования является фиксация внимания на самом действии, а не на его результатах... мы можем считать, что результатом «хватательного рефлекса» будет не само хватание как действие, а та совокупность афферентных раздражений, которая соответствует признакам «схваченного» предмета» (П.К.Анохин, здесь и далее цитаты П.К.Анохина приведены из работы [17]). «Основным постулатом теории функциональных систем является положение о том, что ведущим системообразующим фактором, организующим функциональную систему любого уровня организма, служит полезный для организма и системы в целом приспособительный результат. Именно результат благодаря постоянной обратной афферентации о его состоянии производит своеобразную «мобилизацию» центральных и исполнительных образований в функциональную систему» [17; с. 34–35].

Приведем краткое описание теории функциональных систем, как теории, описывающей физиологические механизмы обеспечения ценаправленного поведения и логики работы мозга по достижению целей. Это позволит, на её основе, построить информационную модель работы мозга, как системы достижения целей путем прогноза достижимости результатов.

Достижение результата должно некоторым образом фиксироваться, так как результат есть срабатывание некоторого критерия достижения цели. Чем физиологически является критерий достижения цели? Физиологически он реализуется «специальным рецепторным аппаратом». «Каждая потребность, даже при незначительном отклонении жизненно важной функции от оптимального для метаболизма уровня (в чем, собственно, и состоит потребность. – Е.Е.), немедленно воспринимаетЛогика работы мозга ся специальными рецепторными аппаратами … Наличие рецепторов в каждой функциональной системе, «стоящих на страже» конечного приспособительного результата, является исходным пунктом в механизмах саморегуляции. Меньшее отклонение результата (физиологической константы организма – Е.Е.) от оптимального для метаболизма уровня вызывает меньшее возбуждение рецепторов и, соответственно, меньшую сигнализацию в нервную систему» [17; с. 43]. «Соотношение функций рецепторов с приспособительным результатом – это основной «узел саморегуляции». Соотношение между конечным результатом и рецептором напоминает тип комплементарных связей» [17; с. 44].

Таким образом, результатом и критерием его достижения является достижение оптимального уровня некоторой физиологической константы, который фиксируется специальным рецепторным аппаратом. Сигнализация этого рецепторного аппарата о получении результата (отсутствия отклонения от оптимального для метаболизма уровня) и означает достижение цели. Эта сигнализация называется обратной афферентацией.

«...Сигнализация о потребности (возбуждение рецепторного аппарата при отклонении жизненно важной функции от оптимального для метаболизма уровня – Е.Е.) несет двоякую функцию. С одной стороны, она играет пусковую роль, возбуждая специальные аппараты саморегуляции, а с другой, она постоянно информирует эти же центры о результатах действий, совершенных функциональной системой. Поскольку эта сигнализация заключает в себе информацию о конечном результате и о его отклонениях от оптимального для метаболизма уровня или (его. – Е.Е.) восстановлении... она была названа обратной афферентацией»

[17; с. 45].

Теперь мы можем объяснить в рамках ТФС, как физиологически осуществляется постановка целей организмом. Целью в ТФС является потребность организма. Критерием достижения цели является получение обратной афферентации о восстановлении нормального уровня некоторого физиологически важного показателя. Если же нормальный уровень нарушен и обратная афферентация свидетельствует о неудовлетворенности критерия достижения цели, то возникает потребность, которая ставит перед организмом цель – удовлетворить соответствующую потребность.

Таким образом, физиологическим механизмом целеполагания является возникновение потребности. Таким образом, потребность и есть цель, которая ставится перед организмом.

Решение сложных задач осуществляется путем организации «доминирования целей», «иерархии результатов (целей)» и «моделей результатов».

Рассмотрим «принцип доминанты». Этот принцип говорит о том, что две цели одновременно достигаться не могут, и это вполне естественно, так как разные цели имеют разные результаты и, значит, разные критерии.

«Поскольку метаболизм организма всегда многосторонен, общая метаболическая потребность организма часто многопараметрична, отражая тем самым различные стороны процесса обмена веществ... Однако всегда имеется ведущий параметр общей метаболической потребности – доминирующая потребность, наиболее важная для выживания особи, её рода или вида. Она возбуждает доминирующую функциональную систему и строит поведенческий акт, направленный на её удовлетворение. Удовлетворение ведущей потребности приводит к тому, что начинает доминировать другая важная для сохранения вида или рода потребность»

[17; с. 40].

Тем самым наиболее важные для организма цели – доминирующие потребности всегда линейно упорядочены во времени. Рассмотрим, как функциональные системы взаимодействуют в некоторый данный момент времени. По отношению к доминирующей функциональной системе остальные функциональные системы выстраиваются в иерархию по принципу «иерархии результатов»: «… По отношению к каждой доминирующей функциональной системе все другие функциональные системы выстраиваются в определенном иерархическом порядке, начиная от молекулярного, вплоть до организменного и социально-общественного уровня. Иерархия функциональных систем... прежде всего, включает иерархическое взаимодействие результатов их действия, когда результат деятельности одной функциональной системы входит в качестве компонента в результат деятельности другой» [17; с. 54]. «Так, у голодного кролика доминирует функциональная система, деятельность которой направлена на поиск пищи. В это время другие функциональные системы, определяющие, например, кровяное давление, дыхание, выделение, направлены на лучшее обеспечение доминирующей пищедобывательной функциональной системы» [17; с. 54]. Таким образом, если у кролика доминирует функциональная система добывания пищи, то целью является пища, а результатом – её поедание. В процессе деятельности этой функциональной системы усиленно расходуется кислород, уменьшается содержание питательных веществ в крови, увеличивается количество вредных веществ, получающихся в процессе обмена и требующих вывода из организма. … Все это приводит к сдвигу от нормального уровня целого ряда физиологических констант организма, что фиксируется рецепторами обратной афферентации целого ряда других функциональных систем. Это автоматически «включает» эти функциональные системы, целью которых является обеспечение нормального уровня этих физиологических констант и результатами которых является достижение соответствующего нормального уровня. Так доминирующая потребность активирует функЛогика работы мозга циональные системы, целью которых является обеспечение нормальной деятельности доминирующей потребности.

Как уже говорилось, понятие цели парадоксально – цель ничего не говорит о том, как её достичь и как надо организовать целенаправленное поведение. Для того, чтобы знать – как достичь цели, нужен опыт. Если нет никаких знаний и опыта, то поведение организуется методом «проб и ошибок». «Возникшее на основе той или иной биологической потребности поведение новорожденного животного строится в полном смысле слова методом «проб и ошибок»... Поражает направленный поиск новорожденными специальных раздражителей внешней среды, с которыми они практически никогда не встречались. Следовательно, они должны иметь врожденные модели, в которых запрограммированы свойства удовлетворяющих их потребности раздражителей с которыми осуществляется постоянное сравнение достигнутых результатов» [17; с. 74].

«... непосредственно после рождения первой целенаправленной деятельностью лосенка является освоение вертикальной позы, затем движение в сторону матери, поиск соска, сосание и, наконец, реакция следования»

[17; с. 85]. Поэтому сразу после рождения целенаправленное поведение строится с использованием генетически заложенных форм поведения. Но генетически определяется только требуемая последовательность результатов и некоторый максимально общий способ поведения типа «метода проб и ошибок». Совершенствование и развитие деятельности уже происходит в процессе обучения.

Согласно П. К. Анохину, центральные механизмы функциональных систем, обеспечивающих целенаправленные поведенческие акты, имеют однотипную архитектуру. Кратко опишем эту архитектуру.

Афферентный синтез. Начальную стадию поведенческого акта любой степени сложности составляет афферентный синтез, включающий в себя синтез мотивационного возбуждения, памяти, обстановочной и пусковой афферентации.

Мотивационное возбуждение. Как мы знаем, постановка цели осуществляется возникшей потребностью. Но в случае целенаправленного поведения она трансформируется в мотивационное возбуждение. Но мотивационное возбуждение не есть возбуждение рецепторов потребности, стоящих «на страже» некоторой физиологической константы – это возбуждение «центральных мозговых структур», инициируемое возникшей потребностью.

Память – второй компонент афферентного синтеза. Как уже отмечалось, при действии подкрепляющего раздражителя, означающего факт достижения цели, закрепляется та последовательность действий, которая привела к достижению цели. При подкреплении фиксируется вся последовательность возбуждений, приведшая к цели, начиная с мотивационноЕ.Е. Витяев го возбуждения. Поэтому мотивационного возбуждения достаточно для «извлечения из памяти» всей последовательности действий, приведших ранее к достижению результата и подкреплению. Мотивационное возбуждение обладает, кроме того, химической специфичностью (модальностью), позволяющей «извлекать из памяти» все пути достижения той цели, которая ставилась мотивационным возбуждением определенной модальности. «Каждая мотивация строится специфическими по своему химическому метаболизму восходящими активирующими влияниями соответствующих подкорковых центров на кору головного мозга. А это в свою очередь приводит к тому, что с помощью мотивационных влияний животные производят активный отбор только специальных раздражителей внешнего мира для удовлетворения своих доминирующих потребностей» [17; с. 79-80]. Мотивационное возбуждение некоторой модальности извлекает из памяти все имеющиеся в опыте последовательности действий, которые приводили к достижению цели, поставленной данной мотивацией.

Обстановочная афферентация. При достижении цели фиксируется и та обстановка, в которой удалось получить результат. Эта обстановка фиксируется как необходимые условия наряду с мотивацией требуемые для достижения результата. Поэтому мотивационное возбуждение в данной обстановке «извлекает из памяти» только те способы достижения цели, которые возможны в данной обстановке. Таким образом, обстановочная афферентация при взаимодействии с извлеченным из памяти опытом определяет, что и как можно сделать в данной обстановке для достижения цели.

Пусковая афферентация. Четвертым компонентом афферентного синтеза является пусковая афферентация. По смыслу она также является обстановочной афферентацией, только связанной не со стимулами обстановки, а со временем и местом достижения результата. «... специальные раздражители вскрывают сформированную на основе взаимодействия мотивационного, обстановочного возбуждения и механизмов памяти так называемую предпусковую интеграцию. Эти пусковые раздражители приурочивают, таким образом, целенаправленную деятельность к определенному месту и времени» [17; с. 75]. Поэтому пусковая афферентация отвечает на вопрос: где и когда можно достичь результат.

«Итак, на стадии афферентного синтеза решается несколько вопросов: что (можно. – Е.Е.) сделать (на основе сопоставления внешних и внутренних раздражителей), как делать (на основе памяти) и когда делать (на основе действия пусковых раздражителей)» [17; с. 80]. Таким образом, на стадии афферентного синтеза в значительной степени разрешается парадокс цели и определяется, что, как и когда можно сделать для достижения цели различными последовательностями действий. Таким образом, мотивационное возбуждение как цель с учетом имеющегося опыта и обстановки сама автоматически разрешает парадокс цели и определяет, чем, как и когда её достичь. Мотивационное возбуждение «извлекает из памяти» также всю последовательность и иерархию результатов, которые должны быть получены для выполнения той или иной последовательности действий. «Вытягивая» из памяти весь накопленный опыт, мотивационное возбуждение как цель преобразуется в конкретную цель, определяющую способы своего достижения. Конкретная цель называется в ТФС «высшей мотивацией». В следующем разделе мы покажем, что на основе закономерностей, обнаруживающих причинность, формирование конкретной цели может происходить автоматически.

Принятие решения. На стадии афферентного синтеза мотивационным возбуждением может быть извлечено из памяти (в данной обстановке) несколько способов достижения цели. На стадии принятия решения, ещё до начала действий, выбирается только один из этих способов – конкретный план действий, формирующий конкретную цель.

Процесс принятия решений – сложный интеграционный процесс, который контролируется эмоциями. Мы рассмотрим его далее, опираясь на информационную теорию эмоций П.В. Симонова.

Акцептор результатов действия. План действий ещё не гарантирует, что конечный результат будет достигнут и даже не гарантирует, что любой из промежуточных результатов действий так же будет достигнут.

Последовательность и иерархия результатов, которые зафиксированы в плане действий и «вытянуты» мотивационным возбуждением как «высшая мотивация», автоматически формируют и всю совокупность критериев, которые будут фиксировать достижение всех этих целей – акцептор результатов действия. «Именно доминирующая мотивация «вытягивает» в аппарате акцептора результатов действия весь накопленный опыт до конечного, удовлетворяющего лежащую в ее основе потребность результата, создавая определенную модель или программу поведения. С этих позиций модель акцептора результатов действия представляет собой доминирующую потребность организма, трансформированную в форме опережающего возбуждения мозга, как бы в своеобразный комплексный «рецептор» соответствующего подкрепления» [17; с. 82]. «... следует отметить, что в акцепторе результатов действия программируется не только континуум результатов поведения, но и вся мозаика действий, направленных на достижение каждого результата» [17; с. 84].

Поэтому акцептор результатов действия и есть критерий достижения конкретной цели. «Формирование «цели» в центральной архитектуре поведенческого акта связано с построением следующей стадии системной организации поведенческого акта аппарата предвидения будущего результата (всей последовательности и иерархии результатов), удовлетворяющеЕ.Е. Витяев го доминирующую потребность, – аппарата акцептора результатов действия» [17; с. 81].

Причинность и нейрофизиологическое обеспечение акцептора результатов действий. Нейрофизиологически предвосхищение реализуется специальными коллатеральными ответвлениями от произведенных действий, которые поступают на «вход» мозга, конвергируя с афферентацией от входных стимулов: «Речь идет о коллатеральных ответвлениях пирамидного тракта, отводящих ко многим межуточным нейронам “копии” тех эфферентных посылок, которые выходят на пирамидный тракт... Таким образом, момент принятия решений и начала выхода рабочих эфферентных возбуждений (начало действий – Е.Е.) из мозга сопровождается формированием обширного комплекса возбуждений, состоящего из афферентных признаков будущего результата и из коллатеральной “копии” эфферентных возбуждений, вышедших на периферию по пирамидному тракту к рабочим органам» [17; с. 97].

Фактически это означает выработку условных (причинных) связей между осуществлением действий (эффекторным возбуждением) и последующим восприятием результатов действий, представленных их афферентными признаками (см. рис. 2). Осуществляя действия, мы сразу же по коллатералям посылаем условный сигнал о том, что сейчас получим афферентацию о результатах этих действий. Это приводит к выработке условных (причинных) связей между действиями и их результатами, отражающими связи действий и результатов, происходящих во внешнем мире.

Эти условные связи, осуществляемые мозгом по внутреннему контуру (см. рис. 2), позволяют прогнозировать результаты действий, происходящих во внешнем мире, ещё до появления самих результатов. Когда мотивационным возбуждением активируются различные последовательности действий, по достижению поставленной цели, то одновременно по «внутреннему контуру» прогнозируется вся последовательность и иерархия результатов, которые будут получены в процессе достижения цели. Когда принято решение об определенном плане действий, то одновременно по «внутреннему контуру» предвосхищается достижение всех промежуточных результатов, которые составляют акцептор результатов действия.

ДЕЙСТВИЯ во ВНЕШНЕМ МИРЕ

Рис. 2. Формирование акцептора результатов действия.

Эффекторные механизмы функциональных систем. Так как реальная ситуация всегда чем-то отличается от тех ситуаций, которые были извлечены из памяти и учтены в процессе принятия решений как наиболее адекватные данной ситуации, то неизбежно могут возникать «рассогласования» между ожидаемыми результатами в конкретном критерии достижения цели и реально поступающей обратной афферентацией о результатах совершенных действий. «Оценка результата действия происходит с помощью активной ориентировочно-исследовательской деятельности ….

Ориентировочно-исследовательская реакция возникает и усиливается во всех случаях, когда результат совершенного действия неожиданно не соответствует свойствам сформированного на основе афферентного синтеза акцептора результатов действия, т. е. при возникновении «рассогласования» в поведенческой деятельности. Благодаря включению такой реакции немедленно перестраивается афферентный синтез, принимается новое решение, строится новая программа действия и поиск продолжается в новом направлении до тех пор, пока результаты совершенного действия не совпадут полностью или в значительной степени со свойствами акцептора результатов действия» [17; с. 90-91].

Таким образом, при рассогласовании поступающей «обратной афферентации» с афферентацией, ожидаемой акцептором результатов действия, происходит перестройка афферентного синтеза и принимается новое решение, что означает формирование новой конкретной цели, хотя мотивационное возбуждение и соответствующая конечная цель остаются теми же самыми.

Если поведенческий акт приводит к достижению цели, то вся последовательность действий подкрепляется и «заносится» в память.

«Целенаправленный поведенческий акт … заканчивается последней санкционирующей стадией. На этой стадии при действии раздражителя, удовлетворяющего ведущую потребность, – подкрепления в общепринятом смысле – параметры достигнутого результата через раздражения соответствующих рецепторов... вызывают потоки обратной афферентации, которая по всем своим свойствам соответствует ранее запрограммированным свойствам подкрепляющего раздражителя в акцепторе результатов действия. При этом удовлетворяется ведущая потребность и поведенческий акт заканчивается» [17; с. 89, 90].

4. Принятие решений. Переключающая функция эмоций Прогноз достижения цели и выбор цели в процессе принятия решений осуществляется с помощью переключающей функции эмоций, определённой в информационной теории эмоций П.В.Симонова [18-19]. Она основана на вероятностном прогнозе достижения цели, который осуществляется ещё до всяких действий. Переключающей функцией эмоций анализируются все возможные способы достижения цели. Эти способы (например, при движении по некоторой местности), имеют различную вероятность, различные энергетические затраты и различные возможные опасности, связанные с отрицательными эмоциями, и т.д. В этом случае задача принятия решений становится как минимум трёх параметрической – вероятность достижения цели, суммарное значение отрицательных эмоций (от энергетических затрат, опасностей, риска, трудностей и т.д.) и значение положительных эмоций (от достижения цели). Для эффективного принятия решений необходим синтез всех этих показателей в один параметр, что и осуществляется эмоциями. Они интегрируют как вероятность достижения цели, так и положительные и отрицательные эмоции, связанные с достижением цели. На основе эмоций и принимается решение: «Зависимость эмоций не только от величины потребности, но и от вероятности её удовлетворения чрезвычайно усложняет конкуренцию сосуществующих мотивов, в результате чего поведение нередко оказывается переориентированным на менее важную, но легко достижимую Цель: “синица в руках” побеждает “журавля в небе”...» [18, разд. 2.2].

Переключающая функция эмоций реализуется тем, что:

– по всем извлеченным из памяти способам достижения цели получается прогноз достижения цели и передается в блок эмоций;

– принимается решение о выборе того или иного целенаправленного поведения, которое обладает максимальной эмоциональной оценкой;

– формирует план достижения цели и акцептор результатов действий.

Достижение цели сопровождается подкрепляющей функцией эмоций.

П.В.Симонов отмечал, что необходимым условием подкрепления является не сам подкрепляющий раздражитель (санкционирующая афферентация), а действие положительных эмоций при наличии мотивации: “Однако ни афферентация из полости рта (санкционирующая афферентация), ни голодовое возбуждение (мотивация) сами по себе не могут играть роль подкрепления … Только интеграция голодового возбуждения от фактора, способного удовлетворить данную потребность, т.е. механизм, генерирующий положительную эмоцию, обеспечивает выработку условного рефлекса” [18. с. 34].

Участие оценки вероятности в формировании эмоций сразу же делает подкрепление более точным: любая последовательность действий, приближающая к цели и увеличивающая прогноз достижения цели, вызывает положительную эмоцию и подкрепляет те «мозговые структуры», которые осуществили эту последовательность действий. Следовательно, эмоции, основанные на вероятностном прогнозировании, осуществляют подкрепление каждой успешной последовательности действий, увеличивающей вероятность достижения конечной цели.

5. Принцип сензорных коррекций Н.А.Бернштейна В работе [20, с.25-26] Н.А.Бернштейн пишет о том, что при большом числе степеней свободы практически невозможно рассчитать движение сложной кинематической системы, например, руки: « … при многих степенях свободы у системы суммируются … погрешности, приносимые каждой из степеней свободы; при большом количестве последних суммарная ошибка сможет вырасти до такой величины, которая покроет все преимущества, в принципе создаваемые богатым разнообразием подвижности сложной цепи. Например, если каждая из степеней свободы руки и пальца пианиста, сидящего за инструментом, даст погрешность всего в 1°, то, суммируясь, эти погрешности смогут дать отклонение кончика пальца на 5-6 см (хотя по отдельным звеньям, например, пальцевых фаланг, составляющие погрешности не превысят при этом 0,05 см), т.е.

вызовут промахивание на терцию или кварту …. Еще более существенное значение имеют осложнения динамические. В сложной кинематической цепи, каждое звено которой обладает известной тяжелой и инертной массой, всякая сила, возникающая в одном из звеньев, тотчас же вызывает целую систему реактивных или отраженных сил, передающихся на все остальные звенья. Это взаимное влияние звеньев цепи друг на друга во всех мыслимых сочетаниях создает в общей совокупности огромное количество силовых взаимодействий, совершенно необозримое математически и представляющее непреодолимые трудности для аналитического решения. Эти реактивные силы наслаиваются на те силы, которые находятся в распоряжении организма для управления движениями системы, и на внешние силы, подвластные ему всегда лишь в большей или меньшей степени, и делают общую динамическую картину движения цепи чрезвычайно осложненной, а главное – практически непредсказуемой из-за их крайней механической запутанности».

Как мозг справляется с этой проблемой? «Решение вопроса о неоднозначности лежит в использовании для регулирования эффекторного процесса сензорных сигналов о позе кинематической цепи и о мере растяжения каждой из влияющих на ее движения мышц. Далее уже легко представить себе, что при наличии такого непрерывно текущего потока сигналов с периферии центральной нервной системе в принципе нетрудно справиться с любой расточительностью по части степеней свободы подвижности. Действительно, как только орган, находящийся под действием внешних и реактивных сил, плюс еще какая-то добавка внутренних мышечных сил отклонится в своем результирующем движении от того, что входит в намерения центральной нервной системы, эта последняя получит исчерпывающую сигнализацию об этом отклонении, достаточную для того, чтобы внести в эффекторный процесс соответственные адекватные поправки. Весь изложенный принцип координирования заслуживает, поэтому названия принципа сензорных коррекций» [20, с.34].

Из принципа сензорных коррекций с необходимостью следует важный вывод: планировать определенную последовательность действий заранее невозможно, планировать можно только последовательность достигаемых результатов, а выбор того или иного действия должен осуществляться в реальном режиме времени, в каждый текущий момент по принципу сензорных коррекций, на основании поступающей обратной афферентации от уже осуществленных действий. Поэтому конкретный план действий должен фиксировать только последовательность и иерархию результатов, которые надо получить для достижения конечной цели.

Данная формальная модель продолжает работы [21-25] по формализации информационных процессов работы мозга, основанные на теории функциональных систем.

Приведем формальную модель, суммирующую упомянутые принципы и законы. Эта модель следующим образом учитывает приведенные рассмотрения:

1) использует формальную модель нейрона, обнаруживающую причинные связи и основанную на семантическом вероятностном выводе;

2) осуществляет постановку цели в целенаправленном поведении, формирует функциональную систему и акцептор результатов действия, которые непрерывно сверяют достигнутые результаты с ожидаемыми в акцепторе результатов действия;

3) автоматически формирует подцели и подкрепляет достижение подцелей, если их достижение увеличивает вероятность достижения конечной цели;

4) моделирует сензорные коррекции;

5) выбирает действие в реальном режиме времени с учетом текущей ситуации и получаемой афферентации;

6) планирует достижение цели в соответствии с последовательностью и иерархией функциональных систем по достижению всех результатов, требуемых для достижения конечной цели;

7) принимает решение об определенном способе достижения цели.

Будем предполагать, что эта модель является системой управления некоторого анимата, функционирующей в дискретном времени t =0,1,…, как это было сделано в работе [21].

Пусть анимат имеет некоторый набор сенсоров S1,..., Sn, характеризующих состояние, как самого анимата, так и внешней среды. Каждый сенсор Si имеет некоторое множество возможных показаний сенсора VSi.

Анимат также располагает множеством возможных действий в среде A = {a1,..., am }. Любое действие анимата, совершаемое в момент времени ti, может приводить, в следующий момент времени ti + 1 к какому-то изменению среды, и как следствие, к изменению показаний его сенсоров.

Поскольку анимат «воспринимает» окружающий мир только через свои сенсоры, то, с точки зрения анимата, состояние системы в каждый конкретный момент времени может быть записано в виде вектора показаний всех сенсоров V (t ) = (v1,..., vn ), где vi VSi – показание i-го сенсора в момент времени t, причем состояния с одинаковыми показаниями сенсоров для анимата неразличимы. Множество всех возможных состояний системы обозначим как S = (VS1 VS 2... VSn ).

Поскольку, в общем случае, сенсоры анимата не могут учитывать всех физических законов среды и имеют собственные физические ограниЕ.Е. Витяев чения (например, по чувствительности, радиусу действия и т.п.), то при совершении аниматом некоторого действия в состоянии s S, система, с точки зрения анимата, может переходить в одно или несколько возможных состояний. Тогда, действие ai анимата можно определить как функционал, переводящий систему «анимат – внешняя среда» из одного состояние в другое с некоторой вероятностью:

где Si – подмножество S состояний системы, в которых действие ai имеет смысл (осуществимо), Si S P – множество троек ( s0, s, p ), где s S – полученное в результате действия состояние, p [0, 1] – вероятность его достижения из состояния s0 Si при совершении действия ai, вычисляемая в соответствии с объективными факторами осуществления действия во внешнем мире.

Определим понятие события и истории событий. Под событием e = ( s0, se, a) будем понимать единичный факт перевода системы из состояния s0 S0 в состояние se S в результате совершения действия a.

Тогда историей H назовем множество пар (e, t ), где e – событие, t – момент времени, когда произошло данное событие.

Теперь от общей модели «анимат-внешняя среда» перейдем к более конкретной дискретной модели. На множестве состояний системы PS = {P,..., Pk }, каждый из которых вычисляется на основе показаний сенсоров. Каждое состояние системы, таким образом, может быть записано в виде вектора значений предикатов из PS, s = ( p1,..., pk ), pi {0,1}, где 1 означает истинность соответствующего предиката, а 0 – его ложность.

Задачей анимата является достижение некоторой цели. Определим цель Goal как состояние системы sGoal = ( pigoal,..., pigoal ), которое требуется достичь. Запись ( pigoal,..., pigoal ) означает, что предикаты pigoal,..., pigoal при достижении цели должны быть истинны.

Уточним понятие события и истории. Под событием e = ( s0, se, a), как и раньше, будем понимать единичный факт перевода системы из состояния s0 = ( p10,..., pk ) в состояние se = ( p1e,..., pk ) в результате соверe шения действия a, а под историей H событий – множество пар (et, t ), где et = ( st, st +1, a ) – событие, t – момент времени, когда произошло данное событие.

Правила R, предсказывающие изменение состояния после осуществления действия а по внутреннему контуру работы мозга (рис. 2), определим как преобразование R = ( s0 se ), где:

s0 – начальное состояние системы ( pi0,..., pi0 ) ;

se – конечное состояние системы ( pie,..., piee ) ;

a – действие, которое переводит начальное состояние в конечное;

p – вероятность, с которой действие переводит начальное состояние в конечное.

Вероятность правила R рассчитывается следующим образом: если n – число случаев, когда начальным состоянием было s0 и выполнялось действие а, а m – число тех случаев из n, когда действие a переводило состояние s0 в состояние se, тогда p = m n. Вероятности правил R (предсказывающие переход из состояния s0 в состояние se после осуществлении действия а по внутреннему контуру мозга) и вероятности из множества P (предсказывающие переход из состояния s0 в состояние se при осуществлении действия а, вычисляемые в соответствии с объективными факторами осуществления действия во внешнем мире) – различные величины. Можно сказать, что задачей обучения является максимальное приближение «субъективных» вероятностей правил R, оцениваемых аниматом, к объективным вероятностям P, характеризующим взаимодействие анимата с внешней средой.

Обнаружение правил осуществляется нейронами, замыкающие условные связи по внутреннему контуру работы мозга, в соответствии с семантическим вероятностным выводом.

ОЖИДАНИЕ

РЕНТНЫЙ

памяти прас максимальной Определим функциональную систему FSC, реализующую сенсорные коррекции, как набор FSC = ( sGoal, R1,..., Rn, pFSC ). Функциональная система осуществляет преобразование sGoal = ( pigoal,..., pigoal ) – целевое состояние функциональной системы, R1,..., Rn – правила вида s0 sGoal, с помощью которых из различных начальных состояний s0 с помощью некоторого действия a можно попасть в целевое состояние sGoal (рис. 3). Цель sGoal функциональной системы ставится соответствующим мотивационным возбуждением. Способ вычисления вероятности pFSC приведен ниже.

В соответствии с принципом сензорных коррекций Н.А.Бернштейна, принципиально нельзя знать заранее точный результат предыдущего движения. Поэтому выбрать максимально вероятное правило s0 sGoal, приводящее к достижению цели, в текущем состоянии st = ( p1t,..., pk ) можно только после поступления афферентация о завершении предыдущего действия, чтобы выбрать правило с начальным состоянием { pi0,..., pi0 } { p1t,..., pk } (обозначим это как s0 st, на рис. 3).

Когда функциональной системой верхнего уровня, удовлетворяющей некоторую потребность, принимается решение и перебираются различные последовательности/иерархии действий по достижению цели, то мы также принципиально не можем знать тех состояний st, которые возникнут в результате реального осуществления этой последовательности/иерархии действий. Мы также не можем знать, какие будут выбраны правила для достижения цели каждого конкретного действия в этой последовательности/иерархии. Тем не менее, для принятия решения необходим прогноз вероятности достижения цели. Оценку вероятности достижения цели функциональной системой FSC можно подсчитать, опираясь на статистику достижения цели следующим образом: если n – число случаев, когда поступил запрос на достижение цели sGoal, а m – число случаев, когда выбранные правила и последовательности/иерархии действий привели к достижению цели sGoal, то pFSC = m n. Поэтому на рис. 3 прогноз достижения цели осуществляется с вероятностью pFSC достижения цели функциональной системой.

Когда в момент времени t пришел запрос на достижение цели sGoal функциональной системой FSC в текущем состоянии st = ( p1t,..., pk ), то она:

1. выбирает правило s0 sGoal из набора R1,..., Rn, которое:

b.может достичь цели sGoal с максимальной вероятностью 2. ожидает в акцепторе результатов действия достижение цели sGoal после осуществления действия а;

3. сравнивает акцептором результатов действия достигнутое состояние st + q = ( p1t + q,..., pk+ q ) в момент t + q, в результате осущеt достигнута и правило s0 sGoal подкрепляется (его статистика 4. если для текущего состояния st нет подходящего правила, либо после применения выбранного правила и соответствующего ему действия целевое состояние sGoal не достигнуто, то функциональЕ.Е. Витяев ной системой FSC в ответ на запрос возвращается, что цель не достигнута и выбранное правило наказывается (его статистика Функциональные системы в общем случае являются последовательностями и иерархией функциональных систем FSC, реализующих рефлекторные кольца.

Функциональной системой FS, объединяющей последовательность FS = ( sGoal, FSC1,..., FSCn, pFS ), реализующий преобразование FS = s0 s1 s2... sgoal,...,pFSCnpFSC i...i pFSC sgoal, ные системы рефлекторных колец. Цель функциональной системы FS состоит в последовательном достижении целей s0 s1 s2... sgoal функциональными системами FSC1,..., FSCn с суммарной вероятностью PFS = PFSС i...i PFSС. Такие функциональные системы могут образовываться авn томатически, как это описано ниже.

Функциональные системы FS, объединяющие последовательности и иерархии функциональных систем FSC, возникают в случае, когда в последовательностях функциональных систем FSC встречаются также функциональные системы FS. Тогда функциональная система FS = ( sGoal, FS1,..., FS n, pFS ) есть последовательность функциональных систем, реализующих преобразование FS, FS {FS,..., FS }, i j реализуют преобразования то функциональные системы FS (i )1,..., FS (i ) 2i, FS ( j )1,..., FS ( j ) n j находятn ся уже на уровне 2 и преобразование, реализуемое функциональной системой FS, имеет вид Каждая функциональная система представляет собой тот или иной способ достижения цели sGoal, В соответствии с теорией организации движений Н.А.Бернштейна [20], ведущим уровнем организации движений является верхний уровень FS = ( sGoal, FS1,..., FS n, pFS ) ранга 1, соответствующий смыслу решаемой задачи. Функциональная система верхнего уровня может вызывать функциональные системы более низких уровней.

Когда приходит запрос на достижение цели sGoal функциональной системой FS, то она:

1) выбирает правила, применимые в текущей ситуации, для первой из функциональных систем FSC, входящих в данную функциональную систему. Если для текущего начального состояния s первой FSC нет подходящего правила, то функциональная система FS не применима к данной ситуации;

2) формирует «конкретную цель» (высшую мотивацию) в виде последовательности и иерархии целей всех, входящих в нее, функциональных подсистем. Например, для приведенной выше функциональной системы это будет последовательность 3) прогнозирует достижение цели sGoal с вероятностью pFS ;

4) ожидает (акцептором результатов действия) достижение всей последовательности и иерархии целей всех входящих в нее FSC после выполнения соответствующих действий;

5) запускает последовательное выполнение действий в функциональных подсистемах FSC ;

6) если в какой-либо функциональной подсистеме цель не достигнута, что фиксируется акцептором результатов действий этой функциональной системы, то возникает ориентировочноисследовательская реакция, которая выбирает другую функциональную систему FS для достижения цели sGoal. Правила этой функциональной подсистемы наказываются;

7) достижение результата каждой функциональной подсистемой фиксируется акцептором результатов действия и подкрепляется.

Опишем все элементы архитектуры функциональных систем, используя введенные определения.

Афферентный синтез включает в себя синтез мотивационного возбуждения, памяти, обстановочной и пусковой афферентации, а также обЕ.Е. Витяев ратную афферентацию об осуществленных действиях, приходящую по коллатералям пирамидного тракта. Вся эта афферентация может быть задана набором сенсоров S1,..., Sn, включая сенсоры мотивационного возбуждения, обстановочной и пусковой афферентаций. Мотивационным возбуждением также задается цель Goal = ( pigoal,..., pigoal ).

Память. Каждая цель может достигаться различными последовательностями действий, реализуемыми различными функциональными системами. Поэтому мотивация извлекает из памяти все функциональные системы FS = ( sGoal, FS1,..., FS n, pFS ), приводящие к достижению этой цели.

Обстановочная и пусковая афферентации задают текущее состояние системы st = ( p1,..., pk ) в каждый момент времени t. Начальные состояния s0 = ( pi0,..., pi0 ) применяемых в этот момент правил s0 se должa ны соответствовать текущему состоянию системы s0 st.

«Вытягивая» из памяти весь накопленный опыт, мотивационное возбуждение как цель преобразуется в конкретную цель «высшую мотивацию», определяющую способ своего достижения. Для каждой функциональной системы FS = ( sGoal, FS1,..., FS n, pFS ) конкретной целью является вся последовательность и иерархия целей всех входящих в нее функциональных подсистем, например Принятие решения. На стадии афферентного синтеза мотивационным возбуждением может быть извлечено из памяти множество функциональных систем FS = ( sGoal, FS1,..., FS n, pFS ), достигающих цель sGoal. На стадии принятия решения выбирается одна из них и фиксируется конкретный план действий. Процесс принятия решений осуществляется переключающей функции эмоций (см. рис. 4).

Акцептор результатов действия. Мотивационное возбуждение, преобразуясь в конкретную цель, извлекает из памяти также и конкретный критерий достижения цели – акцептор результатов действия, который состоит из всей совокупности критериев по достижению всей последовательности и иерархии целей

РЕШЕНИЙ

ОЖИДАНИЕ

КОНЕЧНОГО

РЕЗУЛЬТАТА

Извлечение FS,...,FS,pFS) Автоматическое формирование новых функциональных систем.

Новые функциональные системы FS формируются автоматически путем объединения последовательностей функциональных систем, если они реализуют некоторую устоявшуюся последовательность действий. Последовательность функциональных систем автоматически объединяются в функциональную систему если последовательность действий не прерывается и не переключается в середине выполнения на другую последовательность действий, так как в этом случае вероятность достижения цели p FS функциональной системой не будет равна произведению PFS1 i...i PFSn вероятностей входящих в нее функциональных подсистем.

Автоматическое объединение функциональных систем происходит по той же причине, что и формирование правил – по внутреннему контуру мозга замыкается условная связь между началом выполнения первой функциональной системы FS1 и результатом всей последовательности действий, если только она всегда последовательно получает все результаты s1 s 2... sn, не переключаясь на другую последовательность действий.

Для экспериментальной проверки описанной выше формализации был выполнен следующий эксперимент (более подробное описание эксперимента приведено в [26]).

При помощи компьютерной программы был смоделирован представленный на рис. 5 виртуальный мир и анимат (черный квадрат), основной целью которого является обнаружение специальных объектов виртуальЛогика работы мозга ного мира – «еды» (серые квадраты). Анимат должен научиться эффективно находить и собирать еду.

Мир анимата представляет собой прямоугольное поле, разбитое на клетки и содержащее три типа объектов: пустые клетки, препятствия, и еду. Объекты-препятствия располагаются только по периметру виртуального поля, образуя тем самым его естественные границы.

Анимат может совершать три типа действий: шагнуть на клетку вперед, повернуть налево, повернуть направо. Когда анимат шагает на клетку, содержащую еду, считается, что он ее «поедает». Клетка, на которой находилась еда, очищается и новый объект «еда» случайным образом появляется в другом месте поля. Таким образом, количество еды в виртуальном мире всегда остается постоянным.

Анимат обладает набором сенсоров (и отвечающих им предикатов), которые информируют его (рис. 5):

• о наличии еды на ближайших клетках и клетке, где находится анимат (например, [“еда на западе” = “истина”]);

• о наличии препятствий на ближайших клетках (например, [“препятствие на севере” = “истина”]);

• о направлении анимата относительно виртуального мира (например, [“направление на юг” = “истина”]).

В процессе обучения алгоритма постоянно происходит изменение наборов правил в функциональных системах, изменение наборов предикатов в самих правилах и изменение иерархии функциональных систем.

Вначале программа создает одну функциональную систему, целью которой является попадание анимата в клетку с едой. Затем формируются функциональные подсистемы, включающие подчиненные правила.

Рис. 6. Схема изменения правил в иерархии ФС в течение работы алгоритма.

Пример последовательного вызова правил в иерархии функциональных систем представлен на рис. 6. Предположим, что анимат воспринял еду, находящуюся в клетке на северо-востоке (FoodNorthEast) в ситуации, когда он обращен на север (OrientationNorth) (см. условие нижнего правиЕ.Е. Витяев ла). Чтобы достичь цели, он должен применить правила, приводящие его к еде. В верхнем правиле на рис. 6 анимат находит правило, которое говорит, что он может достичь цели и съесть еду, если он шагнет на восток и еда будет на востоке (FoodEast and OrientationEast). Но еда находится на северо-востоке, поэтому, вслед за верхним правилом, он ищет правило, которое привело бы его к подцели FoodEast and OrientationEast первого правила. Он может достичь этой подцели, например, из ситуации «FoodEast and OrientationNorth», если повернет направо. Поэтому, в качестве следующего шага он выбирает второе правило на рис. 6. Но теперь ему надо попасть в ситуацию «FoodEast and OrientationNorth» из его состояния (FoodNorthEast and OrientationNorth). Для этого он выбирает третье правило, которое говорит, что надо шагнуть на север.

Рис. 7. Схема упрощения правила ФС в течение работы алгоритма.

Пример упрощения правила основной ФС в течение работы алгоритма представлен на рис. 7. Упрощение происходит за счет того, что из условия правила исключаются лишние предикаты, определяющие обстановку. Первоначально фиксируется вся обстановка, в которой произошло достижение цели, затем, когда достижение цели осуществляется в немного отличной обстановке, несущественные предикаты обстановки удаляются.

Эффективность анимата по сбору еды представлены на рис. 8 сплошной линией. Для сравнения, приведен график производительности случайных блужданий (штриховой пунктир). В точках каждого графика выполнено усреднение по результатам 20 независимых испытаний.

Как видно из графика на рис. 8 алгоритм уже на первых 1000 тактов достигает производительности выше 50% от предельной. В дальнейшем алгоритм выходит на предельную (выше 160 единиц еды на тысячу тактов) производительность.

Результаты сравнительных испытаний позволяют сделать вывод, что модель практически не требует специального периода обучения.

Созданная в рамках работы библиотека функциональных систем (язык JAVA) опубликована в [27] и позволяет создавать аниматы путем определения всего нескольких классов, специфичных для решаемой задачи.

Рис. 8. Количество «еды», собранной аниматом.

Резюмируем кратко представленную логику работы мозга.

1. Информационные процессы работы мозга опираются на причинность внешнего мира, которая улавливается нейронами.

2. Активное поведение организмов во внешнем мире требует организации целенаправленного поведения по достижению целей, которые ставятся потребностями.

3. Обнаружение условных (причинных) связей между действиями и их результатами по внутреннему контуру работы мозга позволяют прогнозировать достижение целей и всех промежуточных подцелей, формируя тем самым акцептор результатов действий.

4. Результатом обучения являются последовательности и иерархии функциональных систем по достижению целей.

5. Эти иерархии позволяют разрабатывать эффективно работающие аниматы и роботы, достигающие целей во внешней среде.

В дальнейшем предполагается довести схему иерархии функциональных систем до эффективно работающего «образа мира», определенного в работах Н.А.Леонтьева [28]. Формализация «образа мира» может быть получена на основе формализации «восприятие» как неподвижной точки предвосхищений [29]. Континуум деятельности [17], разработанный в теории функциональных систем – также неподвижная точка предвосхищений, включающая деятельность, как активной способ достижения нужных стимулов. Поэтому в дальнейшем работы по моделированию восприятия и построению иерархии функциональных систем будут объединены.

1. Закон. Необходимость. Вероятность. М.: «Прогресс», 1967, 366 с.

2. Рудольф Карнап. Философские основания физики. М.: «Прогресс», 3. Редько В.Г. Эволюция, нейронные сети, интеллект. Модели и концепции эволюционной кибернетики. М.: «ЛИБРОКОМ», 2011, 220 с.

4. Редько В.Г. Моделирование когнитивной эволюции – перспективное направление исследований на стыке биологии и математики // Математическая биология и биоинформатика. 2010. Т. 5. № 2, с. 215-229.

Hempel C. G. Maximal Specificity and Lawlikeness in Probabilistic Explanation // Philosophy of Science, 1968. V. 35, рр. 16–33.

6. Vityaev E.E. The logic of prediction // Mathematical Logic in Asia 2005, Proceedings of the 9th Asian Logic Conference, eds. Goncharov S.S., Downey R. and Ono.H., August 16-19, Novosibirsk, Russia, World Scientific, 2006, pp. 263-276.

Смердов С.О., Витяев Е.Е. Синтез логики, вероятности и обучения:

формализация предсказания // Сибирские Электронные Математические Известия. Т.6, Институт математики им. С.Л. Соболева СО РАН, 2009, с. 340-365.

8. Витяев Е.Е. Извлечение знаний из данных. Компьютерное познание.

Модели когнитивных процессов. Новосибирский гос. ун-т. Новосибирск, 2006. 293 с.

Гибсон Дж. Экологический подход к зрительному восприятию. М.:

Прогресс, 1988. 462 с.

10. Hebb D.O. The organization of behavior. A neurophysiological theory.

11. Витяев Е.Е. Формальная модель нейрона, обеспечивающая непротиворечивость предсказаний // Материалы XVI Международной конференции по нейрокибернетике (24-28 сентября), Т.2, Ростов-на-Дону, Витяев Е.Е., Принципы работы мозга, содержащиеся в теории функциональных систем П.К. Анохина и теории эмоций П.В. Симонова // Нейроинформатика (электронный журнал), 2008, том 3, № 1, с. 25-78.

URL: http://www.niisi.ru/iont/ni/Journal/V3/N1/Vityaev.pdf Демин А.В., Витяев Е.Е. Логическая модель адаптивной системы 13.

управления. Нейроинформатика (электронный журнал), 2008, том 3, http://www.niisi.ru/iont/ni/Journal/V3/N1/DeminVityaev.pdf Kovalerchuk B.,Ya., Perlovsky L.I. Dynamic logic of phenomena and 14.

cognition // IJCNN, 2008, pp. 3530-3537.

15. Halpern J.Y. An analysis of first-order logics of probability // Artificial Intelligence, 46, 1990, pp. 311-350.

16. Kovalerchuk B.Ya., Vityaev E.E. Data mining in finance: advances in relational and hybrid methods. Kluwer Academic Publisher, 2000, 308 p.

17. Судаков К. В. Общая Теория Функциональных Систем. М.: Медицина, 1984. 222 с.

18. Симонов П.В. Эмоциональный мозг. М.: Наука, 1981. 140 с.

19. Симонов П.В. Высшая нервная деятельность человека (мотивационно-эмоциональные аспекты). М.: Наука, 1975. 173 с.

20. Бернштейн Н.А. Биомеханика и физиология движений. Избранные психологические труды, Москва-Воронеж, 1997, 605 с.

21. Витяев Е.Е. Целеполагание как принцип работы мозга // Модели когнитивных процессов (Вычислительные системы, 158), Труды ИМ СО РАН, Новосибирск, 1997, с.9-52.

Витяев Е.Е. Вероятностное прогнозирование и предсказание как 22.

принцип работы мозга // Измерение и модели когнитивных процессов (Вычислительные системы, 162), Новосибирск, 1998, с. 14-40.

Витяев Е.Е. Формальная модель работы мозга, основанная на принципе предсказания // Модели когнитивных процессов. (Вычислительные системы, 164), Новосибирск, 1998, с. 3- 24. Анохин К.В., Бурцев М.С., Зарайская И.Ю., Лукашев А.О., Редько В.Г. Проект «Мозг анимата»: разработка модели адаптивного поведения на основе теории функциональных систем // Восьмая национальная конференция по искусственному интеллекту с международным участием. Труды конференции. М.: Физматлит, 2002. Т.2, с.781Red'ko V.G., Anokhin K.V., Burtsev M.S., Manolov A.I., Mosalov O.P., 25.

Nepomnyashchikh V.A., Prokhorov D.V. Project "Animat Brain": Designing the animat control system on the basis of the functional systems theory // In Butz, M.V., Sigaud, O., Pezzulo, G., Baldassarre, G. (Eds.), Anticipatory Behavior in Adaptive Learning Systems: From Brains to Individual and Social Behavior. LNAI 4520, Berlin, Heidelberg: Springer Verlag.

2007. pp. 94-107.

Мухортов В.В., Хлебников С.В., Витяев Е.Е. Улучшенный алгоритм 26.

семантического вероятностного вывода в задаче 2-мерного анимата // Нейроинформатика (электронный журнал), 2012, том 6, № 1, с 50-62.

http://www.niisi.ru/iont/ni/Journal/V6/N1/MuhortovKhlebnikovVityaev.p Пакет программ: www.math.nsc.ru/AP/ScientificDiscovery/Soft/FS.html 27.

28. Леонтьев А.Н. Образ мира // Избранные психологические произведения. – М.: Педагогика, 1983. – с. 251-261.

29. Витяев Е.Е., Неупокоев Н.В. Формальная модель восприятия и образа как неподвижной точки предвосхищений. Нейроинформатика (электронный журнал), 2012, том 6, № 1, с. 28-41. URL:

http://www.niisi.ru/iont/ni/Journal/V6/N1/VityaevNeupokoev.pdf

Похожие работы:

«Джош Макдауэлл Мир оккультного Содержание: Введение Глава 1 Оккультные явления Глава 2 Астрология Глава 3 Демоны Глава 4 Парапсихология Глава 5 Сатана и сатанизм Глава 6 Колдовство и ведовство Заключение Власть над Сатаной Глава 1 ОККУЛЬТНЫЕ ЯВЛЕНИЯ В этой книге мы попытаемся описать дела Сатаны и оккультного царства с точки зрения того‚ что говорит об этом Библия‚ При этом мы хотели бы нарисовать объективную картину положения дел и избежать сенсационности. ЧТО ТАКОЕ ОККУЛЬТНЫЙ? Слово...»

«ДРУГИЕ ДЕТИ Органические поражения нервной системы у детей КНИГА ДЛЯ РОДИТЕЛЕЙ Одесса Моряк 2007 Содержание ББК 57.336.1 Д 760 УДК 616.83-053.2 Предисловие Другие дети: Органические поражения нервной сиНормативные характеристики двигательного стемы у детей: Книга для родителей / Под научной Д 760 и психического развития ребенка раннего возраста.11 редакцией канд. мед. наук И. А. Колкер. — Одесса: КОНСУЛЬТАЦИИ ВРАЧЕЙ Моряк, 2007. — 248 с.; 8 л. ил. Методы лечения заболеваний нервной системы в...»

«ТРАНС-ФОРМАЦИИ Нейро-лингвистическое программирование и структура гипноза Джон Гриндер и Ричард Бэндлер Под редакцией Конниры Андреас Перевод Л.Р. Миникеса, Г.Ю. Сгонник У Л.Р. Миникес, 1994 (перевод), 1998 (доработка перевода) ББК 100 (1) Ф 23 Джон Гриндер и Ричард Бэндлер Под редакцией Конниры Андреас Т р а н с ф о р м а ц и я : Научно-популярное издание/ Издательство Флинта. Сыктывкар, 1999. - 296 с. ISBN 7-248-37523-9 Если, прочитав эту книгу, вы по-прежнему будете так думать о гипнозе, вы...»

«Л. В. Мардахаев СОЦИАЛЬНАЯ ПЕДАГОГИКА ПОЛНЫЙ КУРС УЧЕБНИК 5-е издание, переработанное и дополненное Рекомендовано Учебно-методическим объединением вузов России по образованию в области социальной работы в качестве учебника для студентов высших учебных заведений, обучающихся на гуманитарных факультетах МОСКВА • ЮРАЙТ • 2011 УДК 37.013.42(075.8) ББК 74.6я73 М25 Автор: Мардахаев Лев Владимирович — доктор педагогических наук, профессор, заведующий кафедрой социальной и семейной педагогики...»

«Воспитание и обучение детей с нарушениями развития 2013 №7 340168 ОБРАЗОВАТЕЛЬНЫЕ ПРОГРАММЫ, УЧЕБНЫЕ ПЛАНЫ, ШКОЛЬНЫЕ УЧЕБНИКИ Стребелева Е.А., Закрепина А.В., Кинаш Е.А. Группы для дошкольников со сложными нарушениями в образовательных учреждениях для детей с нарушениеми интеллекта..3 Комарова С.В. Организация уроков развития устной речи с позиций коммуникативного подхода..12 КОРРЕКЦИОННО-РАЗВИВАЮЩИЕ ТЕХНОЛОГИИ И МЕТОДИЧЕСКИЕ НАХОДКИ Шматко Н.Д., Кукушкина О.И. Оценка представлений об...»

«ФЕДЕРАЛЬНОЕ АГЕНСТВО ПО ОБРАЗОВАНИЮ ГОСУДАРСТВЕННОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ ВЫСШЕГО ПРОФЕССИОНАЛЬНОГО ОБРАЗОВАНИЯ САМАРСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИСТЕТ ПСИХОЛОГИЧЕСКИЙ ФАКУЛЬТЕТ ПСИХОЛОГИЧЕСКИЕ ИССЛЕДОВАНИЯ Сборник научных трудов Выпуск 2 Издательство Универс-Групп 2006 СОЦИАЛЬНАЯ ПСИХОЛОГИЯ УДК 159.9 (092) ББК 88 Рецензент кандидат психологический наук, доцент кафедры общей психологии и психологии развития К.С. Лисецкий Редакционная коллегия: Агафонов А.Ю. (председатель), Шпунтова В.В.,...»

«Содержание 1. Актуальность и значимость социальной работы с пожилыми и старыми людьми. 4 2. Дифференциальная характеристика пожилых и старых людей. 7 3. Основные задачи и профессиональные обязанности социального работника. 10 4. Этические принципы общения социального работника 13 5. Этическая ответственность перед профессией. 17 6. Навыки и умения, которыми должен обладать социальный работник. 17 7. Требования к профессионализму социальных работников, обслуживающих пожилых и старых людей 18 8....»

«МИНИСТЕРСТВО ОБРАЗОВНАИЯ И НАУКИ УКРАИНЫ СУМСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ ШОСТКИНСКИЙ ИНСТИТУТ КАФЕДРА ЭКОНОМИКИ ПРЕДПРИЯТИЙ Конспект лекций по дисциплине “Управление персоналом” для студентов специальности 6.050201 Менеджмент организаций центра заочной и дистанционной форм обучения Автор_ Акуленко В.Л. Рассмотрено на заседании кафедры экономики предприятий Протокол №_ от 200_г. Зав. каф. _Акуленко В.Л. Шостка – 2013 I.Цель и задачи дисциплины Цель преподавания дисциплины Управление...»

«Усиление действий по борьбе с ВИЧ/ИППП среди секс-работников на территории Украины и Российской Федерации Буклет Насилие в отношении секс-работников Cанкт-Петербург, Российская Федерация 2013 Этот документ создан благодаря проекту CONECTA при финансовой поддержке программы EUROPEAID Европейской Комиссии. Содержание этой публикации является ответственностью авторов и никоим образом не отражает мнение Европейской Комиссии\ -1СОДЕРЖАНИЕ О чем этот буклет?....3 Как насилие связано с профилактикой...»

«УЧЕБНИК ДЛЯ ВУЗОВ Е.К. ВОЙШВИЛЛО, М.Г. ДЕГТЯРЕВ ЛОГИКА Рекомендовано Министерством образования Российской Федерации в качестве учебника для студентов высших учебных заведений Москва ВЛАДОС-ПРЕСС ИМПЭ им. А.С. Грибоедова 2001 ББК 87.4я73 В65 Войшвилло Е.К., Дегтярев М.Г. В65 Логика: Учеб. для студ. высш. учеб. заведений. — М.: Изд-во ВЛАДОС-ПРЕСС, 2001. — 528 с. ISBN 5-305-00001-7. Рассматривается круг логических вопросов и проблем, который можно охарактеризовать как практическая логика....»

«НЕОЖИДАННАЯ ПОБЕДА: российские школьники читают лучше других Издательский дом Государственного университета Высшей школы экономики Москва, 2010 УДК 37.012 ББК 74.202 Н52 Данная публикация подготовлена в рамках проекта Углубленный анализ результатов PIRLS-2006, реализуемого Институтом развития образования Государственного университета — Высшей школы экономики совместно с Центром международного сотрудничества по развитию образования Академии народного хозяйства при Правительстве Российской...»

«А. К. ЗВОНКИН РИСУНКИ ИЗДАТЕЛЬСТВО ИЗДАТЕЛЬСТВО МОСКОВСКОГО ЦЕНТРА МОСКОВСКОГО НЕПРЕРЫВНОГО ИНСТИТУТА МАТЕМАТИЧЕСКОГО ОТКРЫТОГО ОБРАЗОВАНИЯ ОБРАЗОВАНИЯ МОСКВА — 2006 УДК 372.3/.4 : 51(072) Книги издательства МЦНМО можно приобрести в магазине Математическая ББК 74.102 книга З42 119002, Москва, Бол. Власьевский пер., 11 (проезд до ст. метро Смоленская или Кропоткинская) (495)- biblio @ mccme.ru 241-72-85 http://biblio.mccme.ru/ Звонкин А. К. З42 Малыши и математика. Домашний кружок для...»

«АППАРАТ ФИЗИОТЕРАПЕВТИЧЕСКИЙ МНОГОФУНКЦИОНАЛЬНЫЙ ФизиоФон БЛАВО РУКОВОДСТВО ПО ЭКСПЛУАТАЦИИ Физиотерапевтический многофункциональный аппарат ФизиоФон БЛАВО уникален. Реализованный в нем большой набор классических лечебных физических факторов в сочетании с музыкотерапией (прослушиванием записанной в него авторской лечебной музыки доктора Рушеля Блаво) позволяет в комфортных, домашних условиях эффективно использовать его при лечении множества заболеваний. Конечно – это не панацея от всего. В то...»

«2 3 СОДЕРЖАНИЕ 1 Цели и задачи учебной дисциплины.4 2 Учебная программа..6 2.1 Дидактические единицы..6 2.2 Программа учебной дисциплины.6 3 Учебно-тематический план учебной дисциплины.13 4 Планы семинарских (практических) занятий.15 5 Самостоятельная работа аспирантов..19 6 Контроль знаний аспирантов..22 7 Перечень рекомендуемой литературы.23 8 Словарь основных терминов..25 9 Дополнения и изменения в рабочей программе.27 4 1 ЦЕЛИ И ЗАДАЧИ УЧЕБНОЙ ДИСЦИПИНЫ Задача любого учебного курса,...»

«МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ РФ Филиал государственного бюджетного образовательного учреждения высшего профессионального образования Кемеровский государственный университет в г. Анжеро-Судженске Кафедра психологии и педагогики ПРОГРАММА ИТОГОВОЙ ГОСУДАРСТВЕННОЙ АТТЕСТАЦИИ ВЫПУСКНИКОВ Направление подготовки 050700.62 Педагогика Профиль подготовки Практическая психология в образовании Квалификация (степень) Бакалавр Составители: Т.М. Чурекова, д-р пед. наук, И.В. Гравова, канд. пед. наук,...»

«http://www.koob.ru КЛАССИЧЕСКИЙ УНИВЕРСИТЕТСКИЙ УЧЕБНИК основано в 2002 году по инициативе ректора МГУ им. М. В. Ломоносова академика РАН В. Л. Садовничего и посвящена 250-летию Московского университета КЛАССИЧЕСКИЙ УНИВЕРСИТЕТСКИЙ УЧЕБНИК Редакционный совет серии: Председатель совета ректор Московского университета В. А. Садовничий Члены совета: Виханский О. С, Голиченков А. К., Гусев ДМ. В., Добреньков В. И., Донцов А. И., Засурский Я. Н., Зинченко К). П. (ответственный секретарь), Камзолов...»

«Н.М. Иовчук, А.А. Северный МЕЖДИСЦИПЛИНАРНОЕ ВЗАИМОДЕЙСТВИЕ В КОРРЕКЦИОННОЙ РАБОТЕ ПРИ ПОГРАНИЧНОЙ ПСИХИЧЕСКЛЙ ПАТОЛОГИИ У ДЕТЕЙ И ПОДРОСТКОВ Ассоциация детских психиатров и психологов. Москва. В последние годы проблема междисциплинарного взаимодействия привлекает все больше внимания специалистов, работающих в сфере профилактики и реабилитации школьной и социальной дизадаптации у детей и подростков [1-4, 7, 8]. Несмотря на то, что в США и странах Западной Европы междисциплинарные коллективы...»

«МИНИСТЕРСТВО ЗДРАВООХРАНЕНИЯ И СОЦИАЛЬНОГО РАЗВИТИЯ РОССИЙСКОЙ ФЕДЕРАЦИИ ФЕДЕРАЛЬНАЯ СЛУЖБА ПО НАДЗОРУ В СФЕРЕ ЗАЩИТЫ ПРАВ ПОТРЕБИТЕЛЕЙ И БЛАГОПОЛУЧИЯ ЧЕЛОВЕКА ПИСЬМО от 5 февраля 2008 г. N 01/656-8-32 О НАПРАВЛЕНИИ ПОСОБИЯ Федеральная служба по надзору в сфере защиты прав потребителей и благополучия человека направляет для использования в работе подготовленное Санкт-Петербургским НИИ радиационной гигиены им. проф. П.В. Рамзаева Пособие Радиотревожность населения загрязненных территорий и меры...»

«Vincent A. KILLPASTOR ШКОЛА СТУКАЧЕЙ   Когда я вижу человека, мне хочется ударить его по морде. Так приятно бить по морде человека! Даниил Хармс. Вся моя жизнь основана на реальных событиях! Надпись на футболке. Глава 1 Алишер Все мы - рецепторы, щупальца гигантского осьминога-мозга. Он раскидал нас во все стороны, а мы ползаем тут и собираем для него разные впечатления. Осьминог холоден и бесстрастен. Ему всё равно, как и откуда приходят данные, ему всё равно, когда в ходе сбора информации мы...»

«Когнитивная психология Сергиенко Е.А. Революция в когнитивной психологии развитии В статье обобщены революционные изменения в когнитивной психологии развития в последние годы, затрагивающие краеугольные представления всей психологии. Обсуждаются вопросы теоретических изменений, связанные с системно-эволюционным подходом, теорией динамических нелинейных систем и коннекционизмом. Анализируются четыре основных тезиса революционных изменений: от сенсомоторного младенца к репрезентативному; от...»






 
© 2014 www.kniga.seluk.ru - «Бесплатная электронная библиотека - Книги, пособия, учебники, издания, публикации»

Материалы этого сайта размещены для ознакомления, все права принадлежат их авторам.
Если Вы не согласны с тем, что Ваш материал размещён на этом сайте, пожалуйста, напишите нам, мы в течении 1-2 рабочих дней удалим его.