Алгоритмы разума - Амосов Николай Михайлович - Страница 42

Моделирование подчиненности производится по тем же принципам, что и моделирование лидерства. Видимо, оно нужно для искусственного интеллекта хотя бы на период обучения. Без авторитетов трудно представить себе создание убеждений при высоком уровне сознания, когда способности к анализу поведения самого себя и окружающих развиты хорошо.

Есть еще одно чувство, производное от стадного инстинкта,— это сопереживание (проще — доброта или, строже, альтруизм). Разумеется, оно должно быть присуще искусственному интеллекту, живущему среди людей. Я уже описал механизмы перевоплощения и сопереживания. Они позволяют понять психику другого лица и в какой-то степени даже испытывать его чувства.

Качество «доброта» характеризует общую установку человека в его отношениях с другими. Однако трудно представить себе возможность «абсолютно доброго человека», отдающего все, всегда, всем и ничего не требующего взамен. Этот идеал, проповедуемый религиями, нереалистичен.

Но что мешает нам сделать абсолютным альтруистом искусственный интеллект. Все во власти конструкторов, можно задать любые чувства и любые их характеристики. Однако как только сознание достигает определенного уровня, появляются самоорганизация и обязательное влияние общества. В этом-то все дело. Теперь нам придется разобрать этот вопрос.

Сфера отношений ИИ

Прежде всего отношения предусматривают существование двух или нескольких субъектов, взаимодействующих друг с другом или, точнее, обменивающихся воздействиями — материальными, энергетическими, информационными, смешанными, любыми.

Мы уже рассматривали общий принцип отношений между интеллектом и средой. Интеллект воспринимает воздействия среды, анализирует их, оценивает полезность, планирует и выполняет действия, в результате которых получает «плату», удовлетворяющую потребность и изменяющую чувства. Среда при этом представлялась неопределенной. На рис. 21 среда детализирована — выделена природа, техника, модели и общество. Под последним понимается система, состоящая из интеллектов, подобных данному. Показано, что она дает информацию и получает информацию, следовательно, происходит обмен сигналами. А как же с «платой». Сигналы оцениваются и могут удовлетворять некоторые потребности (об этом мы уже говорили), например потребность в новом или потребность в лидерстве. Может статься, что существует и потребность в доброте, потребность отдавать.

До сих пор потребность «отдавать» мы рассматривали в плане действий, которые сопряжены с усилиями, с напряжением. Хотя они сами по себе могут быть приятными, удовлетворяя потребность в деятельности или «рефлекс цели», но при этом не рассматривается объект действий. Его чувства не принимались во внимание. Пока не принимались.

Иное дело — общественная среда, состоящая из людей, а в будущем включающая и искусственные интеллекты.

В описаниях ФА было показано, что при планировании составляется модель объекта, представляющая его состояние после воздействия,— модель-цель. Для материального объекта — это его структура, измененная действием. Речевые ФА предусматривают моделирование реакций человека на сказанную фразу. Цель речевого ФА — вызвать желательные чувства у собеседника и предусмотреть свои собственные чувства в ответ на них («Я ему скажу то-то, он обрадуется, и это будет мне приятно»!).

Самые простые отношения между людьми — это материальный обмен: я даю вам вещь, вы мне взамен даете другую. Предположим, что оба мы делали свои вещи сами, своим трудом. Затраченный труд измеряется утомлением и временем. То и другое измеримо мерой чувств. Мой труд — приращение чувства утомления ∆Чд, где индекс «д» означает «давать». Вещь, которую я получаю взамен, удовлетворяет какую-то мою потребность и таким образом дает приращение чувства приятного ∆Чп, где индекс п — «получать». Справедливым обменом я буду считать такой, когда оба приращения чувств по крайней мере равны: ∆Чд = ∆Чп. Втайне каждый хотел бы произвести такой обмен, чтобы ∆Чп > ∆Чд.

Как сравниваются оба приращения чувств. Где мера. Чувства очень разные, и обмены тоже разные. За труд можно получить пищу, вещь или развлечение — все они удовлетворяют различные потребности. Сравнение идет по величине приращения по оси ординат характеристики «плата» — чувство (см. рис. 22), где отложены компоненты интегральных чувств Пр— НПр. Оба чувства легко измерить в модели ИИ. А как это делается в мозге.

Рис. 40. Схема, иллюстрирующая «условие справедливости». Показаны характеристики двух чувств: приятного ЧП от получения некоторой П «платы» и утомления ЧД, связанного с усилиями, которые нужно затратить, чтобы оправдать получение «платы». «Условие справедливости» выполняется при равном приращении чувств — ∆ЧП = ∆ЧД.

Произведенные этологами наблюдения над животными свидетельствуют о том, что их отношения подчиняются определенным законам. Если одно проявляет благорасположение, другое не бросается в драку, а в худшем случае демонстрирует равнодушие. И наоборот: если одно обнаруживает признаки агрессии, другое отвечает тем же либо убегает. На ласку приблизительно отвечают лаской, на агрессию — сопротивлением. Похоже, что у животных есть мера сравнения чувств от «получения» и «отдавания» и критерий справедливости отношений. Не надо этому удивляться: уже немало чувств, казавшихся сугубо человеческими и привитыми обществом, обнаружено у животных. Следовательно, они имеют биологические корни. Разве мы не видим примеров альтруизма среди стадных животных. Я уж не говорю о проявлениях любви родителей к детенышам — это может наблюдать каждый. На рис. 40 показана схема, иллюстрирующая «условие справедливости». Она построена в предположении, что существует такая следящая система, которая измеряет и сравнивает чувства отношений: приращения приятного от действия «получать» и приращения неприятного от действия «отдавать».

Доброту можно измерить отношением

Добр = - ∆ЧД / ∆ ЧП.

У эгоиста существует психологическая установка на отношения, при которых можно давать меньше, чем получать, иными словами выигрывать в чувствах. У альтруиста, напротив, показатель доброты превышает 1. Не следует думать, что альтруизм противоречит основному закону поведения, согласно которому все действия направлены на получение прироста интегрального чувства: (Пр— НПр) > 0. Дело в том, что альтруист, затрачивая неприятное чувство, например утомление, на изготовление подарка, получает дополнительно приращение приятного от удовольствия, доставленного другому. Можно сказать, что

∆ЧП = f1(«плата») + f2(∆Ч другого).

Человек, получивший подарок, выдаст «плату» в словах благодарности (f1 «плата»), но для альтруиста сопереживание приятным чувствам другого дает еще добавочное приращение чувства приятного (f2 (∆Ч другого)). Таким образом, условие приращения суммы приятного в итоге поступка будет соблюдено. Если сказать предельно просто, то доброму доставляет удовольствие делать приятное другим людям, а эгоист равнодушен к чувствам других и за свои услуги предпочитает получать «плату» «натурой». К слову, явления сопереживания боли у животных зарегистрированы объективными средствами в опытах физиологов. Они же установили большие различия в силе этого чувства у разных особей. Если продолжить экскурс в этологию, во взаимоотношения животных, то оказывается, что отношения крайне неравномерны. К членам семьи испытываются одни чувства, несколько иные к членам своей стаи, совершенно отличные — к членам другой стаи. Получается, что по отношению к разным особям имеют место совершенно разные «коэффициенты справедливости», разное сопереживание. Чужаков всегда встречают неприязнью. Разве не то же мы видим у людей. Даже в воровской шайке, далекой от всякой морали, ее члены соблюдают своеобразную справедливость по отношению друг к другу. Модельно это выражается разными значениями «коэффициента доброты», разной установкой, что считать справедливым. Видимо, эта разница определяется степенью сопереживания: близким и приятным знакомым мы больше сопереживаем, чем чужим и враждебным нам людям. Играет роль та самая прибавка на чувства партнера по отношениям.