Об интеллекте - Блейксли Сандра - Страница 54

Нужно ли нам создавать разумные машины?

В XXI столетии разумные машины превратятся из выдумки, пришедшей из фантастических романов, в реальность. Однако пока этого не произошло, стоит обсудить ряд этических аспектов их создания, в первую очередь – соотношение потенциальных угроз и ожидаемой выгоды.

Перспектива появления в не столь отдаленном будущем машин, которые смогут думать и действовать сами по себе, уже очень давно беспокоит людей, что вполне объяснимо. Новые области знания и новые технологии почти всегда принимаются общественностью в штыки. Человеческое воображение с готовностью рисует все мыслимые и немыслимые ужасы, сопряженные с появлением искусственного интеллекта, – вплоть до сведения на нет самой ценности человеческой жизни. Но, как показывает история, все наши мрачные прогнозы никогда не бывают такими, как мы себе представляем. На заре индустриальной революции наши предки боялись электричества (помните Франкенштейна?) и паровых двигателей. Машина, обладающая собственной энергией и способная совершать сложные передвижения, внушала людям того времени ужас. Нам, их потомкам, электричество и двигатели внутреннего сгорания не кажутся ни странными, ни угрожающими. Они превратились в самые обычные составляющие нашей жизненной среды, подобно воде и воздуху.

Страх перед компьютерами зародился с началом эры информатики. Писатели-фантасты преподносили нам захватывающие дух истории о том, как мощные компьютеры или компьютерные сети, внезапно обретая сознание, нападают на своих создателей. Сейчас компьютеры заняли прочное место в нашей повседневной жизни, и такой страх кажется просто абсурдным. Компьютер, стоящий на вашем столе, или Интернет имеет так же мало шансов вдруг обрести ощущения, как и кассовый аппарат в ближайшем супермаркете.

Конечно, любая технология может быть использована во зло или с добрыми целями, но определенные из них изначально, по своей сути, несут людям большую угрозу. Атомная энергия опасна независимо от того, используется она на атомной электростанции или в ядерной боеголовке, потому что одна-единственная ошибка в управлении может стоить жизни миллионам людей. Хоть атом и является ценным источником энергии, однако у него существуют и альтернативы. Транспортная технология может воплотиться в танках и бомбардировщиках или в автомобилях и пассажирских самолетах. В любом случае использование данной технологии с дурными намерениями может принести людям много вреда. Транспортные средства важнее для современной жизни и намного менее безвредны, чем атомная энергия. Урон, который может быть причинен в самых худших обстоятельствах одним самолетом, во много раз меньше, чем потенциальная опасность одной атомной бомбы. С другой стороны, существуют и технологии, способные приносить только пользу, – например, телефоны. Способность телефонов соединять людей, помогать им поддерживать связь друг с другом намного превышает какие то ни было негативные побочные эффекты. То же самое можно сказать об электричестве и здравоохранении. По моему мнению, разумные машины будут одним из наименее опасных и одним из наиболее полезных изобретений человечества.

Некоторые, как, например, соучредитель компании Sun Microsystems Билл Джой, высказывают опасения следующего порядка: как бы мы не создали роботов, ускользающих из-под нашего контроля, которые окажутся способны захватить Землю. Подобные высказывания ассоциируются у меня с фантастическими историями. С другой стороны, протагонисты искусственного интеллекта предлагают свои долговременные пророчества. Например, Рэй Курцвейл говорит о дне, когда посредством нанороботов можно будет внедриться в человеческий мозг, оцифровать каждый синапс и каждую нейронную связь, а потом передать полученную информацию в сверхмощный компьютер! Так можно будет «сконфигурировать» любого из нас. Хотите ли вы стать «программной» версией самого себя, которая будет практически бессмертна? Эти два прогноза, касающиеся искусственного интеллекта, – сценарий «Разумная машина впадает в бешенство» и сценарий «Ваш мозг загружается в компьютер» – кажется, никогда не перестанут будоражить умы людей.

Машина, обладающая интеллектом, и самореплицирующаяся машина – совсем не одно и то же. Между ними вообще не существует логической связи. Ни мозг, ни компьютер не обладают свойством саморепликации. Мозгоподобная система памяти тоже таким свойством не обладает. Ключевым преимуществом создания разумных машин является то, что мы сможем наладить их массовое производство, что совершенно не имеет ничего общего с саморепликацией бактерий или вирусов. Саморепликация не требует наличия разума, а наличие разума не нуждается в саморепликации.

И наконец, я сильно сомневаюсь в возможности когда-либо воссоздать в цифровом виде человеческий мозг. Методов, позволяющих записать миллиарды подробностей, из которых состоит «я» любого из нас, не существует на сегодняшний день, и вряд ли они когда-либо появятся. Для этого понадобилось бы оцифровать и воссоздать всю нервную систему конкретного индивида и все его тело, а не только кору головного мозга. Даже если в очень отдаленном будущем это станет возможным, задача расширяется намного больше, чем воссоздание работы неокортекса. Открыть алгоритм коры головного мозга и вмонтировать его в машину – это одно, но вот оцифровать миллионы операционных подробностей живого мозга и перенести их в кремний – совершенно другое.

Помимо саморепликации и копирования разума, высказываются и другие опасения. Могут ли разумные машины оказаться угрозой для больших групп людей, как это было в случае с атомной бомбой? Может ли их наличие привести к концентрации огромной власти в руках небольшой группки злоумышленников? Могут ли такие машины обернуться во зло и начать бороться против людей, как это было с героями «Терминатора» и «Матрицы»?

На все эти и подобные им вопросы могу дать уверенный отрицательный ответ. Как информационные устройства, мозгоподобные системы памяти будут одной из наиболее полезных технологий, которые доводилось изобретать человечеству. Точно так же, как автомобиль или компьютер, они останутся всего лишь инструментами. Наличие разума у машин не обеспечит им возможности разрушать или манипулировать людьми. Мы же не отдаем весь мировой атомный арсенал в руки одного человека или одного компьютера, следовательно, нам придется проявлять осторожность и не перегружать разумные машины, иначе они просто выйдут из строя, как и любая другая техника. Теперь вернемся к вопросу о злоумышленном использовании. Некоторые люди полагают, что быть разумным – то же самое, что и обладать человеческой ментальностью. Они опасаются, что разумные машины однажды взбунтуются против «порабощения», потому что гнет претит людям. Они боятся, что разумные машины попытаются захватить мир, потому что разумные люди, как показывает история, постоянно борются за власть. Все эти опасения базируются на ошибочной аналогии. Они основываются на объединении разума, т. е. алгоритма коры головного мозга, с эмоциональными устремлениями «старого» мозга, такими как страхи, стремление к обладанию, неприятие насилия. А ведь у разумных машин не будет подобных побуждений. У них не будет личных амбиций. Они не будут испытывать потребность обогащения, общественного признания и чувственного удовлетворения. У них не будет аппетита, пристрастий и – порой – плохого расположения духа. Разумные машины не будут иметь ничего напоминающего человеческие эмоции, если мы не приложим неимоверные усилия для создания такой архитектуры. Наиболее эффективное применение разумные машины найдут там, где человеческий мозг испытывает трудности, – в областях, для которых недостаточно опоры на ощущения и интуицию, или же в скучных и утомительных видах деятельности.

Диапазон сложности разумных машин может быть очень большим – от простых с одним приложением до очень мощных систем, обладающих сверхчеловеческим интеллектом. В любом случае, если мы не пойдем путем сознательных усилий, чтобы эти системы стали человекоподобными, они таковыми никогда не станут. Возможно, наступит день, когда нам придется поставить ограничения на сферы применения разумных машин, но сейчас нам до него еще далеко. Даже когда такой день настанет, то возникшие этические вопросы можно будет решить гораздо скорее и проще, чем те, перед которыми нас ставит генетика и ядерные технологии.