Футурология - Турчин Алексей - Страница 32

AIXI

Маркус Хаттер

2000 год

Разработка универсального подхода к созданию ИИ, основанного на теории алгоритмов и байесовой логики

Подробности см. на с. 114

NARS

Ванг Пеи

1995 год

Создать систему общего назначения, способную к логическим рассуждениям

Учится на собственном опыте и действует при неполных знаниях. Использует несколько видов логики на разных уровнях рассуждении

Copycat

Дуглас Хофштадтер

1988 год

Моделирование высокоуровневого мышления; предполагается, что мышление основано на создании аналогии

В настоящий момент на ее основе сделаны программы для распознавания образов, предсказания последовательностей чисел и предсказания музыкальных мелодий. Идет разработка универсальной архитектуры предсказывающего агента

Дискуссия о возможности полноценного ИИ

В настоящий момент неизвестно точно, возможно ли создать ИИ. Но мы считаем, что создание ИИ весьма вероятно.

Мы полагаем, что с помощью технических средств (не обязательно компьютеров, имеющих современную архитектуру, но скорее всего с их помощью) можно создать машину, которая будет способна моделировать поведение человека неотличимым образом, при этом превосходя его в любых видах творческой деятельности. Более того, мы полагаем, что такая машина будет создана в XXI веке.

Аргументы в пользу гипотезы о возможности создания ИИ

№

Аргумент

Обоснование

1

Отсутствие доказательств не есть опровержение гипотезы

То, что ИИ пока не создан, говорит только о сложности задачи, но не о ее нерешимости. Ученые изучают тему ИИ всего 50 лет. На переход от первых воздушных шаров братьев Монгольфьер к самолету братьев Райт ушло 120 лет. В течение этого времени подавляющее большинство людей было уверено в том, что невозможно создать самолет, тяжелее воздуха

2

Интеллект уже существует в природе

Человек смог повторить многие природные достижения, в частности, полет птиц, термоядерный синтез

3

Происходит плавное непрерывное улучшение во всех тех областях, которые обычно относятся к ИИ

Например, существенные успехи заметны в области распознавания образов

4

Создаются полные карты нейронных сетей живых организмов

Уже создана полная карта нейронной сети червя-неметоды. По тем же принципам можно создать карты нейронных сетей более сложных животных и с помощью компьютера выяснить, реализуют ли эти модели в точности поведение их живых аналогов. Удачные результаты эксперимента будут свидетельствовать о том, что и модель человеческого мозга будет воспроизводить поведение человека

5

В мире работает несколько десятков научных проектов, которые исследуют разные подходы к созданию ИИ

Многие из проектов решили практические интеллектуальные задачи

6

Закон Мура успешно работает

Происходит резкое снижение стоимости оборудования, необходимого для экспериментов полноценных ИИ

7

Накоплен большой опыт в разных попытках создания ИИ

Происходит накопление знаний о том, что на самом деле нужно и не нужно для создания ИИ

Приведенные аргументы говорят о серьезности гипотезы возможности ИИ, но окончательным доказательством может быть только его создание.

Можно предположить концептуально простой, с теоретической точки зрения, способ создать интеллект человеческого уровня — сканирование мозга человека и моделирование его на компьютере.

Хорошо известно, что в компьютере сигналы передаются в 10 миллионов раз быстрее, чем в человеческом мозге по причине того, что сигналы в аксонах распространяются крайне медленно, а в электрических проводах — со скоростью света.

Таким образом, если реконструкция личности человека по его мозгу станет возможной, то? отсканировав мозг нескольких умных людей и соединив их в продуктивную сеть, мы можем запустить ее со скоростью, в миллионы раз превышающей обычную скорость мышления людей, и получить за 30 секунд результат, эквивалентный групповой работе за год. Ведь человечество умеет усиливать совместный интеллект групп людей, объединяя их в НИИ и т. д.

Английский физик и математик Роджер Пенроуз в книге «Новый ум короля», вышедшей в 1989 году, утверждает, что ИИ невозможен, потому что в мозгу происходят невычислимые квантовые процессы, которые необходимы для творческого мышления и сознания. Нам представляется, что данный вывод не вполне корректен по следующим причинам.

Квантовая природа сознания — это далеко не мэйнстрим науки. Но даже если это так, мы можем использовать квантовые компьютеры или живые нейроны для его моделирования.

Для того чтобы ИИ стал играть важную роль в судьбах человечества, ему не нужно обладать ни сознанием, ни способностью к творчеству. Современный ИИ может обыграть любого человека в шахматы, не используя ни сознания, ни интуиции. Другими словами, интуиция — это только полезная характеристика, сокращающая скорость перебора комбинаций, но заменяемая алгоритмами. Достаточно сказать, что опасный ИИ — это ИИ, который может обыграть человека в любой игре. Война и зарабатывание денег — это разновидности таких игр.

Если обнаружится класс задач, доступных человеку, но не доступных компьютеру, возможна ситуация прямой эксплуатации людей для решения этих задач, при этом каждый из них не будет знать, как именно будет применяться его решение.

Например, сейчас работают спамерские программы — они просят людей на своем сайте с «клубничкой» распознать контрольные цифры на рисунке, взятом с другого сайта, и таким образом получают доступ к этому сайту.

Основная причина, заставляющая людей априори исключать возможность ИИ, — это эзотерические представления о существовании души и чувство собственной важности.

Мы не отвергаем возможность того, что ИИ не будет создан, но мы полагаем, что сам факт невозможности его создания будет открытием некоторого принципиального свойства Вселенной.

Можно сказать, что ИИ — это алгоритм создания алгоритмов, а сверхинтеллект — это способность порождать обычные ИИ, то есть алгоритм в кубе.

Проблема дружественности ИИ

В 1940-е годы Айзек Азимов в рассказе «Хоровод» впервые написал о проблеме возможной враждебности (недружественности) ИИ и предложил для ее решения «Три закона робототехники».

Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.

Согласно этим законам, обоснованием безопасности человека является неспособность робота причинить вред, однако само понятие «вреда» никак не определено.

Если нет четкого определения, что такое вред и что такое благо для человека, ситуации с ИИ могут быть непредсказуемыми. Например, если некий ИИ познакомить с религиозными представлениями о мире, он может прийти к выводу, что высшим счастьем для людей является рай, и умертвить человечество, чтобы все души попали на небеса.

Поскольку Азимов никак не определил, что для человека может являться благом, а что вредом, его законы робототехники, по сути, являются лишь благими пожеланиями по поводу того, что бы мы хотели от роботов, но не набором инструкций, которые могут к этому результату привести.