Футурология - Турчин Алексей - Страница 24

2

8

-0,6·10

6

Шелль. Огонь. Рубила, топоровидные орудия

3

9

-0,22·10

8

Ашель. Симметричные рубила, топоровидные орудия с прямым лезвием

4

11

-29000

Верхнепалеолитическая революция. Охотничья автоматика. Вымирание неандертальцев,

Homo sapiens

 — лидер эволюции

5

12

-9000

Неолитическая революция. Земледелие, скотоводство

6

13

-3000

Городская революция, письменность, начало древнего мира

7

14

-500

Железный век, Осевая революция (Сократ, Будда, Конфуций)

8

15

600

Начало Средневековья, мировые религии

9

16

1500

Промышленная революция

10

17

1840

Механизированное производство (пар)

11

18

1950

Информационная революция, конец мировых войн, холодная война

12

19

1991

Крах социалистической системы, конец холодной войны, мировая компьютерная сеть

На основании этой таблицы Панов составил график революционных переходов в развитии жизни и общества.

Итак, любые рассуждения об ускорении развития неизбежно приводят к идее о сингулярности — некой точке.

Сингулярность

Говоря о сингулярности, мы подразумеваем технологическую сингулярность — гипотетическую точку во времени в ближайшем будущем, в которой ускорение прогресса приводит к качественному переходу. Впервые термин «сингулярность» в контексте технологического прогресса был применен С. Уламом в 1958 году.

Это наиболее общее определение скрывает внутри себя несколько разных трактовок, которые мы обсудим ниже.

Практически все прогнозы о наступлении сингулярности ориентируются примерно на одну и ту же дату. Разные люди, применяя разные методики экстраполяции по разным данным, получали одну и ту же дату в будущем для этого ключевого события в человеческой истории, а именно — в районе 2030 года.

Прогнозы о наступлении сингулярности

Автор прогноза

Когда был сделан прогноз, год

На чем основан прогноз

Предсказанная дата сингулярности

Генри Адамс

1909

Бесконечное ускорение циклов фазовых переходов истории

Между 1921 и 2025 годами

Хейнц фон Ферстер

1960

Обращение численности населения Земли в бесконечность

13 ноября 2026 года

Вернор Виндж

1993

Создание сверхчеловеческого ИИ, на основе закона Мура и самоусиления ИИ

2005–2030 годы

Рэймонд Курцвейл

1998

На законе Мура

2045 год

Деннис Медоуз

1972

Спад численности населения в несколько раз в результате ресурсного кризиса

Середина XXI века

Колин Мейсон

2003

Основания изложены в книге «Пик в 2030 году: отсчет до глобальной катастрофы»

2030 год

Робин Хансен

Начало XXI в.

Новый скачок экономической продуктивности в 60–250 раз

XXI век

Сергей Переслегин

2009

Когнитивный переход

2050 год

Бен Гёрцель

2006–2007

Создание самосовершенствующегося универсального ИИ, «если мы очень-очень постараемся»

2016 год

Интерес к идее о технологической сингулярности возник в 1993 году после публикации доклада Вернора Винджа «Приближающаяся технологическая сингулярность: как выжить в пост-человеческую эру».

Виндж высказал свою идею о том, что с того момента, как человек создаст машину, более умную, чем он сам, история станет непредсказуемой, поскольку невозможно предсказать поведение интеллектуально превосходящей системы. При этом неважно, будет ли ИИ создан с помощью компьютеров или путем манипуляции человеческими генами, создавая нейринтерфейсы и объединяя людей.

Три основные школы в дискуссии о сингулярности (классификация Юдковски)

Название школы

Основное заявление

Главное следствие

Сторонники

Ускорение изменении

Наши представления об изменениях линейны; мы ожидаем, что в будущем произойдет примерно столько же изменений, сколько имело место в прошлом в течение нашей жизни. Но технологические изменения усиливают сами себя и за счет этого ускоряются. Изменения сейчас быстрее, чем 500 лет назад, которые, в свою очередь, быстрее тех, что были 5000 лет назад. Наше недавнее прошлое не является надежным источником знаний о том, что мы должны ожидать в будущем

Технологические изменения следуют плавным кривым, в основном экспоненциальным. В силу этого мы можем предсказать с достаточно большой точностью, когда новые технологии появятся и когда они пересекут определенные пороговые уровни, такие как создание ИИ

Рэймонд Курцвейл, Элвин Тоффлер, Джон Смарт

Горизонт событий

В течение последних нескольких сот тысяч лет люди были умнейшими существами на планете. Весь наш социальный и технологический прогресс был создан человеческими мозгами. Коротко говоря, технологии будут ускоряться до той точки, когда станет возможным улучшение человеческого интеллекта (интерфейс мозг-компьютер, ИИ). Это создаст будущее, гораздо более странное, чем то, что описывается в большинстве произведений научной фантастики: оно будет качественно другим, а не просто заполнено сияющими удивительными гаджетами

Чтобы знать, что будет делать сверхчеловеческий интеллект, вы должны быть по крайней мере настолько же умным. Чтобы знать, как пойдет Дип Блю при игре в шахматы, вы должны играть на его уровне. Таким образом, будущее после создания сверхчеловеческого интеллекта станет абсолютно непредсказуемым

Вернор Виндж

Взрыв интеллекта

Интеллект всегда был ядром технологии. Если технология сможет значительно улучшить человеческий интеллект — создать умы, более умные, чем самые интеллектуальные люди, то тогда кольцо замкнется и возникнет положительная обратная связь. Что люди с интерфейсом мозг-компьютер будут делать со своим усиленным интеллектом? Весьма вероятно, что они будут создавать следующее поколение интерфейсов мозг-компьютер. Усиление интеллекта — это классическая точка перелома. Чем умнее вы становитесь, тем больше интеллекта вы можете использовать, чтобы стать еще умнее

Этот цикл положительной обратной связи начнет резко усиливаться, подобно цепной ядерной реакции, когда достигается критическая масса. Каждое усиление интеллекта приводит к >1,000 усилений интеллекта в следующем цикле такого же масштаба, хотя и необязательно в виде гладкой экспоненциальной кривой. Технологический прогресс начинает происходить с характерной скоростью работы транзисторов (или супертранзисторов), а не человеческих нейронов. Рост резко ускоряется и быстро создает суперинтеллект (на много порядков превосходящий человека) — до того, как он достигает физических пределов роста

Ирвинг Гуд, Элиезер Юдковски