Главы из книги The Fall of Tyranny the Rise of Liberty (2017)

Будущее окажется куда более удивительным, чем осознаёт большинство наблюдателей: немногие по-настоящему поняли последствия того факта, что сама скорость изменений ускоряется. – Рэй Курцвейл, «Закон ускоряющейся отдачи"

На первый взгляд, это всего лишь размышления одного человека о будущем технологий и, заодно, человечества. Однако многие из предсказаний Рэя Курцвейла оказались удивительно точными. В 2009 году он проанализировал 108 своих прогнозов и обнаружил, что 89 из них полностью сбылись, ещё 13 — «по сути» верны. «Ещё 3 частично верны, 2, похоже, опережают своё время на лет десять, и 1 — изначально шуточный — оказался просто неверным», — добавил он. Если он сможет сохранить такую точность, многие из его других предсказаний сбудутся в течение жизни большинства ныне живущих людей.

И почти никто к ним не готов.

Автор, изобретатель, успешный предприниматель, футуролог и в настоящее время руководитель инженерного отдела Google, Курцвейл с энтузиазмом смотрит на надвигающийся технологический взрыв. Вот некоторые его предсказания за последние годы:

В книге «Эра разумных машин» (1990) он писал, что к началу 2000-х компьютеры будут преобразовывать речь в текст, телефонные звонки будут регулярно обрабатываться интеллектуальными автоответчиками, а компьютеры будут широко использоваться в школе. Он также предсказал, что к 2020 году появится мировое правительство, хотя, возможно, позже пересмотрел эту точку зрения. (См. его комментарий Горбачёву в 2005 году о том, что технологии способствуют децентрализации, что в конечном итоге подрывает тиранию.)

В книге «Эра духовных машин» (1999) он предсказал, что к 2009 году большинство книг будут читаться с экранов, а не на бумаге, люди будут отдавать команды компьютерам голосом, а также будут использовать небольшие носимые компьютеры для отслеживания функций организма и получения указаний по навигации.

Некоторые из достаточно умеренных предсказаний в книге «Сингулярность близка» (2005) включают: появление к 2018 году компьютеров стоимостью 1000 долларов с объёмом памяти, равным человеческому мозгу (10 ТБ или 10¹³ бит); применение нанокомпьютеров (так называемых наноботов) для медицинской диагностики и лечения в 2020-х годах; а также разработку компьютера, достаточно сложного, чтобы пройти строгую версию теста Тьюринга — то есть обмануть человека-допросчика, заставив его думать, что он разговаривает с другим человеком, — не позднее 2029 года.

Вскоре после этого можно ожидать разрыва реальности, называемого Сингулярностью.

Технологическая сингулярность

В математике термин «сингулярность» обозначает «величину, превосходящую любое конечное ограничение», например, значение y в функции y = 1/x. По мере приближения x к нулю, значение y «превышает любую возможную конечную границу (стремится к бесконечности)». Астрофизики также используют этот термин для обозначения бесконечной плотности чёрной дыры.

В области искусственного интеллекта (ИИ) Сингулярность означает грядущее событие, вызванное существами, обладающими интеллектом, превосходящим человеческий. С точки зрения Курцвейла,

Сингулярность имеет множество проявлений. Она представляет собой почти вертикальную фазу экспоненциального роста, когда скорость изменений становится столь экстремальной, что технологии как будто развиваются с бесконечной скоростью… Мы станем гораздо умнее, слившись с нашими технологиями.

Курцвейл объясняет, что он понимает под «слиянием» (из книги «Сингулярность близка»):

Биология имеет внутренние ограничения. Например, каждый живой организм должен строиться из белков, свернутых из одномерных цепочек аминокислот. Механизмы на основе белков лишены прочности и скорости. Мы сможем перепроектировать все органы и системы в наших биологических телах и мозге, сделав их намного лучше.

Иными словами, Сингулярность связана с усилением интеллекта (Intelligence Amplification (IA)) у человека. Мы добровольно будем «насыщены» наноботами — «роботами, созданными на молекулярном уровне, в микронном масштабе». Наноботы будут выполнять множество функций в теле, включая поддержание здоровья и значительное расширение человеческого интеллекта.

Как только небиологический интеллект получит опору в человеческом мозге (а это уже началось с нейронных имплантов), машинный интеллект в нашем мозге будет расти экспоненциально (как это происходило всё это время), удваиваясь по мощности как минимум каждый год. В то время как емкость биологического интеллекта по сути остаётся фиксированной.

Поскольку молекулярная нанотехнология подразумевает манипуляции с материей на атомарном и молекулярном уровнях, станет возможным насыщение небиологическим интеллектом всего, что находится на планете Земля. Потенциально весь космос может быть пронизан интеллектом.

Как будет выглядеть мир после Сингулярности?

Большая часть интеллекта нашей цивилизации в конечном счёте станет небиологической. К концу этого века он будет в триллионы триллионов раз мощнее человеческого интеллекта. Однако, чтобы ответить на часто высказываемые опасения, это не означает конец биологического интеллекта, даже если он будет сброшен с пьедестала эволюционного превосходства. Даже небиологические формы будут происходить из биологических моделей. Наша цивилизация останется человеческой — и, в определённом смысле, станет даже более человечной, чем сегодня…

Тренд говорит сам за себя

Курцвейл строит свои доводы на исторических трендах, которые показаны на этих графиках:

Оба графика показывают одно и то же развитие, но в разных масштабах. Жизнь возникает примерно 3,7 миллиарда лет назад в виде биогенного графита, а затем, через два миллиарда лет, появляются клетки. С этого момента биологическая эволюция начинает ускоряться, как и человеческие технологии. На линейном графике кажется, что всё происходит за один день. Хотя от появления персонального компьютера до Всемирной паутины прошло 14 лет (от MITS Altair 8800 в 1975 году до предложения Тима Бернерса-Ли в марте 1989-го), в общей картине это произошло почти мгновенно. Второй график демонстрирует это особенно наглядно.

Экспоненциальные процессы очень обманчивы, говорит Курцвейл. Пока мы находимся в начале кривой, они кажутся линейными. Но как только проходим «колено», тренд начинает проявляться. Или, по крайней мере, должен.

Журнал Mother Jones в 2013 году опубликовал статью, хорошо иллюстрирующую, насколько обманчивыми могут быть экспоненциальные тренды. Представьте, что озеро Мичиган осушили в 1940 году, и ваша задача — наполнить его, удваивая количество добавляемой воды каждые 18 месяцев, начиная с одной унции. То есть через 18 месяцев вы добавляете две унции, ещё через 18 месяцев — четыре унции и так далее. Как раз в тот момент, когда вы добавляете первую унцию в сухое озеро, в реальности появляется первый программируемый компьютер.

Вы продолжаете. К 1960 году вы добавили 150 галлонов. К 1970 — 16 000 галлонов. Практически ничего не изменилось. Даже если вы продолжите до 2010 года, вы увидите лишь немного воды тут и там. За 47 полуторагодичных периодов, прошедших с 1940 года, вы добавили около 140,7 триллиона унций воды. Вы проделали огромную работу, но почти не продвинулись. Вы берёте калькулятор и выясняете, что для заполнения озера не хватает ещё 144 квадриллионов унций.

Вы никогда не закончите, верно? Неверно. Вы продолжаете наполнять озеро, как и раньше, удваивая объём каждые 18 месяцев — и к 2025 году озеро заполнено.

Первые 70 лет — почти ничего. А через 15 лет всё завершено.

Озеро Мичиган было выбрано потому, что его вместимость в жидкостных унциях примерно соответствует вычислительной мощности человеческого мозга, измеренной в операциях в секунду. Интервал в 18 месяцев выбран потому, что соответствует закону Мура (в 1970-х Дэвид Хаус из Intel уточнил первоначальную двухлетнюю оценку Мура, заявив, что производительность компьютеров удваивается каждые 18 месяцев. По состоянию на 2003 год удвоение происходило каждые 20 месяцев).

Как говорит Курцвейл в «Законе ускоряющейся отдачи»:

Мы прошли путь от компьютеров с мощностью в одну триллионную от человеческого мозга до машин с мощностью в одну миллиардную. Затем — в миллионную. И теперь — в тысячную. По пути компьютеры перешли от баллистики к бухгалтерии, от обработки текста к распознаванию речи — и всё это не казалось шагом к искусственному интеллекту…

На самом деле всё это — гораздо больший прогресс на пути к настоящему ИИ, чем многие из нас осознают. Нас просто сдерживал тот факт, что у компьютеров до сих пор не хватало мощности, чтобы завершить работу. Но это быстро меняется.

Даже несмотря на прогресс в области ИИ, достижения часто недооцениваются. В книге Эра разумных машин (1990) Курцвейл предсказал, что компьютер победит чемпиона мира по шахматам к 1998 году. Размышляя об этом предсказании в январе 2011 года, он сказал: «Я также предсказал, что когда это произойдёт, мы либо будем выше ценить интеллект компьютеров, либо хуже думать о человеческом мышлении, либо обесценим шахматы. Если судить по реальной истории, мы обесценили шахматы. [Deep Blue от IBM] победил Гарри Каспарова в 1997 году, и действительно, сразу же последовали рассуждения о том, что шахматы якобы не являются настоящим выражением человеческого мышления».

Чего же не хватает компьютеру? Способности справляться с «тонкостями и непредсказуемой сложностью человеческого языка». Компьютеры никогда не могли этого делать. Эти навыки всегда считались уникальными для человека.

Люди в опасности!

А потом появился Уотсон.

«Победа суперкомпьютера Уотсона над двумя чемпионами шоу Jeopardy! — это один маленький шаг для IBM и один гигантский скачок для компьютерного разума», — провозгласил Курцвейл.

Уотсон участвовал в трёхдневном поединке с чемпионами в феврале 2011 года. В разминке одна из категорий называлась «рифмы». Ведущий зачитал участникам подсказку: «Длинная утомительная речь, произнесённая взбитой начинкой пирога». Уотсон быстро ответил: «Что такое meringue harangue?» (рифма «безе — тирада»). Люди не догадались.

Как Уотсон получил такую энциклопедическую осведомлённость? Инженеры IBM вручную загрузили в него данные? Нет. Как человек, Уотсон много читал. В отличие от человека, он прочитал все 200 миллионов страниц Википедии.

Но и это ещё не всё. Согласно IBM, «Благодаря многократному использованию Уотсон буквально становится умнее, отслеживая обратную связь от пользователей и обучаясь как на успехах, так и на ошибках». Также IBM утверждает, что «серверы Уотсона способны обрабатывать 500 гигабайт информации в секунду, что эквивалентно миллиону книг, при общем объёме оперативной памяти в 8 терабайт».

В Google амбиции Курцвейла выходят далеко за рамки обучения компьютера чтению Википедии.

Мы хотим, чтобы [компьютеры] прочитали всё в интернете и каждую страницу каждой книги, а затем могли вести интеллектуальный диалог с пользователем и отвечать на его вопросы.

Когда Курцвейл говорит «всё в интернете», он имеет в виду буквально всё — включая «все электронные письма, которые вы когда-либо писали, все документы, каждую случайную мысль, которую вы когда-либо вводили в строку поиска».

Заключение

Некоторым на этом этапе может принести утешение созерцание красоты и величия природы. Возможно, они найдут вдохновение в деревьях. К. Эрик Дрекслер вдохновлялся деревьями и отдал им должное в книге Unbounding the Future:

[Деревья] собирают солнечную энергию с помощью молекулярных электронных устройств — центров фонтосинтеза — хлоропластов. Они используют эту энергию для приведения в действие молекулярных машин — активных устройств с подвижными частями точной молекулярной структуры — которые перерабатывают углекислый газ и воду в кислород и молекулярные строительные блоки. Они используют другие молекулярные машины, чтобы соединять эти строительные блоки и формировать корни, стволы, ветви, побеги, солнечные коллекторы и ещё больше молекулярных механизмов. Каждое дерево производит листья, и каждый лист сложнее космического аппарата, более точно структурирован, чем новейшие микросхемы из Кремниевой долины. Всё это они делают без шума, тепла, токсичных выбросов и человеческого труда, и при этом поглощают загрязнители. В этом свете деревья — это высокие технологии. Микросхемы и ракеты — нет.

Деревья дают нам представление о том, какой может быть молекулярная нанотехнология.

А молекулярная технология даёт нам представление о том, каким может быть наше будущее.

Перевод: Наталия Афончина

Редактор: Владимир Золоторев