Запуск чат-бота ChatGPT компании OpenAI в конце 2022 года вызвал панику по поводу рисков, которые несет искусственный интеллект (ИИ). Так, согласно недавнему опросу CNN, 42% руководителей компаний считают, что ИИ может “уничтожить человечество” через 5-10 лет.

Хотя пессимизм в отношении новых технологий не является чем-то новым, по-настоящему тревожными являются призывы к государственному регулированию разработки и внедрения ИИ. Так, в марте ведущие представители технологической индустрии, включая Илона Маска, призвали временно приостановить разработку систем ИИ, “более мощных, чем GPT-4”. Их открытое письмо подписали более 33 000 человек. Апрельское исследование YouGov также показало, что почти 70% американцев поддержали полугодовую паузу в развитии ИИ. Эти опросы свидетельствуют о том, что немалое число американцев, опасаясь угрозы существующей стабильности, не только желают этического регулирования ИИ, но и хотят наложить удушающие ограничения на всю отрасль.

Почему это вызывает беспокойство? История показывает, что перекос в сторону стабильности и засилье технологических алармистов в политическом пространстве может препятствовать прогрессу человечества. Хорошим примером является средневековый Китай.

В 12-13 веках династия Сун была на пике мировой цивилизации, обещая превзойти остальной мир. По словам Гарольда Б. Джонса: “если бы в начале XV века у футуриста попросили выбрать страну с наилучшими перспективами на будущее, он бы поставил на Китай”. Суньская династия Китая была лидером в технологическом прогрессе, здесь изобрели порох, передвижной печатный станок и компас. Китай был местом расположения самой передовой инфраструктуры и самого передового торгового флота в мире, обогащая страну за счет зарубежной торговли с прибрежными государствами Африки. К тому же, открыв свое общество для иностранных путешественников, Китай извлекал выгоду из научных знаний и опыта иностранных новаторов, делая впечатляющие шаги в сельском хозяйстве и астрономии. Некоторые даже говорят, что Суньский Китай стоял на пороге своей собственной промышленной революции за несколько столетий до Великобритании. У Китая были материалы и знания, чтобы доминировать в мире задолго до Запада. Почему он этого не сделал?

Несмотря на динамично развивающееся общество и процветающую экономику, Китай эпохи Сун постоянно вступал в стычки со своими северными соседями и в конце концов в 1279 г. уступил военному превосходству монголов. Последующее правление династии Юань стало первым за тысячелетнюю историю Китая случаем, когда иностранная династия захватила всю территорию Китая, что стало позорным поражением для китайских традиционалистов.

Династия Юань просуществовала недолго, поскольку внутренняя раздробленность и коррупция привели к массовым восстаниям, в результате которых в 1368 г. была восстановлена династия Мин. Однако, испытывая унижение от “варварской” оккупации, лидеры династии Мин считали, что они должны отличаться от своих предшественников из династии Сун. Обвинив в крахе династии Сун “неупорядоченное” открытое общество, династия Мин установила крайне авторитарный и изоляционистский режим, значительно удлинив Великую стену и, что еще более важно, начав “антимодерную революцию”, призванную возродить в Китае традиционные конфуцианские ценности и сдержать дестабилизирующие инновации.

Частью этой анти-модерной революции было культурное противостояние, которое подавляло инновации, поощряя конформизм и подавляя индивидуализм. Например, одним из первых действий Чжу Юаньчжана, основателя династии Мин, было введение строгого дресс-кода. Он запретил иностранную моду и установил стандарты для каждого социального слоя, укрепляя неоконфуцианскую иерархию. Технологический прогресс и коммерческое процветание предоставляли выбор, порождая тревожащий социальный беспорядок, который мог проявляться через одежду. Поэтому, опасаясь нарушения существующего порядка, император Мин запретил выразительную одежду.

Аналогичным образом династия Мин возродила систему императорских экзаменов. Образовательная система Мин в целом отдавала предпочтение механическому воспроизведению конфуцианской философии, упуская из виду научные и технические навыки. Хотя наука все еще преподавалась, ее содержание следовало принимать как каноническую мудрость, а не подвергать сомнению и не пытаться усовершенствовать. Общая атмосфера, созданная культурой экзаменов, уменьшала вклад творческих личностей — если вы писали о новых идеях на экзамене, вам просто ставили неудовлетворительно. Индивидуализм не имел места в династии Мин.

Однако самые большие потери от этой революции были связаны с ликвидацией технологических новшеств. Самой значительной потерей можно считать ограничение инноваций в области океанской навигации. Династия Мин прославилась (или, скорее, опозорилась) изданием Указов о Хайджине (слово “Haijin” в переводе с китайского означает “морская запретная зона”, — прим.ред.). Эта политика резко ограничила частную морскую торговлю и исследования, что привело к уничтожению многих частных океанских судов и аресту сотен купцов. Наиболее заметным проявлением этой политики было уничтожение флота адмирала Чжен Хэ.

Все знают знаменитый стишок: “В 1492 году Колумб переплыл синий океан”. Однако многие не догадываются, что за несколько десятилетий до Христофора Колумба китайский адмирал по имени Чжэн Хэ совершил более масштабные и амбициозные плавания с флотом, в 300 раз превосходящим флот Колумба. Однако вместо того, чтобы открыть мир для торговли, правительство династии Мин сожгло его огромный флот, заблокировав важнейший источник экономического прогресса. Почему они препятствовали такому прогрессу? Хотя официальная аргументация ссылалась на пиратство, многие исследователи указывают на общий страх перед иностранцами и перед ростом могущества купеческого класса, который мог нарушить постмонгольский порядок. Император династии Мин, по-видимому, предпочитал застой, а не прогресс, поскольку застой ослаблял угрозы его власти.

В то время как Китай переживал длительный период культурной и технологической стагнации, Европа вступила в великую эпоху индивидуализма и инноваций. Приобщившись к научному прогрессу и заморской торговле в эпоху Возрождения, европейцы добились значительных экономических и технологических успехов, обогнав Китай в качестве мирового экономического и технологического центра. Фактически европейские державы использовали те самые инновации, которые Китай подавлял, для установления своего господства, а именно морские и военно-морские технологии. В то время как династия Мин сжигала корабли и притесняла купцов, европейцы прокладывали обогащающие торговые пути и колонизировали земной шар с помощью своих мощных военно-морских сил. Британцы использовали эти инструменты, чтобы впоследствии унизить Китай во время Опиумных войн. Таким образом, “антимодернизм” династии Мин в значительной степени способствовал “великому отставанию”, в результате которого Китай оказался в многовековой игре в догонялки с Западом.

Поэтому, когда мы рассматриваем возможность временного прекращения внедрения ИИ, наследие династии Мин должно служить нам поучительным примером. Неконтролируемый сбор данных и кратковременные толчки на рынке труда, безусловно, способны нарушить существующую стабильность. Однако нельзя не сказать и о потенциальных плюсах развития ИИ. Пауза в развитии многих преимуществ — от автоматизации монотонных задач до революции в современной медицине — приведет к задержке развития, которая, как и в случае с Китаем, может отбросить США на десятилетия назад. Хотя технооптимизм вполне может внушать беспокойство, мы также должны опасаться чрезмерного применения принципа предосторожности, поскольку, как показывает история династии Мин, непродуманная и чрезмерно осторожная социальная политика, направленная на сохранение стабильности, может привести и часто приводит к дорогостоящему застою.

Оригинал статьи

Перевод: Наталия Афончина

Редактор: Владимир Золоторев