ChatGPT, сервис генеративного искусственного интеллекта, встречающийся во все большем количестве приложений, использует “обработку естественного языка” для оценки последовательности слов, которые пользователи хотят видеть следующими во фразах, предложениях и абзацах. Другими словами, это калькулятор. Смиритесь с этим.

В раздражении по поводу калькуляторов нет ничего нового. Мы заставляли наших детей учить деление в столбик и таблицу умножения, потому что так было принято. В 1990 году Джерри Адлер опубликовал в Newsweek статью под названием “Создавая проблемы: Пришло время свести к минимуму заучивание и сосредоточиться на обучении детей думать”. Статья начинается так:

Рассмотрим две машины, каждая из которых способна делить 1 128 на 36. Первая — это карманный калькулятор. Вы вводите цифры, и через десятую долю секунды или около того ответ появляется на цифровом дисплее с точностью до 100 процентов.

Вторая машина — это семиклассник. Вы даете ему или ей карандаш и лист бумаги, пишете задачу, и через 15 секунд, больше или меньше, есть шанс получить правильный ответ.

Выбор между ними очевиден. Калькулятор побеждает, и остается только вопрос, почему в младших классах американских школ полно детей, мучающихся над делением, — целая армия подростков, бесконечно переносящих цифры из столбца в столбец.

Позже в этой статье приводится цитата Томаса Ромберга из Висконсинского университета в Мэдисоне: “Больше нет никого, кто зарабатывал бы на жизнь, занимаясь делением”.

Этот аргумент для многих оказался неубедительным. Луддиты утверждают, что смысл обучения не в том, чтобы получить правильный ответ самым быстрым и надежным способом. Способность решать задачи на деление “вручную” означает, что ученик действительно понимает процесс вычислений, а не просто выдает ответ загадочно-механическим способом. Тем не менее, аргумент, приведенный профессором Ромбергом более убедителен и он заключается в том, что выполнять деление вручную архаично и неэффективно, и вы не сможете зарабатывать на этом, потому что есть лучший и более быстрый способ. Поэтому в какой-то момент мы переходим на использование калькулятора.

Конечно, так было не всегда. Первые калькуляторы были просто людьми, которых называли “компьютерами”. Они действительно “зарабатывали на жизнь, выполняя деление от руки”, вычисляя квадратные корни и так далее. Эти люди были вытеснены из бизнеса механическими, а затем электронными калькуляторами и компьютерами, которые мы сегодня воспринимаем как нечто само собой разумеющееся. Получить работу компьютера было нелегко, потому что нужно было быть умным и быстрым, а также уметь концентрировать внимание в течение длительного времени. Современная программа электронных таблиц, установленная на готовом ноутбуке за 700 долларов, может за несколько секунд выполнить работу, требующую 1000 человеко-часов и более.

Появление машинных/электронных “вычислений” имело два последствия. Во-первых, оно лишило тысячи людей работы. Но во-вторых, поскольку издержки на вычисления упали более чем на 99,9 %, произошел массовый рост экономической активности. Все стало быстрее, дешевле и удобнее в таких масштабах, которые еще в 1955 году показались бы научной фантастикой.

Старые жалобы и новые узкие места

Обратите внимание, что здесь есть три отдельных аргумента:

• Люди должны научиться думать и глубоко понимать!

• Защитите рабочие места! Люди упорно трудились, чтобы получить их!

• Новые технологии разрушительны, и их последствия трудно предсказать!

На более широком временном масштабе мы увидим, что подобные конфликты постоянно возникают с появлением новых технологий. Трудно представить, насколько революционным для общества было появление печатного станка, но подумайте вот о чем: существовали тысячи людей, которые были высококвалифицированными писцами и “миниатюристами”. Текст с миниатюрами, выполненный художниками, которые занимались своим ремеслом десятилетиями, был произведением искусства. Такая книга стоила целое состояние и была не по карману никому, кроме богатейшей элиты. Печатный станок был способен создавать текст и иллюстрации по такой низкой (сравнительно) цене, что профессия квалифицированного переписчика рукописей устарела менее чем за десять лет.

Конечно же, демократизация книжного дела, как благодаря снижению затрат, так и благодаря решению печатать на просторечии, а не только на латыни, преобразила европейский мир. Как пишет Эндрю Петтигри в книге “Бренд Лютер”, чистым эффектом стал взрывной рост числа рабочих мест в полиграфической промышленности и восходящие тенденции в грамотности, чтении и способности охватить массовую аудиторию. Можно утверждать, что последствия, включая Реформацию и вызванные ею шокирующе жестокие войны, были разрушительными, и, конечно, это верно. Но мало кто из нас, кроме Патрика Динена, хочет вернуться назад.

Совсем недавно мы наблюдали катастрофичное для “рабочих” воздействие всеобщего доступа к GPS на телефонах с помощью таких приложений, как Waze. Знаменитые лондонские “черные кэбы” (первоначально сокращение от “кабриолет”) могли управляться только лицензированными водителями. А самая трудная часть процесса лицензирования называлась просто “Знание”. Учрежденная в 1865 году, она требовала от претендентов способности представлять мысленную карту всех 25 000 улиц и переулков (Лондон — это лабиринт, а не сетка). Но компаниям, предоставляющим услуги по перевозке пассажиров, таким как Uber, знания не требуются, потому что у них есть “приложение”.

Что лучше? По большому счету (за исключением затрат при правильной эксплуатации) эти две системы неотличимы друг от друга. Преимущество Waze, конечно, в том, что он в режиме реального времени получает информацию о пробках, авариях и строительстве. Водители-люди, которые знают кратчайший маршрут, но не знают об аварии, оказываются в невыгодном положении. Но все мы сталкивались с тем, что Waze, или Google, или Apple Maps советовали нам заехать прямо в здание, или отправляли нас по странному маршруту только потому, что ИИ запутался. Водители, заплатившие за приобретение “знаний”, как и переписчики книг до них, считают, что новые технологии должны быть запрещены.

Как утверждают Меллор и Карпентер в своей книге “Узкие места”, подобные движения пытаются представить выгоды как издержки. На самом деле, это хорошо, что людям больше не нужно тратить годы на приобретение “знания”, точно так же хорошо, что люди теперь могут тратить свое время на более продуктивную деятельность вместо решения задач на деление. Тем, кто сейчас оказался вытесненным, приходится нелегко, но всего через несколько лет резкий рост производительности и снижение затрат превзойдут эти трудности. Политики не должны реагировать на эти старые жалобы в новой форме.

ChatGPT

И вот, наконец, мы подошли к ChatGPT. Я предполагаю, что читатель знаком с этой технологией, и хочу сказать, что аналогия с печатным станком, калькуляторами и GPS вполне уместна. В январе 2023 года я написал для Reason статью, которую тогда считал сатирой. Теперь я в этом не уверен. Нет ничего концептуально сложного в том, чтобы с помощью обработки естественного языка создать все возможные последовательности слов для документов — от хокку до огромных томов. Конечно, хранить и индексировать этот массив будет невозможно физически, но это ограничение, по крайней мере в принципе, можно преодолеть. Это была бы “Вавилонская библиотека” Борхеса, только более всеобъемлющая.

И на этом все заканчивается. Больше не нужно писать, все уже сделано. Все, что нам нужно, — это найти нужный текст в универсальной библиотеке и использовать его. Никакого писательского блока, никакого пристального взгляда на насмешливо мигающий курсор — все уже готово.

Конечно, я уже слышу, как традиционалисты выстраиваются в очередь со своим старым нытьем. Как и в случае с калькулятором: лучше научиться думать, нет коротких путей, хорошо, что вы приобрели этот навык, просто потому, что вы должны, и так далее. Более того, люди действительно “зарабатывают на жизнь” писательством. Но до появления калькуляторов люди зарабатывали на жизнь, тратя годы на то, чтобы научиться быть человеческим “компьютером”.

Послушайте, друзья. ChatGPT развивается. Люди быстро учатся им пользоваться. Для многих рутинных задач — а, честно говоря, большинство письменных работ являются рутинными, а не творческими — быстрее и даже лучше поручить ИИ создать текст, по крайней мере, для первого черновика. Или пусть ИИ создаст 5 или более версий текста, чтобы вы могли выбрать одну, а затем отредактировать ее.

Означает ли это, что мы как общество будем меньше ценить писательство? Значит ли это, что люди — и я в том числе — пишущий это прямо сейчас! — которые “зарабатывают на жизнь” писательством, должны будут переосмыслить свой выбор? Означает ли это, что через 20 лет мы оглянемся назад, в 2020-е, и скажем, что противодействие применению ИИ к обработке естественного языка было неуместным? Я думаю, что ответ на все эти вопросы может быть “да”. Смиритесь с этим.

Оригинал статьи

Перевод: Наталия Афончина

Редактор: Владимир Золоторев