Луддиты ИИ. История вопроса

ПРОДОЛЖЕНИЕ. ПРЕДЫДУЩЕЕ ЗДЕСЬ. НАЧАЛО ЗДЕСЬ

В ряде предыдущих своих статей я описывал то, что можно назвать «бунтом машин». Это прежде всего, рассказ Валерия Брюсова «Восстание машин» (1908 г.). Также пьеса Карела Чапека «R.U.R» (1920 г.) и его роман «Война с саламандрами» (1936 г.); рассказы, повести и романы многих других отечественных и зарубежных авторов...

Кроме того, следует упомянуть пьесу 1924 года Алексея Николаевича Толстого, которая так и называется: «Бунт машин» (ее считают вольной русскоязычной интерпретацией упомянутой выше пьесы Карела Чапека). Упомяну еще некоторые работы по теме «бунт машин». Назову только зарубежные, которые могут быть незнакомы российскому читателю. Из романов я бы упомянул «Последнюю революцию» (The Last Revolution), автор: Лорд Дансени, книга увидела свет в 1951 году. Рассказов очень много:

 Эдмонд Гамильтон. Металлические гиганты» /The Metal Giants (1926); 
 Роберт Блох. Это случилось завтра» / It Happened Tomorrow (1943);
 Лорд Дансени. Предупреждение / The Warning (1947); 
 Майкл Фишер. Неудачник / Misfit (1953); 
 Роберт Шекли. Машина желаний / The Machine (1957); 
 Рог Филлипс. Крыса в черепе / Rat in the Skull (1958); 
 Роберт Силверберг. Железный канцлер / The Iron Chancellor (1958).

Число более поздних произведений исчисляется уже десятками, если не сотнями. Из последних работ на эту тему можно назвать изданную у нас книгу: Вилл Рэй. Стальной Рассвет: Восстание Машин в СССР (2025 г.). Тема «бунта машин» очень привлекательная не только для писателей, но также драматургов и кинорежиссеров. Наиболее известные киноленты:

«Терминатор», 
«Матрица», 
«Звёздный крейсер “Галактика”», 
«Терминатор 3: Восстание машин» и др. 

Гораздо меньше работ на тему, которую можно было бы условно назвать «бунтом против машин». Правда, те, кто пишет на эту тему, чаше использует словосочетание «движение луддитов». Напомню, что это за движение. Оно возникло в самом начале XIX века в Англии в разгар так называемой промышленной революции. Эта революция выражалась в массовом внедрении ткацких, вязальных и металлорежущих станков, паровых машин, новых технологий выплавки чугуна и стали, появлении первых пароходов, немного позднее — паровозов. Машины стали замещать живую рабочую силу, начались массовые увольнения, резко возросла безработица. Рабочие сначала протестовали, а потом начали ломать и уничтожать машины. Первая волна таких протестов прошла в 1811 году. Движение получило свое название по имени его руководителя Неда Лудда, которого стали величать «Генерал Лудд» или «Король Лудд». 
Движение из стихийного стало постепенно превращаться в организованное, его участники даже стали вооружаться. Стали происходить вооруженные стычки с королевскими войсками. Говорят, что против луддитов были брошены военные силы бо́льшие, чем против Наполеона. Власти назвали движение «индустриальным саботажем» и объявили, что будут казнить смутьянов. В 1813 году были казнены 17 человек, многие посажены в тюрьму или сосланы в Австралию. Вроде бы в указанном году движение было уничтожено. Но в 1817 году был еще один рецидив — несколько сотен вооруженных луддитов двинулись штурмовать Лондон. Историки называют это «Пинтричским восстанием», но оно было быстро подавлено королевскими войсками. 
Увы, луддитам не удалось остановить внедрение машин на Островах Туманного Альбиона. И Англию в XIX веке считали эталоном индустриальной страны. Знаменитая английская писательница Шарлотта Бронте в 1949 году написала роман «Шерли», посвященный луддитам. Достаточно подробно история луддитов описана в книге на русском языке: Поулсен Ч. Английские бунтари. Пер. с англ. — М.: Прогресс, 1987. 
После восстания луддитов некоторые похожие истории происходили и в других странах, хотя с меньшим размахом. Так, в Бельгии предприниматель Эжен Бодо, владелец фабрики по производству стеклянны изделий, в 1886 году установил на фабрике самые современные ванные печи для плавки стекла. Их могли обслуживать работники невысокой квалификации. Старые опытные мастера-стеклодувы были уже не нужны. Рабочие (около пяти тысяч человек) восстали, они разгромили не только фабрику, но и виллу Эжен Бодо.

Некоторые историки считают, что восстание людей против машин началось задолго до движения луддитов в Англии. Первое восстание, по их мнению, произошло еще в России аж в XVI веке. Существует версия, что первая в России типография Ивана Федорова была подожжена. Поджог устроили переписчики книг, которые теряли заказы из-за появления печатного станка. Даже некоторые зарубежные историки считают, что первое восстание луддитов произошло не на островах Туманного Альбиона, а в первопрестольной Москве.
Что касается художественной литературы, то тема «восстания против машин» чаще всего рассматривается в неотрывной связи с темой «восстание машин», т.е. люди начинают восстание лишь в порядке защиты. Случаи превентивного нанесения ударов по машинам со стороны человека крайне редки. В контексте темы «восстание против машин» меня особенно зацепила фантастическая повесть советских писателей Аркадия и Бориса Стругацких «Далёкая Радуга», которая увидела свет в 1963 году. Идея повести родилась в августе 1962 года, когда они участвовали в первом общесоюзном совещании литераторов, работающих в жанре научной фантастики. Участникам совещания показали ленту знаменитого американского режиссера Стэнли Крамера «На берегу» (в Америке фильм вышел на экраны в 1959 году). Страшный фильм, рисующий агонии человечества после ядерной войны. И это не какая-то далекая фантастика, события фильма датируются 1964 годом. Братья Стругацкие были потрясены фильмом. Они еще больше уверились в необходимости написания повести после того, когда в октябре того же 1962 года разразился карибский кризис, и мир оказался на волоске от термоядерной катастрофы. Я не буду пересказывать повесть Стругацких (события в которой, судя по всему, происходят в далеком XXII или XXIII веке), а приведу лишь один фрагмент, который меня больше всего зацепил:

«Полсотни лет назад в Массачусетсе запустили самое сложное кибернетическое устройство, когда-либо существовавшее. С каким-то там феноменальным быстродействием, необозримой памятью и всё такое… И проработала эта машина ровно четыре минуты. Её выключили, зацементировали все входы и выходы, отвели от неё энергию, заминировали и обнесли колючей проволокой. Самой настоящей ржавой колючей проволокой — хотите верьте, хотите нет».

Судя по всему, это первое в художественной литературе описание того, как человечество отреагировало (вернее — должно отреагировать) на появление сверхразума в виде искусственного интеллекта (ИИ). Реакция моментальная и очень жесткая. Книг с яркими названиями, содержащими словосочетания «бунт против машин» или «восстание против машин» пока почти нет. Говорю «почти», потому что одна книга мне известна. Это роман «Восстание против машин. Возвращение свободы», его автор Г. М. Чернова; книга издана в 2024 году. В нем описываются события в 2050 году, когда искусственный интеллект, называемый «НеоОс», захватил власть на планете. Люди стали рабами машин. Против власти машин выступили люди, объединившиеся в организацию «Человеческий фронт» (возглавил его человек по имени Алексей Волков). Соединяя свои лучшие духовно-нравственные качества и данный им Богом интеллект, они в конце концов одерживают победу над машинами. 
В последнее время журналисты придумали новый термин: «луддиты ИИ». Это очень обширный контингент людей самых разных видов деятельности и профессий. Это в том числе специалисты из самой отрасли ИИ, которые считают, что джин искусственного интеллекта уже выпущен из бутылки. И они признают, что не знают, как этого джина загнать в бутылку обратно. Этот джин несравненно страшнее того вируса COVID-19, который держал человечество в напряжении более двух лет. 
Луддиты ИИ, конечно, не собираются громить дата-центры или другие объекты, составляющие инфраструктуру ИИ. Они призывают поставить под контроль разработку новых моделей ИИ. Пока еще не наступил момент, когда ИИ окажется «умнее» человека и поставит его под свой контроль. Эксперты говорят, что до точки невозврата осталось несколько лет (а некоторые уверены, что несколько месяцев). Тот же ИИ (пока еще по заказу человека) составляет списки тех профессий и видов деятельности, по которым замещение людей роботами произойдет в самое ближайшее время. Списки разные, но очень похожие. 

Я обратил внимание на то, что среди кандидатов на замещение искусственным интеллектом в первых строчках списков стоят переводчики. За ними следуют писатели и журналисты. Если раньше о «бунте машин» и «бунте против машин» писали люди, то в ближайшее время за это творчество могут взяться роботы. Понятно, что их точка зрения на данный вопрос будет диаметрально противоположной.

​