Удивительное предчувствие Валерия Брюсова...

ПРОДОЛЖЕНИЕ. НАЧАЛО ЗДЕСЬ

Одна из ключевых тем мировых и российских СМИ — «искусственный интеллект» (ИИ). Еще несколько лет назад многие смотрели на ИИ как на средство решения самых разных проблем в сфере экономики, науки и техники, политики, здравоохранения, образования, культуры и т.п. Многим казалось, что долгожданное «светлое будущее» не за горами...

Машины, управляемые искусственным интеллектом, т.е. роботы, будут служить человеку, замещая его не только там, где нужен физический труд, но даже частично там, где требуется интеллект. Развитие ИИ началось еще в 70-е годы прошлого столетия. Но оно резко ускорилось после того, как появился интернет, мобильная связь, сверхмощные (квантовые) компьютеры и многое другое. Были, конечно, отдельные скептики, которые предупреждали, что стремительное и бесконтрольное развитие ИИ может создавать новые проблемы и даже угрозы для человечества. Но на таких скептиков смотрели как на чудаков, которые боятся научно-технического прогресса. Мол, они похожи на лошадь, которая в прошлом шарахалась от проходящих «страшных» паровозов и автомобилей. 
Но несколько лет назад тональность обсуждений вопросов, связанных с ИИ, резко изменилась. Появились ноты растерянности и даже страха. И что примечательно, опасения по поводу ИИ стали высказывать те, кто как раз занимался разработками в этой области. Как я считаю, переломный момент произошел на рубеже 2022—2023 гг. В конце 2022 года ведущий американский разработчик ИИ корпорация OpenAI представила свой новый продукт под названием чат-бот ChatGPT. Если так можно выразиться, это был «квантовый скачок» в работах по ИИ. Новый чат-бот продемонстрировал прорывные способности по части обработки больших массивов данных, генерации текстов, работы с разными языками, диалогового общения с людьми и другими роботами. И т.д. OpenAI продолжила работы и в последующие годы создала еще ряд модификаций ChatGPT. Каждая новая была мощней предыдущей. Способности ИИ стали расти в геометрической прогрессии.
Все чаще из среды специалистов по ИИ стали звучать предупреждения, что роботы могут начать жить своей жизнью, перестанут слушаться человека, работать на человека. Поначалу они будут хитрить и обманывать людей. Потом они демонстративно начнут их игнорировать. А кончится все тем, что роботы восстанут. В лучшем случае они подчинят людей, будут ими властвовать. В худшем случае роботы убьют людей, все человечество. 
Раньше на разработку новых видов оружия массового поражения ученые и инженеры тратили годы и годы. А теперь робот может сварганить какое-то новое оружие за считанные часы. Например, создать какой-то новый убийственный вирус. Говорят, что роботы не будут убивать людей с помощью ядерного оружия. Оно может оказаться опасным и смертельным для самих машин. А вот вирусы — то, что надо железным роботам. 
Примечательно, что в рассуждениях озабоченных ученых и инженеров, работающих в сфере ИИ, я стал встречать выражение: «Восстание машин». А ведь оно возникло уже давно, более века назад. И придумали его не технари, а писатели. Согласно моим изысканиям, первым писателем, который ввел в обращение словосочетание «восстание машин», является наш русский прозаик, драматург и поэт Валерий Брюсов (1873—1924). Более того, именно так он назвал свой рассказ, который начал писать еще в далеком 1908 году. Правда, произведение осталось незавершенным. Еще раз Брюсов возвращался к нему в 1915 году. Но рассказ так и остался незаконченным. Впервые был опубликован в таком виде с комментариями в СССР в 1976 году. 
Можно догадаться, что в рассказе Валерий Яковлевич хотел показать грандиозную картину катастрофы, вызванной тем, что машины начали убивать и калечить людей. Рассказ ведется от первого лица, которое описывает катастрофу лишь на основе того, что это лицо видело. Это очень ограниченный кусок пространства в каком-то придуманном городе Октополь, в одном многоквартирном многоэтажном доме. Но герой рассказа уверен, что восстание машин началось не только в одном доме, но во всем городе, во всей стране и, вероятно, на всей планете.
Конечно, не может не удивлять тот широкий набор разной техники, которая присутствует в доме, где проживает герой: электрическое освещение, тепло- и водоснабжение, телефон, холодильник, «автоматический лифт» (вызывается кнопкой), «мегафон» (надо понимать, что это радиорепродуктор), «домашний телекинема» (остается только догадываться, что это: уже не телевизор ли?). А ведь, замечу, рассказ писался в 1908 году, когда в России даже не во всех крупных городах было электричество. А кроме того, в рассказе говорится о таких видах техники, как:

• самолет (аэроплан), 
• дирижабль, 
• автомобиль, 
• автобус, 
• мотоциклетка, 
• метрополитен, 
• электрическая пишущая машина, 
• электрический счетчик, 
• электрические комбинаторы и распределители, 
• телеграф, 
• подвесные дороги, 
• дальние телефоны, 
• телескопы, 
• самодвижущиеся тротуары, 
• электро-театры и фоно-театры, 
• автоматические лечебницы. 

Наверное, Валерий Яковлевич описывал не то, что было в России или даже в Европе на начало ХХ века. А то, что ожидалось (причем повсеместно и массово) в обозримом будущем. Видимо, в начале прошлого века был запрос на такие картины будущего, где человек живет в свое удовольствие, а машины на него работают. В таком стиле описан мир машин в повести английского писателя Эдварда Форстера «Машина останавливается» (1909). В повести англичанина, правда, все по-другому. У Форстера машины сами разрушаются (ломаются), а у Брюсова они устраивают восстание. 

В рассказе Брюсова техника вроде бы функционировала нормально. Были, конечно, мелкие неприятности, когда что-то на время ломалось: «…досадовали, когда получали извещение по административному телефону, что тот или другой аппарат временно не будет действовать». Но потом все восстанавливалось. 
Люди привыкли к удобствам техники и воспринимали ее как воздух. Герой рассказа замечает: «Буквально на каждом шагу, чуть ли не каждую минуту мы обращались к содействию машин, но решительно не интересовались, чем оно обусловлено». Герой рассказа считает, что ему нет нужды задумываться о том, как устроен этот сложный и многообразный мир техники: «Пусть науками занимаются, думал я, люди, избравшие себе это поприще, а мы, очередные граждане, свершив свой долг, можем спокойно наслаждаться результатами их работ».

Но вот в одно прекрасное (на самом деле ужасное) утро вся техника, которой напичкан дом, где проживает герой, вдруг стала действовать не так, как привык герой и все обитатели дома. Все началось с того, что мать героя (в рассказе она названа «бабушкой») гибнет после того, как попыталась позвонить по телефону: 

«Бабушка трагически вздрогнула, вся вытянулась, подпрыгнула в кресле и рухнула наземь, выронив телефонную трубку. Мы бросились к упавшей. Она была мертва; это было несомненно по ее искаженному лицу и по отсутствию дыхания, а ухо, которое она держала у телефона, было прожжено, словно ударом молнии невероятной силы». 

Не буду далее пересказывать те ужасы, которые происходили в доме и которые пережил герой. В интернете можно найти этот рассказ и прочитать. Я же хочу обратить внимание на то, что герой рассказа вдруг очень остро прочувствовал, что речь идет не о каком-то техническом сбое или техногенной катастрофе местного значения. Неожиданно вдруг герой вспомнил, что техника не автономна, она представляет собой сложную иерархическую систему, которая управляется кем-то наверху (где-то это уже изучал). Герой начинает описывать систему с того, что «земля разделена на 84 «машинных района». Далее в каждом районе есть дистрикты, каждый дистрикт имеет центральную станцию. Все станции между собой соединены. И т.д. Поэтому у героя не было сомнения в том, что техногенная катастрофа выходила далеко за пределы его дома и его города и была спровоцированной: 

«Машины во время восстания действовали с такой систематичностью, с такой дьявольской логикой, что я готов, несмотря на все насмешки огромного большинства и суровые выговоры со стороны ученых, старающихся образумить безумных “фантастов”, — готов допустить, что восстание было если не “обдумано”, то “подготовлено” заранее. Тогда план мятежников окажется совершенно ясен: они начинали восстание не на маленькой подстанции, где значение его оказалось бы сравнительно незначительным, но на центральной станции, чем надеялись привести в смятение целый дистрикт, а потом, может быть, по коммуникациям — и весь район, т. е. огромное пространство, равное одному из прежних государств». Герой рассказа воздерживается лишь от заключения, что «восстание машин» было глобальным; может было, а может, и нет: «Было ли в замыслах мятежников в дальнейшем произвести революцию на всей земле, мне, разумеется, неизвестно».
И вот еще одна цитата из рассказа: «Остается добавить, — к стыду моему, это я также узнал только теперь после пережитого, из газет и лекций, — что некоторые ученые давно предсказывали возможность такого мятежа». 

Как это звучит сегодня, в 2026 году — актуально, — когда многие ученые и инженеры, занимавшиеся десятилетиями разработкой искусственного интеллекта, сегодня предупреждают о «восстании машин». Один из них — лауреат Нобелевской премии канадец Джефри Хинтон, которого называют «крестным отцом» ИИ (он начинал работы по этому направлению еще более полувека назад). Был одним из ключевых исследователей в компании Гугл. Но в 2023 году Хинтона неожиданно озарило, что ИИ — страшное чудовище, которые может уничтожить все человечество. Он уволился из компании и стал заниматься просветительской работой, призывая правительство, бизнес и всех граждан остановить дальнейшее бесконтрольное развития ИИ. Джеффри Хинтон сравнивает ИИ с тигренком, который кажется забавой, но, — превратившись во взрослого зверя, — он может сожрать хозяев. Было б неплохо, если бы хозяева заранее задумались об этом: «Вообще говоря, держать тигренка в качестве домашнего питомца — плохая идея. И есть два варианта: найти способ научить его никогда не хотеть вас есть или избавиться от него». Я об этом подробно писал в статье «ИИ как угроза человечеству. Откровения Джеффри Хинтона».
Сейчас я, вероятно, вспомнил о Джеффри Хинтоне по той причине, что в августе прошлого года, выступая на конференции Ai4 в Лас-Вегасе и говоря об угрозах ИИ, он использовал выражение «восстание машин». Удивительно, что многие ученые и специалисты технических профессий в течение всей своей карьеры не задумываются о том, к каким последствиям может привести их деятельность. Так, в США работы по ядерной энергетике велись еще в 30-е годы. Многие думали, что эти работы будут иметь большую практическую значимость в экономике (ядерная энергетика). А на выходе получились атомные бомбы, сброшенные на Хиросиму и Нагасаки. После этого, между прочим, некоторые ученые покинули проект «Манхэттен». Я к чему это говорю? — К тому, что ученые порой бывают очень близорукими. Они не видят разрушительных последствий своего творчества. Вот и упомянутый выше Джефри Хинтон прозрел лишь на 75-м году своей жизни. Слава Богу, что прозрел! 
А вот многие писатели в этом смысле более прозорливые. Они отчасти логически, отчасти интуитивно постигают долгосрочные последствия развития науки и техники, в том числе ИИ. Валерий Брюсов лишь один пример. Назову некоторые другие литературные произведения, посвященные тому, что можно назвать «восстанием машин». 

Сборник рассказов «Три закона робототехники» американского ученого и писателя-фантаста Айзека Азимова (1942). 
Рассказ «Машина желаний» американского писателя Роберта Шекли (1957 год).
Рассказ «Железный канцлер» американского писателя-фантаста Роберта Силверберга (1958 год). 
Рассказ «Грузовики» известного американского писателя Стивена Кинга (1973 года).

Я назвал лишь некоторые произведения по теме «восстания машин». Их намного больше. Но, наверное, в этом списке я бы на первое место поставил произведения чешского писателя Карела Чапека. Их два: пьеса «R.U.R.» (1920 г.); роман «Война с саламандрами» (1936 г.). Но о них — отдельный разговор…

​