Эдвард Форстер еще в начале прошлого века предупреждал: не полагайтесь слишком на «умные» машины

ПРОДОЛЖЕНИЕ. ПРЕДЫДУЩЕЕ ЗДЕСЬ. НАЧАЛО ЗДЕСЬ

В своих предыдущих статьях я говорил о том, что «умные» машины, т.е. роботы, могут стать умнее людей и выйти из подчинения человека. И даже начать войну с человечеством. В частности, этому посвящена пьеса Карела Чапека «R.U.R.» (1920 г.), о который я писал в статье «Пьеса Карела Чапека и пророчество о мире роботов»...

За последнее столетие на тему «восстание машин» написано громадное количество литературных произведений во всем мире, в том числе в нашей стране. Кто-то писал в жанре научно-технической фантастики, кто-то в жанре антиутопии, кто-то в жанре триллера. Плюс к этому бесчисленное количество фильмов. А в 2003 году на экраны вышел фильм, который так и называется: «Терминатор 3: Восстание машин». Но возможны и другие неприятности для человечества, порождаемые бурным развитием «умных» машин. Люди начинают привыкать к тому, что за них все делают машины, даже думают. Человеку остается только наслаждаться бездельем, подавая машинам голосовые сигналы или нажимая кнопки. Наверное, в прошлом для большинства людей труд был тяжкой обязанностью, и они хотели ослабить это бремя. Но когда началось бурное развитие науки и техники, люди впали в другую крайность: они захотели полностью эмансипироваться от труда. Не понимая, что это неизбежно повлечет за собой ментальную и физическую деградацию человека. 
Даже когда Адам и Ева находились в раю, Бог им заповедовал возделывать и хранить Эдемский сад (Бытие 2:15). Это можно рассматривать как первую заповедь о труде. Об этом же и четвёртая из Десяти заповедей, которые Моисей получил от Бога на горе Синай (Исход 20:9—10): «Помни день субботний, чтобы проводить его свято: шесть дней работай и делай в продолжении их все дела твои, а день седьмой — день покоя (суббота) посвящай Господу Богу твоему».
Человек, который уклоняется от труда, рано или поздно так или иначе будет наказан. В Европе в Новое время стали появляться философы и писатели, которые рисовали утопические картины светлого будущего, в котором человек будет предаваться одним лишь наслаждениям, ни в чем себе не отказывая. Этакий рай не земле. Конечно, для достижения такого «светлого будущего» в первую очередь следовало обеспечить справедливость в обществе. Однако этого было недостаточно для того, чтобы бездельничать. О полном и всеобщем безделье стали мечтать лишь в XIX веке, когда в Англии проходила промышленная революция, замещавшая физический труд станками и паровыми машинами. От машин для простого народа были одни лишь неприятности, потому что они создавали безработицу. В Англии первой четверти XIX века проходили стихийные протесты против внедрения машин. Они получили название движения луддитов (первый в истории бунт против машин). Но некоторые писатели и философы смотрели далеко вперед и были уверены, что наступят времена, когда люди будут приветствовать внедрение машин. И машины будут служить человеку, причем не только в производстве, но и в быту. 
И английский писатель Эдвард Форстер (1879—1969) описал такой новый дивный мир в своем произведении «Машина останавливается» («The Machine Stops»). Прежде чем говорить о нем, кратко сообщу об ее авторе. В Англии писатель стал известным после его романов:

«Куда боятся ступить ангелы» (1905), 
«Самое длинное путешествие» (1907), 
«Комната с видом» (1908),
«Хауардс-Энд» (1910). 

Всемирную известность ему принес роман «Поездка в Индию» (1924). Кстати, кандидатуру Форстера несколько раз рассматривали в комитете по Нобелевским премиям. Но Нобелевской премии по литературе он так и не удостоился. Теперь о произведении Форстера «Машина останавливается». Некоторые называют его рассказом, другие — короткой повестью (примерно три десятка страниц). Рассказ появился в 1909 году в журнале Oxford and Cambridge Review. Издание, хотя и весьма авторитетное, однако имеющее узкий круг читателей. О рассказе широкая читательская аудитория узнала лишь в 1928 году, когда он был издан в виде небольшой книжицы. Известная британская поэтесса и критик Эдит Ситуэл в том же 1928 году оценила этот рассказ очень высоко: «Я думаю, что это самый значительный рассказ нашего времени». Спустя несколько десятилетий, в 1973 году рассказ был включён в сборник лучшей англоязычной научной фантастики «The Science Fiction Hall of Fame». 
Где-то встречал оценку рассказа Форстера, выраженную словами «бунт человека против машины». Рассказ английского писателя действительно был дерзким вызовом научно-техническому прогрессу, на который в начале ХХ века буквально молились. Примечательно, что в том же 1909 году был обнародован Футуристический манифест Филиппо Томмазо Маринетти (одного из главных идеологов итальянского фашизма), в котором машины в отличие от Форстера прославлялись. 
В рассказе описывается жизнь людей, которые перманентно пребывают в искусственном мире, насыщенном разной техникой. Причем этот искусственный мир находится под землей. Чем-то напоминает комфортный бункер. Причем все обитатели подземного мира разъединены, каждый пребывает в своем персональном бункере (или одиночной камере) с электричеством, водоснабжением, канализацией и вентиляцией. С доставкой всего необходимого по специальным трубопроводам. Между собой они общаются посредством телефонов. Кроме того, они могут друг друга лицезреть с помощью специальных аппаратов. Прямо как сегодняшняя аудио- и видеосвязь. В каждом бункере все автоматизировано, надо лишь нажать кнопку и получить желаемое. Вот описание этой комнаты-бункера: 

«Кнопками и выключателями были утыканы все стены — кнопки для получения еды, одежды, для включения музыки. Если нажать вот на эту, из-под пола поднимется мраморная ванна, наполненная до краев горячей деодоризованной водой. Для холодной ванны — другая кнопка. И, разумеется, множество кнопок для общения с друзьями. В этой комнате, совершенно пустой, можно было получить все, что угодно».

Время между сном обитатели бункеров заполняют погружением в музыку, просмотром фильмов или прослушиванием лекций. Судя по всему, всеми бункерами управляет централизованно одна Машина. Весь этот подземный мир можно назвать гигантской сверхкомфортной тюрьмой. Но обитатели бункеров себя не считают заключенными. Они по-своему счастливы. У них, как ни странно, нет особого желания общаться друг с другом «вживую» (как сегодня сказали бы — offline), достаточно общения «дистанционного» (online). «Живые» контакты бывают, но очень редко. И уж тем более без рукопожатий, объятий и поцелуев: «Люди давно уже не дотрагивались друг до друга. Этот обычай устарел в эпоху Машины».
Также у них не возникает желания выбраться на поверхность земли и увидеть солнце, голубое небо или полюбоваться ночными звездами. Некоторые лишь очень смутно представляют все это. Для них наземный мир — как иная галактика в космосе. А те, кто знают об этом наземном мире, скорее всего просто боятся подняться наверх. Потому что им говорили, что там, на поверхности земли обитают какие-то дикари. А встреча с ними опасна. 
Рассказ начинается с описания жизни героини по имени Вашти. Она живет в своем бункере так же, как и другие обитатели подземного царства. Думает и рассуждает она как типичный представитель подземного мира. У этой женщины есть сын по имени Куно. Который живет в другом бункере и с которым она общается дистанционно. Но Куно, с ее точки зрения, странный юноша, так как мечтает о настоящей встрече с матерью. Он мечтает о том, что сегодня некоторые назвали бы «offline communication». Мать не понимает Куно с его странным менталитетом. Вот фрагмент их горячих споров между матерью и сыном: 

«Но я могу видеть тебя! — воскликнула она. — Что вы еще хотите?» — «Я хочу видеть тебя не сквозь Машину, — сказал Куно. — Я хочу говорить с вами не через утомительную Машину». — «Ой, тише! — сказала его мать, слегка потрясенная. — Вы не должны ничего говорить против Машины».

Куно в бункере чувствует несвободу и мечтает подняться на поверхность земли. Он один раз вопреки запретам уже вырывался из подземелья, он видел солнце и небо, он вдыхал настоящий воздух. Он видел там людей, которых в подземелье называли «дикарями». Но вскоре какая-то машина его схватила и вернула в подземелье. После этого Куно был занесен в «черный» список. И при последующих нарушениях заведенных правил подземного мира мог быть отправлен наверх, где, как было принято считать, его ждала бы неминуемая смерть. Но Куно продолжал мечтать о настоящей жизни на земле: 

«В тех условиях жизни, которые диктовались Машиной, он никогда не был бы счастлив; он тосковал бы по деревьям, на которые можно лазить, по прозрачным рекам, в которых ему хотелось бы плавать, по лугам и горным вершинам, где он чувствовал бы себя привольно. Разве человек не должен быть приспособлен к окружающей среде?»

После многочисленных просьб Куно Вашти в конце концов соглашается встретиться с сыном, которой живет на другой стороне земного шара. Вашти летит к Куно на самолете в другое полушарие (судя по всему, самолет сверхзвуковой, т.к. полет длится всего несколько часов). Описание ее путешествия содержит много интересных деталей, касающихся техники и психологии. Например, Вашти во время полета со страхом воспринимала непривычный ей наземный мир с его солнцем, небом звездами и птицами. А вот как себя ощущали пассажиры гигантского авиалайнера: «Пассажиры сидели по своим каютам, испытывая почти физическое отвращение при мысли о возможной встрече друг с другом и мечтали поскорее снова очутиться под землей»
Уже в конце путешествия Вашти зашла в лифт, но испытала самый настоящей шок, поскольку «там находился еще один пассажир — первое живое существо, с которым она столкнулась лицом к лицу за много-много месяцев. Теперь редко кому приходило в голову путешествовать, ведь благодаря достижениям науки земля стала повсюду одинаковой». 
Не буду описывать встречу матери и сына. Там много интересных деталей, свидетельствующих о том, что Вашти и Куно — люди из разных миров. Вашти — типичная представительница подземного «нового дивного мира», а Куно — бунтарь, воспринимающий подземный машинный мир как тюрьму и мечтающий жить под небом. 

«Вашти понимала, что ее сын обречен. Не сегодня-завтра его ждала смерть. В этом мире не было места для таких, как он. Он вызывал у нее брезгливую жалость. Ей, добропорядочной и мыслящей женщине, приходилось стыдиться собственного сына!»

Машина и все подчиненные ей аппараты и коммуникации подземного мира были сконструированы, созданы и смонтированы предками тех обитателей подземного мира, которые являются героями рассказа. Техносферу, в которой жители подземелья пребывали, они воспринимали примерно так, как обычный человек воспринимает воздух, которым дышит. Обычному человеку не обязательно знать химический состав вдыхаемого им воздуха. И уже тем более знать атомарное устройство кислорода или молекулярное устройство углекислого газа. Так и обитателям подземного мира было совершенно не интересно знать, как устроена техносфера, в которой они пребывали. 
Впрочем, у части обитателей подземного мира было чисто религиозное восприятие Машины (в рассказе она везде с большой буквы), которую они считали богом, причем богом непознаваемым. Восприятию Машины как бога способствовало то, что в каждой камере имелась Книга о Машине. Она была чем-то наподобие библии подземного мира. Другие книги считались пережитками прошлого варварского мира и не приветствовались. 
В какой-то момент времени некоторые обитатели подземного мира почувствовали — что-то в их подземном существовании изменилось. Поначалу подземным жителям казалось, что это им мерещится (какие-то сбои в музыке). Но отклонения в работе техники становились все более ощутимыми. Привычно расслабленные обитатели подземного царства стали напрягаться и нервничать. Кто-то из особо верующих решил, что бог по имени «Машина» на них гневается. Прочие пришли к банальному заключению, что в машинах что-то испортилось, нарушилось. И надо их исправлять. Они начали другими глазами смотреть на те приборы, аппараты и разные технические устройства, на которое раньше не обращали особого внимания. Но смотрели примерно так, как смотрит баран на новые ворота. Обитателей подземного мира после этого обуял уже настоящий страх.

В конце концов они сумели найти чертежи Машины. Но в силу своей страшной умственной деградации они в них ничего понять не смогли. Катастрофа стремительно приближалась. Не буду пересказывать страшные последние страницы рассказа. Отмечу лишь, что главные герои рассказа — Куно и Вашти — незадолго до того, как подземный мир окончательно рухнул, волею судьбы оказались на поверхности земли. Хотя они и погибают, но успевают увидеть настоящий мир. Поэтому последние ноты рассказа скорее следует считать оптимистическими, мажорными. Я не проводил параллели между событиями и идеями, содержащимися в рассказе Эдварда Форстера «Машина останавливается», и сегодняшним миром с его Машиной под названием «Искусственный интеллект». Думаю, что вдумчивый читатель сумеет сам провести такие параллели.

​