Косма Этолийский из XVIII в. предупреждал об угрозе искусственного интеллекта

ПРОДОЛЖЕНИЕ. ПРЕДЫДУЩЕЕ ЗДЕСЬ. НАЧАЛО ЗДЕСЬ

Я уже писал о том, что в начале прошлого столетия стали появляться литературные произведения, в которых пророчески говорилось о грядущей эре искусственного интеллекта (ИИ) и роботов. Большинство романов, повестей и рассказов на эту темы содержали предупреждения будущим поколениям: «Будьте на страже и не обольщайтесь «умными» машинами!»...

На первых порах они могут быть вам слугами. Но это до поры, до времени. Из слуг они захотят стать господами и властвовать над людьми. А если люди будут сопротивляться, то машины могут объявить людям войну и начнут их убивать. Недавно обнаружил интересное эссе английского романиста Сэмюэла Батлера (1835—1902), оно называется «Дарвин среди машин» (1863). Середина 19 века. Только что Чарльз Дарвин осчастливил своих английских соотечественников теорией эволюции и происхождения человека из обезьяны в процессе «естественного отбора». Батлер решил приложить эту теорию к миру машин, которые также эволюционируют и самосовершенствуются. Трудно понять, то ли Батлер шутил, то ли всерьез думал, что машины со временем смогут обрести сознание. А со временем даже по своему интеллекту превзойти человека. Батлер предсказывал: «Мы сами создаём себе более умных преемников... Со временем мы неизбежно окажемся низшей расой». А вот как будут складываться отношения между «высшей» и «низшей расой», Батлер сказать наверняка не мог. Он в душе надеялся, что машины возьмут людей на попечение как более слабых. Подобно тому, как человек содержит кошек, собак и других домашних животных. Но, скорее всего, будет другой сценарий, когда машины поработят или даже уничтожат человека как более слабое существо. В конце эссе читаем: 

«Машины тем не менее день ото дня завоевывают над нами преимущество; день ото дня мы становимся все больше от них зависимы; день ото дня все больше людей оказываются связаны с ними узами, подобными рабству, все больше людей посвящают все свои силы развитию механической жизни. Развязка есть лишь вопрос времени, но то, что настанет час, когда машинам будет принадлежать настоящее господство над миром и его обитателями, ни один философски мыслящий человек не может ни на минуту подвергнуть сомнению».

Итак, по мнению Батлера, страшно, что человек оказывается в рабстве машин. Но еще страшнее, что он привыкает к этому рабству и не осознает его. Батлер призывает объявить войну машинам, пока еще не совсем поздно. Уж лучше полностью уничтожить машины в этой войне и вернуться в состояние первобытного человека, чем пребывать в рабстве у машин. Вот его финальный призыв: 

«Мы полагаем, что против них нужно немедленно объявить войну на уничтожение. Любая машина любого рода должна быть уничтожена доброжелателем своего вида. Пусть не будет ни исключений, ни милосердия; давайте вернемся к первобытному состоянию нашей расы. Если нам скажут, что при современном состоянии человечества такое невозможно, это сразу же докажет, что непоправимый ущерб уже нанесен, что мы уже находимся в рабстве, что мы успели воспитать расу существ, которых не в состоянии уничтожить, и что мы не только порабощены, но и полностью примирились со своей зависимостью». 

Литературоведы считают, что указанное произведение Батлера предваряет в литературе тему «восстания машин». Ее продолжил наш поэт Валерий Брюсов в рассказе, который так и называется: «Восстание машин» (1908 г.). См. мою статью: «Удивительное предчувствие Валерия Брюсова...» Далее последовала пьеса Карела Чапека «R.U.R» (1920 г.) и его роман «Война с саламандрами» (1936 г.). Были в литературе прошлого столетия и другие, весьма неприятные сюжеты, связанные с созданием «умных» машин и их массовым использованием. Например, сюжет из рассказа английского писателя Эдварда Форстера «Машина останавливается» (1909 г.). В нем описывается технотронное общество будущего, в котором обитателей этого «чудного мира» уже в течение нескольких поколений полностью обслуживают «умные» машины. Люди полностью расслабились, разучились работать и даже отчасти думать. Неожиданно в работе машин возникают сбои. А люди не знают, что делать. Они даже не понимают, как устроены машины… См. мою статью «Эдвард Форстер еще в начале прошлого века предупреждал: не полагайтесь слишком на «умные» машины».
Как считают некоторые современные авторы, предчувствия появления в наше время ИИ были у наиболее чутких людей даже не в прошлом и позапрошлом веках, а значительно раньше. Такие предчувствия якобы были у тех, кто сочинял мифы в Древней Греции. Например, всем известен термин «ящик Пандоры». Это из мифа о Пандоре, которая была создана богами для того, чтобы мстить людям. В ящике Пандоры (правильный перевод — не «ящик», а «сосуд») находились несчастья. Пандора их открывала, они вылетали, несли людям беды и несчастья. Сегодня ИИ с его непредсказуемыми последствиями часто называют «ящиком Пандоры». Так, к 100-летию журнала Forbes американский миллиардер Илон Маск, плотно занимающийся ИИ-бизнесом, написал эссе о рисках искусственного интеллекта и назвал его «ящиком Пандоры». 
В некоторых героях древнегреческой мифологии наши современники уже видят прообразы современных антропоморфных роботов. Например, в образе гигантского бронзового исполина Талоса, фигурирующего в разных мифах, они видят созданного либо Гефестом (богом кузнечного дела и других ремесел), либо Дедалом (мастером с острова Крит) воина, поставленного для охраны острова Крит. В статье из «дзена» «Как древние греки предсказали искусственный интеллект» читаем: 

«Талос — один из первых образов искусственного человека-робота в мировой мифологии. Можно сказать, что древний исполин — прообраз современного оружия с искусственным интеллектом». Кстати, у упомянутого выше Гефеста были сделанные из золота слуги и служанки, которые были наделены разумом и умениями и помогали богу в его кузнечном деле. Этот миф показывает, как отмечается в упомянутой выше статье, что «уже в глубокой древности люди мечтали о создании человекоподобных механизмов, способных заменить или дополнить человеческий труд. Золотые слуги — не просто мифический образ, а отражение извечного стремления человечества к автоматизации, эффективности и преодолению своих ограничений через технологию». 

Но если говорить о древних мифах, то следует все-таки признать, что лишь «задним числом» современные люди усматривают в них что-то, напоминающее ИИ. К тому же в таком образном восприятии тот мифологический ИИ не выступает как угроза человеку и человечеству. Но вот есть один человек, который примерно за век до упомянутого выше С. Батлера уже предсказал угрозы, которые принесет человечеству ИИ. Это Косма Этолийский, греческий проповедник и святой (канонизирован в 1961 году), который жил в XVIII веке (1714—1779). Не буду пересказывать его захватывающе интересное житие. С ним можно познакомиться в книгах: Косма Этолийский «Слова» / пер. на рус. яз. Александра (Носевича). — М.: Святая Гора, 2009; Афанасий Зоитакис Житие и пророчества Космы Этолийского. М., 2007. Вот что сказал в своей проповеди на день памяти святого Космы (24 августа/6 сентября) о его даре пророчества митрополит Флоринский Августин Кантиотис: 

«Братья мои! Мы, люди, насколько бы учеными мы не были, не знаем, что будет даже через час. Мы, как кроты, дальше своего носа не видим. У святого Космы очи были духовные. Он летал высоко и видел так далеко, как орел, и он предвидел то, что будет через 100-200 лет, и то, что происходит в наши дни. Этот святой действительно обладал пророческим даром». 

До нас дошли его пророчества (история их появления и история того, как они дошли до нас, — обширная тема, заслуживающая отдельной статьи). Всего около 300 пророчеств (они собраны в упомянутых выше книгах). Пророчества об отдельных странах (Греции, Албании, Турции, России), о революциях и войнах, о научных открытиях и технических изобретениях, о последних временах. Многие пророчества после смерти святого были непонятны людям, а некоторые даже считали Косму сумасшедшим. Но спустя многие десятилетия некоторые пророчества стали сбываться. К сегодняшнему дню уже большая часть их сбылась. Сейчас назову лишь некоторые пророчества святого Космы, имеющие отношение к науке и технике. Причем некоторые не нужно даже особо комментировать, поскольку современному читателю понятно, что имел в виду их автор.

Предсказания появления железнодорожного и автомобильного транспорта: 

«Вы увидите, как повозка без лошадей будет мчаться быстрее зайца».
«Придёт время, и по степи будут разъезжать повозки без лошадей».
«Появятся железные лошади, передвигающиеся чрезвычайно быстро».

Предсказания появления авиации, в том числе военной: 

«По небу будут летать птицы с металлическими носами и крыльями».
«Вы увидите, как люди будут летать по небу, словно коршуны, и посылать огонь на мир. Те, кто будут жить тогда, побегут на кладбище и будут кричать: выходите, мёртвые, чтобы мы заняли ваше место».
«Вас съедят птицы с железными клювами».

Предсказания появления средств связи (телефон, радио, видеосвязь и др.): 

«Придёт время, когда люди будут разговаривать из одной дальней местности с другой, например из Константинополя с Россией».
«Придёт время, и люди смогут общаться между собой на дальних расстояниях, словно они находятся в двух соседних комнатах».
«Один будет видеть, как другой говорит с ним, и, хотя они будут находиться очень далеко друг от друга, говорить они будут, словно находятся рядом».

Предсказания появления и широкого распространения телевидения, аудио- и видеозаписи:

«Придёт время, когда дьявол войдёт в коробку и будет кричать оттуда. А из коробки будут торчать его рога».
«Придёт время, когда можно будет слышать, как умершие, говорят и даже их видеть».

Было также несколько пророчеств, в которых уже содержатся намеки на создание того цифрового мира, в котором мы сегодня оказываемся. Вот, например: «Придёт время, и дьявол будет кружить над миром на своей «штуковине» («κολοκύθι»)». Не вдаваясь в тонкости филологии, отмечу, что слово «κολοκύθι» в новогреческом имеет несколько значений. В упомянутой выше книге «Слова» переведено как «штуковина». Речь идет о спутниках, вращающихся вокруг Земли (на сегодняшний день их всего более 15,5 тысяч) и выполняющих функции связи и наблюдения, преимущественно военного назначения. И, пожалуй, ближе всего к нашей теме искусственного интеллекта следующее предсказание: «Придёт время, когда миром будут управлять αλαλα и μπαλαλα». Здесь игра двух греческих слов Αλαλα и µπαλαλα, которую трудно передать на русский язык. Примерно можно перевести как «что-то бездушное». Это как как раз информационные технологии и искусственный интеллект, которые и будут править миром, а точнее людьми. 

И вот еще слова Космы: «Руки людей не будут цениться, потому что править будут бездушные». Раньше думали, что святой говорит о людях, которых принято называть «бездушными» («бессердечными»). Но, вероятно, он имел в виду ИИ, у которого действительно нет и быть не может души. Святой Косма Этолийский весь наш новый дивный мир цифровых технологий прозревал еще два с половиной века назад и уже видел смертельные угрозы ИИ. 

​

5
1
Средняя оценка: 3.15385
Проголосовало: 13