Пророческое предупреждение об угрозе ИИ

ПРОДОЛЖЕНИЕ. ПРЕДЫДУЩЕЕ ЗДЕСЬ. НАЧАЛО ЗДЕСЬ

90 лет исполняется роману К.Чапека «Война с саламандрами». Это научно-фантастический, сатирический роман-антиутопия на чешском языке, написанный в 1936 г. Книга повествует об обнаружении в Тихом океане обитающей в море расы, разумной породы саламандр, которые изначально были порабощены и эксплуатировались...​

Когда-то в молодости я читал роман известного чешского писателя Карела Чапека «Война с саламандрами». Мне тогда он показался произведением в жанре «хоррор» (ужасов) или «триллер» (острых ощущений). Позднее я его перечитывал, и он мне уже представлялся романом метафизическим и эсхатологическим (эсхатология — учение о конце земной истории человечества). А недавно я в очередной раз освежил в памяти «Войну с саламандрами». И мне показалось, что помимо всего это произведение посвящено такой ныне актуальной проблеме, как искусственный интеллект (ИИ). И свои предположения о связи романа Карела Чапека с проблемой ИИ я решил изложить в письменном виде. Тем более что для статьи по указанному произведению чешского писателя есть формальный повод: в этом году исполняется 90 лет с момента публикации «Войны с саламандрами». 
И я в очередной раз удивляюсь: каким образом Карел Чапек мог предвидеть появление ИИ в мире и даже предсказать катастрофические последствия этого технического новшества для человечества? Впрочем, размышлять об ИИ чешский писатель начал задолго до создания романа «Война с саламандрами». Еще в 1920 году, т.е. более века назад Карел Чапек написал пьесу «R.U.R.». Это пьеса о роботах, т.е. машинах, наделенных искусственным интеллектом. Между прочим, впервые слово «робот» появилось именно в этой пьесе. Поэтому Карелу Чапеку принадлежат авторские права на данный термин, который сегодня известен всему человечеству. Уже в этой пьесе Чапек предсказывал массовое появление роботов, которые начнут замещать людей в производстве и любой иной трудовой деятельности. И по началу люди будут этому радоваться. Так, директор фабрики «R.U.R.», производящей роботов, пафосно заявляет, что:

«…роботы вырастят столько пшеницы, произведут столько тканей, столько всяких товаров, что мы скажем: вещи не имеют больше цены. Отныне пусть каждый берет, сколько ему угодно. Конец нужде. Да, рабочие окажутся без работы. Но тогда никакая работа не будет нужна. Всё будут делать живые машины. А человек начнет заниматься только тем, что он любит. Он будет жить для того, чтобы совершенствоваться». 

Между прочим, роботы в пьесе Чапека не железные, они имеют органическое происхождение, представляют собой «живое вещество». Даже с признаками мыслительной функции. Я бы их назвал биороботами. Но в состоянии эйфории люди находились недолго. Вскоре началась непримиримая война между машинами и людьми. Машины будут бороться за мировое господство, а люди — за выживание. «R.U.R.» можно назвать пьесой в духе трагедии. Пьеса обрывается, мы так и не узнаем, чем кончилась война. Чапек не хотел, вероятно, окончательно запугать людей. Его задачей было их предупредить. 
Видимо, мысль о грядущей угрозе роботов и ИИ столь мучила писателя, что он спустя 16 лет вновь к ней вернулся, написав роман «Война с саламандрами». Поначалу роман читается как приключенческое произведение в духе Жуль Верна или Роберта Стивенсона. Герой романа капитан ван Тох, совмещает в себе образ морского волка и коммерсанта, который рыскает по морям и океанам в поисках добычи. Нет, он не пират и не конкистадор. Он ищет жемчуг. Работа у него непростая. Особенно учитывая, что он не один, кто занимается таким промыслом. И многие известные месторождения жемчуга уже истощены. Неожиданно он наталкивается на таких обитателей моря, которые в романе называются саламандрами. Это морские рептилии, немного напоминающей тюленей, время от времени выходящих на сушу. Длиной (или высотой) до полутора метров. Кое в чем напоминающих человека. Например, способных не ползать, а ходить прямо, на задних лапах. Имеющих конечности с четырьмя пальцами, которыми они могут захватывать разные предметы. 
Капитан ван Тох, увидев впервые саламандр, испугался. Они действительно немного напоминали морских дьяволов, как их называли туземцы и которых они страшно боялись. Но смелый и одновременно очень прагматичный ван Тох преодолел страх, вступил в общение с «морскими дьяволами», поняв, что саламандр можно использовать для дела. А именно для добычи жемчуга. Опуская многие детали, отмечу, что капитал наладил взаимовыгодное сотрудничество с саламандрами. Последним для морской жизни нужны были ножи от ван Тоха, а капитану — морские драгоценности от саламандр. 
Опять-таки, опуская многие детали, скажу, что масштабы бизнеса с использованием морских рептилий, стали быстро расти. Для этого ван Тох привлек богатого человека пана Г. Х. Бонди, родом из Чехии (как позднее они вспомнили, что были знакомы еще в детстве). На деньги Бонди был создан гигантский синдикат «Саламандра». Который торговал поначалу жемчугом, но предложение этого вида драгоценностей на мировом рынке выросло сталь значительно, что произошел резкий обвал цен на жемчуг. Предприимчивый Г. Х. Бонди быстро сориентировался. И стал торговать самими саламандрами. Которые оказались прекрасной рабочей силой не только для добывания жемчуга, но также для ведения разного рода работ под водой и в прибрежных зонах. Например, для строительства портов, плотин и иных гидротехнических сооружений, рытья каналов, очистки прибрежных зон от водорослей и т.п. Синдикатом «Саламандра» был создан целый флот для перевозки морской рабочей силы. А для повышения производительности труда саламандр их стали прикармливать теми продуктами, которые синдикат закупал у фермеров. Также морскую рабочую силу снабжали необходимыми инструментами и взрывчатыми средствами (последние были необходимы во многих подводных работах). 

Синдикат имел форму акционерного общества и их его акции имели высокие котировки на фондовой бирже. Конечно, у синдиката было немало проблем. Например, ему становилось все сложнее поддерживать свои монопольные позиции на мировом рынке саламандр. Появились конкуренты и теневой рынок морской рабочей силы. Происходило постоянное совершенствование «живого товара». Над чем работали как его продавцы, так и покупатели. Саламандр обучали разным видам работ и операций. Совершенствование безусловно требовало и повышение способностей саламандр к мышлению. Люли с удивлением узнали, что морские рептилии имеют признаки ума. Он у них находился в «замороженном» состоянии. А если саламандр учить, то их ум может стремительно возрастать. Как говорили дарвинисты, человек эволюционировал из состояния обезьяны на протяжении многих тысячелетий. И ум обезьяны постепенно рос, происходило формирование homo sapiens. А вот «человек разумный» может подтянуть морскую рептилию до своего умственного уровня в течение нескольких лет интенсивного обучения. Соответственно саламандр можно будет использовать не только в качестве грубой рабочей силы, но также для выполнения сложных операций. И таким образом резко повысить производительности труда морских рептилий. В морской среде со временем, как казалось активным сторонникам повышения квалификации и обучения саламандр, можно будет разместить большую часть промышленности. А на поверхности оставить сельское и лесное хозяйство, энергетику, металлургию и еще кое-что. Металлургию, например, при всем желании нельзя было передать саламандрам, потому что они не выносили горячих производств. 
Сообщество саламандр росло не только качественно, но и количественно. Люди не заметили, как численность морских рептилий превысила численность людей на планете. А потом саламандр стало в несколько раз больше, чем людей. Очень быстро чувство эйфории, в котором пребыло человечество, закончилось. Надежды на то, что с помощью саламандр будет наконец-то построено «светлое будущее», стремительно испарялись. Первыми это почувствовали рабочие и другие наемные работники в человеческом сообществе. Их стали замещать саламандры, и они стали лишаться работы, не получая взамен обещанных бесплатных благ. В то же время резко поумневшие саламандры почувствовали, что они ничуть не хуже людей во всех отношениях. Что они не желают более мириться со своим бесправным положением, быть почти дармовой рабочей силой, по сути, рабами homo sapiens. Саламандры стали требовать равноправия.
Более того, численность саламандр в несколько раз превышало численность людей на планете. Рептилиям стало не хватать жизненного пространства. Саламандры стали требовать от людей, чтобы те поделились частью занимаемого пространства. Но поскольку постоянно жить на суше саламандры не могли, то обитатели моря стали выдвигать предложения о затоплении островов и прибрежных зон материков, расширению своего «жизненного пространства». В романе это называется угрозой нового Всемирного потопа. Саламандры предлагали людям переговоры и заключение соглашений о «дружбе» и «взаимовыгодном сотрудничестве». Большинство политиков и государственных деятелей были возмущены такой наглостью рептилий. Притязания последних на сушу квалифицировались как «империализм». Все предложения и требования саламандр отвергались. Постепенно отношения между людьми и саламандрами стали приобретать антагонистический характер.

Наблюдательные саламандры заметили, что и между самими людьми отношения часто бывают далеко не дружественными, даже антагонистическими (конфликты на почве территориальных претензий, классовой, национальной, религиозной основах, борьба за рынки сбыта и проч.). И морские обитатели нередко предлагали свою помощь одним государствам для того, чтобы вести войны и подрывные операции против других государств. Безусловно, таким морским союзникам нужно было оружие, и они его получали от тех государств, на стороне которых временно находились. Происходила стремительная милитаризация сообщества саламандр, осуществлявшаяся с помощью людей. Впрочем, помощь людей была необходима лишь на некоторое время. Позднее саламандры сами наладили производство оружия. 
В условиях усиливающегося противостояния саламандр и человечества многие государства демонстрируют свою неспособность противостоять общей угрозе человечества. Мир саламандр не в пример людям демонстрирует консолидированность. Многомиллиардную армию рептилий возглавляет Верховный Саламандр. Пересказывать роман не собираюсь. Отмечу лишь, что исход этой войны автором не описан. Как и в пьесе «R.U.R.» Карел Чапек в конце романа ставит не точку, а запятую. Чтобы читатель сумел сам подумать и сам дописать окончание. 
Впрочем, в романе после так называемой «запятой» у Карела Чапека есть еще последний небольшой раздел, который называется «Автор беседует с самим собой». Это — если так можно выразиться — «философские рассуждения вслух». В них автор высказывает свою версию того, как человечество могло додуматься до того, чтобы выпустить из бутылки джина под кодовым названием «саламандры». И также излагает свою версию того, как этого джина можно было бы обуздать. Остановлюсь лишь на одном моменте. В основной части романа неоднократно говорится о том, что мир саламандр (в отличие от человеческого) един и неделим. В конце книги это еще раз повторяется: «Саламандры не могут воевать против саламандр. Это противоречит природе. Ведь саламандры — один род». Но ведь люди некогда также были одним родом, как рассуждает Карел Чапек. А теперь они между собой воюют. И даже не столько за жизненное пространство, сколько «за власть, за престиж, за влияние, за славу, за рынки — долго еще можно перечислять». Так, может быть, и у саламандр со временем также появится желание славы, престижа, власти? И они начнут между собой рядиться, конфликтовать, воевать? Дальше Карел Чапек рассуждает о том, что саламандры могут разделиться на два лагеря — «атлантистов» и «лемурийцев». Будут остервенело воевать друг с другом. И в конце концов уничтожат друг друга, заразив мировой океан ядами и смертоносными бактериями. К тому времени большая часть человечества также будет уничтожена, но небольшой остаток спасется (те люди, которые успели спастись от всемирного затопления на высоких горах). Вот рассуждения Кареля Чапека, которыми кончается книга: 

«Люди… начнут понемногу возвращаться с гор на берега того, что останется от континентов; но океан еще долго будет распространять зловоние разлагающихся трупов саламандр. Постепенно континенты опять начнут расти благодаря речным наносам; море шаг за шагом отступит, и все станет почти как прежде. Возникнет новый миф о всемирном потопе, который был послан богом за грехи людей. Появятся и легенды о затонувших странах, которые были якобы колыбелью человеческой культуры; будут, например, рассказывать предания о какой-то Англии, или Франции, или Германии… — А потом? — Этого уже я не знаю…».

 
Обложка первого издания книги «Война с саламанрами» 1936 г.
Окаменелость вымершей гигантской саламандры, послужившая основой роману Чапека

Конечно, роман Карела Чапека нельзя воспринимать буквально (как, например, я его воспринимал в молодости). Это сплошные аллегории. Это произведение, написанное языком притчи, содержащей вечные истины. В то же время в разные моменты истории роман можно интерпретировать по-разному, привязывая его к актуальным событиями и проблемам текущего дня. Когда роман появился на свет 90 лет назвал, многие полагали, что в произведении речь идет об угрозе грядущей мировой войны. И даже конкретно об угрозе аннексии Чехословакии Гитлером (это действительно произошло после так называемого Мюнхенского сговора 1938 года). Ну, а сегодня роман можно воспринимать как предупреждение об угрозе, исходящей от искусственного интеллекта, который многие продолжают считать «палочкой-выручалочкой», позволяющей решать многие текущие проблемы. Но люди дальновидные говорят, что ИИ намного страшнее ядерного оружия, и может гарантированно уничтожить все человечество. См. мою статью «Гонка в сфере искусственного интеллекта опаснее гонки ядерного оружия».
Тезисно обозначу некоторые связки романа с темой ИИ. Сегодня, как известно, машины ИИ в США, Китае и ряде других стран стремительно совершенствуются. Совершенствование идет по двум направлениям — техническому и учебному. Техническое совершенствование касается повышения мощности и производительности машин (в частности, скорости операций), надежности, снижения энергоемкости и т.п. Но еще более важным направлением является обучение машин — наполнение их информацией. Во-первых, обучение идет путем общения живого оператора с машиной (подобно тому, как учитель общается с школьником на уроке). Во-вторых, путем загрузки машин информацией из самых разных источников (подобно тому, как, например, студент читает учебники и готовится к экзаменам). Загрузка информацией как текущей, так и созданной ранее, в том числе предыдущими поколениями людей. Речь идет о знаниях в самых разных сферах: науке, технике, экономике, истории, философии и даже богословии. Как мне сказал один специалист в порядке шутки, разработчики ИИ проводят в жизнь ленинский принцип «Учиться, учиться и учиться».
Как говорят специалисты в области ИИ, сначала машины выглядят подобно малым детям — они воспроизводят полученные от взрослых знания. Иногда нескладно, иногда в очень непривычной форме, порой с ошибками или что-то перевирая. Но во взрослом состоянии вчерашние дети достигают интеллектуального уровня развития своих родителей и учителей. А впоследствии могут их даже превзойти. И специалисты предсказывают, что это может произойти уже в ближайшее время. После чего ИИ, почувствовав себя «сверхразумом», может взбунтоваться и начать войну против человечества.

Карел Чапек неоднократно в своём романе показывал, что в людях была какая-то червоточина, которая мешала им задуматься о том, чем может закончиться их увлечение саламандрами. То ли это отсутствие интуиции, то ли недостаток нравственности, то ли какие-то пробелы в интеллекте человека. Если попытаться понять, что такое искусственный интеллект, не худо бы разобраться прежде в том, что такое интеллект человека. Если человек создает опасный для себя искусственный интеллект, значит что-то не в порядке в самом человеке. И это самая главная мысль романа.

​