Два главных вопроса XXI века — не один ли ответ?

«Камертон» последнее время посвятил ряд статей развитию Искусственного интеллекта, робототехники, зависимости жизни и смерти от проблем цифровизации-компьютеризации, одновременно человеческого оглупления на фоне технологического подъёма собственно (хитрых) машин, и что из всего этого по итогу выйдет. Данная статья — из этого же масс-«интеллектуального» цикла. Полный список материалов по теме — в конце текста...

Проблемы Искусственного Интеллекта ныне лидируют среди повесток конференций, тем публикаций, интернет-баталий... ИИ — лидер в тройке Главных Угроз человечеству. Вечно популярный вопрос Зарождения Жизни ныне чуть отстает: из-за неприсутствия в списке Угроз… «Зарождение? — Интересно, но сегодня речь: — про Уничтожение Жизни!» Не предлагая новых и не критикуя уже сформулированные «ответы», я затрону не их, но скорее: парадоксы, а то и пароксизмы общественного восприятия проблем ИИ и ЗЖ. А единственно гипотетический тезис (в титуле статьи) если изложить подробнее: в вопросе Зарождения Жизни — ответ и на «угрозы Искусственного Интеллекта». 
В жанре популяризатора некоторых научных теорий мне довелось беседовать со многими выдающимися учеными, академиками, членами Президиума РАН. Темы, близкие к происхождению Жизни, я затрагивал «факультативно», без прицела на ближайшие публикации. Своего рода наслаждение — наблюдать широту их научных, жизненных интересов. Ученый секретарь РАН по масс-теплообмену (т.е. «главный по термодинамике») Леонтьев, генетик Колчанов, математик Марченко, ведущий геофизик современности Голицын... щедро делились мыслями о сотворении Вселенной, Жизни, Разума. Очень жалею, что часть этих факультативных «бонусов» я не выверял-согласовывал, не публиковал. И начну с беседы моего коллеги, пожалуй, ведущего популяризатора науки Андрея Ваганова — с Владиленом Степановичем Летоховым (международный авторитет в сфере ядерной физики, самый цитируемый в период 1973—1988 гг. российский ученый, преподававший в научных центрах Европы, США, мира). Для заявленного мною рассмотрения «парадоксов и пароксизмов общественного восприятия ИИ и ЗЖ», особенно ценным был момент вопроса Ваганова:

Ваганов: А чем вас так раздражает эксперимент Стенли Миллера? Ведь все логично и красиво: герметичная колба, наполненная метаном, аммиаком, водородом, водяными парами; через эту смесь пропускали электрический разряд, имитирующий молнии; в итоге на стенках колбы образовались аминокислоты — предвестники жизни.
Летохов: Но и множество других веществ можно получить таким способом. Это — элементарные законы химической физики: да, углерод может соединяться с кислородом, азотом и так далее. В этом ничего особенного нет».

Интереснейший момент долгой их беседы, это: «раздражает». Эмоции по вроде бы вполне научному эксперименту и теориям Миллера, Опарина, Холдейна... Ваганов точно передает «Дано» и «Результат» Миллера. Добавлю, что и в десятках подобных опытов из «подножного» сырья: метан, аммиак, водород, вода, — получали аминокислоты, «основу жизни». Полагаю, именно определение «аминокислоты — кирпичики жизни», более полувека абсолютно царящее в мире, — так раздражало академика Летохова. 
То, что выше я назвал «пароксизм общественного сознания» — безотказное действие негласного, но могущественного союза. Ученый Х говорит (причем честно): «Я получил аминокислоты!» А тысячи других ученых, псевдоученых — уже давно вдолбили всему миру: «аминокислоты — кирпичики Жизни». И миллионы СМИ радостно подхватывают: «Ученый Х — синтезировал Жизнь!» Астрономы яростно сканируют космос на предмет наличия воды: прочие-то компоненты «исходники Ученого Х» — практически повсеместны, — найдем воду = найдем Жизнь.
И кто возразит этому всемирному, почти преступному (по некоторым последствиям, о которых речь далее) синдикату? Заметит, что сам термин «кирпичики», компоненты Жизни… плавно подводит нас к (неверному) выводу: Жизнь — это какая-то Конструкция. Здание, пускай и очень-очень сложное. А если она — Конструкция, естественно наличие составляющих элементов. Надо только найти их, собрать. 
Раздражает именно групповое жульничество: ученые, псевдоученые, «британские ученые» и, наконец, — масс-медиа. И хотя в общепринятых определениях Жизни («обмен веществ, белковые тела...») нет таких натяжек, как с «аминокислотным Ученым Х», но и в тех определениях тоже царят десятки веществ: 

белки, 
аминокислоты, 
РНК, 
ДНК, 
«первичный бульон», 
полипептиды, 
азотистые основания, 
нуклеотиды... 

Сей пестрый хоровод материальных Веществ принуждает смотреть на них как на элементы Жизни, «необходимые и достаточные». Взглянем на определения Жизни просто как на текст. Имена существительные, вещества — почти заслонили слово: «обмен». Тоже имя существительное, но хоть намекающее на: Процесс, глагол. Правда и «Обмен» — тоже сугубо материальное понятие, и слишком общее. Юпитер, космос, пояс астероидов обмениваются потоками «веществ». Тучи, поверхность земли обмениваются водой: «круговорот». Сложно под горами материальных веществ докопаться до абсолютно невещественных понятий: желание, воля — жить и размножаться. Но тогда окажется, что литр миллеровских аминокислот — ничем не лучше, не жизненнее литра кислоты соляной, серной. У них, как и у всех веществ, нет желания, воли — стать двумя литрами. И даже океан аминокислот в этом отношении тоже нейтрален в отличие от мельчайшей «простейшей» бактерии, инфузории, — подобное желание имеющей. 
То раздражающее определение «кирпичики/компоненты Жизни» следует заменить на: «компоненты тела». С уточнением, что «тела» — это: от космических тел, камней, до подопытных мышей, мертвых и живых... Уточнением, стопорящим все эти регулярные сенсации: Британские ученые Y и Z не только пропускали электроразряды, как Х, но еще и облучали, потряхивали пробирку с «первичным бульоном»! Всё как на ранних стадиях Земли, и получили важнейшие компоненты жизни… И прочие подобные ахинеи. Кстати, в обоих мышиных случаях набор компонентов, «кирпичиков» — идентичен, если подопытная умерла секунду назад. От мышей вообще сложно отделаться, они — герои ещё средневековых «экспериментов». Тогда ученые Ван Гельмонт и другие описывали опыты Самозарождения Жизни, именно — мышей. Их исходники несколько отличались от пробирок Миллера-Опарина: грязные рубашки, человеческий пот, темное помещение, пшеница, и, пожалте, любуйтесь — мыши… Намаявшись на даче с этими пронырливыми бестиями, я вполне допускаю, что Ван Гельмонт не жульничал: манящая пшеница и неутомимые зубки, прогрызающие все стенки «экспериментальных баз», комнат! Сложнее было с предъявляемыми самозародившимися в мясе червяками, но тоже — только до внедрения микроскопов и практики контрольной стерилизации продукта.

Схожие чувства раздражения вызывают теории, и сегодня перебирающие то, что они называют «катализаторы Жизни» на планете: вулканы подогревают, молнии электризуют, ультрафиолет облучает... Или опыты вроде обсуждавшегося недавнего самозарождения Жизни у Джона Сазерленда: «Подогревал цианамиды в смеси гликольальдегидом и цианоацетиленом в присутствии фосфорной кислоты, облучали ультрафиолетом, и получи... пиримидиновые рибонуклеотиды!» А рибонуклеотиды, — радостно комментировали журналисты, — это же РНК, основа геномов! С точки зрения Жизни=конструкции, то был просто: ещё один строительный компонент, ещё одна «марка кирпича» вроде аминокислот Миллера. Сазерленду возражали: на ранней Земле не было достаточно гликольальдегида (вещества типа сахара), и споры уходили в абсурдные количественные расчеты. А я бы спросил проще: в теле, трупе подопытной мыши этих рибонуклеотидов — море. А можете ли Вы их, или Ваши «сахарные РНК», — как-то запустить, уговорить размножаться, жить?
Сведение Жизни — к наборам компонентов «тел» (пускай исчерпывающе точно найденным и собранным компонентам), это... мягко выражаясь: неверно. Но столь же неправомерны, наивны будут попытки журналиста (пускай и с долгим научно-популяризаторским опытом, собеседника корифеев, светил) — «разоблачать» сонмы ученых, в одном очерке опровергать содержимое томов отчетов. Я лишь пытаюсь привлечь внимание к симбиозу: исследователь получает какой-то результат, а общественное мнение, задуренное медиаштампами, истолковывает это как чаемую сенсацию. 
Приведенные мною возражения — довольно общие, наверняка общеизвестные. Здесь имело смысл их повторить как подводку к другой спорной теме, обещанной в титуле статьи. И предлагаемая далее определенная логическая связь проблем Зарождения Жизни, и угроз Искусственного Интеллекта покажется возможно сомнительной. Скорее залихватской, нежели общеизвестной. 

Признанные лидеры разработки ИИ:

OpenAI (США), основанная в 2015 году Сэмом Альтманом и Илоном Маском;
Anthropic, тоже (США), созданная в 2021 году вышедшими из OpenAI братом и сестрой Дарио, Даниелой Амодеи;
Google DeepMind, подразделение Alphabet (США);
Alibaba (Китай);
ByteDance (Китай), запустивший TikTok.

Лидерство ИИ в списке угроз человечеству подкрепляется со всех сторон. Авторитетная Financial Times, объявляя в статье от 29 мая 2026 г.: «Американская гегемония под угрозой», — поясняет: «Гегемон, способный заменить и Америку, и Китай — ИИ, искусственный интеллект, а его будущий хозяин (хозяева) пока не определился. Странно думать о том, что такая абстракция может быть гегемоном, но мы живем в новом мире». Как утверждают многие эксперты, Claude (продукт фирмы Anthropic, сложный пакет ИИ) уже «выиграл одну войну» (Венесуэла, январь-2026). Или был решающим орудием, сотрудником Трампа, министра войны Хегсета, обеспечившим взятие в плен президента Мадуро. И любой владелец ноутбука, пользователь Интернета ежесекундно убеждается в могуществе этого «орудия»: нити мгновенной связи со всем миром, любые вычисления. Почти монопольное посредничество между человеком и всем интеллектуальным багажом человечества (поисковики, тотальная оцифровка накопленного за всю историю мира). 
Может «орудие», слуга, сотрудник — «выйти из под контроля», — как описано в тысячах книг, фильмах? Полагаю, в утвердительном, пугающем весь мир ответе виноват отчасти Гегель, наиболее подробно рассмотревший диалектику отношений раб—рабовладелец. Первый, изначально принадлежа второму, выполняя за него всё более расширяющийся набор действий, функций, в итоге превращает рабовладельца в полностью зависимого от себя «придатка». Командование которого, владение — в итоге сводится к тонкому юридическому параграфу, а зависимость наоборот вырастает в материальную, вещественную реальность. Крах такого положения неизбежен. 
Самый известный из учеников — гегельянец Карл Маркс — протянул ту диалектику до конца 19 века, а кризис, крах назвал грядущей Мировой Революцией, Восстанием пролетариата. Капиталисты ситуацию с пролетариатом, можно сказать, «разрулили». Освободившееся место занял ИИ. «Восстание машин» в списке мировых угроз. Тут опять адресуюсь к авторитетным рейтингам. Daily Mail в статье «Как на самом деле будет выглядеть конец света?» дает слово исследователю Центра изучения экзистенциальных рисков Кембриджского университета доктору Томасу Мойнихану: 

«Апокалипсис — старая идея, которая восходит к Писанию, но вымирание — напротив, удивительно современная и основывается на научных знаниях о природе. Пять наиболее вероятных причин вымирания человечества:

1. Ядерная война, 
2. Биологическое оружие, 
3. Бесконтрольный искусственный интеллект ИИ, 
4. Изменение климата, 
5. Стихийные бедствия или падение астероида».

К тому рейтингу добавлю: ИИ кроме третьей строчки ответственен и за первые две. По мнению экспертов и большей части населения, ядерное оружие и другие ОМП пустит в дело — он же, ИИ. Конкретными «поражающими факторами» самого ИИ (что именно пугает) называют угрозы:

1. Потеря работы. ИИ заменит бухгалтеров, курьеров, кассиров, юристов, аналитиков, дизайнеров, сценаристов.
2. «Чёрный ящик» — необъяснимость решений ИИ: отказ в кредите, неверный диагноз, рекомендация судьям строгого приговора. Страх непредсказуемых алгоритмов не принимающих апелляций.
3. Страх, что ИИ, обученный на массивах данных, созданных людьми, воспримет, усилит человеческие фобии: 

• национальные, 
• классовые, 
• социальные, 
• сексуальные.

4. Конфликт целей (Alignment Problem). Экзистенциальный страх, что ИИ, оказавшись умнее человека и человечества, вдруг решит поставленную ему задачу самым непредвиденным способом.
5. Оружие и кибербезопасность. Автономные дроны-убийцы, алгоритмы для создания идеальных вирусов (биооружие) или дипфейки, способные развязать войну.
6. «Конец реальности». Нейросети уже генерируют реалистичные видео и тексты. Манипуляция приведёт к невозможности отличить правду от вымысла.

Только первый из пунктов выглядит привычным: страх потери работы из-за машин восходит к началу 19 века: восстание луддитов, разбивавших станки, лорд Байрон сочинивший красивые стихи в их защиту. Прочие проблемы «конца реальности», непонятность действия («черный ящик») требуют, конечно, нового уровня осмысления, но вот… Война, ИИ решивший уничтожить ненужное человечество, — разумеется, главный ужас. И главное в фильмах, книгах, эксплуатирующих сей страх: зарождение в миллиардах компьютерах, соединенных нейросетью (так похоже на сеть нейронов в человеческом мозге!) — независимого от человека Сознания. Оно и примет решение, запустит ядерные ракеты и т.д. Именно в этой точке я нахожу логическую связь проблем ИИ и ЗЖ. Для одной решающей справки достаточно и моего диплома кибернетика. Хотя и «красный» (с отличием), но устаревший, выданный в еще прошлом веке, может вызвать подозрения в некомпетентности, но Справку, выданную «тайну», — вам подтвердят и сегодняшние творцы OpenAI, Anthropic и других лидеров ИИ.
Что именно происходит в процессорах всех компьютеров? Причем в сегодняшних, как и в прошло-вековых? Все нейросети мира, собирающие, несущие информацию в терминах кибернетики: «периферийные устройства». Клавиатуры, джойстики, сенсорные экраны, мыши (опять они, привет Ван Гельмонту!) собирают информацию, и действительно, с помощью нейросетей, дата-центров, миллионов серверов, — они в итоге могут собрать всю информацию обо всем человечестве. Даже рассортировать её, выдать какие-то прогнозы на основе экстраполяций и математических алгоритмов посложнее. В общем: полный аналог размышляющего человека? Но как он все же «думает», обрабатывает информацию? Проверьте, и окажется, что все операции в процессорах сводятся к трехадресным командам: «Цифру (1 или 0) в регистре А сложить с цифрой регистра В и поместить в регистр С». На третьем, кажется, курсе мы писали программы в машинных кодах. Потом на языке Ассемблер, потом Фортран, Кобол и т.д… 
Над тогдашними машинами, еще не компьютерами, а ЭВМ (электронно-вычислительные машины) можно смеяться, это не отменит простейшего факта: по сей день вся обработка данных в самом конечном пункте сводится к сложениям в регистрах процессора, помещения в ячейки RAM (не баран, а наоборот: оперативная память) и т.д. Даже три других простейших арифметических действия: вычитание-умножение-деление — производные, комбинации из нескольких операций сложения 1 и 0. Все дальнейшие усложнения вплоть до того что вам кажется диалогом, беседой с каким-нибудь чат-ботом, рисование и монтаж любых картинок, «смешивающих реальность с вымыслом»… все это действие программ, поэтапно идущих от сложения 1 и 0 в регистрах процессоров. Разница между мировой нейросетью, управляющей миллионами компьютеров и бытовым калькулятором, лежащим на прилавке рыночного продавца, — только в производительности, скорости, объемах первичных сложений 1 и 0.
Программы пишет человек, усложняет их, «адаптирует» — компьютер, но на основе мета-программ, написанных ранее человеком же. В дни написания сего эссе пришла суперновость о «революции квантовых компьютерах», дословно: «Обычно квантовые компьютеры оперируют кубитами, способными находиться в двух состояниях одновременно — и 0, и 1… В процессоре созданном в РКЦ на основе 26 ионов кальция, реализованы семиуровневые кудиты — кусепты, способные принимать значения от 0 до 6». Время еще раз уточнить: так что именно делает новый квантовый процессор? И вдогон вопрос — ненавистный всем, поющим нам про «думающие машины»: а что вообще делают процессоры?  Честный ответ: они складывают числа. Пусть квантовый и в триллион раз быстрее транзисторного, но это тоже арифметика, операции сложения.

И о главном страхе «восстании машин»

Джек Кларк, сооснователь Anthropic: «Вероятность того, что к концу 2028 года появится ИИ-система, способная автономно обучить своего преемника без участия человека, составляет 60 %». Кларк использует термин «no-human-involved»: модель, достаточно мощная, чтобы самостоятельно создать следующую версию самой себя «без участия человека» — страшно? Но… без участия человека и ЭВМ 1980-х отправляла в буфер вывода файл, командовала принтеру, и тот молотил, не слушаясь более нажатия кнопок, остановить — только выдернув провод из розетки. Так и к Кларку и его Anthropic есть вопрос: а кто именно в Машине 2028 года будет делать новую машину, назовем её Машина-2029? «Без участия человека»?.. А кто в Машине-2029 потом так же — Машину-2030?
В них из квадриллионов операций сложения появится какая-то личность, со своими желаниями? (Тут и связь с первым вопросом моего эссе: появится ли, пускай тоже из квадриллиона тонн миллеровских аминокислот, — желание размножаться, прибавить себе хоть еще пол-литра?)… Нет. Работала и размножала себя — Программа, написанная Вашими, мистер Кларк, программистами.
Вообще человеческое думанье, формирование желаний, воли к поступкам — процесс, иногда включающий в себя — считание, а иногда и нет. Понятно, что большинство населения Земли интересуют не эти тонкости, а «вопрос жизни/смерти»: А сможет ли Машина-2030 или там… Машина-2055, — запустить-таки ядерные ракеты и уничтожить ненужного ей Человека. Так что сбудется… страшное предсказание пророка Джеймса (Камерона) из «Книги пророчеств Термнатор-2»? Да вполне сможет! Если её подключат к управлению ракетами. Но виноват будет тот чиновник, что подключил, и… славная фирма Anthropic или её конкурент, создавшая программу, в которой был блок и т.д. 
И получается, статья мистера Кларка — попытка размыть ответственность. В конкурентной борьбе создавались и будут создаваться все более «сильные», разветвленные программы, в которых возможность репликации, модификации, «самообучения» себя самой — вполне рабочая функция, нужная для выполнения все более сложных задач для победы в той же конкуренции.
Помню себя, писавшего в 1980-х на языке COBOL программы для внешнеторгового объединения. В сравнении с Claude 3.5 Sonnet фирмы Anthropic — как детский бумажный самолетик в сравнении с Илонмасковой ракетой SpaceX, крупнейшей в мире. Или еще меньше, хотя… не удержусь от занудного повтора: процессоры — мой и Anthropic-овский — делали одно и то же: складывали 0 и 1.

Для чего эти примитивные «разоблачения, объяснения на пальцах»? 

Самый конечный, интересующий всех политический вывод такой: если планету уничтожит запуск ядерных ракет, несанкционированное президентами распыление чего-то ядовитого… — это сделает (ошибочно или злонамеренно) человек-программист, корпорация программистов, — а не Самозародившаяся в недрах нейросетей Личность. Ответственной будет — фирма Anthropic, а не злой Цифровой Монстр… В этом-то и аналогия проблем ЗЖ и ИИ. Неверно/наивно понятый закон перехода Количества в Качество. Больше-больше аминокислот Миллера, «первичного бульона» — и самозародится Жизнь. Больше-больше процессоров — и самозародится Сознание, Личность со своими желаниями. 
Выше я формулировал вопрос ученым, синтезировавшим аминокислоты: «А вы можете еще и так “наколдовать”, чтоб они захотели жить?» — Ну, состоят аминокислоты и «первичные бульоны» из молекул углерода, (преимущественно) — так почему Углерод не назвать «кирпичиком Жизни»?
Точно такой же простейший вопрос — кибернетикам: Машина думает или считает? Разница между этими действиями элементарна: думать может человек, даже не умеющий считать (ребенок, заброшенный в джунгли «Маугли»). Но в его, ребенка, личности есть нечто, связанное с думаньем: Желания, Воля. А в каких калькуляторных регистрах процессора, ячейках RAM может разместиться Воля, добрая или злая? Это весьма напоминает популярный вопрос: «А что было до Большого Взрыва, рождения Вселенной?» И простейший ответ: «ДО — это просто засечка на оси Времени, а раз Время родилось вместе со Вселенной, то до неё не могло быть именно — «ДО». Но самый красивый афористичный ответ, к тому ж под забойную драйвовую музыку в песне Анны Герасимовой (она же популярный рок-музыкант Умка, она же ученый, автор успешной диссертации по филологии): «Время никогда не придет. Некуда ему приходить» (см. ниже).

Неутомимые жернова народного юмора, фольклора пережевывают и свалившуюся «проблему ИИ». То величают по-русски: «Иван Иваныч», то наоборот сокращают «Искусственный Интеллект» до вполне еврейской фамилии: Искин… Быстро научились за манипуляциями интернет-поисковиков, хитро подсовывающих «инфу», за содержимым статей в различных …педиях видеть не пришествие виртуального дьявола, а политика, рекламодателя. Хорошо бы суметь емко, подобно Анне Герасимовой одной строкой, ответить на эти два «великих вопроса современности», о ЗЖ и ИИ.

Примечание:

Компьютерная ИИ-эпопея В.Катасонова:

Бог и человек: кто кого создал?..
Удивительное предчувствие Валерия Брюсова...
Пьеса Карела Чапека и пророчество о мире роботов и др.

Произведения об ИИ разных авторов:

Цифровая свалка: как Сеть теряет человека
Искусственный интеллект: от мечты фантастов до ChatGPT
ChatGPT как инструмент гибридной войны
Искусственный интеллект: кибернетический рай или рабство homo sapiens?
У ворот электронного концлагеря и др.