Гонка в сфере искусственного интеллекта опаснее гонки ядерного оружия

ПРОДОЛЖЕНИЕ. ПРЕДЫДУЩЕЕ ЗДЕСЬ. НАЧАЛО ЗДЕСЬ

Тема искусственного интеллекта — одна из самых топовых в мировых СМИ. В материалах по ИИ присутствуют как мажорные, так и минорные ноты. Мажор выражается в надежде на то, что ИИ решит все (или, по крайней мере, многие) проблемы человечества и позволит, наконец, построить долгожданный рай на земле...

Прежде всего ИИ освободит человека от ярма мучающего людей принудительного труда. И человек будет наслаждаться благами, создаваемыми машинами. Минор обусловлен опасениями, что в какой-то момент времени ИИ станет умнее человека и поработит его. А может быть, даже убьет его. Или же ИИ окажется в руках каких-то сумасшедших, которые этим мощным орудием уничтожат всех остальных. Негативных сценариев очень много. 
Примечательно, что, по моим субъективным оценкам, соотношение мажора и минора в популярных СМИ примерно 1:1. Может быть, даже мажора несколько больше, чем минора. А вот когда я изучаю мнение тех людей, которые непосредственно заняты вопросами ИИ (научные разработки, создание инфраструктуры, продвижение продуктов ИИ на рынке и т.д.), то они выглядят гораздо более озабоченными, чем среднестатистический обыватель. У них преобладает минор — по той причине, что они лучше видят угрозы и риски, связанные с развитием ИИ. 
Среди политиков преобладает мнение, что ИИ становится ключевым фактором, определяющим позиции страны в мире. Лидером в сфере ИИ считаются Соединенные Штаты. Но с некоторых пор им на пятки стал наступать Китай. Более того, партийно-государственное руководство Поднебесной поставило задачу к 2030 году стать мировым лидером в сфере ИИ. И в Вашингтоне, и в Пекине одинаково считают, что тот, кто будет лидером в сфере ИИ, будет лидером и во всем остальном — экономике, политике, военном деле и даже идеологии. А потому между США и Китаем идет напряженная конкуренция в сфере ИИ. Ее называют «гонкой ИИ» и сравнивают с гонкой вооружений (особенно ядерных), которая велась между Соединенными Штатами и Советским Союзом после окончания второй мировой войны вплоть до развала СССР. 
В послевоенное время было бесчисленное количество попыток остановить тогдашнюю гонку вооружений в мире. Между прочим, противниками гонки вооружений стали некоторые ученые, которые участвовали в разработке атомной бомбы в рамках проекта «Манхэттен» (той бомбы, которая была сброшена в августе 1945 года на Хиросиму и Нагасаки). Например, венгерский физик Лео Силард и немецко-американский физик и лауреат Нобелевской премии по физике 1925 года Джеймс Франк.
Попытки сдерживания ядерной военной гонки делались и на уровне ООН, и на уровне двухсторонних (советско-американских) отношений. Но успехи в таком сдерживании были весьма скромными. Так, в Москве 26 мая 1972 года было подписано временное соглашение о некоторых мерах в области ограничения стратегических наступательных вооружений (ОСВ-1). Тогда же был подписан Договор об ограничении систем противоракетной обороны (ПРО). Тем не менее ядерные арсеналы обеих держав продолжали наращиваться и совершенствоваться. К счастью, после Хиросимы и Нагасаки ядерное оружие нигде больше не применялось. 
И многие ИИ-специалисты сравнивают нынешнюю гонку в сфере ИИ (в которой отчасти принимают участие и некоторые другие страны кроме Китая и США) с ядерной гонкой, но первую считают даже более опасной. Вот, например, Наталья Касперская, президент группы компаний InfoWatch, председатель правления ассоциации «Отечественный софт», в интервью ТАСС на днях назвала искусственный интеллект самой опасной технологией, созданной после второй мировой войны: «После, я бы сказала, ядерной бомбы. Но о рисках [ИИ] никто не говорит», — добавила она. 
Один из тех, кто еще более полувека назад начинал работы по ИИ, Джеффри Хинтон (между прочим, получивший в 2024 году Нобелевскую премию по физике), оценивает вероятность гибели человечества от ИИ в течение следующего тридцатилетия в диапазоне от 10 до 20 %. Нейт Соарес, президент Института исследований машинного интеллекта, оценивает такую вероятность «как минимум 95 %» — при условии, если гонку ИИ не удастся остановить. В Америке уже несколько лет звучат настойчивые призывы со стороны специалистов и руководителей многих ИИ-компаний ввести какие-то ограничения, установить какие-то нормы для развития ИИ, чтобы минимизировать риски. Парадокс заключается в том, что инициатива исходит от бизнеса, а не от государства, которое казалось бы должно действовать в этой сфере с опережением. А получается, что наоборот, компании обращаются к власти.

Нельзя не вспомнить открытое письмо, которое в марте 2023 года подписали более 1 000 экспертов и руководителей ИИ-индустрии. Это было обращение и ко всей ИИ-индустрии, и к властям США: «Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски — управляемыми», — говорится в письме. В нем содержится призыв как минимум на шесть месяцев ввести мораторий на обучение более мощных систем ИИ, чем GPT-4 (самая продвинутая на тот момент языковая модель компании OpenAI). Если компании ИИ-индустрии будут неспособны на такое самоограничение, тогда, как отмечается в письме, «власти должны вмешаться и ввести мораторий».
Как ни парадоксально, но нынешняя администрация 47-го президента США Дональда Трампа не желает вводить никаких ограничений для американского ИИ-бизнеса, поскольку это может усилить китайских конкурентов в гонке ИИ. Кое-какие указы о регулировании ИИ были подписаны 46-м президентом США Джо Байденом. Трамп, вернувшись в Белый дом, тут же их отменил. При Джо Байдене шли разговоры о том, чтобы создать на федеральном уровне регулятора в сфере ИИ. А вот в марте 2026 года Белый дом обнародовал адресованный Конгрессу США документ «Основы национальной политики в области искусственного интеллекта: законодательные рекомендации». Его цель — максимально активизировать разработки ИИ без оглядки на возможные риски и негативы. Никакого федерального органа по регулированию ИИ не надо, кроме того, желательно отменить ограничивающие ИИ законы, принятые на уровне отдельных штатов. 
О заключении какого-то американо-китайского соглашения о сдерживании ИИ-гонки также пока речи быть не может. Хотя Трамп в прошлом месяце нанес визит китайскому лидеру Си Цзиньпину, однако в «твердом остатке» от той встречи ничего почти не осталось. Накануне визита Дональд Трамп объявил, что стороны могут договориться о мерах по ограничению и регулированию ИИ. На самой встрече было заявлено, что стороны продолжат совместную работу по ограничениям в сфере ИИ. Но все это словесный антураж. 
А вот, например, в феврале этого года в Испании проходила очередная международная встреча «Ответственный искусственный интеллект в военной сфере» (третий по счету саммит). В ней участвовало 85 стран. Им было предложено подписать декларацию о порядке регулирования применения технологии искусственного интеллекта (ИИ) в боевых действиях. Свои подписи под документом (который, между прочим, даже не создает юридических обязательств государств) поставили только 35 стран. От подписания документа отказались и Соединенные Штаты, и Китай.
Как Вашингтон может подписать такую декларацию, если в прошлом году Пентагон заключил соглашения с крупнейшими американскими компаниями в сфере разработки и использования ИИ в военных целях? Пентагон подписал контракты с компаниями Google, OpenAI, Anthropic и xAI (недавно слилась со SpaceX Илона Маска). Кстати, в той войне, которую сегодня Америка ведет против Ирана, используются наработки указанных компаний, в частности, при наведении ракет и беспилотников. 
Тут уместно будет вспомнить историю упомянутой выше компании Anthropic, одного из лидеров американской ИИ-индустрии, разработчика нейросетей. В мае Antrophic стал самым дорогим ИИ-стартапом в мире, в настоящее время он оценивается почти в один триллион долларов. Что на 110 млрд долларов дороже, чем OpenAI, который долгое время был мировым лидером ИИ-стартапов (OpenAI спровоцировал бум генеративного ИИ, когда в конце 2022 года представил свой чат GPT). Сегодня компании Antrophic и OpenAI готовятся к публичному размещению своих акций на фондовом рынке (IPO). Говорят, что IPO каждой из компаний может достичь одного триллиона долларов. Что может стать рекордным показателем за всю историю фондового рынка США.

Но меня Antrophic интересует по другой причине. Anthropic, как я отметил выше, разрабатывает нейросети. Это целая серия нейросетей, называемых Claude. Входя в группу американских лидеров ИИ, Antrophic, наверное, громче всех кричит о том, чтобы остановить гонку ИИ. Современные модели ИИ становятся все более автономными от человека. И в самое ближайшее время (год-два) ИИ может вырваться из-под контроля человека. Судя по всему, специалистам и руководителям Anthropic, которые оказались впереди если не всех, то многих разработчиков ИИ, стало по-настоящему страшно. Видимо, чувство страха стало преобладать над азартом делания денег. Один из основателей Anthropic Джек Кларк отметил, что «сейчас у индустрии есть педаль газа, но нет педали тормоза». Индустрия ИИ, одержимая (как и любой другой бизнес) жаждой денег, себя остановить не может. Это также невозможно, как, например, человеку невозможно самому поднять себя за волосы. 
Так что Antrophic взывает к государственной власти, чтобы она нажала на тормоз. Antrophic считает, что сдерживание гонки в сфере ИИ намного сложнее, чем даже сдерживание гонки ядерных вооружений. Как отмечают представители компании, «скрыть обучение новой модели намного проще, чем строительство ракетной шахты». Но увы, власти США тянут время, бездействуют. 
Компания Anthropic, как я выше отметил, заключила в прошлом году контракт с Пентагоном. Но скоро компании стало понятно, что военное ведомство лишено каких-либо «тормозов» по части применения ИИ в военном деле. Уже в прошлом году между компанией и Пентагоном возник серьезный конфликт, поскольку Anthropic отказался исполнять некоторые опасные «хотелки» военного ведомства. Пентагон пытался заставить компанию исполнять эти «хотелки», используя «административный ресурс». Кончилось тем, что компания в марте этого года подала иск против главы Пентагона Пита Хегсета, Министерства войны США, еще ряда федеральных ведомств и нескольких чиновников из администрации президента США. В исковом заявлении компании отмечалось, что силовое давление властей создало угрозу разрушения бизнеса. Anthropic была занесена в неофициальные «черные списки». Пентагон стал угрожать, что те компании, которые будут продолжать пользоваться ИИ-технологиями Anthropic, лишатся возможности получать контракты военного ведомства. 
Пентагон также заявил о том, что внесет деятельность Anthropic в официальный список угроз национальной безопасности. Однако суд в Сан-Франциско это решение военного ведомства признал незаконным, назвав его местью за смелую и открытую позицию Anthropic. Как говорят американские наблюдатели, большая часть компаний ИИ-индустрии, несмотря на то, что являются конкурентами Anthropic, в этой судебной тяжбе находится на стороне Anthropic. Между прочим, вскоре после подачи искового заявления Anthropic — 37 специалистов из конкурирующих компаний OpenAI и Google обратились в суд с ходатайством, призывающим Фемиду встать на сторону Anthropic. За прошедшие месяцы было много выступлений представителей ИИ-индустрии с поддержкой позиции Anthropic. Они тоже прекрасно понимают, что вносят свой вклад в жизненно опасную гонку ИИ, но не готовы идти на столь резкое обострение отношений с властью.

Любопытная складывается ситуация в ИИ-индустрии Америки: с одной стороны, начинает сигналить инстинкт самосохранения; а с другой стороны, продолжает действовать рефлекс обогащения. А вот на уровне Пентагона и администрации президента инстинкт самосохранения, кажется, окончательно атрофировался.

​