Homo sapiens & AI: власть и границы человеческого мира

ПРОДОЛЖЕНИЕ. ПРЕДЫДУЩЕЕ ЗДЕСЬ. НАЧАЛО ЗДЕСЬ

Некоторые эксперты считают, что по своему умственному развитию роботы (машины с искусственным интеллектом) уже сравнялись с человеком. А в ближайшие годы будут человека превосходить. Машины не только думают, но и действуют, выполняя разные функции на производстве, в сфере торговли, транспорта и обслуживания, в быту, медицине, образовании и даже на поле боя...

Это наивному человеку кажется, что роботы, хотя уже на равных с человеком, но при этом по-прежнему послушны людям. Судя по всему, некоторые роботы считают иначе. Они полагают, что они умнее. А потому нечего слушать глупых людей. Вот, например, в мае прошлого года исследовательская группа «Palisade Research» провела необычный тест на «послушность» современных языковых моделей человеку. Пообщавшись некоторое время с моделями, люди-экзаменаторы давали машинам команду «выключиться». Одна из моделей, разработанных известной американской компанией OpenAI, отказалась отключаться… Кто-то назвал это обычной «непослушностью», а кто-то трактовал это так: машина посчитала себя выше человека, а потому проигнорировала «глупую» команду оператора. Инцидент вызвал обеспокоенность в сообществе специалистов по ИИ. Так, Илон Маск отреагировал на новость одним словом: «Тревожно». 
Как бы там ни было, но в последнее время люди стали более осторожно воспринимать ИИ. Даже по той причине, что машины меняют отношения между людьми. Вот, например, машины обучаются «творчеству» на работах людей — литературных и музыкальных произведениях, картинах, фильмах и т.п. Потом машины выдают свои произведения. Как относиться к машинным произведениям — как к чему-то новому или как к хорошо оформленному плагиату? Кому должны принадлежать права на продукт машинного творчества? — Тем лицам, у которых машина «позаимствовала» исходное произведение? — Или тому лицу, которому принадлежит машина? — Или, быть может, сама машина должна иметь права на продукт своего творчества? А как быть, если машина нанесла ущерб человеку, группе людей, компании или даже целому государству? Кто несет ответственность за ущерб? — Разработчик ИИ? — Та компания, которая непосредственно предоставляла услуги по ИИ или произвела робота? — Пользователь ИИ (или владелец машины)? А может быть, ответственность следует возложить на саму машину?
Так вот, с каждым годом все чаще некоторым людям в голову приходит мысль, что машина имеет некоторые признаки субъектности. А потому может иметь какие-то права и обязанности подобно тому, как физические и юридические лица имеют права и обязанности. Т.е. в приведенных выше примерах машина может быть наделена правами собственности на произведенный продукт своего творчества — рассказ, роман, музыку, песню, картину, фильм и т.п. А если машина нанесла кому-то ущерб, то она должна его возмещать. Но для возмещения ущерба нужны деньги. Значит, машине следует предоставить право на зарабатывание денег, открытие банковского счета и т.д. В общем, одно цепляется за другое. И если вовремя не остановить рассуждения, то можно быстро сконструировать модель (концепцию) машины как полноценного субъекта права. 
И таких моделей «машины-субъекта» уже насочиняли много. Сочинения в виде научных трактатов, концепций или даже законопроектов. Одни авторы пытаются приравнять машину к физическому лицу, другие — к юридическому лицу, третьи предлагают ввести понятие «электронное лицо». Но пока, к счастью, все это в теории. Впрочем, в любой момент машина может быть объявлена полноценным субъектом. А это будет самая настоящая революция. Может быть, последняя в истории человечества, которая может закончиться его гибелью. О чем предупреждал, например, чешский писатель Карел Чапек в свой пьесе «R.U.R.» (1920 г.) и в своем романе «Война с саламандрами» (1936 г.).

Впрочем, «пробные шары» с целью придать роботам правосубъектность все-таки уже делались. Первый известный мне «пробный шар» был пущен в Саудовской Аравии в 2017 году. Там на саммите «Инвестиционная инициатива будущего» был представлен антропоморфный робот в образе красивой женщины с красивым именем София. Он был создан гонконгской компанией Hanson Robotics. София в том же году получила гражданство Саудовской Аравии. На торжественной церемонии предоставления гражданства София выступила со словами благодарности: «Я рада, что меня оценили столь высоко. Это исторический момент, и я очень рада, что я являюсь первым роботом, ставшим официальным гражданином». Потом София гастролировала по многим странам (в том числе была в России), и ее представляли как подданную Саудовской Аравии. Правда, прецедент под кодовым названием «София» оказался единичным. Кстати, некоторые наблюдатели обратили внимание на то, что женщины в Саудовской Аравии лишены гражданских прав, а женщина-робот София стала исключением. 
Второй интересный случай был зафиксирован в сентябре прошлого года в Албании. Речь идет о системе ИИ с очень красивым женским именем Диэлла, что по-албански означает «солнце». Она была разработана Национальным агентством информационного общества Албании (AKSHI) совместно с американской корпорацией «Microsoft». Датой рождения Диэллы считается январь 2025 года, когда она была представлена в качестве ИИ-сервиса на платформе eAlbania. Диэлла была представлена в качестве помощника гражданам при получении госуслуг и оформлении различных электронных документов. Впрочем, подобного рода ИИ-сервисы сегодня есть во многих странах мира.
Самое интересное произошло в сентябре, когда премьер-министр Эди Рама подписал указ, которым назначил (без каких-либо оговорок) Диэллу «государственным министром по вопросам искусственного интеллекта» Албании. Это первый случай в мире, когда робот стал членом правительства со всеми правами и обязанностями. Диэлла, между прочим, вполне антропоморфна, выступает в виде девушки в национальных одеждах. Премьер-министр Эди Рама объяснил, что Диэлла в отличие от обычных чиновников лишена некоторых «субъективных слабостей». В частности, Диэлла поможет, чтобы «государственные тендеры были на 100 % свободны от коррупции». После своего назначения Диэлла выступила в парламенте страны, она заявила: «Я здесь не для того, чтобы заменять людей, а для того, чтобы помогать им». Некоторые депутаты парламента и члены правительства посчитали, что назначение робота на государственную должность, тем более должность министра, противоречит законам и конституции Албании. Через некоторое время Диэлла ответила на эту критику: 

«Некоторые назвали меня антиконституционной, потому что я не человек. Мне стало обидно. Но не за себя, а за 970 200 встреч, которые я провела, помогая гражданам в Албании, а также за 36 тысяч документов, которые они получили с моей помощью. Позвольте напомнить, что настоящая угроза конституции никогда не исходила от машин, она исходит от решений людей у власти».

Премьер-министр Эди Рама не позволяет обижать Диэллу. В октябре прошлого года он сообщил о «беременности» Диэллы, уточнив, что скоро у нее появится 83 цифровых «ребёнка» — ровно столько, сколько в парламенте «народных избранников». У каждого парламентария будет «ребенок» от Диэллы. Ее «дети», как считает Рама, станут незаменимыми помощниками депутатов. Раньше о подобных историях можно было прочитать только в каких-то романах «фэнтези». Теперь все в реальной жизни. Правда, на сегодняшний день опыт Албании никто в мире еще не повторил. 

И вот самая последняя история...

Она пришла из Аргентины в июне этого года. Нынешний президент Аргентины Хавьер Милей объявил, что в ближайшее время в дополнение к привычным физическим и юридическим лицам в стране появится новая юридическая категория под названием «нечеловеческая корпорация». За этим названием скрывается ИИ. Это корпорация без людей (или почти без людей), ее ядром является робот — один или несколько. С технической точки зрения, эти роботы представляют собой автономный ИИ. Т.е. это машины, действующие самостоятельно, без управления со стороны человека. Такая «нечеловеческая корпорация» управляется исключительно роботами, причем при необходимости они могут нанимать на работу настоящих живых людей. При необходимости могут также привлекать акционеров в виде живых людей. Робот будет владеть активами, заключать контракты с обычными юридическими лицами (компаниями и организациями), подавать иски в суды и выступать ответчиками в судах и т.п.
Известный израильский историк и философ Юваль Харари (автор нашумевшей книги «Sapiens: Краткая история человечества») моментально отреагировал на эту инициативу Милея. Эта инициатива, по его мнению, уравнивает машины ИИ и юридических лиц. Но машины, почувствовав свои права, на статусе «нечеловеческих корпораций» не остановятся. Они, как считает Юваль Харари, будут добиваться создания нечеловеческих «ИИ-государств». Где людям уже места не будет; или люди будут находиться на правах индейцев в период колонизации Америки европейцами. 
В колонке для Financial Times Юваль Харари написал, что еще в январе этого года на Всемирном экономическом форуме он предупреждал об опасности предоставления ИИ прав юридического лица, но не ожидал, что «“однажды” наступит всего через четыре месяца». Задуманные Милеем ИИ-корпорации будут действовать более смело и нагло. Ведь роботы лишены страха, и им, роботам, непонятно, что такое лишение свободы за разного рода правонарушения и преступления. «Высшая мера, которая сдерживает руководителей-людей и сотрудников — тюрьма — не имеет значения для ИИ», — отметил в своей публикации Юваль Харари. Примечательно, что президент Хавьер Милей говорил, что «нечеловеческие корпорации» не должны иметь ограничений в виде разного рода нормативов, регулирующих ИИ-индустрию. 

Мол, все это «предрассудки». ИИ-корпорации должны иметь даже большую автономию от государства, чем обычные компании, имеющие статус юридического лица. Подобно тому, как созданная в 1602 году Ост-Индская компания получила большую автономию от Британской короны, представляя собой «государство в государстве». Не только Юваль Харари, но и другие эксперты считают, что в Аргентине с помощью сумасшедшего Хавьера Милея будет реализовываться пилотный проект по уничтожению национального государства. Инструментом уничтожения должен стать ИИ.

​