ИИ на службе Большого брата

ПРОДОЛЖЕНИЕ. ПРЕДЫДУЩЕЕ ЗДЕСЬ. НАЧАЛО ЗДЕСЬ

Всемирно известный роман Джорджа Оруэлла «1984» увидел свет в 1948 году. Эта антиутопия содержит массу пророчеств, многие из которых уже стали реальностью. Особо много публикаций и комментариев по теме романа было в символическом 1984 году...

Журналисты, литературоведы, обществоведы сравнивали реальный 1984 год с тем виртуальным и мистическим 1984 годом, который был создан воображением английского писателя. Вышедший 42 года назад журнал «Футурист» подсчитал, что в романе содержится 137 пророчеств. А к началу 1984 года сбылось ровно 100. Думаю, что к настоящему времени уже реализовалась большая часть всех пророчеств Оруэлла. Конечно, немалую часть предсказаний лишь с большой натяжкой можно назвать «пророчествами». Такие как свертывание и уничтожение демократии, поиск и навязывание внешних врагов, тайные договорённости правительств, тотальный контроль над СМИ и цензура, власть монополий, олигархический коллективизм, двойные стандарты, искажение реальности, исчезновение истины, переписывание истории, двоемыслие, создание нового языка (новояза), перманентная война как средство поддержания экономики и «патриотического тонуса» в обществе, редуцирование научной деятельности и ее ограничение решением задач военного и репрессивного характера, слежка за инакомыслящими и т.п. 
Многое из перечисленного уже существовало при Джордже Оруэлле (и даже до него). Существовало как на его родине (в Великобритании), так и в мире. Просто масштабы многих деструктивных и антисоциальных методов, явлений и процессов несравненно выросли сегодня по сравнения с сороковыми годами прошлого столетия. Но целый ряд предсказаний писателя действительно удивляют. В первые годы после выхода романа в свет их называли «фантазиями» и «больным воображением». Особенно это относится к предсказаниям тех методов, которыми могут пользоваться власть предержащие («партия» и «Большой брат) для управления народом («пролами») и укрепления своих позиций. Сегодня эти методы активно используются в мире, они базируются на использовании цифровых (электронных) технологий с искусственным интеллектом (ИИ). 
В первую очередь, это предсказание тотального слежения за населением. Таже использование машин для сочинения книг и музыки (но не для повышения культурного уровня людей, а наоборот, чтобы людей максимально «опустить»). Применение специальных методов контроля за «сознанием человека» (предотвращение того, что в романе называется «мыслепреступление»). И т.п. О машинах, которые могут сами составлять тексты (от самых простых газетных заметок, стишков и рассказов до романов), а также сочинять песни (тексты и музыку), в романе «1984» упоминается несколько раз. Такое «машинное творчество» работало на полных оборотах в Министерстве правды (которое занималось информацией-идеологией в самых разных видах). Героиня романа Джулия обслуживала эти машины. 

Она работала «в отделе литературы на машине для сочинения романов. Работа ей нравилась — она обслуживала мощный, но капризный электромотор. Она была “неспособной”, но любила работать руками и хорошо разбиралась в технике». 
О «машинном творчестве» в стенах Министерства правды читаем: «Существовала целая система отделов, занимавшихся пролетарской литературой, музыкой, драматургией и развлечениями вообще. Здесь делались низкопробные газеты, не содержавшие ничего, кроме спорта, уголовной хроники и астрологии, забористые пятицентовые повестушки, скабрезные фильмы, чувствительные песенки, сочиняемые чисто механическим способом — на особого рода калейдоскопе, так называемом версификаторе».

Версификатор, выражаясь современным ИИ-языком, занимался «генерацией» самых разных «продуктов» поп-культуры для «пролов» — низов общества Океании (пролы составляли 85 % населения Океании). Продукция верификатора пользовалась, судя по всему, большим спросом со стороны пролов. В частности, упоминается одна популярная песенка, гулявшая по Лондону: 

«Последние недели весь Лондон был помешан на этой песенке. Их в бесчисленном множестве выпускала для пролов особая секция музыкального отдела. Слова сочинялись вообще без участия человека — на аппарате под названием “версификатор”».

Джулия и другие сотрудники Министерства правды лишь обслуживали машину, требовался лишь их физический труд, «интеллектуальной» работой был занят версификатор. Джулия даже получила травму при обслуживании «умной» машины: «…девица сломала руку, поворачивая большой калейдоскоп, где "набрасывались" сюжеты романов». Оруэлл не без иронии добавляет: «Обычная травма в литературном отделе».
В Министерстве правды есть и другие интересные «штучки», которые очень напоминают сегодняшние «умные» машины. Среди них — так называемый «речепис». Им пользуется и главный герой романа Уинстон Смит, работающий в данном министерстве, и его коллеги. Читаем:

«Ручка была архаическим инструментом, ими даже расписывались редко, и Уинстон раздобыл свою тайком и не без труда [...] Вообще-то он не привык писать рукой. Кроме самых коротких заметок, он всё диктовал в речепис...».

Сотрудники надиктовывают тексты справок, статей и документов, а машина выдает готовый печатный текст. Это сейчас мы уже знаем о таких устройствах (и даже ими иногда пользуемся), их принято называть «умными принтерами». А в 40-е годы прошлого столетия речепис воспринимался как плод больной фантазии писателя. Как известно, Уинстон Смит занимался в Министерстве правды прежде всего тем, что переписывал тексты прошлого (из газет и журналов, также книги и документы) для того, чтобы «скорректированные» материалы находились в полном соответствии с последними установками партии и Большого брата («неправильные» версии материалов регулярно и полностью уничтожались). 
Для таких «коррекций» надо было постоянно проводить ревизию гигантских массивов материалов и текстов предыдущих лет и даже десятилетий. Может быть, сегодня искусственный интеллект, опирающийся на гигантские базы данных, уже способен решать подобные задачи. Но в 40-е годы прошлого столетия все это казалось запредельной фантастикой. Конечно, больше всего в романе говорится о тотальном слежении за населением. Между прочим, граждан Океании (так называется государство, в котором действуют главные герои романа) об этом слежении предупреждают плакаты. В Лондоне (где живет и работает главный герой романа Уинстон Смит) на каждом шагу встречаются плакаты с портретом Большого брата, на которых написано: «Большой брат следит за тобой». И это не страшилка. 
15 процентов граждан Океании — члены партии (партия английского социализма — ангсоц). За каждым словом, за каждым движением, даже за выражением лица каждого члена партии (за исключением партийных боссов — членов так называемой «внутренней партии» — они вне подозрения) идет непрерывная слежка с помощью технических средств, называемых «телекранами». Выражаясь современным языком, это плоские телевизионные мониторы достаточно больших размеров. Между прочим, в 1940-е годы на Западе появлялись лишь первые телевизоры с электронно-лучевыми трубками. Эти громоздкие и примитивные (с высоты нашего сегодняшнего времени) аппараты имели мало общего с телекранами. Телекраны в романе работают как на прием, так и на передачу. На прием: разная аудио и видео информация, которая призвана постоянно оказывать воспитательное влияние на человека (ее можно назвать партийной пропагандой). На передачу: монитор отслеживает человека, его движение, его мимику и его голос. Телекраны находятся в рабочих помещениях, в жилье партийцев, развешаны на улицах. Все просматривается и прослушивается круглосуточно. Спрятаться от телекрана очень сложно. Даже если объект умудряется исчезнуть из поля зрения машины, это становится подозрительным для тех, кто ведет наблюдение. Человек всегда должен быть на виду у машины.

Но даже в лесных пригородах Лондона, где происходили тайные свидания Уинстона Смита и Джулии, эти герои романа вынуждены были говорить шепотом или изъясняться знаками, так как опасались прослушивания через тайные микрофоны. Джордж Оруэлл ничего не говорит о технической стороне, о том, как устроены телекраны. Об этих технических средствах слежения за гражданами писали и пишут многие исследователи творчества Джорджа Оруэлла. Можно домыслить за Оруэлла и сказать, что в конструкции телекранов используются полупроводники, чипы и микрочипы. Т.е. телекраны, выражаясь современным языком, можно назвать цифровой технологией. 
Но следует задать еще один «детский» вопрос по поводу телекранов: а кто отслеживает информацию с этих самых телекранов? Сотрудники службы безопасности Большого брата (в романе это ведомство называется «министерством любви»)? Но ведь телекранов по всей Океании, вероятно, сотни тысяч или даже миллионы. К каждому телекрану наблюдателя не поставишь. Да и одного наблюдателя на телекран будет мало. Ведь телекран работает круглые сутки. Как минимум наблюдателей должно быть столько же, сколько наблюдаемых. Может быть, именно по этой причине в первые годы после выхода романа в свет некоторые скептики и критики называли телекраны «плодом больной фантазии» писателя. 
Но эту критику сегодня отвергает факт появления в мире искусственного интеллекта (ИИ). Роботы (машины ИИ) могут обслуживать неограниченное количество того, что в романе называется телекранами. Т.е. подсматривающих и подслушивающих устройств. Сегодня уже такие машины ИИ имеются и используются. Они могут, например, выявить в многотысячной толпе того человека, за которым ведется особое наблюдение. Сегодня по мимике лица и жестам объекта наблюдения ИИ может сделать заключение о том, как себя человек чувствует. Даже — о чем он может думать. Сегодня не только в отдельных странах, но и во всем мире выстраивается глобальный электронный концлагерь. И его эффективное функционирование предполагает, что ИИ будет отслеживать каждого узника круглосуточно. Конечно, предсказания Оруэлла о системе тотального слежения за людьми реализуются не буквально. 
Вероятно, что скоро можно будет отказаться от тех технических средств, которые напоминают телекраны Оруэлла. Зачем они нужны, если на сегодняшний день, по некоторым оценкам, у 2/3 населения Земли есть в карманах свои маленькие телекраны в виде мобильных телефонов? О том, как эти карманные телекраны могут работать (и уже работают) на Большого брата (собирательный образ мирового правительства, глубинного государства, закулисы), сказано и написано очень много. Поэтому я продолжать не буду. А ведь предсказывал это Джордж Оруэлл, который был не инженером, не физиком, а всего лишь писателем. Но писателем с даром видеть будущее благодаря глубокому пониманию того, как устроено настоящее. Примечательно, что в Океании научно-технический прогресс и искусственный интеллект используются лишь на очень немногих направлениях. Лишь на тех, которые нужны партии и Большому брату для того, чтобы сохранять и укреплять свою власть. По сути, все было сведено к двум приоритетам: созданию и наращиванию оружия массового поражения и разработкам технологий, лишающих человека свободы. Читаем: 

«Поиски нового оружия продолжаются постоянно, и это одна из немногих областей, где еще может найти себе применение изобретательный или теоретический ум… технический прогресс происходит только там, где результаты его можно как-то использовать для сокращения человеческой свободы. В полезных ремеслах мир либо стоит на месте, либо движется вспять. Поля пашут конным плугом, а книги сочиняют на машинах».

Очень жесткая, но справедливая картина «нового дивного мира»: писать книги и заниматься другим «творчеством» будут «умные» машины, а человек, лишенный статуса homo sapiens, будет пахать поля конным плугом. Да и другие «полезные ремесла» (производство жизненно необходимых товаров и услуг) либо будут находится в застое, либо деградировать. К сожалению, формат статьи не позволяет с помощью цифр и ярких примеров из сегодняшнего дня проиллюстрировать, насколько же прав был Джордж Оруэлл в своем видении будущего научно-технического прогресса. Он нарисовал картину научно-технического прогресса на фоне ужасающего регресса человека и человечества! 

Примечание:

Подробнее о сказанном в статье читатель может узнать из книги: Катасонов В. Роман Джорджа Оруэлла «1984» и современность. — М.: Наше завтра, 2024.

​