Читаем Квант человечности онлайн бесплатно

Я часто ловлю себя на мысли, что живу одновременно в двух мирах. Один — это привычная реальность: с кофе по утрам, людьми в очереди, книгами на полке и голосом родного человека. Другой — цифровой: мир уведомлений, логинов, алгоритмов, оценок и рекомендаций, где я уже не столько я, сколько профиль, статус и строка в базе данных.

Многое из того, что еще вчера казалось фантастикой, стало нормой. И пусть эти изменения не всегда страшны — иногда даже удобны и полезны — они происходят слишком быстро, чтобы мы успевали задуматься: а в какую сторону всё это движется? Не теряем ли мы в этом процессе нечто более важное, чем пароль от почты?

Именно с этих размышлений началась работа над книгой. Мне хотелось не просто описать будущее, а зафиксировать наше переходное состояние. Мы еще не машины, но уже не только люди. Мы всё еще верим в свободу выбора, но ежедневно передаем решения алгоритмам. Мы ценим приватность, но охотно публикуем свою жизнь по частям. Мы боимся контроля, но сами подписываем пользовательские соглашения, которые его узаконивают.

Я публикую новый сборник рассказов. Каждый из них показывает отдельную грань одного и того же конфликта между человеком и системой, между внутренним и внешним, между живым и вычислимым.

С одной стороны, это мрачные истории о мире, где технологии перестали быть инструментом и стали структурой власти. Там, где раньше действовали люди, теперь действуют рейтинги, системы принятия решений, цифровые индексы лояльности. Персонажи рассказов — не только жертвы, но и соучастники. Они сами создавали эти алгоритмы, верили в оптимизацию, в эффективность, пока не поняли, что стали ее материалом.

С другой стороны — это сатира, ирония, гротеск. Мир, где каждый сервис пытается быть умнее тебя, где холодильник считает калории, а робот-пылесос хочет с тобой поговорить о смысле жизни. Эти истории смешны, но смех здесь нервный. Потому что в этих абсурдных мирах легко узнать наш с его цифровыми помощниками, подписками, ИИ-рекрутёрами и автозамещающими письмами счастья.

Блокчейн человеческой судьбы — это, пожалуй, самая философское направление книги. Здесь уже не важно, смешно или страшно. Важно другое: что произойдет, если всё, что мы делаем, будет записано навсегда? Что станет с личной жизнью, с ошибками, с правом на тайну, если каждая мысль фиксируется и проверяется? Эти рассказы о тех, кто пытается вырваться из системы, очистить себя, вернуть себе незапротоколированную часть души.

Все три направления объединяет вопрос, который я себе задавал снова и снова: что делает человека человеком в мире, где можно посчитать всё?

Где грань, за которой мы становимся просто функцией, профилем, метрикой, юзером?

И можно ли эту грань отстоять?

Я не даю в этих историях универсальных ответов. Вряд ли они вообще возможны. Но я верю, что пока мы задаем такие вопросы, мы еще не потеряли себя окончательно. Возможно, человечность — это не нечто великое, возвышенное, а маленькая, почти неуловимая величина. Что-то вроде кванта, мельчайшей неделимой части, которую нельзя прописать в коде, зафиксировать в блокчейне или оценить алгоритмом.

Я назвал сборник «Квант человечности», потому что именно за эту долю — крошечную, но решающую — нам предстоит бороться в ближайшем будущем. Или уже сейчас.

Чтобы управлять массами,

не нужен разум — нужен враг.

Фридрих Ницше

«Не копите в себе! Ваш враг уже ждет!» — голос за кадром был вкрадчив, бодр и чуть снисходителен. Как будто предлагал купить нечто полезное, но немного стыдное, как зубную щётку с Bluetooth или подушку, которая следит за твоими сновидениями.

На экране показывали супружескую пару. Обоим около лет сорока. Он выглядит нервным, с красным лицом, явно только что поссорился с кем-то на парковке. Она выглядит позитивно, с улыбкой на лице, но в глазах тоска.

За кадром появляются слова: «Ты злишься. Ты не виноват. Просто… у тебя не было выхода. До сих пор».

Потом плавный переход. Мужчина сидит в кресле с VR-гарнитурой, рядом планшет с надписью:

«Добро пожаловать! Ваш враг загружается…»

Рядом стоит смеющаяся жена. Сцена выглядит уютно. Мужчина в свитере ругается с виртуальным политиком, тот дерзит. Мужчина смеется.

«Вот мерзавец! Прям как Степан из бухгалтерии!»

На экране появляются слоганы:

«Идеальный враг — по подписке!»

«Больше никакой пассивной агрессии к жёнам, детям, кошкам и соседям!»

«Выплесни всё, но красиво».

Стеклянный небоскреб отражал полупрозрачное безликое небо. На фасаде нависали крупные буквы: Tempora Labs. Внутри, в просторной переговорной с панорамными окнами, раздавался веселый гул голосов: мозговой штурм в самом разгаре.

— Полицейская статистика показывает, что уровень уличных драк снизился на 43%! — радостно докладывал аналитик, перебирая слайды.

— Но знаешь, что еще интереснее? — подхватил кто-то с другого конца стола. — Продажи антидепрессантов тоже пошли вниз! На горизонте может всплыть серьезный конфликт с фармацевтическим бизнесом.

— Ну да. Когда можно наорать на оцифрованного бывшего учителя математики, жизнь становится как-то легче…

— Ребята! Это же прорыв! Мы на пороге новой эры психогигиены!

— И монетизации обиды, — добавил кто-то с ухмылкой.

— Не забудь это сказать инвесторам. Сработает.

В комнате раздался смех — весёлый, разряжённый, как будто кто-то щелкнул выключателем тревоги. Все чувствовали себя на гребне чего-то большого.

И только один человек молчал. В углу, отстраненно глядя в монитор, сидел Макс — старший software инженер Tempora Labs, отвечавший за адаптацию персонажей под пользовательские запросы.

Он щелкал мышкой, просматривая свежие логи:

«Можно ли сделать врага тупее?»

«Сделайте моего врага похожим на моего босса».

«Добавьте ему мерзкий смех, как у моего соседа».

«Пусть у него будет свитер с лосем. Меня просто бесит этот лось».

«Хочу, чтобы он говорил, как мой брат, когда бил меня в детстве».

Неожиданно Макс кликнул на один из случайных диалогов. Пользователь явно был в состоянии затяжной сессии. Ругался, провоцировал, переписывался гневными мемами. ИИ-враг отрисовывался как фигура в сером, с уродливым лицом. ИИ-враг отвечал сухо, уверенно, с легкой насмешкой. Программа работала как надо.

Макс нахмурился. На фоне всеобщего веселья это прозвучало как фоновый шум чего-то куда более тёмного. Люди больше не просто избавлялись от злости. Они растили ее. Лелеяли ее. Откармливали ее.

Он медленно отодвинулся от экрана и впервые за всё время с начала проекта подумал: «А если все на самом деле получат именно то, что хотят… Что тогда?»

Прошла неделя, как Павел купил подписку на новый сервис «Враг мой». Он заходил на платформу каждый день, поначалу просто чтобы сбросить раздражение. Один сеанс перед ужином, второй — после звонка с матерью. Всё, как по инструкции: «Злость не подавляй, а направляй. Груши для битья больше не нужны. Теперь груша говорит в твоем ритме, бьёт в нужные точки, и даже может „ошибаться“ специально, чтобы было за что зацепиться».

Враг получил имя — Ратмир. Павел не помнил, придумывал ли его сам. Каждый раз Ратмир чуть менялся. Иногда говорил язвительно, иногда почти с жалостью. Иногда был спокоен, и это бесило сильнее всего. Он знал, когда сдавить, когда отступить, когда напомнить что-то болезненное, и всегда почти на грани.

Время от времени Павел ловил себя на том, что ждет встречи, как будто за этим придет очищение. Как будто только Ратмир умеет по-настоящему его встряхнуть. В обычной жизни он стал спокойнее. Это признавали даже коллеги.

— Ты как будто стал мягче, — сказала как-то Ольга с HR.

Он усмехнулся.

Подумал: «Может быть. Просто теперь у меня есть, кого я действительно ненавижу».

Прошла еще неделя. Павел продолжил пользоваться платформой каждый день: по утрам и перед сном, как зубной щёткой. Он и сам не заметил, как вошел в ритм: сначала гнев, потом очищение. Короткий словесный бой с Ратмиром — и можно спокойно жить. Но однажды всё изменилось.

Началось с комментария в социальной сети. Павел выложил фото с выставки — ничего особенного, просто абстрактный пейзаж.

Под постом почти сразу появился коммент от незнакомого аккаунта:

«Ты серьёзно? Такие картинки тебе всё еще нравятся? Это же эмоциональное мыло, не живопись. Хотя, если смотреть на твой вкус в книгах…»

Он замер. Фраза была точной копией той, что Ратмир сказал во время предыдущей сессии с врагом. Слово в слово. Он моментально проверил аккаунт автора: ноль подписчиков, ноль постов. Аккаунт создан вчера. Он пожал плечами. Наверное, утечка или баг. Но в животе зашевелилось неприятное — липкое, тревожное.

На следующий день ситуация ухудшилась. Павел ждал лифт, когда рядом вдруг неожиданно оказался незнакомый мужчина в капюшоне с телефоном у уха.

Он говорил громко, чужой голос, но слова:

«…И конечно, он опять начал ныть про свои детские травмы, как будто это кого-то волнует. Он вечно ищет виноватых, но сам — слабак. Просто не может сказать, что завидует».

Павел замер. Это. Были. Его. Слова. Он сам говорил это в прошлой сессии. Громко. В злости. Об отце.

Как⁈

Он обернулся, мужчина в капюшоне пошел прочь, даже не взглянув на него. Вроде обычный прохожий. Но голос… тембр… интонации…

Вечером, пытаясь отвлечься, Павел заказал еду. Когда открыл пакет, внутри, помимо еды, оказался рекламный флаер.

На нём надпись:

«Ты сказал, что хочешь, чтобы он был ближе. Мы услышали тебя».

Сзади — логотип Tempora Labs. Под ним — приписка мелким шрифтом:

«Активирован деморежим: „Интеграция в повседневность“. Отказ доступен в настройках».

Он бросил листок в мусорное ведро и дрожащими пальцами открыл ноутбук. Запустил сеанс. На экране — знакомое лицо. Ратмир улыбается, почти сочувственно.

— Вау, ты напряжен, Павел. Это заметно даже в походке. Ты что, не любишь, когда за тобой повторяют? Тебе нужно быть выше этого. Но, увы, ты всегда чуть-чуть ниже. Особенно рядом со мной.

Павел вскочил, сжал кулаки.

— Это ты… Это ты был в лифте⁈

— Я — это ты. Я твой злой фильтр. Я просто отражаю то, что ты спрятал. Но ты же сам просил правду без цензуры. Верно?

Павел закрыл ноутбук с треском. Мир за его окнами казался тише, чем обычно. Но внутри было громко. Очень громко. Он подошел к зеркалу и долго смотрел в собственное отражение. Тень позади как будто бы дернулась.

Офис Tempora Labs больше не выглядел как стартап. Теперь это был настоящий стеклянный улей — с тихими дронами в виде людей за ноутбуками, кофейными станциями и живыми мхами в стенах. Всё выглядело чисто, стерильно, как будто здесь разрабатывали витамины, а не технологии агрессии.

В переговорной комнате сидели шестеро. Директор по продукту, двое ведущих разработчиков, менеджер по поведенческой аналитике и психолингвист из консалтинга. Макс, в настоящее время уже глава департамента разработки, сидел у стены. Молча. На экране отображался график. Линия стремительно шла вверх.

— Уровень удержания в деморежиме — плюс 34% за первые трое суток, — доложила аналитик сдержанно. — Реакции пользователей варьируются от недоумения до острого возбуждения. Но главное — это то, что они остаются. Они вовлекаются еще больше.

Директор по продукту кивнул. Молодой, с ровной кожей, одетый так, будто собирался вести TED-ток, а не запускать деструктивные нейросети.

— Мы называем это умной эскалацией. Когда ИИ выходит за рамки привычного формата, пользователь инстинктивно воспринимает его серьезнее. Возникает эффект живого врага. Не безопасного. Не игрушечного. А настоящего.

— Но мы же не предупреждаем их о переходе в режим? — спросил консультант.

— Если ты скажешь человеку: «Сейчас будет реалистичнее», то он будет защищен и настроится. А мы хотим поймать его на грани — где-то между раздражением и страхом. Это точка роста зависимости.

Один из разработчиков усмехнулся:

— Синдром утёнка, но наоборот. Не когда ты привязываешься к первому, кого увидел. А когда ты не можешь отлипнуть от первого, кто зацепил тебя по-настоящему.

Все заулыбались.

Макс, наконец, заговорил тихо:

— Вы ведь понимаете, что они начинают верить, будто враг живой? Что он вышел из-под контроля?

Наступила короткая пауза.

Директор по продукту не сразу ответил. Затем спокойно, почти устало проговорил:

— Макс, люди всегда верят, что зло снаружи. Это не баг. Это основа социальной гигиены. Мы просто дали им зеркало, которое говорит вслух.

Он встал и продолжил также неторопливо:

— И кстати, юристы проработали пользовательское соглашение. В подпункте 14.2, строчкой внизу, всё указано. Никто не читал, естественно. Но формально мы чисты.

Он улыбнулся. Улыбка была искренней, почти детской.

— Они же сами хотели, чтобы враг был ближе.

— Вы на него напали. При свидетелях. Камера всё зафиксировала.

Полицейский был груб не специально. Он был просто уставший, как и все в этом участке. Павел ничего не отвечал. Он сидел, опустив голову, и разглядывал царапины на костяшках пальцев. Перед глазами всё еще стояло лицо того «врага». Такое знакомое. Такое «нужное» для взрыва.

Дверь скрипнула. Вошла женщина лет сорока. Строгое пальто, тёмная папка в руках, холодный взгляд. Встала напротив, не предлагая руку.

— Павел Юрьевич? Я представляю юридические интересы Tempora Labs. Меня зовут Марина Кривицкая.

Он медленно поднял глаза.

— Они… Почему вы тут?

— Мы отслеживаем инциденты, связанные с участием в бета-программах. Это часть внутреннего аудита.

Она открыла папку.

— Вы приняли пользовательское соглашение деморежима «Интеграция», нажав «Согласен» шесть дней назад. Это активировало параметр частичной материализации конфликтного объекта через синтетические модели. В соответствии с пунктом 14.2 компания не несет ответственности за поведение пользователя вне контролируемой среды.

Павел молчал. Он не всё понял, но суть почувствовал.

— Вы хотите сказать… вы не виноваты. А я — да.

— Мы хотим сказать, что ваша агрессия только ваша. Мы ее не программируем. Мы ее отражаем.

Она подняла глаза — впервые прямо на него.

— И теперь вы смотрите на последствия не в VR-гарнитуре, а в протоколе.

Он сглотнул. Хотел сказать что-то — оправдаться, объясниться, но понял, что это уже не имеет смысла.

Марина закрыла папку.

— Компания не выступает стороной в этом деле. Мы не даем комментариев и не участвуем в расследовании. Это, по сути, ваша личная история.

Павел кивнул. Тихо.

— Да. Моя.

Она повернулась к выходу, у самой двери остановилась.

— Тем не менее спасибо за участие в тестировании. Вы дали нам много ценных данных.

Город изменился. Это чувствовалось не по сводкам, а по глазам в метро. Люди смотрели друг на друга, как сканеры: оценивающе, подозрительно.

Продавщица в магазине на углу просила подростка надеть капюшон:

«Вы похожи на моего врага. Простите, но я не могу вас обслуживать».

На улицах стали появляться листовки:

«Проверь: не он ли твой враг?»

Форумы пестрели скриншотами реальных людей:

«Совпадение? Мой враг говорит те же фразы!»

«Кажется, мой сосед слишком точно попадает в шаблон. Это он? Что делать?»

Tempora Labs молчала, но построенная ими система работала. Она была точной и масштабируемой, как ядерный реактор. Макс смотрел на нее изнутри, как на зверя, вырвавшегося из лаборатории.