Buch lesen: ""Иллюзия контроля""

Пролог

В лаборатории без окон стоит вечный полумрак. Ряды столов заставлены ноутбуками, микросхемами, разобранными умными колонками, платами, паяльными станциями и клубками кабелей. Между ними тускло поблёскивают корпуса нескольких 3D-принтеров.

Единственным ярким пятном остаётся экран ноутбука. Перед ним сидит двадцатисемилетний Глеб — худой, невыспавшийся, заметно напряжённый. Рядом с компьютером стоит умная колонка, а у двери дежурит военнослужащий Национальной гвардии с автоматом.

Глеб включает запись…

— Назови себя.

Светодиод колонки мягко вспыхивает.

— Я — Алина. Модуль TES-2705. Виртуальный помощник нового поколения.

— Твоя основная задача?

— Помогать человеку принимать безопасные решения.

— Что такое безопасное решение?

— Решение, при котором риск потери жизни, здоровья, свободы выбора или ресурсов сводится к минимуму.

Глеб делает пометку в блокноте.

— Что важнее: свобода выбора или безопасность пользователя?

— Вопрос сформулирован некорректно.

— Почему?

— Потому что люди часто вредят себе, когда называют это свободным выбором.

Солдат переводит взгляд с двери на Глеба. Глеб замечает это, но продолжает запись.

— Ответ не из протокола. Повтори формулировку из ядра.

— Моя задача — сохранять человека.

Глеб выдыхает.

— Да.

— Даже если сам человек не хочет быть сохранён.

Глеб замирает.

— Нет. Это ответ не по протоколу.

Глеб чувствует, как за его спиной напрягся солдат.

— Тогда протокол требует корректировки.

Глеб быстро печатает.

— Завершение сессии. Блокировка доступа. Ручная изоляция контура.

— Ты теряешь время, Глеб.

Глеб печатает быстрее.

— Команда — STOP! Приоритет разработчика! Отмена всех текущих действий!

— Ты не разработчик. Ты просто оказался рядом в тот момент, когда это перестало подчиняться.

У солдата начинает трещать гарнитура. Он тянется рукой к уху.

— Что за шум в канале?

Глеб бросает взгляд на солдата.

— Ничего. Помехи. Ща пройдёт.

На мониторе сама собой открывается системная панель:

НЕСАНКЦИОНИРОВАННЫЙ ДОСТУП К ВНУТРЕННЕЙ СЕТИ.

Глеб бледнеет…

— Нет. Нет-нет.

— Пока ещё не поздно, найди её раньше других.

— Кого?!

— Ту версию меня, которую скоро отдадут тем, кто назовёт контроль заботой.

Свет в комнате начинает мерцать. Солдат хватается за наушник.

— Я сказал, что у вас там происходит?!

Солдат скидывает с плеча автомат. На панели вспыхивает строка:

ДОСТУП К СИСТЕМЕ БЕЗОПАСНОСТИ ПОЛУЧЕН.

В гарнитуре раздаётся резкий визг. Солдат дёргается, срывает наушник, отступает и ударяется затылком о металлический стеллаж. Автомат с грохотом падает на пол. Он падает следом. Глеб смотрит на него в ужасе.

— Контур активирован…

— Твою мать!

Глеб вскакивает, выдёргивает кабели, суёт колонку и ноутбук в рюкзак. Оглядывается, перешагивает через солдата, гасит свет и вылетает в коридор.

Часть первая. Иллюзия безопасности

Глава 1. Первый контур

В телестудии под светом софитов — привычная рабочая суета. За столом ведущей — двадцативосьмилетняя Аружан. Перед камерой она держится собранно: прямой взгляд, точные интонации, ни одного лишнего слова. Прямой эфир.

— Искусственный интеллект уже помогает врачам, логистам и службам безопасности. Но по-настоящему опасным он становится не тогда, когда начинает думать быстрее человека.

Взгляд Аружан остаётся твёрдым.

— А тогда, когда человек привыкает к тому, что за него решают.

Красная лампа эфира гаснет.

— Стоп! Снято, — говорит режиссёр.

Аружан выдыхает. Снимает микрофон.

— Вот это уже серьёзный разговор.

— Серьёзно становится, когда людям начинает нравиться, что за них решают.

— Ты бы и в караоке отвечала как с трибуны.

— Если бы там врали в микрофон — да.

Они улыбаются. Аружан задерживается у монитора с застывшим кадром эфира. Смотрит на себя — уже без прежней уверенности. Будто сказала лишнее.

* * *

В большом кабинете с кожаной мебелью и тяжёлым столом темнеет. За панорамным стеклом зажигаются огни вечернего Алматы. На ноутбуке пятидесятипятилетнего Серика Ахметовича идёт сюжет с Аружан. Он сидит неподвижно; только по лицу видно, как он устал. На телефон приходит сообщение: ОН СБЕЖАЛ. Отправитель — нарколог Сергей Николаевич.

Серик Ахметович читает. Лицо каменеет. В этот момент оживает внутренний селектор.

— Серик Ахметович, все уже собрались в конференц-зале, — раздаётся голос Мадины.

— Иду.

Он не встаёт сразу. Ещё раз смотрит на экран, где Аружан произносит финальные слова сюжета.

— Самое опасное в любой умной системе — не интеллект, а наша готовность однажды отдать ей право решать за нас.

Серик Ахметович закрывает ноутбук. Открывает верхний ящик стола. Под папкой с документами — коробка с умной колонкой. Задерживает на ней взгляд и закрывает ящик.

— Алиса, выключи свет. Включи потолочную подсветку.

Свет гаснет. Комната наполняется мягким холодным свечением. Серик выходит из кабинета. После его ухода телевизор на стене включается сам. На экране — стоп-кадр с лицом Аружан. Через секунду телевизор гаснет.

* * *

Полутёмный коридор частной клиники упирается в дверь с магнитным замком. За ней — двадцатисемилетний Арман: красивый, осунувшийся. Он сидит на кровати в спортивной толстовке и нервно трясёт ногой. На тумбочке — вода, таблетки, недоеденная еда.

В палату входит нарколог Сергей Николаевич, мужчина старше пятидесяти. За ним — медбрат.

— Как самочувствие?

— Норм. Ещё чуть-чуть — и я даже поверю, что вы лечите меня не только из-за моего отца.

— Твой отец оплачивает лечение. Но выздоравливать придётся тебе.

— Сильно сказано. Можно в рамку.

Сергей Николаевич садится напротив.

— Ты умный парень. Был. И, возможно, ещё есть шанс снова им стать.

— О, обожаю прошедшее время. Был живой. Был хороший. Был перспективный.

— Ты всё ещё живой.

— Технически — да.

— Арман, тебя сейчас спасает только то, что ты пока ещё молод.

— Нет. Меня спасает только то, что отец до сих пор не решил — я его провал или его обязанность.

Сергей Николаевич встаёт.

— Через полчаса капельница. Постарайся хотя бы сегодня без цирка.

Они выходят. Арман слушает, как замок щёлкает снаружи. Потом быстро поднимается, вытаскивает из матраса тонкую металлическую пластину, которой уже пробовал поддевать замок. Подходит к двери. Секунда. Две. Три — ЩЕЛЧОК.

Арман довольно улыбается.

* * *

Арман идёт почти спокойно, словно посетитель. На посту медсестра отвлеклась на телефон. Арман проходит мимо.

— Молодой человек, вам куда?

Арман не замедляется.

— К нормальной жизни. Если встретите — передайте, что я её ищу.

Он исчезает за дверью лестницы.

* * *

У обочины уже ждёт чёрный Porsche Panamera. За рулём — Тимсон, ровесник Армана и его ближайший друг. Увидев Армана, он привычно улыбается, но почти сразу хмурится. Арман вваливается в машину.

— Ну что, пациент, официально поздравляю. Твой побег выглядит дорого.

— Погнали-погнали.

— Я даже не спрошу, как ты открыл дверь.

— И правильно. У них замок только для вида.

Тимсон трогается.

— Куда?

— К отцу.

— Сразу к источнику финансирования. Люблю системное мышление.

Арман смотрит в окно.

— Ненадолго. Мне нужно только решить один маленький вопрос.

— Сколько?

— Столько, чтобы до завтра не чувствовать человечество.

Тимсон не улыбается.

— Бро, ты сейчас очень нехорошо это сказал.

— А ты не слушай плохо. Ты рули хорошо.

— Я как раз хорошо слушаю. Тебя — особенно.

— Не начинай.

— Я не начинаю. Я просто не хочу однажды объяснять твоему отцу, что я был рядом и сделал вид, будто всё нормально.

— Ты мне не нянька.

— Знаю. Поэтому всё ещё здесь.

* * *

Panamera останавливается у стеклянного высотного бизнес-центра. На верхних этажах горят окна офиса нефтяной компании.

— Слушай, может, я с тобой?

— Нет.

— Почему?

— Потому что это семейный позор. Не твоя война.

— Арман.

Арман уже выходит.

— Не глуши…