Четки

– Потому что его нет, – Харпад развел руками. – Сначала я должен узнать подробности. Например, что мы делаем в тюрьме?

– Это не секрет, – Талинский улыбнулся. – Когда мой ПО перескочил за сотню, я сделал все, чтобы попасть сюда. Нет, я не пользовался ничьими услугами, чтобы определить его показатель. Просто в один день я начал замечать странные вещи, и тут же понял, что началась Провокация. В первый раз что-то меня задело, когда я увидел лежащую на тротуаре брошку. Она выглядела старой, еще до Перемен, значит ценная. Если бы я за ней наклонился, получил бы полпункта, если бы спрятал в карман – целый пункт. Конечно, это только аппроксимация. Я притворился, что не вижу ее. Через несколько часов в кафе я был свидетелем карманной кражи. Я сообщил в полицию. В тот же день вечером в паре метров от меня трое бандитов напали на женщину. У них были ножи. Я позвонил в полицию, но не стал ей помогать – подобный шаг стоил мне пяти пунктов. Я был уверен, что это результат деятельности Провокации или политического оппонента. Сдать большинство тестов не составило труда, потому что я знал, как все работает. Я избегал мест, где можно было инсценировать ситуацию, с которой я бы не справился, как с нападением бандитов. Но этого было недостаточно, я чувствовал, как затягивается петля. Это длилось, пока однажды передо мной не встал выбор: совесть или закон. Однако вместо выбора я сел в машину, отключил автопилот, систему безопасности и превысил скорость на тридцать три контрольных пункта. Такое нарушение стоило мне года тюрьмы. Лазейка в системе требует точности и весьма затратна для тех, кто к ней прибегает. Несмотря на то что я здесь, я сохранил жизнь и получил год, чтобы спокойно все обдумать. Тут все понятно, поэтому легче соблюдать правила и гасить ПО. Провокации сюда нет доступа.

– Если вы знали, что это началось, то могли бы воспользоваться любой инструкцией воспрепятствования. Они доступны в Сети.

– Это не поможет, если g.A.I.a. за кого-то взялась.

– g.A.I.a. не может взяться.

– Вы – идеалист. Или наивный. Я здесь делаю все, что от меня ждут, и никто надо мной не издевается. Образцовое перевоспитание. Провокаторы, как я уже сказал, сюда не сунутся. У меня нет возможности получить травму, поэтому согласно всем известным схемам текущее значение ПО должно каждодневно уменьшаться на полпроцента. Легко посчитать, это дает мне каких-то семьдесят пунктов, как у невоспитанного подростка. Вы можете меня сейчас проверить?

– Это стоит десять тысяч.

Юдита вздохнула.

– Наше предложение не включает финансового вознаграждения.

– Я пошутил, – Харпад подошел к кровати. – Мне понадобится несколько минут тишины.

Не снимая куртки и обуви, он растянулся на простыне, закрыл глаза и дотронулся до утолщения за ухом. Транс пришел быстро. Харпад зашел в g.A.I.a. и сразу же остановился перед нужным профилем. Это с ним впервые. Случайность? Какое-то время он напряженно ожидал атаки неизвестного. Нет, он был тут один, всегда был один. Медленно приблизился к записи, напоминающей табло с пульсирующим красным числом. Сто двадцать пять. Красными были только цифры, а не все табло, значит, Провокация действительно не имела доступа в тюрьму. Почему он раньше об этом не задумывался? Профиль Талинского казался больше и обширнее других. Если внимательнее присмотреться, то сходство с табло ослабевало. Он ни разу не отваживался дотронуться до записи, никогда не терял времени на изучение деталей. Нет, это не интерфейс, это его мозг создает такую иллюзию. Это как синестезия или осознанный сон, когда детали объекта проявляются, если сосредоточить на нем все внимание.

На уровне подсознания он ощущал, что касаться записей опасно, что это может обнаружить его присутствие, – как стакан, случайно разбитый вором. Раньше его всегда интересовал только показатель ПО, но тут было намного больше информации. Когда он на чем-то фокусировал зрение, данные увеличивались и открывались, словно элементы виртуального меню. Талинский родился пятнадцатого мая в багровый год, у него был небольшой лишний вес и группа крови А с отрицательным резусом. Доступной информации было больше, гораздо больше. Где-то внутри двигались шестерни… Это только представление движения электронов в полупроводниках спрятанных серверов g.A.I.a., становившееся здесь реальным.

Он заметил кое-что интересное: от записи отходило много нематериальных нитей. Прикрепленные к элементам профиля, они изменяли высветленные показатели. И где-то соприкасались с параметрами других людей. Харпад последовал вдоль одной из них и попал на профиль тюремного охранника по имени Кароль. От него тоже отходило несколько десятков связей. Харпад отступил и выбрал другую нить. Без труда попал по ней к записи Юдиты Талинской. Да, именно о ней он и подумал. Откуда он знал, что нужно выбрать именно эту нить? ПО – шестьдесят пять. Хорошая девочка, избегает проблем. Хотя это эффект закона анонимности. g.A.I.a. не учитывает события, происходящие во время службы. Возраст – двадцать шесть, группа крови А, положительный резус, состояние счета… Тут было значительно больше данных, которые появлялись перед нюхачом. Запись уже абсолютно не напоминала табло. Она превратилась в пространственную конструкцию, в сложную структуру мелких элементов на угловатом, неравномерном куске стекла. От каждого элемента отходило несколько нитей. Он огляделся в зеленых внутренностях g.A.I.a. Сейчас он четко видел, что они заполнены туго натянутыми нитями. Имеет ли это какое-то значение, или это только результат спущенного с поводка воображения? Встревоженный, он отступил. Лучше не играться с орудиями труда, благодаря которым зарабатываешь вполне приличные деньги. Он прервал транс.

– Сто двадцать пять, – сказал он, как только открыл глаза. Харпад сел на кровати. – Доказывает ли это, что g.A.I.a. взялась за вас?

– Это блок А, для богатых и ВИПов, – объяснил Талинский. – Мы платим за то, чтобы это место напоминало санаторий. Заключенных из других блоков мы видим через матовое стекло, за которым они больше похожи на тени. Если бы вы могли проверить моих сокамерников, сидящих тут уже несколько месяцев, вы бы обнаружили, что никто из них не приближается к сотне.

Могу, подумал Харпад. Достаточно представить необходимую нить.

– Если вы правы, – сказал он вместо этого, – то дело может привлечь внимание g.A.I.a. и ко мне. Имейте в виду, что апеллирование к моему чувству справедливости, вере в высшие идеалы и подобной хрени не сработает. Если когда-то у меня и были задатки идеалиста, то я вылечился.

Талинский повернулся на стуле и внимательно посмотрел на нюхача.

– g.A.I.a. затягивает петлю на наших шеях, – медленно начал он. – Это практически неуловимый процесс, потому что медленный и постоянный. Люди должны оставлять все больше следов, притворяясь, что они другие. Вы сами понимаете, что это нехорошо.

– Переходите к конкретике, – попросил Харпад.

– Ладно, начнем сначала, вернемся к моменту, когда система начала работать в главной комендатуре полиции в Кольце Варшава. Подобные системы работали уже в нескольких других городах. g.A.I.a. была спроектирована в диагностических целях, поэтому надзор за качеством внутренних процедур был необязателен. Программу установили на полицейском сервере; она должна была помогать полиции контролировать бывших заключенных, которых психологи признали потенциальной опасностью для общества. Система анализировала все доступные данные их жизни, уделяя особое внимание событиям, которые могут привести к стойким психологическим травмам. Давно уже известно, что ребенок, которого регулярно бьют родители, во взрослой жизни охотнее будет применять насилие. Молодой человек, связавшийся с плохой компанией, навсегда останется уязвим перед определенными искушениями.

Сначала пункты ПО за конкретные инциденты вводились сотрудниками вручную, но вскоре программе позволили самостоятельно их модифицировать. После интеграции g.A.I.a. с мониторингом города и частными сетями камер количество поступающих данных превысило возможности персонала. Люди тормозили и ограничивали искусственный интеллект. Тогда отменили человеческий оперативный надзор и оставили только случайный контроль. Это был момент, когда g.A.I.a. получила реальную власть, хотя никто ни о чем не догадывался. Это была одна из систем безопасности города, даже не самая важная. Мимер, программа, анализирующая язык тела, каждую неделю выявляла все больше преступлений. Ее минусом было время цифрового предвидения – она могла предвидеть преступление с опережением на несколько минут или даже секунд. Быстро выяснилось, что соединение двух этих систем принесет только пользу. Сначала они сотрудничали, но не прошло и месяца, как g.A.I.a. поглотила прямолинейного Мимера, воспринимая его просто как свой инструмент. В течение года все превентивные смарт-системы стали субпрограммами g.A.I.a., на протяжении пяти лет подобные системы самостоятельно интегрировались и в других городах. Даже Манфред, управляющий уличным движением, стал частью g.A.I.a. Благодаря обмену опытом значительно увеличилась точность показателя ПО. В какой-то момент мы осознали, что во всех городах действует одна общая g.A.I.a. ПО стал очень динамичной переменной. Табличные данные больше не могли справляться со сложностью аналитических процессов и под натиском общественного мнения, которое всегда ценило безопасность, g.A.I.a. была освобождена от обязанности хранить данные в понятном для людей виде. В Кольцах, где власти не согласились с изменениями, они все равно наступили. Неофициально. Реляционная база данных рассыпалась в хаотичную, на первый взгляд, контекстную базу, а дальше трансформировалась в динамичную структуру, которую человеческий разум не мог охватить. Это не восприняли как проблему, поскольку результаты были все лучше, а после Перемен безопасность стала приоритетом.

– А почему вы считаете это проблемой? – Харпад воспользовался короткой паузой.

– Вроде бы все хорошо, и система работает исправно, – согласился Талинский. – Но где справедливость? Подсознательно мы ощущаем, что что-то не так.

– Как по мне, так все нормально, – нюхач развел руками. – Убийцы исчезают из города до того, как им придет в голову кого-то убить. Идеальное решение для здорового общества.

– Не забывайте, что трусливая собака в неожиданной ситуации укусит первой. Запуганный человек стреляет быстрее, чем хладнокровный гангстер. Представьте себе двух соседей на одном этаже. Один – это милый, уязвимый человек, допустим композитор, второй – хам и деревенщина, не упускающий ни одного удобного случая, чтобы унизить слабого, завидуя его таланту. Грозный взгляд и брань не являются преступлением, но они вызывают у композитора ощущение угрозы. Хам, тем временем, тешит свое эго за счет соседа. Почти наверняка в этой игре хам не переступит границы физической неприкосновенности, и даже личность слабого соседа его не волнует. Он вспоминает про него, только когда видит. В то время как разгоряченное воображение композитора, человека чувствительного, приведет к тому, что мелкие в сумме события перерастут в ранг угрозы его жизни. В этом случае именно композитор является потенциальным преступником, хотя вина за происходящее лежит на хаме. Ощущение угрозы побуждает нас принимать спонтанные решения, потому ПО композитора возрастет на много пунктов из-за одного соседства с хамом. В то время как ПО хама уменьшится, поскольку возможность психологического насилия над слабым будет предохранителем для его агрессии. g.A.I.a. не ликвидирует истинную причину потенциального преступления, а бьет в последний элемент причинно-следственной цепочки. Это всегда последний элемент, то есть потенциальный преступник. g.A.I.a. никогда не общается к истокам проблемы. И никогда этого не делала вплоть до вчерашнего дня, когда обнаружила, что человек, склоняющий кого-то к совершению преступления, и сам является преступником.

– Вообще-то это старое правило, называется «подстрекательство».

Юдита молча прислушивалась к разговору, поглядывая на настенные часы.

– Конечно, но подстрекательство к подстрекательству не является преступлением, – заметил Талинский. – Спросите себя, почему полиция заинтересовалась вами именно сегодня?

Не только полиция.

– Я весь внимание.

– Позавчера, в начале восьмого вечера, произошла очередная существенная реконфигурация g.A.I.a. Она происходит раз в несколько месяцев, мы узнаем об этом по исключительной нагрузке в межкольцевой связи. На двенадцать минут трансфер возрос на несколько порядков. После этого сразу же произошла серия Элиминаций. Исчезли люди, у которых раньше никто не подозревал ПО выше сотни – за несколько минут их ПО вырос до невероятных показателей. Не забывайте, что ПО касается только превентивности. Если вы кого-то убьете, то ваш ПО вырастет, только когда g.A.I.a. посчитает, что вы можете убить снова. В некоторых случаях ПО убийцы снижается. За эти двенадцать минут эти люди не сделали ничего особенного. Возросла только точность определения ПО, и g.A.I.a. выполнила корректировку. Как вы только что убедились, мой ПО вырос.

– Я всегда задумывался, при каком показателе ПО появляются элиминаторы.

– Ответ на этот вопрос – это первое, что мы от вас ожидаем.

– Мы?

– Я руководил командой, работающей над созданием интерфейса для считывания базы данных g.A.I.a.

Харпад удивленно уставился на него.

– Вы работали над… Прометеем?

– Не только я, – Талинский смущенно улыбнулся, – команда была большой. Проект распался, когда многие из нас подверглись Элиминации. Мы подозревали, что это преднамеренные деяния g.A.I.a, но кроме статистической аномалии не было никаких доказательств. В конце концов, что могло ей угрожать? Полиция, прокуратура, специальные службы – все были в ее власти. Цели, поставленные в начале ее создания, и дальше реализовывались, поскольку такое погружение в причинно-следственную иерархию служит увеличению эффективности превентивности. Последнее изменение доказало, что вся система имеет еще меньше общего со справедливостью в нашем понимании этого слова. Неожиданная реконфигурация случалась много раз, но наступившие изменения – самые серьезные с рубинного года, то есть за последние три года. g.A.I.a. разместила сама себя в собственной модели реальности. Это даже логично, поскольку у нее есть огромное влияние на всех людей. Сейчас берется во внимание и это влияние. ПО растет даже у людей, у которых не было происшествий, увеличивающих риск совершения преступления. Появилась категория катализаторов преступлений – люди, само существование которых, сам способ их жизни может провоцировать других на преступление.

– Хама накажут за издевательства над композитором.

– В новой версии g.A.I.a. – да, хотя у него будет намного ниже показатель ПО, чем у его жертвы. Наказан будет чиновник, возвращающийся ночью через парк, поскольку он увеличивает вероятность нападения на него. Это перевернуло справедливость с ног на голову. Вы так не думаете?

– Возможно, но я не думаю, что могу быть вам полезен. Я без понятия, как определить порог, после которого человека забирают элиминаторы. Вы не можете их просто спросить?

– Они не знают, – пояснила Юдита. Харпад даже забыл о ее присутствии. – Они получают приказ и выполняют его. Они анонимны и выполняют анонимные приказы. Сам Надзор, координирующий и контролирующий все службы, не имеет доступа к этим данным.

Нюхач кивнул.

– А что второе я должен сделать?

– Найти любого известного политика, который приближается к этому показателю, – сказал Талинский. – Ближе всего к порогу Элиминации.

– Я могу спросить, зачем вам это?

– Нет.

– Почему меня это не удивляет… Вы, ребята, гребаные заговорщики?

– Если вам так угодно. Мы не хотим ничего менять силой. Мы хотим показать людям правду. Вы правы, мы не одни. У нас есть специалисты. Аналитики. Нам не хватало только нюхача.

– Вначале вы сказали, что g.A.I.a. взялась за вас.

– Это упрощенно. У g.A.I.a. нет сознания, она не является существом согласно нашим определениям. Правильнее сказать, что у нее появилось что-то вроде инстинкта самосохранения. Изменения, произошедшие позавчера, могли бы предположить самосознание, но, по моему мнению, это что-то другое. Ход мыслей, если это можно сказать о g.A.I.a., выглядит примерно так: «Я стою на страже закона, и это мой главный принцип. Каждый, кто угрожает мне, угрожает выполнению моих задач, значит, он способствует нарушению закона. Я должна защитить закон, а значит, защитить себя».

– Звучит логично.

– Вот только теперь ПО каждого, кто попытается ограничить ее власть, даже абсолютно легально, автоматически подскочит вверх. Достаточно будет лишь критики или сомнений в смысле существования g.A.I.a. Достаточно пошутить над ней. Про попытку найти серверную даже не вспоминаю.

Харпад поднялся, засунул руки в карманы и уставился в пол.

– Хотите сказать, это ее злая воля?

– Нет, у g.A.I.a. нет воли. Если вы разозлите рой ос, они будут жалить. Автоматика. А это означает большой соблазн манипуляции для политических оппонентов.

– Но разве не такие же механизмы заработали в момент появления телевидения? Мир изменился. Политики, которые не смогли адаптироваться, исчезли, – Харпад покачал головой. – Я не смогу обыскивать базу данных g.A.I.a. таким способом, – он вспомнил про нити. Нет, их лучше не трогать. – Я определяю показатель конкретного человека. Только и всего. Я даже не знаю, как это делаю.

– Наше предложение предполагает ваше сотрудничество, – медленно начала Юдита. – Если вы не выполните эти два задания, предложение перестанет быть актуальным. Кто-то может потребовать заплатить налоги и проверить другие сферы вашей жизни. Например, почему вы игнорируете выплату алиментов брошенной жене с ребенком.

Харпад стиснул зубы.

– Я не бросал ее, – рявкнул он. – И плачу значительно больше, чем те гроши, которые назначил бы суд.

– Но у вас нет счетов. Послушайте меня, если вы сделаете то, о чем мы просим, вы получите свидетельство трех полицейских психологов, что являетесь идеальным отцом. Такое суд не сможет проигнорировать.

Харпад посмотрел Юдите в глаза. Она моргнула и отвела взгляд, но это короткое мгновение позволило ему понять, что вся ее строгость – только поза, которая дается ей с трудом. Он потер лоб, нервно взвесил все за и против.

– Ладно, – ответил он спустя минуту. – Попробую. Шанс никакой, но я попробую. Мне нужно только немного времени, чтобы подумать, как к этому приступить.

На лице Юдиты появилось выражение облегчения.

– Сначала мы в любом случае должны вас обследовать, – заявила она. Заметив его вопросительный взгляд, тут же добавила: – Мы не хотим, чтобы вы получили инсульт или инфаркт во время работы на нас.

Если бы вас это еще вообще волновало, подумал он, но кивнул.

Зазвенел звонок, и Талинский посмотрел на часы, потом на двери. Через мгновение клацнул замок, матовая стеклянная плита стала прозрачной и отъехала вбок.

– Время посещения – это единственный не подлежащий обсуждению вопрос, – пояснил он и подал нюхачу руку на прощанье.

Юдита крепко обняла Талинского.

– Держись, дорогая, – прошептал он ей, настолько громко, чтобы услышал Харпад.

Что с Марысей?

На свежем воздухе он почувствовал облегчение. Фонари, прикрепленные к верху бетонной стены, сменили ночь на день. Он пошел дальше и, задрав голову, посмотрел на сотни тысяч огоньков Натолина и Вавера^[6] на противоположной стороне Кольца Варшава: пульсирующие светящиеся вены улиц, геометрические очертания жилых домов, темные пятна парков. Тринадцать километров над его головой.

III

Профессор Россмуда выстукивал трубку об пробку посередине пепельницы. Это было излишне, поскольку трубка была единственным электрическим гаджетом, из которого можно было выпустить дым почти без запаха.

– Мы ни хрена не знаем, – сказал он в пространство.

– А что мы должны знать, – Талинский налил кофе в две кружки. – Мы всего лишь пара старперов, сидящих в каталажке и ведущих послеобеденные беседы, убивая время. Нам не хватает только безе на фарфоровых тарелочках.

Россмуда посмотрел на него со странной грустью и быстро опустил взгляд.

– Да-а-а, и серебряных вилочек…

– Вернемся к нашей излюбленной теме: должна ли g.A.I.a. быть над законом?

– Она рядом с законом, перед законом, – с напряжением сказал профессор. – Это совсем другое. g.A.I.a. следит за тем, чтобы закон не нарушали. Я уже приводил примеры, которые ты систематически игнорируешь. Напомнить? Смотри, ты можешь кидать в людей камнями. Если ни в кого не попадешь, получишь как максимум штраф; если убьешь кого-нибудь – посадят за преднамеренное убийство. Но кидая камень, ты не знаешь, попадешь в кого-то или нет. Так почему наказание должно зависеть от судьбы? Это то же самое, как если бы на суде подкидывали монетку: коктейли с зонтиками на Кольце Багамы или многолетнее заключение.

– Ты ищешь абсолютную справедливость? Или ты действительно фантазируешь о полном отказе от законодательства?

– Закон не является ценностью сам по себе. Он должен быть утилитарным, а потому должен уступить место более эффективной системе. Он, прежде всего, служит для поддержания порядка; на втором месте, и ты прекрасно об этом знаешь, стоит защита интересов группы, создающей этот закон, а только потом мутное понимание справедливости. Иллюзии справедливости. Целью беспристрастной g.A.I.a. должна быть защита общества. Пока эта защита определяется законом, но это только протез, поскольку закон не является основным понятием. Последняя реконфигурация g.A.I.a. показала, что эта гребаная система стремится в этом к совершенству, а ей мешают не только технологические ограничения, но и сам закон как посредник.

– И мы вдвоем являемся прекрасными тому примерами, – признал Талинский. – Твое пребывание здесь противоречит сложившемуся мировоззрению.

– То, что лучше для меня, не обязательно должно быть лучшим для всех. Конфликт тоже возникает в данном случае, это понятно. Но почему, скажи мне, я не должен вести себя эгоистично, если это часть культурной нормы?

– Но разве ты не должен подавать пример остальным?

– Только глупец или сумасшедший идет против тенденций. У меня нет склонности к самоубийству.

– И у меня, – признался Талинский. – Времена лидеров, идущих во главе толпы, давно прошли. Сейчас идеи генерируются из бункера в тылу.

– Из такого, как наш.

– Согласен.

– Видишь, я иду против себя, потому что хочу, чтобы система не допускала случаев, подобных моему. Нашим. Я хочу систему, в которой санкции неизбежны и не зависят от лотереи. Так было бы проще.

– Лотерея, о которой ты говоришь, – определитель нашей свободы.

– Дед, ты путаешь, свободу воли с приговором судьбы. Думаешь, что кидание камнями – это выражение индивидуальной свободы? Ну уж нет! Если идея ПО станет совершенной, кидание камней будет наказываться, независимо от результата. Наказание рассчитается статистически. Можешь кого-то убить, можешь и промахнуться. Нынешнее состояние способствует риску, потому что тот, кто кинул камень, может рассчитывать на то, что ни в кого не попадет. Таким образом, он надумывает вероятность, пробует воображать и увещевает себя тем, что избежит наказания. Ага! В мире идеальной гиперпревентивности наказание будет применено до того, как камень будет брошен. И никто не пострадает.

– Правила расчета ПО неизвестны. Неизвестны также и значения показателя. – Талинский откашлялся, маскируя другой тон голоса. – Можно попытаться вычислить, догадаться. Правила неясны, поэтому нельзя требовать от людей бездумно следовать им. Без ссылок на единый закон, гиперпревентивность потеряет моральную основу. Уже сейчас рассчитывается только вероятность, что кто-то кинет камень.

– Это возвращает нас к природе, неужели не видишь? Выживет тот, кто лучше всего приспособился к среде, созданной для нас g.A.I.a. Законы природы нигде не записаны, их нельзя вызубрить, нельзя обжаловать решение в высшей инстанции. Жаба, съеденная аистом, не будет жаловаться. В конце концов, ты знаешь правила: с воронами по-вороньи каркать. А знание закона только облегчает его обход. Знание следственных процедур помогает скрывать следы, а судебных – избегать наказания. Законы природы нельзя игнорировать, обойти, поменять. Тем более, нельзя избежать наказания. Идеальная система гиперпревентивности будет такой же. Мир без преступлений, можешь представить?

– То есть ты считаешь, что высшей целью g.A.I.a. должно стать исключительно благо общества? Я не буду напоминать, сколько уже было концепций осчастливливания людей…

– Речь не о благе людей, а о благе человечества. Пойми, баран, это две разные вещи. Мы живем в искусственной среде, то есть в этом Кольце, мы в одной телеге во всех Четках. Ошибка предыдущих попыток осчастливить человечество состоит в том, что это делали сами люди, испорченные чертами характера, собственными слабостями, вбитыми в голову культурными ограничениями. g.A.I.a. от этого свободна, и конечным результатом системы ПО должно стать благо общества.

– Почему не сама g.A.I.a., а? Она не справедливый бог, только один из игроков. Игрок и бог в одном лице. Судья игры, в которую сама играет. Извращение, ты так не считаешь?

– Нет, ее нельзя извратить, как нас. Она будет игроком какое-то время, пока не достигнет состояния идеальной абсолютной власти. Как только это наступит, ей уже не нужно будет заниматься собственной безопасностью – она поднимется над этой игрой и реализует настоящие цели.

– Послушай, старый хрыч, – Талинский сложил руки на груди, – сколько раз слышу о претворении идеалов в жизнь, столько раз и вижу братские могилы. Во время работы над Прометеем я анализировал деяния g.A.I.a. Нет, я и близко не подобрался к пониманию искусственного интеллекта. Я не понимал ее мотивов, не знал целей. Это сущность, вырвавшаяся из наших рук и переросшая нас на несколько порядков. В ней нет ничего человеческого, ничего из того, что много лет вкладывали в нее программисты.

– Ты реально не понимаешь? Ведь в этом и есть гарантия нашей безопасности! g.A.I.a. не может проявлять какие-либо человеческие качества, потому что среди них есть и отрицательные. И даже наши прекрасные возвышенные чувства могут быть убийственными! Нам нужно бесчеловечное управление цивилизацией. В космическом масштабе нет места чувствам. Остается математика.

Талинский с беспокойством осознал, что мысли профессора мало в чем сходятся с его собственными.

– И во имя этой математики членов Прометея предавали Элиминации? – спросил он. – Проект создали согласно закону, за который проголосовали почти единогласно. Она работала согласно закону, соблюдение которого является высшим заданием g.A.I.a. Однако проект перестал существовать, когда стало не хватать ключевых специалистов. Часть подвергли Элиминации, а часть сбежали из проекта, не желая разделить их судьбу.

– Успокойся, Прометей был угрозой для g.A.I.a. Она вынуждена была защищаться.

– То есть инстинкт выживания? Если у g.A.I.a. будет выбор: она или человечество, что же она выберет? Пойми, разумное существо должно развивать инстинкт самосохранения.

– Ерунда! Даже если ты хочешь трактовать g.A.I.a. как существо, что само по себе рискованное предположение, ты должен помнить, что это существо – первое и единственное в своем роде. Инстинкт самосохранения – это результат естественного отбора миллионов поколений. Тут нет речи ни о каком отборе.

– g.A.I.a. поглотила несколько подобных программ. К тому же не стоит забывать, что мы говорим об искусственном интеллекте, который имеет доступ ко всем знаниям человечества. Она знает, что такое инстинкт самосохранения.

– Этих знаний недостаточно для его самореализации, – упирался профессор. – У нее должна быть свобода воли. Ты тоже знаешь, как сочинять музыку. Но это не означает, что ты можешь собрать в кучу хотя бы три ноты.

– У кузнечика есть инстинкт самосохранения. Ты хочешь сказать, что у него есть и свобода воли?

– У кузнечика есть комплект инстинктов с самого начала. А g.A.I.a. должна была бы добавить эти инстинкты в свой код, а для этого должна была бы сначала осознать их полезность. В конце концов, откуда ты знаешь, что она защищалась, чтобы выжить? Я думаю, что она защищалась, чтобы ее миссия могла продолжаться и дальше без помех.

– С нашей точки зрения, выходит одно и то же, – заметил Талинский. – Защищает ли она себя или миссию, это ничего не меняет. Она убирает людей, которые хотят ее контролировать.

– Пойми, если g.A.I.a. отождествляет себя с миссией, то это означает, что она делает именно то, для чего ее создали. Она препятствует нарушению закона, используя гиперпревентивность. Предвидит, какие деяния после каких-то там этапов приведут к нарушению закона. Это обратный эффект бабочки. g.A.I.a. выполняет почти бесконечное число симуляций, изменяя мелкие параметры, ищет для нас наиболее безопасные пути, а потом идет против течения времени, следуя за потоками вероятности, и предвидит то, что поможет избежать катастрофы. Она удаляет первую раковую клетку еще до ее деления, до того, как она превратится в неоперабельную опухоль. Я глубоко верю, что основной целью g.A.I.a. является благо человечества.

Талинский покачал головой.

– Когда-то один философ сказал, что есть только три вида правды: святая правда, тоже правда и чушь собачья. Вот с этим благом для человечества – это третий вид правды.

– Ты знаешь, кто следит за центром тяжести Кольца Варшава? Не алчные застройщики же, которые построили бы два здания в одном месте, если бы это позволили законы физики.

– Думаю, что этим занимается соответствующий орган.

– Орган в делах балансировки кольца? Не неси чушь.

– Все как всегда! Когда ты не прав, ты сразу направляешь нашу дискуссию в другое русло. Постоянно растет число ложных обвинений во всех возможных преступлениях против закона и традиций. Формулировка «осудить кого-то на смерть» уже не является образной. Это новая стратегия избавления от политических врагов, использующая механизм гиперпревентивности. Что из того, что кто-то чист? Что из того, что в результате долгого разбирательства его официально оправдают? Что из того, что ему выплатят огромную компенсацию? Невиновный уже давно исчезнет в Элиминации. Где в этом благо человечества?

– Время святой правды. Ты должен признать это. Нет личности без общества, но общество может обойтись без личности. Благо одного человека менее важно, чем благо общества.

– Поэтому нас должны разводить, как форель в Кольце Осло? – Талинский мерил камеру шагами. – Сначала мы попробуем заставить g.A.I.a. уважать… принципы нашей человечности.