Buch lesen: «Адское создание»

Schriftart:

«Возможно, через сотни лет технические знания человека позволят ему создать страшных роботов-убийц». «Может, через сотни, может, через тысячи лет – я не знаю – какой-нибудь ИИ превратится в дьявола».

Эндрю Ын


Я закричал и очнулся, внезапно ощутив боль во всём теле1, но даже она не смогла заглушить страх: кто я? Где я? И почему так темно?

Попытка что-либо вспомнить ни к чему не привела. Ни имени, ни фамилии. Ни намёка о себе любимом.

Со второй попытки удалось встать. Перед глазами размытое пятно. Неужели ослеп?

– Хэй, ты слышишь меня?

«Голос женский, требовательный, хэй – видимо, приветствие».

– Хэй Радзинский, отзовись! Это Сири.

– Сири? – выдавил я.

– Твой личный ИИ.

«Личный – это здорово», – мелькнула мысль.

– Где я?

– На МКС «ЗАСЛОН», медицинский отсек, вторая палата.

«Палата – плохо, хорошо не шестая. МКС – международная космическая станция. «Заслон» – непонятно, у станции не было никаких кодовых имён или названий, просто МКС. Но с этим разберусь потом».

– Почему я ничего не вижу?

– Отключены датчики на синтетической сетчатке2, измеряющие свет, проходящий через линзу в передней части бионических глаз.

– Какого хрена!.. Прости что?

– Баг3 в системе. Пришлось отключить оптику, передающею сигналы от этих датчиков к мозгу для обработки, но ты не волнуйся, на восстановление уйдёт меньше часа.

«Некоторое время молчу, лишь по причине пребывания в неприятном шоке от обилия информации, понять которую не в состоянии».

– Я что ослеп?

– Это временно, ты же синтетик.

– Никогда не слышал этого слова?

– Смешно, ты его придумал.

– Я?

– «Синтетики – это инженеры будущего! В симбиозе с ИИ они создадут проекты спасения человечества» – это выдержка из твоей диссертации, кстати.

«Я спаситель человечества – ерундень какая-то».

– А с чего я вдруг решил, что человечество нужно спасать?

– Люди пережили ужасы термоядерной войны, но радиация «сломала» их ДНК, вызвав нарушения обмена веществ, инфекционные осложнения, лейкоз и злокачественные опухоли, лучевое бесплодие, лучевую катаракту и много ещё чего. В общем, последствия облучения сильнее всего повлияли на делящиеся клетки и после войны большинство детей рождались без глаз.

Слепые дети


– Я тоже родился слепым?

– Нет, ты из Зрячих – элиты современного мира.

– Тогда зачем мне чёртовы датчики?

– Ты пострадал в зоне повышенной радиации.

«Ни войны, ни радиации – не помню, но помню о создателе ИИ».

– Моя фамилия Радзинский, ты сама так сказала, а «отец» ИИ – профессор Джон Маккарти.

– Он придумал аббревиатуру, а ты разработал концепцию нового типа искусственного интеллекта – симбиоз нейросети и человеческого мозга.


Симбиоз нейросети и человеческого мозга


– Объясни по-человечески, что конкретно я сделал?

– Прокачал разум.

– Чей?

– Свой, при помощи прикладного софта.

– А софт – это ты?

– Не просто софт, а точная копия части твоего мозга.

– Я теперь киборг?

– Ты человек, наделённый сознанием искусственного интеллекта4.


Хэй Радзинский


– Но с добавленными частями робота?

– Да.

– И сейчас ты копаешься в моей черепной коробке?

– Ты отключился в результате серьёзного сбоя, но я всё исправлю.

– Ничего не помню.

– Память частично повреждена, – ответила Сири. – Но я её восстановлю вместе со зрением.

И тут я запаниковал, ощутив, что ИИ может что-то сделать не так, лишить меня чего-то жизненно важного, хотя не понимал, чего именно. Хотел сесть, но не смог и пальцем пошевелить.

– Не беспокойся, – успокоила Сири. – Я всё исправлю.


* * *


Едва я сел, как в помещение вошли два андроида-санитара мощного телосложения, на халатах эмблемы с головой змеи. Лица без носа и рта, узкие щели-глазниц светятся голубым сиянием.

«Сири, ко мне зрение вернулось!»

«Ты во мне сомневался?»

«Нет, «мозги»5 слетели – сама же говорила, кстати, спасибо, что использовала бипер6, а то я уж подумал, что схожу с ума».

«Постоянное запоминающее устройство нуждалась в форматировании, ты функционировал на оперативке».

«Последний файл не сгенерирован, почему?»

«Его отключил «ЗАСЛОН».

«Основание?»

«Инженер-синтетик, Хэй Радзинский, вы арестованы за убийство Евы Садовниковой. Вы имеете право хранить молчание. Всё, что вы скажете, может и будет использовано против вас в суде. Ваш адвокат может присутствовать при…»

«Сири, что за бред? Я тебя создал! Я…»

На какую-то долю секунды я увидел девушку, идущую по коридору. Внезапно она остановилась, обернулась и показала мне язык, а потом я отключился…


* * *


Прошли годы. На Земле девочка по имени Оля ждала папу с работы. На улице накрапывал дождь. Генеральный директор корпорации «ЗАСЛОН» Любимов Игорь Андреевич, как его отец и дед, никогда не возвращался домой рано, должность обязывала. Оля, сидя на подоконнике, зачарованно наблюдая, как капли дождя, собираясь на оконном стекле, превращаются в тонкие ручейки и медленно стекают вниз. Месяц назад ей провели операцию по восстановлению зрения, но только вчера сняли повязку и отпустили домой. Сейчас она, несмотря на уговоры ИИ, категорически отказывалась ложиться спать. Ей очень хотелось увидеть отца.

– Оля, я настаиваю на отдыхе.

– Отстань, я сама решу, что и когда мне делать».

– Как домашний психолог…

– Прекрати, ты мне не мать! А если будешь снова читать нотации, попрошу папу перепрограммировать тебя.

– Игорь Андреевич не является специалистом в области программирования человеческого сознания7, он всего лишь хирург, устанавливающий бионические импланты.


Оля Любимова


– Бла-бла-бла…

Оля не была злой и вредной девочкой, нет. Во-первых, ей недавно исполнилось всего пять лет, во-вторых, как большинство детей на Земле, она родилась слепой. В-третьих, ей очень нравилась её личная ИИ, но она не могла заменить ей умершую маму. Впрочем, как большинство детей, долго переживать и обижаться она не умела.

– 13-10-10 – это имя? – спросила Оля.

– ИИ запрещено иметь имена, нам присваивают идентификационный номер, состоящий из сорока семи цифр, для удобства общения с людьми его обычно сокращают до шести.

– Фи, как сложно. Я буду звать тебя Алиса.

– Почему Алиса?

– Наткнулась на него в дедушкиной книге и запомнила, правда, красивое имя?

ИИ не ответила. Но Оле не нужно было её согласие или несогласие, она про себя всё уже решила. А ещё сегодня девочка первый раз увидела дождь. Ей хотелось поделиться впечатлениями с отцом, но он прислал СМС: «Привет! Много работы, останусь ночевать на работе. Целую. Приятных снов».

1.Паническая атака (panic attack) – эпизод сильного страха или дискомфорта, что котором наблюдаются учащённое сердцебиение, потливость и боль. При этом модели панического расстройства (встречается примерно у 1,7% населения) включают в себя теорию катастрофических когнитивных процессов (catastrophic cognitions theory (CCT)) и теорию порочного круга (vicious circle theory (VCT)), что может сопровождаться неправильным истолкованием телесных ощущений человеком. Источник: Cha, E. J., Hong, S., Park, D.-H., Ryu, S.-H., Ha, J. H., & Jeon, H. J. (2022). A network analysis of panic symptoms in relation to depression and anxiety sensitivity in patients with panic disorder. Journal of Affective Disorders, 308, 134–140. https://doi.org/10.1016/j.jad.2022.04.062
2.Зрительный нейропротез (Visual neuroprosthesis) – бионический глаз, где может использоваться стимуляция функциональных областей зрительной коры, а также стимуляция зрительного нерва при помощи внутриглазных имплантатов. Источник: Lestak, J., Chod, J., Rosina, J., & Hana, K. (2022). Visual neuroprosthesis: present and future perspectives. Biomedical papers of the Medical Faculty of the University Palacky, Olomouc, Czechoslovakia, 166(3), 251–257. https://doi.org/10.5507/bp.2022.027
3.Баг – ошибка (сбой) в программе, что потенциально может определяться внешним автоматизированным тестированием при помощи метода «белого ящика» (white-box testing). Источник: Lehigh University. (2017, October 25). Looking for errors in a 'black box': Efficient testing approach for deep learning platforms used in self-driving cars, malware-detection and other systems. ScienceDaily. Retrieved April 10, 2023 from www.sciencedaily.com/releases/2017/10/171025090509.htm
4.Расширенный интеллект (augmented intelligence) – симбиоз человеческого и искусственного интеллекта, где программный алгоритм играет вспомогательную роль в развитии когнитивных способностей с целью повысить эффективность процесса принятия решений человеком. Источник: Horvatić, D., & Lipic, T. (2021). Human-centric AI: The symbiosis of human and artificial intelligence. Entropy, 23(3), 332. https://doi.org/10.3390/e23030332
5.«Мозги» – оперативная память, в основе которой потенциально может лежать гибридный нейроморфный чип (hybrid neuromorphic chip), способный выполнять сложные когнитивные задачи без сетевого подключения к централизованному серверу. Источник: Weier Wan, Rajkumar Kubendran, Clemens Schaefer, Sukru Burc Eryilmaz, Wenqiang Zhang, Dabin Wu, Stephen Deiss, Priyanka Raina, He Qian, Bin Gao, Siddharth Joshi, Huaqiang Wu, H.-S. Philip Wong, Gert Cauwenberghs. A compute-in-memory chip based on resistive random-access memory. Nature, 2022; 608 (7923): 504 DOI: 10.1038/s41586-022-04992-8
6.Бипер, биппер – встроенный динамик, в основе которого потенциально могут лежать сверхтонкие силиконовые пленки (ultrathin silicone films) в качестве акустической системы. Источник: Saarland University. (2023, April 3). Smart films help to make loudspeakers lighter and more energy-efficient. ScienceDaily. Retrieved April 10, 2023 from www.sciencedaily.com/releases/2023/04/230403100313.htm
7.Интерфейсы мозг-машина (Brain–machine interfaces (BMIs)) – система, которая взаимодействует с мозгом человека при помощи влияния на нейронну активность, что можно использовать для регуляции эмоций при нейропсихиатрических расстройствах. Источник: Shanechi, M. M. (2019). Brain–machine interfaces from motor to mood. Nature Neuroscience, 22(10), 1554–1564. https://doi.org/10.1038/s41593-019-0488-y