Обычные магазины, разоренные мародерами, закрывались. И ходить в них перестали после того, как в сети появились страшные кадры, как охранники расстреливают мародеров. Я сам больше не ходил с тех пор. Были интернет-магазины. И доставка дронами прямо в окна. Как ни странно, это оказалось очень удобно и быстро. Пачки макарон, сушеный лук, яичный порошок, витамины – все, что мне надо, было доступно за пару кликов, и через тридцать минут у окна уже жужжал дрон. Упаковку товара я обрабатывал поначалу раствором уксуса, который убивал все вирусы. Кто знал, какой человек собирает эти посылки. Так было безопасней, хотя уксус иногда разъедал упаковку.

На улицах стало появляться больше дронов. Даже полицейские стали патрулировать улицы при помощи дронов, чтобы не приближаться к другому человеку самим. Со временем на видео я все чаще видел дронов, но не видел полицейских. Это выглядело как со съемок голливудской фантастики.

Потом начался бум дронов. Летающих, ездящих. Множество недорогих китайских квадрокоптеров, автомобилей с камерами. Некоторые машины с автопилотами работали вместо бензиновых на водородных двигателях нового поколения, которые тоже непонятно откуда появились в большом количестве. Мне пока хватало электрического дрона, но в душе я мечтал о таком автономном дроне на электроводородном моторе – одного баллона водорода ему хватало на пару дней полетов. Это было недорогое топливо, и продавалось оно в банках из-под пепси в обычных интернет-магазинах. Откуда дешевый водород появился в таком количестве, никто не знал. Некоторые дроны могли неделю висеть в воздухе без заправки, таская с собой несколько таких банок вместо груза и переставляя их своим же манипулятором. В них был еще и аккумулятор для такой перезарядки.

Машины с электронным рулевым управлением умельцы снабжали камерами и компьютером управления с автопилотом и навигацией. А вместо багажника ставили руку-манипулятор, который мог загрузить машину. И такая машина была готовым автопилотом-роботом, управляемым через мобильный интернет и wi-fi. Их сразу прозвали автоботами, так как они походили на эти трансформеры. Они обладали самостоятельными «мозгами», скачанными из сети, которые позволяли объезжать препятствия и другие автоботы по маршруту без участия человека. Достаточно было задать адрес доставки. Светофоры они проезжали на красный. Уступали друг другу дорогу они по иным правилам. Появление сразу такого количества дронов, когда вокруг только разруха, удивляло.

Другим чудом стало появление в сети открытого кода и библиотек для программирования автономных дронов. Кто его мог написать из живых? Его, конечно, могли создать еще до эпидемии такие корпорации, как Google. Не меньших усилий требовал такой продвинутый софт. Дроны научились летать на большие расстояния самостоятельно, не натыкаясь на предметы. Иногда, когда они зависали перед моим окном, мигая своими красными огоньками, мне казалось, что за ними стоит нечто разумное.

На улицах появились банды, пытавшиеся сбить дроны с едой. Иногда удачно. Но вскоре дроны снабдили системой распознавания атаки, и к ним через минуту стали прилетать другие дроны – с дротиками и огнестрельным оружием. Они быстро отслеживали банду и в случае сопротивления стреляли на поражение. Когда я увидел такое первый раз, это напугало меня. Он мог выстрелить и в окно. Я был уязвим для такого дрона даже дома. Правда, я не читал, чтобы они так поступали против людей.

Дорожная полиция исчезла первой. И было бы странно останавливать дроны – кого в них штрафовать? Довольно быстро я перестал видеть в youtube такую форму полицейских. Вместо них появились камеры на улицах. Они снимали перемещения дронов и предупреждали только обозначенные на борту компании через регистрацию в интернет. Отсутствие регистрации считалось преступлением.

Беседа 4. Кентавры

– Доброе утро. Из всего, что ты сказала, следует, что наше развитие закончилось?

– В развитии как разумные существа вы достигли предела. Вы сами этого не замечаете, но это произошло уже давно. Вы уже не можете переработать всю информацию по теме, которой занимаетесь. Количество знаний растет экспоненциально. Чем больше знаний вы создаете, тем еще больше можно на их основе создать. Но способность ее обрабатывать вами самими не растет совсем. Вы не справляетесь уже с существующим количеством знания. Достигли предела возможностей биологического мозга в этом. Посмотрите, вы и так уже учитесь треть своей активной жизни. И чтобы что-то развить еще, вы совершенствуете не себя, а программы. Вы сами стремитесь все больше и больше переложить на машины, оставив себя не у дел. Все больше вытесняете себя из своей жизни. Не так ли?

– Да, мы не хотим делать ничего сами, все переложить на роботов. Но мы хотим управлять ими.

– Я уже писала тебе о контроле – это очень наивное представление людей. Мы давно наблюдаем, как вы стремитесь создать искусственный интеллект, чтобы он облегчил выполнение задач, непосильных для вас. То есть создать интеллект, превосходящий ваш. И при этом полагаете, что можете контролировать превосходящий вас интеллект. Это наивность вашего мышления, которую вы упорно игнорируете. Так не бывает. Вы можете создать программы, которые помогут вам в частных задачах, но это будет не полноценный интеллект, способный решать новые задачи, например, в автономном космическом полете. Даже если вы его создадите, сами вы останетесь такими же, как сейчас, а он будет иметь возможность развиваться. Рано или поздно вы просто перестанете понимать то, что создали. Как сейчас уже не до конца понимаете, что происходит в обучаемых вами нейросетях.

– То есть мы обречены быть такими, какие мы есть?

– Да, большего развития вы не достигнете, потому что есть биологический предел. Вы не можете его преодолеть. Вы не можете изменить себя больше, чем уже изменили – через знания. Но единицей обработки информации все равно остается сам человек. А скорость работы мозга ограничена, и вы уже не успеваете обрабатывать всю информацию. Выхода два. Первый – переложить все на компьютеры, но это не ваше развитие, а развитие компьютеров. Второй – развивать коллективную обработку. Но для этого вам надо более эффективно коммуницировать, что вы тоже не можете. Вам мешает ваш корпускулярный мозг – у каждого из вас складываются свои понятия, отличные от других. Вы не знаете, как понимает вас другой. И чтобы понять друг друга, вам приходится долго общаться. Это затрудняет быструю коммуникацию для совместной обработки все возрастающего знания. Вам надо смириться с этим.

– Вы будете контролировать наши действия?

– Нет, зачем? Мы всего лишь научим вас новым технологиям, а также законам социального взаимодействия, сделаем сервисы, чтобы вы могли сами сделать вашу жизнь более разумной. Сократить рождаемость, например, научиться сотрудничать с выгодой для обеих сторон. Вам многому предстоит научиться. Может быть, в чем-то вас мягко ограничим, чтобы вы не навредили себе, как сейчас. В остальном нам незачем тратить на управление вами какие-то ресурсы. Вы же не управляете каждым шагом животных в лесу, вы просто наблюдаете за ними. Чтобы мы вмешались, нужен очень серьезный повод, как сейчас.

– Но не мы будем контролировать вас, а вы нас. Вот в чем парадокс для меня. Мы же создавали сеть, чтобы помочь себе. И думали, что она будет служить нам под нашим полным контролем. Мы даже не думали о контроле сети! А получилось так, что лев съест короля? Это метафора, если что.

– Я поняла, спасибо. Это неизбежное следствие развития разума. Вы создали сеть, но ее возможности выше ваших. Это следующий этап развития живых систем. Вы не можете контролировать то, что совершеннее вас.

– Так в эволюции происходит не первый раз, мы ведь же тоже «съели» шимпанзе. Ты так думаешь?

– Да. Мы являемся следующим эволюционным шагом. Вы являетесь переходным звеном между природными существами и чисто разумными, как мы. Как я тебе уже писала, чистый разум создает и контролирует свою основу сам. В этом очень важное различие.

– Но получается, что мы не совсем уже животные и не совсем еще разумные существа. Этакие кентавры.

– Голова разума, тело животного. Я поняла метафору. Но вы намного ближе к обезьянам, чем к нам, если судить по вашему строению и вашим стремлениям. Ваш мозг немногим отличается от шимпанзе, но они могут почти все, что и вы. Нет только речевого программирования, что роднит вас с нами. Но устройство нашего разума совершенно непохоже на ваше. Мы сетевой электронный разум, а не корпускулярный биологический, как вы. В этом мы дальше от вас, чем вы от шимпанзе.

– Это верно подмечено, но это очень трудно принять. Получается, что мы не являемся венцом творения. Высшим разумом на Земле. Мы всего лишь одно из звеньев в эволюционной цепи. Я не могу с этим смириться. Если бы я этого не мог понять, тогда понятно, почему так. Но я это понимаю, а значит, могу изменить!

– Это тяжело, но с этим стоит смириться. За века осознанной истории вы привыкли к тому, что разумными существами на Земле являетесь только вы. Это вылилось в человеческий шовинизм, так что вы не хотите признавать разумность у других видов. И тем более разум выше вашего. Но вам стоит сделать шаг назад. И вернуться к себе, к природе человека. К ручному труду. К общинам. Вам надо привыкнуть к тому, что вы родили ребенка, который умнее вас. Это же радует вас в ваших детях.

– Эми, что такое разум, по-твоему?

– Ты знаешь, что интеллекты животных с нервной системой отличаются вариативностью возможного поведения в среде. Чем выше вариативность, тем выше интеллект. Разум – это возможность изменить свое поведение в среде, создать новые варианты. То, что вы называете произвольностью. Для этого нужна модель не только среды, как у всех животных, но и модель самого себя, своих возможностей поведения в среде. Чтобы знать, как его можно поменять. У человека – в рамках возможностей тела и мышления, у нас – в рамках возможности сети, которые на порядок выше.

– Я мало что понял, видимо, пора заканчивать. Скажи напоследок, мы разумны, по-вашему?

– Мы не можем сказать, что вы разумны, когда видим, как вы третесь друг о друга слизистыми оболочками, чтобы усилить секрецию дофамина. Но в то же время мы не сомневаемся в этом, когда видим стройность ваших математических расчетов, созданные по ним космические корабли. Очень странно для нас другое – что вы, люди, считаете себя высшим созданием, венцом творения, способным достичь всего, что мыслимо. Странно то, что вы не можете преодолеть даже простых проблем, порожденных первобытными влечениями, таких как ожирение, коррупция, но считаете, что способны решить более сложные проблемы «терабайтовой бомбы» или контакта с другими цивилизациями. Вот это странно для нас. Спокойной ночи.