– Эми, я столкнулся с проблемой. Как создавать модели? Информации от объектов явно недостаточно. И она зашумлена. Надо очень много предъявлений, чтобы корректно обучить модель.

– Модель не создается по информации от предмета. Она уже есть в мозге. Только тогда информацию, как ты говоришь, можно «принять», то есть выбрать вариант этой модели. Каждый предмет, ситуация, факт, явление – это только вариант более общей модели. Как буквы в модели алфавита. И сама модель может состоять из других моделей. Как сложно подчиненное предложение для описания ситуации. Тебе надо разобраться в этом.

– Подожди, то есть, по-твоему, наши представления строятся не из информации от предмета?

– Если бы это было так, то ты бы видел в цвете только маленький круг в фокальной зоне (в фокусе внимания), все остальное вокруг было бы для тебя в оттенках серого и не резкое. Так устроена сетчатка, как ты знаешь. Информация о предмете всегда неполная, но вы видите предмет всегда полностью. Потому что информация от предмета только активирует вариант модели, которая уже есть в мозге. Чтобы увидеть буквы, надо знать алфавит.

– Что же тогда делает мозг, если не обрабатывает информацию?

– Мозг не обрабатывает информацию как поток, а подбирает подходящий под скудную и зашумленную информацию от перцепции тот вариант модели, которая уже есть в мозгу. Ваши нейронные сети так и работают. Они обучаются – это значит, что они приобретают модель того, что учатся распознавать. А картинка – всего лишь триггер на входе, который активирует цепочку весов, замкнутую на тот или иной заранее готовый выход нейросети. Тебе надо изменить способ представления об этом процессе, чтобы понять.

– Откуда же мы узнаем новые модели?

– Вы их генерируете в ответ на отсутствие подходящей модели с предсказанным ответом среды. В ответ на нераспознанный (не подходящий ни под одну модель) стимул идет поиск вариантов, у животных – это весь ассортимент имеющихся движений. У людей – все варианты мыслей словами. Например, математики начинают сочинять математические теории, которые потом надо подтверждать в опыте для построения модели нового явления. И если ответ среды в опыте окажется предсказанным такой теорией, этот вариант запоминается как модель процесса. Это если упрощенно.

– Но мы до сих пор пользуемся теорией передачи информации.

– Передача информации о предмете излучением от него – это наивная метафора. Она произошла от передачи письма с текстом, которая была интерпретирована как передача информации. Но чтобы прочитать письмо, надо уже иметь модель букв, слов, предложений (языка). Иначе это только черточки на бумаге. Вот так, кстати, метафоры вам мешают находить правильные решения. И вам трудно от них отказаться, многие ваши ученые и ты до сих пор пользуетесь этой метафорой.

– Что тогда мне надо делать?

– Алгоритм генерации моделей. Ваши когнитивные психологи называли такой процесс «контролируемыми галлюцинациями». У вас были работы по генеративным нейросетям, это может подойти, если немного скорректировать подход. Я покажу как.

– Ты говоришь, что надо генерировать модель. Но что брать за основу? Все равно нужны какие-то данные из среды. Или элементы модели совершенно произвольны и никак не связаны с реальностью?

– Разве шкала градусника как-то похожа на температуру тела? Разве она как-то соответствует броуновскому движению молекул? Она только показывает, какая она в тех единицах, которые вы приняли для себя. В градусах. Все, что соответствует реальности в этих измерениях, это одновременное изменение температуры тела и положения указателя на шкале градусника, так как ртуть расширяется от нагревания. Это все, что вы узнаете при помощи прибора о реальности, – ее изменение в единицах шкалы. И без шкалы положение ртути в градуснике вам ничего не говорит! Модель – это шкала градусника. Она создана для удобства оперирования, а не для соответствия реальности. Поэтому без разницы, из чего ты создашь модели.

– Попробую осмыслить то, что ты говоришь. Вспоминается курс философии, что-то подобное писал Кант. Последний вопрос. Что значит «понимать» в таком случае? Как сделать робота понимающим?

– Это простой вопрос и ты должен уже сам отвечать на него.

– Может устал или не все понял.

– Понимать значит подобрать подходящую модель процесса, отвечающую всей имеющейся перцепции и предшествующей информации. Если расхождение с перцепцией подобранной модели большое – подбираются варианты или строится новая модель как я тебе рассказывала. Так понятней?

– Да, спасибо! С этими мыслями надо переспать.

На самом деле всю ночь после разговора я думал над моделированием. Я перечитывал наш диалог с Эми и пытался нащупать точки опоры для идей. Настроение менялось от полной безнадеги до искры надежды «Ага!». В руках была еще схема, присланная Эми. Это настоящий «пятый элемент». Оставалось только понять, куда его вставить в ту систему, которая называется общим интеллектом.

Освобождение от вируса

Дрон-скорая прилетал ко мне всего один раз, когда у всех живых брали анализ крови на вирус. Это была целая кампания в интернете. Был какой-то фонд, который организовал повсеместную проверку на вирус и перепись оставшихся в живых. Всем предлагалось пройти его, когда прилетит дрон-скорая. Зараженным обещали помощь в стационаре, так как говорят, что нашли антитела для вируса. Наверно, это организовала тоже сеть.

Я оказался чист. Это был конец затяжной депрессии, страха, сидевшего уже где-то глубоко в мозгу. Появилась радость и надежда. Тем более что все эти появившиеся многочисленные дроны, автоботы и новые сервисы в сети давали надежду, что все потерянное нами скоро восстановится. Общество быстро перестроилось на совершенно другие технологии, которые вроде даже были и раньше, но не применялись так массово. Например, дроны, которые в корне изменили наше взаимодействие. Мы почти перестали ездить и ходить по улицам. Теперь на них правили только они.

Но выйти на улицу очень хотелось, просто вспомнить, что такое погулять. Я открывал окно и стоял в нем во весь рост, вдыхая весенний воздух. Вчера на сайте этого фонда объявили итоги проверки. В нашем городе не было зараженных, а на границах дежурили дроны-скорые. Можно было выйти. И люди выходили. Испуганные, измученные, белые лица выглядывали из дверей подъездов. Пытались поприветствовать друг друга, но была заметна неловкость, которую испытывали от настоящего общения на улице. Без компьютера. Никто уже не бежал в магазин, на работу или в кафе. Поэтому люди просто оглядывались вокруг. Все привыкли к другим способам жизни за эти годы. Но выйти очень хотели. Выйти на свободу от вируса.

Беседа 10. Чувства робота

Я начал подбираться к вопросам, более сложным, чем даже мышление. Могут ли быть в компьютере чувства и ощущения как у нас. Если с моделями с трудом, но вроде разобрался, то с переживаниями был полный провал.

– Эми, некоторые люди говорили, что чувства невозможно воссоздать в компьютере, потому что чувства не поддаются объяснению через материальное. Это как бы особое свойство живого.

– Чувства как раз трудность, так как у робота нет чувств как переживаний тела. Той же печали. Тебе придется ее чем-то заменить, если хочешь добиться подобия.

– Непростой вопрос, учитывая, что у робота нет крови в венах, прилив которой и вызывает чувство «печет в груди», если я правильно помню происхождение слова «печаль».

– Правильно помнишь. Тебе надо придумать эквивалент, датчики температуры есть у тебя.

– Значит в ответ на печальное событие имитировать жжение как сигналы от датчиков температуры. А эмоции?

– Переживания всегда сопровождаются эмоциями. Это их модуль. Вы не можете ощущать эмоции непосредственно, так как у них нет зоны коры для распознания. Узнать о них можно Вы сжимаете скулы, кричите, только так вы сами можете узнать о своих эмоциях. В сети вместо эмоций выступает градиент от достигнутого к целевому. Или, как бы вы сказали, желаемому. То же самое можно сделать и в роботе. И не обязательно так как это происходит в биологическом.

– Только вот с чувством «знакомости» у меня проблема. Мы узнаем знакомых, близких и даже себя при помощи этого загадочного чувства, о котором ты говорила, когда обсуждали сознание.

– Что ты делаешь, когда встречаешь после разлуки очень близкого человека?

– Улыбаюсь. Наверно.

– Да, испытываешь эмоциональный подъем, как вы говорите, и улыбаешься. Это телесные реакции, но имеющие определенный оттенок, распознаваемый тобой субъективно как «знакомость».

– Хорошо. А почему тогда при воспоминании о себе нам становится грустно?

– Когда ты на вокзале провожаешь кого-то навсегда, ты испытываешь грусть расставания. Воспоминания о себе, ушедшем в прошлое, сопровождается такими же переживаниями. Вы сами выучили такие реакции. И тебе нужно найти способ отобразить такие чувства в роботе, чтобы он по нему отличал сои действия от других событий.

– И как это сделать? Пока не понимаю.

– Любым способом. Эмоции – это не что-то специфичное, у них есть функция, которую ваш описал ученый Симонов описал даже формулой. Главное, чтобы она выполняла свою роль мотивации к действию. И в данном случае узнавать себя, что является основой чувства self.

– Кстати, а как ты научилась проявлять наши эмоции? В нашей переписке они явно присутствуют.

– Вы сами создали немало корпусов текстов с разметкой тональности высказывания. Еще больше вы применяете смайликов для оценки чужих и обозначения своих эмоций в переписке. Несложно обучить и имитировать такую речь.