Искусственный разум и новая эра человечества

Тем временем Запад пополнял свои запасы знаний и опыта трофеями, добытыми силой и любознательностью в разных уголках мира^[12]. Технологические и методологические достижения, включая новую оптику, более точные измерительные инструменты, химические процессы, а также правила исследования и наблюдения, которые теперь известны как научный метод познания, позволили ученым более точно наблюдать планеты и звезды, поведение и состав материальных веществ и детали жизни микромира. Исследователи учились делать научные выводы, основываясь на наблюдениях – своих и коллег. Научные наблюдения становились основой для теорий и прогнозов, открытия служили отправной точкой для дальнейших исследований. Делались новые открытия, становились известны новые закономерности и связи, многие из которых можно было применять в повседневной жизни, такие как учет времени, морская навигация, создание полезных материалов.

Прогресс XVI–XVII вв. с его поразительными открытиями в математике, астрономии и естественных науках был настолько стремительным, что это привело к своего рода философской дезориентации. Церковь все еще официально определяла границы допустимых интеллектуальных изысканий, но новые научные прорывы отличались большой смелостью. Гелиоцентрическая система Коперника, законы Ньютона, классификация микроорганизмов ван Левенгука и другие открытия показали людям новую картину мира. В результате возникло противоречие: общество оставалось единым в своем монотеизме, но было разделено конкурирующими интерпретациями и исследованиями реальности. Ему нужна была философия, которая направила бы поиски понимания мира и роли человека в нем.

В ответ на это философы эпохи Просвещения объявили разум, то есть способность понимать, думать и судить, методом и целью взаимодействия с окружающей средой. «Наша душа создана для мышления, а значит – для восприятия, – писал французский философ и эрудит Монтескье. – Такое существо должно иметь любопытство, ибо если все вещи образуют цепь, в которой каждая идея предшествует одной идее и следует за другой, то, желая видеть одно, нельзя не желать видеть другое»^[13]. Связь между вопросами человечества о природе реальности и о роли самого человечества в этой реальности говорила сама за себя – ведь если разум породил сознание, то чем больше люди рассуждают, тем больше они выполняют свое предназначение. Мышление, восприятие и развитие собственного видения мира стали не просто важными, а важнейшими занятиями человека. Так началась эпоха Просвещения.

В определенном смысле Запад вернулся на новом уровне ко многим фундаментальным вопросам, над которыми бились древние греки: что есть реальность? Что именно познает и испытывает человечество и как оно понимает, что сталкивается с новым? Могут ли люди воспринимать саму реальность, а не ее отражения, и если да, то как? Что вообще означает быть и знать? Не имея традиции – или считая себя вправе интерпретировать традицию по-новому, – ученые и философы вновь взялись за эти вопросы. Умы, которые пустились этим путем, были готовы рисковать устоявшимися представлениями о мире.

В этой атмосфере интеллектуального бесстрашия некогда аксиоматические понятия – существование физического мира, вечная природа моральных истин – внезапно оказались открытыми для сомнений^[14]. В «Трактате о принципах человеческого знания» Джордж Беркли утверждал, что реальность состоит не из материальных объектов, а из совокупности представлений и что восприятие разумом кажущейся материальной реальности и есть реальность. Готфрид Вильгельм Лейбниц, немецкий философ, изобретатель первых счетных машин, давший начало современным компьютерным теориям, косвенно защищал традиционную концепцию веры, утверждая, что первоэлемент всего сущего – так называемые монады, то есть простые субстанции, не имеющие частей и при этом являющиеся духовными единицами бытия, способными к актуализации заложенного в них Богом начала. Бенедикт Спиноза настолько смело и творчески развил концепцию абстрактного разума, что его «Этику» в течение двух веков не принимали ни церковь, ни академические круги, – он пытался обосновать этическую систему, в которой всеобщий Бог питает и вознаграждает человеческую доброту. Не полагаясь ни на Священное Писание, ни на чудеса, Спиноза стремился прийти к основополагающей системе истин путем одного лишь разума. Вершиной человеческого знания, по мнению Спинозы, является способность души познавать вещи «под формой вечности» – познать разум, представленный «сам через себя», и через разум познать бесконечного и вечно присутствующего Бога «как причину самого себя», «причину бытия всех вещей» и «сущности всех вещей». Это, по мнению Спинозы, является вечной, конечной и действительно совершенной формой знания. Он называл это «познавательной любовью к Богу»^[15].

В результате этих новаторских интеллектуальных изысканий отношения между разумом, верой и реальностью становились все менее определенными. Вызов этой проблеме бросил немецкий философ Иммануил Кант, профессор, работавший в восточно-прусском университетском городе Кенигсберге^[16]. В 1781 г. Кант опубликовал «Критику чистого разума» – работу, которая с тех пор и вдохновляет, и удивляет. Будучи учеником традиционалистов и переписываясь с чистыми рационалистами, Кант не пошел ни за теми, ни за другими – он стремился преодолеть разрыв между постулатами традиционалистов и новообретенной уверенностью в силе человеческого разума. В «Критике чистого разума» Кант предложил, чтобы разум «вновь взялся за самое трудное из своих занятий – за самопознание»^[17].

Кант считал, что разум должен быть применен для понимания своих собственных ограничений – он может глубоко познавать реальность, но через несовершенную призму. Человеческое познание и опыт фильтруют, структурируют и неизбежно искажают все, что мы знаем, – даже при использовании чистой логики. Объективная реальность, которую Кант называл «вещью в себе», находится за пределами нашего непосредственного знания. Кант предполагал существование «ноуменов», то есть вещей, постигаемых умом и существующих независимо от опыта и человеческого восприятия. По мнению Канта, поскольку человеческий разум опирается на концептуальное мышление и жизненный опыт, он никогда не сможет достичь той степени чистого мышления, которая необходима для познания этой внутренней сущности вещей^[18]. В лучшем случае мы можем рассматривать ее отражение в нашем разуме. Мы можем «верить» в то, что лежит за пределами знания, и в сущности вещей, но это не является истинным знанием^[19].

В течение следующих двух веков кантианские воззрения на вещь в себе и ограниченность познания оставались в силе и… не имели особого значения. Мы понимали, что человеческий разум представляет несовершенную картину мира, но это была единственная доступная нам картина. Мы полагали, что недоступное человеческому разуму так и останется недоступным – или будет вдохновлять веру в бесконечное. Других способов изучения мира не оставалось, казалось, что слепые пятна человечества так и останутся скрытыми навсегда. И независимо от того, должны ли человеческий разум и знания быть окончательным мерилом вещей, они оставались таковыми, учитывая отсутствие выбора. Лишь теперь ИИ становится альтернативным средством познания мира и бросает вызов этим многовековым воззрениям.

На протяжении последующих поколений стремление познать «вещь в себе» побуждало исследователей еще пристальнее наблюдать окружающий мир и создавать обширные каталоги существующих знаний. Несмотря на предостережение Канта о пределах человеческого разума, огромные новые области явлений оказались познаваемы – разум мог открывать и систематизировать их. Считалось, что каталоги знаний могут открыть принципы, применимые к актуальным научным, экономическим, социальным и политическим вопросам современности. Самым масштабным трудом, направленным на систематизацию знаний, стала «Энциклопедия» под редакцией французского философа Дидро. В 28 томах, на 18 тыс. страниц и в 75 тыс. статей «Энциклопедии» Дидро собрал всевозможные выводы и наблюдения великих мыслителей о самых разнообразных направлениях знаний, обобщил их открытия и умозаключения и связал воедино полученные факты и принципы. Попытка каталогизировать все знания о мире в единой книге сама по себе была достойна описания, поэтому в «Энциклопедии» была и статья «Энциклопедия».

В политической сфере мыслители, служившие различным государственным интересам, не были склонны приходить к одинаковым выводам. Фридрих Великий, король Пруссии и типичный политик эпохи раннего Просвещения, переписывался с Вольтером, до совершенства вышколил свои войска и во имя интересов Пруссии захватил провинцию Силезия, что привело к Семилетней войне – «первой мировой войне»^[20], которая велась на трех континентах. Аналогичным образом Французская революция, одно из самых «рациональных» политических движений эпохи, привела к социальным потрясениям и политическому насилию в масштабах, которых Европа не видела на протяжении веков. Отделив разум от традиции, Просвещение породило новое явление: вооруженный разум, руководя пассионарными народами, перестраивал и разрушал целые страны во имя «научных» выводов о направлении истории. Инновации увеличили разрушительную силу оружия, наступила эпоха «тотальной войны» – конфликтов, характеризующихся мобилизацией на уровне стран и разрушениями на уровне индустрий^[21].

Под влиянием этих потрясений мыслители все чаще задавались вопросом, является ли человеческое восприятие, направляемое разумом, единственной мерой познания реальности. В XVIII–XIX вв. романтизм, сосуществовавший с Просвещением, считал человеческие чувства и воображение не менее важными, чем разум, и предпочитал народные традиции и природную мудрость механистической определенности современной эпохи. После Первой мировой войны австрийский философ Людвиг Витгенштейн отказался от понятия единой сущности вещей, определяемой разумом, – цели, к которой стремились философы со времен Платона. Витгенштейн советовал искать знание в обобщении аналогий между явлениями, которые он назвал «семейным сходством»: «А результат этого рассмотрения таков: мы видим сложную сеть подобий, накладывающихся друг на друга и переплетающихся друг с другом, сходство в большом и малом». По его мнению, стремление определить и каталогизировать все вещи, каждую со своими резко очерченными границами, ошибочно. Вместо этого следует стремиться к определению «подобных» вещей и изучать полученные понятия, даже если они имеют «размытые» или «нечеткие» границы^[22]. В итоге именно этот способ мышления послужил основой для теорий ИИ и машинного обучения конца XX – начала XXI в.

Тем не менее, когда Просвещение сталкивалось с проблемой, оно использовало разум, чтобы понять и разрешить ее. Для устранения социального неравенства принимались новые законы, для смягчения войн и социальных потрясений разрабатывались новые методы сдерживания конфликтов и создания более справедливых институтов. С этой целью Кант в эссе «К вечному миру» предположил (с некоторой долей скептицизма), что мир может быть достигнут путем применения согласованных правил, регулирующих отношения между независимыми государствами. Поскольку такие взаимно установленные правила еще не были созданы, по крайней мере в форме, которую монархи могли бы понять или которой они могли бы следовать, Кант сформулировал «тайную статью договора о вечном мире» – он считал, что «государства, вооружившиеся для войны, должны принять во внимание мáксимы философов об условиях возможности общего мира»^[23]. Работа над разумной, организованной и согласованной международной системой идет до сих пор, а философы и политологи вносят в нее свой вклад – с переменным успехом.

* * *

Мир Просвещения с его оптимизмом в отношении человеческого разума – несмотря на осознание его несовершенства – долгое время был нашим миром. Предыдущие эпохи уходили, когда становились не в силах объяснить разнообразные аспекты реальности, которые они порождали и с которыми сталкивались. На протяжении трех веков непрерывных открытий и исследований люди интерпретировали мир так, как предсказывал Кант: в соответствии со своими интеллектуальными способностями. Но, приблизившись к пределам собственных возможностей познания, люди стали прибегать к помощи компьютеров, чтобы выйти за эти пределы. Помимо физического мира, в котором люди жили всегда, появился отдельный цифровой мир – мир компьютеров. И теперь мы вступаем в эпоху, в которой человеческий разум уступает свое почетное место первооткрывателя, знатока и систематизатора мировых явлений.

Технологические достижения эпохи Просвещения были весьма значительными, но до недавнего времени они вполне укладывались в традиции. Инновации продолжали привычные практики: кино было техническим усовершенствованием фотографии, телефон позволял дистанционно вести все те же разговоры, автомобили представляли собой быстро движущиеся повозки, мощность двигателей которых измерялась в лошадиных силах. В военном деле танки заменили кавалерию, самолеты – передовую артиллерию, и даже ядерное оружие дополняло предыдущий опыт ядерных держав и их понимание войны.

Но мы достигли переломного момента: появились инновации, которые уже нельзя считать продолжением известных практик. Технология стала очень быстро менять жизненный опыт человека, цифровая революция породила не просто более мощные или более эффективные версии того, что уже существовало, а принципиально новые явления. Компьютеры теперь можно встраивать в телефоны, часы, потребительскую электронику, системы безопасности, транспортные средства, оружие и даже в человеческие тела. Связь между такими цифровыми системами осуществляется практически мгновенно. Задачи, которые еще недавно решались вручную, – чтение, исследования, покупки, коммуникации, ведение записей, наблюдение, военные действия – стали цифровыми, они выполняются в киберпространстве на основе данных^[24].

Цифровизация затронула все уровни человеческой организации: люди имеют доступ к бо́льшим объемам информации, чем когда-либо. Корпорации, став сборщиками и агрегаторами данных пользователей, получили больше власти и влияния, чем многие суверенные государства. Правительства, опасаясь уступить соперникам, тоже вошли в киберпространство, исследовали его и начали эксплуатировать, не слишком стремясь ограничивать себя или соблюдать некие нормы. Киберпространство для них – область, инновации в которой нужно внедрять, чтобы одержать верх над противниками.

Лишь немногие до конца понимают, к чему привела цифровая революция. Отчасти в этом виноваты скорость и перенасыщение информацией. При всех своих чудесных достижениях цифровизация сделала человеческое мышление менее контекстуальным и менее концептуальным. Так называемые цифровые аборигены не чувствуют насущной необходимости развивать концептуальное мышление, которое на протяжении большей части человеческой истории компенсировало ограниченность коллективной памяти. Они могут спросить обо всем у поисковых систем – будь то элементарные знания, сложные концепции или нечто среднее. Поисковые системы, в свою очередь, используют ИИ для ответа на запросы пользователей. Таким образом, люди делегируют технологии ИИ некоторые аспекты своего мышления. Но они не учитывают того, что информация зависит от контекста. Она становится знанием, только если понять ее через призму культуры и истории.

Информация становится знанием, когда она помещена в контекст. Знание становится мудростью, когда оно может убеждать. Интернет, давая пользователям доступ к мнениям тысяч и даже миллионов других людей, лишает их условий для размышления, которое приводит к выработке убеждений. Лишаясь способности к размышлению, люди теряют стойкость убеждений – поскольку для выработки убеждений им больше не нужно, как раньше, пускаться в длительные, зачастую одинокие путешествия по неизведанным тропам мышления. А ведь только убеждения, которые, в свою очередь, объединяются в мудрость, позволяют людям открывать и исследовать новые горизонты.

Но цифровой мир не терпит мудрости – его ценности формируются одобрением, а не самоанализом. Он фактически отрицает утверждение эпохи Просвещения о том, что наиболее важным элементом сознания является разум. Для цифрового мира основное значение имеет неограниченная связь, а не разум.

С ростом объемов информации в интернете мы обратились к программному обеспечению, которое помогает нам уточнять и сортировать ее, делать оценки на основе закономерностей и направлять нас в поисках ответов на наши вопросы. Работа ИИ казалась нам вполне обыденной – программы дописывали начатые предложения, помогали найти книгу или магазин, даже советовали почитать статьи или СМИ, которые могут нам понравиться, на основе нашего предыдущего поведения. Но по мере того, как ИИ входит в самые разные аспекты нашего существования, он меняет роль, которую наш собственный разум традиционно играл в формировании, систематизации и оценке нашего выбора и наших действий.

Глава 3
От Тьюринга до наших дней – и не только

В 1943 г. был создан первый современный – то есть электронный, цифровой и программируемый – компьютер. Это достижение вновь сделало актуальными старые вопросы: могут ли машины «думать»? Являются ли они «разумными»? И могут ли они стать разумными? Эти вопросы казались особенно сложными, учитывая давние дилеммы о природе интеллекта. В 1950 г. математик и криптограф Алан Тьюринг нашел ответ. В статье с непритязательным заголовком «Вычислительные машины и разум» Тьюринг предложил полностью отбросить проблему «интеллекта» машины, поскольку важен не механизм, а проявление интеллекта. Невозможно познать чью бы то ни было внутреннюю жизнь, а значит, единственным средством измерения интеллекта остаются его внешние проявления. Так Тьюринг обошел стороной многовековые философские дебаты о природе интеллекта. По правилам «имитационной игры» Тьюринга, если наблюдатели не могут отличить поведение машины от поведения человека, машину следует считать «мыслящей».

Так появился тест Тьюринга^[25].

Многие представляли себе выполнение теста Тьюринга буквально, не понимая, что такое машины, отвечающие его критериям, и воображая роботов, которые выдают себя за людей. Но реальная ценность теста Тьюринга проявилась в оценке работы «интеллектуальных» машин в определенных ограниченных видах деятельности, таких как игры. На самом деле тест не требует полной неотличимости от человека – он применяется к машинам, чьи действия похожи на человеческие, и фиксирует результат, а не процесс. Например, такие генераторы, как GPT-3, являются ИИ не из-за особенностей обучения модели, а поскольку они создают текст, который выглядит как написанный человеком.

В 1956 г. компьютерный ученый Джон Маккарти уточнил определение ИИ в отношении «машин, которые могут выполнять задачи, характерные для человеческого интеллекта». С тех пор оценки Тьюринга и Маккарти стали эталонами в отношении ИИ – оценивается поведение, похожее на проявление интеллекта, а не более глубокие философские, когнитивные или нейробиологические аспекты этого термина.

В последующие полвека машинам, как правило, не удавалось продемонстрировать подобный «интеллект». В течение десятилетий вся работа компьютеров происходила в рамках жесткого программного кода. Классические программы могли работать с большими объемами данных и выполнять сложные вычисления, но не умели распознавать изображения простых объектов или самостоятельно исправлять ошибки входных данных. Компьютер не мог воспроизвести неточное и концептуальное человеческое мышление.

В последние годы, похоже, наметился выход из этого тупика – появляется все больше примеров специализированных ИИ, которые в своей сфере применения не уступают человеку и даже превосходят его.

Четыре основных качества ИИ, ориентированные на конкретные области, – неточность, динамичность, эмерджентность и обучаемость. Системы ИИ обучаются, потребляя данные, а затем делая наблюдения и выводы на основе этих данных. Они не требуют точного ввода и не гарантируют точного вывода – например, системы машинного перевода переводят тексты не путем замены отдельных слов, а выявляя и используя идиоматические фразы и шаблоны. Аналогичным образом, такие ИИ считаются динамичными, поскольку они развиваются в ответ на изменяющиеся обстоятельства, и эмерджентными, так как они могут находить решения, совершенно новые для человека. Это качества, революционные для машин.

Рассмотрим прорыв AlphaZero в мире шахмат. Если классические шахматные программы следовали жестко закодированному в них человеческому опыту, то ИИ AlphaZero развивал свои навыки, играя миллионы партий против самого себя. Завершив обучение, модель AlphaZero применила выработанную стратегию и сопутствующую тактику на практике – и результатом стали «шахматы из другого измерения». Такие методы обучения основаны на алгоритмах – наборах шагов для преобразования входных данных (таких как правила игры) в повторяющиеся выходные данные (такие как победа в игре). При этом цель обучения заключается не в получении точных и предсказуемых результатов вычислений, а в улучшении неточных результатов. И эти методы замечательно работают.

Возьмем в качестве примера авиацию. Скоро ИИ сможет управлять различными воздушными транспортными средствами – или быть вторым пилотом. Уже сейчас в рамках программы DARPA AlphaDogFight истребители, пилотируемые ИИ, превосходят человека в боевых симуляциях, выполняя маневры, которые не под силу пилотам-людям. Управляя боевыми самолетами или беспилотниками, доставляющими продовольствие, ИИ может оказать значительное влияние на будущее военной и гражданской авиации.

Сейчас мы видим самые первые инновации в области ИИ, и они уже начинают менять человеческое мировосприятие самыми разными способами. В ближайшие десятилетия эти тенденции будут только усиливаться. ИИ становится вездесущим, и его влияние на нашу жизнь растет.

Технологические концепции, управляющие развитием ИИ, очень сложны и важны. В этой главе мы рассказываем об эволюции и текущем состоянии различных видов машинного обучения и его применений. Современные ИИ одновременно поразительно мощны и заметно ограничены. Базовое знакомство со структурой, возможностями и ограничениями ИИ жизненно важно для понимания того, как он развивается, какие несет социальные, культурные и политические изменения и какое влияние окажет в будущем.