Власть и прогресс

Держаться ли нам узкого, эгоцентрического видения или перейти к более инклюзивному – тоже вопрос выбора. Исход зависит от того, найдутся ли в обществе альтернативные источники власти, сумеют ли те, кто не вхож в высокие кабинеты, организоваться и заставить себя услышать. Если мы не хотим подчиняться видению правящих элит, то должны найти способы им противостоять и противопоставлять их эгоизму свое, более инклюзивное видение. К сожалению, в век искусственного интеллекта это становится все сложнее.

Огонь нашего времени

На заре истории жизнь человечества преобразил огонь. Древнейшие слои, обнаруженные при раскопках в Сварткрансе, пещере в Южной Африке, показывают нам человеческие кости, обглоданные хищниками – медведями и крупными кошачьими. Для крупнейших хищников тех времен человек был легкой добычей. Особую опасность представляли темные места вроде пещер – нашим предкам приходилось их избегать. Но вот в этой пещере появляются первые следы огня – слой прогоревших углей возрастом приблизительно в 1 млн лет. И дальше археологические находки показывают совершенно обратную картину: начиная с этого времени основная масса костей в пещере – не человеческие. Они принадлежат животным. Овладев огнем, древние гоминиды смогли изгнать хищников из пещер, поселились там – и сами стали хищниками.

Ни одна другая технология за последние 10 000 лет даже близко не оказала такого фундаментального влияния на всю нашу жизнь. Но сейчас – по крайней мере, если верить его пропагандистам, – появился новый кандидат на пьедестал – искусственный интеллект (ИИ). Директор Google Сундар Пичаи говорит об этом без обиняков:

«ИИ, возможно, самый важный проект в истории человечества. На мой взгляд, он принесет более серьезные перемены, чем электричество или даже огонь».

ИИ – это название отрасли информатики, разрабатывающей «разумные» машины, то есть машины и алгоритмы (инструкции по решению проблем), способные выполнять сложные высокоуровневые задачи. Современные разумные машины делают то, что еще пару десятилетий назад казалось невозможным. Примеров множество: программы распознавания лиц, поисковики, угадывающие, что мы хотим найти, системы рекомендаций, предлагающие продукты, которые нам больше всего понравятся (или, как минимум, которые мы с наибольшей вероятностью купим). Многие современные системы общаются с людьми с помощью естественного языка, преобразуя компьютерные запросы и команды в человеческую речь. Сири, созданная Apple, или поисковик Google – примеры систем, основанных на ИИ, широко известных и распространенных во всем мире.

Энтузиасты ИИ указывают и на некоторые впечатляющие достижения. Программы ИИ умеют распознавать тысячи различных предметов и образов, осуществляют перевод простых текстов более чем на сто языков. Помогают диагностировать рак. Делают инвестиции – порой успешнее популярных финансовых аналитиков. Помогают юристам и их помощникам просеивать тысячи документов и находить среди них те, что могут пригодиться в деле. Переводят инструкции, данные на естественном языке, в компьютерный код. Даже сочиняют музыку, отдаленно напоминающую Баха, и пишут газетные статьи (впрочем, бессодержательные и скучные).

В 2016 году компания по разработке ИИ DeepMind выпустила AlphaGo – программу для игры в го, победившую одного из двух лучших игроков в мире. Год спустя за ней последовала AlphaZero – шахматная программа, способная побить любого гроссмейстера. Стоит отметить, что это была самообучающаяся программа, и сверхчеловеческого уровня она достигла лишь после девяти часов непрерывной игры с самой собой.

Эти победы воодушевили общество; теперь мы со всех сторон слышим, что ИИ изменит все стороны нашей жизни – и исключительно к лучшему. С его помощью человечество достигнет здоровья, процветания и иных похвальных целей. Как гласит подзаголовок недавно вышедшей книги на эту тему: «Искусственный интеллект преобразит все». Или, как выразился Кай-Фу Ли, бывший глава китайского Google: «ИИ станет самой преобразующей технологией в истории человечества».

Но что, если и здесь найдется ложка дегтя? Что, если ИИ полностью разрушит рынок труда, на котором зарабатывает себе на жизнь большинство из нас, и безмерно увеличит экономическое неравенство? Что, если главным результатом его внедрения станет не рост производительности, а перераспределение власти и богатства – от обычных людей к тем, кто контролирует информацию и принимает ключевые корпоративные решения? Что, если на этом пути ИИ отбросит в нищету миллиарды жителей развивающихся стран? Усилит и укрепит существующие предрассудки – например, связанные с цветом кожи? Уничтожит демократические институты?

Число свидетельств, что эти опасения вполне оправданы, неизменно растет. По-видимому, развитие ИИ движется по траектории, умножающей неравенство не только в индустриальных странах, но и во всем мире. Опираясь на огромные массивы данных, собранные IT-компаниями и авторитарными правительствами, ИИ уже сейчас душит демократию и укрепляет автократию. Мы увидим в девятой и десятой главах, насколько глубоко и обширно его влияние и на экономику, хотя на нынешнем своем пути развития ИИ почти не повышает нашу производительность. Учитывая все это, новейший энтузиазм по поводу ИИ приходится признать лишь новой версией старого технооптимизма, с одинаковым восторгом приветствующего и автоматизацию, и усиление надзора, и выбрасывание обычных людей на обочину жизни.

Однако большинство лидеров в сфере высоких технологий не принимают эти опасения всерьез. Мы только и слышим, сколько добра принесет нам ИИ. А если возникнут какие-то проблемы… что ж, это неизбежно, но долго они не продлятся, и их будет легко исправить. Кто-то пострадает от ИИ? Есть выход: делать больше ИИ!

Например, основатель DeepMind Демис Хассабис не просто считает, что «ИИ станет самой важной из всех когда-либо изобретенных технологий», – он уверен:

«Углубляя нашу способность задаваться вопросами „как“ и „почему“, ИИ раздвинет границы наших познаний и откроет новые направления научного исследования, а это улучшит жизнь миллиардов людей».

Он не единственный. Схожие заявления мы слышим от целого ряда экспертов. Робин Ли, один из основателей китайского интернет-поисковика Baidu и инвестор нескольких компаний, лидирующих в разработке ИИ, утверждает: «Революция разума станет благотворной революцией как в нашем производстве и образе жизни, так и в образе мышления».

Многие идут еще дальше. Рэй Курцвейл, известный топ-менеджер, изобретатель и публицист, уверенно доказывает, что набор технологий, связанных с ИИ, очень скоро поможет нам достичь «сверхразумности» или «сингулярности» – иначе говоря, нам откроется путь к безбрежному процветанию и достижению всех наших материальных целей, а может быть, и нематериальных тоже. Он верит, что программы ИИ превзойдут по своим способностям человека настолько, что откроют в себе новые, сверхчеловеческие способности – или же, словно в фантастическом романе, сольются с людьми и породят сверхлюдей.

Справедливости ради заметим, что не все лидеры в IT-сфере так оптимистичны. Миллиардеры Билл Гейтс и Илон Маск, оба носившие звание «самого богатого человека в мире», уже выразили опасение по поводу злонамеренного или бесконтрольного ИИ и последствий ничем не ограниченного развития ИИ для будущего Земли. Однако оба согласны с Хассабисом, Ли, Курцвейлом и многими другими в одном: технологии в целом несут благо, так что в решении проблем человечества можно и нужно полагаться на технологии (в том числе цифровые). По словам Хассабиса,

«нам придется либо существенно улучшить поведение человека – сделать людей более альтруистичными, дальновидными, щедрыми, склонными к сотрудничеству, – либо существенно улучшить наши технологии».

Все эти идеологи ни минуты не сомневаются в том, что технологические изменения всегда служат прогрессу. Принимают за аксиому, что технологии помогут решить любые социальные проблемы. Если поначалу миллиарды людей окажутся ущемлены, беспокоиться не стоит: скоро польза от новых технологий дойдет и до них. Все, что от нас требуется, – верить в прогресс и смело идти вперед.

Один из основателей PayPal и LinkedIn Рейд Хоффман говорит:

«Возможно ли, что нас ждут трудные двадцать лет? Вполне возможно. Но когда трудишься ради прогресса, твое будущее всегда будет лучше настоящего».

Подобная вера в благотворную силу прогресса не нова, как мы уже видели в прологе. Подобно Фрэнсису Бэкону, мы склонны расценивать любые технологические прорывы как изобретение огня – то, что делает нас хозяевами положения и позволяет «сравнять счет» с природой. Благодаря огню человек перестал быть жалкой добычей и превратился в самого опасного хищника на планете. Многие другие технологии мы рассматриваем в том же ключе: расстояния побеждаем колесом, темноту – электричеством, болезни – медициной.

Однако, что бы ни твердили нам со всех сторон, не следует верить, что избранный путь несет благо для всех; эффект «прицепного вагона» зачастую слаб и никогда не возникает автоматически. И сейчас перед нами не неудержимый ход прогресса, ведущий к всеобщему процветанию, а влиятельное общее видение, распространенное среди лидеров первого ряда в IT-сфере. Это видение сосредоточено на автоматизации, усилении надзора и массовом сборе данных – принципах, которые и подрывают общее благосостояние, и ослабляют демократию. И то, что одновременно они увеличивают богатство и власть самих этих лидеров за счет большинства простых людей, вовсе не случайное совпадение.

Эта динамика уже создала «новую олигархию» – тесный круг лидеров в IT-сфере, людей со схожим бэкграундом, мировоззрением, установками… и, к сожалению, с очень схожими «слепыми пятнами». Речь идет именно об олигархии, поскольку эта небольшая кучка людей с общим взглядом на мир монополизирует социальную власть и не обращает внимания на то, сколь разрушительны ее действия для людей безвластных и безответных. Могущество этой группировки зиждется не на танках и ракетах, а на доступе в коридоры власти и возможности влиять на общественное мнение.

Видение этой олигархии так убедительно, поскольку приносит блестящие коммерческие успехи. Поддерживает его и привлекательный нарратив об изобилии и власти над природой, которую принесут нам новые технологии, особенно искусственный интеллект со своими безграничными возможностями. У этой олигархии есть харизма – своеобразное обаяние «ботанов». Важнее всего, что эти современные олигархи очаровывают влиятельных опекунов общественного мнения: журналистов, других крупных бизнесменов, политиков, ученых, всевозможных интеллектуалов. Везде, где ведутся споры о важных вопросах, видение новых олигархов всегда на почетном месте, первое у микрофона.

Для всех нас жизненно важно ограничить аппетиты этой новой олигархии – и не только потому, что она угрожает нашему благосостоянию. Настало время действовать, потому что в одном эти лидеры правы: в нашем распоряжении немыслимые прежде орудия. Цифровые технологии безмерно расширили границы того, на что способно человечество. Но эти орудия должны быть употреблены на пользу людям. А этого не произойдет, пока мы не бросим вызов мировоззрению, доминирующему среди нынешней мировой технократии. Это мировоззрение основано на определенном (и неточном) прочтении истории человечества, на превратном понимании того, как влияют на человечество инновации. Давайте же начнем с переоценки этой истории.

О содержании этой книги

Далее в книге мы разовьем идеи, высказанные в этой главе, и дадим экономическому и социальному развитию последнего тысячелетия новую интерпретацию – покажем его как борьбу за направление развития технологий, соперничество между разными типами прогресса, поговорим о том, кто и почему при этом выигрывал, а кто проигрывал. Поскольку предмет нашего исследования – технологии, мы сосредоточимся в основном на тех частях света, где происходили самые важные и значительные технологические прорывы. Сперва это Западная Европа и Китай – в отношении сельского хозяйства; в период индустриальной революции – Британия и США; и, наконец, США и Китай – в цифровых технологиях. На протяжении всей книги мы показываем, как в разное время в разных странах принимались различные решения, а также освещаем влияние технологий, создающихся в передовых экономиках, на весь остальной мир по мере их добровольного или недобровольного распространения.

Глава вторая («Канальное зрение») начинается с исторического примера, показывающего, как мощное видение, поначалу подкрепленное успехами, может завести нас в тупик. Успех французских инженеров в создании Суэцкого канала резко контрастирует с позорным провалом в Панаме, где они попытались применить те же идеи. Фердинанд де Лессепс убедил тысячи инвесторов и инженеров поддержать неработающий план постройки канала на уровне моря через Панамский перешеек, соединяющий Тихий океан с Атлантическим; в результате более 20 000 человек настигла безвременная смерть, еще больше разорились. Эта история – предостережение всем энтузиастам высоких технологий: грандиозное видение, основанное на прошлых успехах, может привести к катастрофе.

Глава третья («Сила убеждения») показывает центральную роль убеждения в том, как мы принимаем значимые для общества решения, в том числе касающиеся новых технологий. Мы объясняем, как сила убеждения укоренена в политических институтах и в способности определять повестку дня, и подчеркиваем важность баланса сил и более широкой выборки голосов, способных уравновесить самоуверенность и эгоцентризм элиты.

Глава четвертая («Как взращивают нищету») применяет наши основные идеи к эволюции земледельческих технологий с начала оседлого земледелия в эпоху неолита до значительных перемен в организации пахотных земель и технике производства, произошедших в Средние века и раннее Новое время. В этих важнейших для человеческой цивилизации эпизодах мы не находим никаких признаков автоматического «прицепного вагона производительности». Серьезнейшие изменения в технике земледелия обогащали и наделяли властью в основном немногочисленную элиту, а тем, кто работал на земле, не давали почти ничего, ведь у крестьян не было ни политической, ни общественной власти, а видение элит не включало в себя заботу о простом народе.

В главе пятой («Революция людей среднего рода») мы переосмысляем индустриальную революцию, одно из важнейших экономических преобразований в мировой истории. Об индустриальной революции написано очень много, но в исследованиях часто недооценивается новое видение людей, ставших локомотивом перемен, – предпринимателей, бизнесменов, представителей вышедшего на первый план среднего класса. Их взгляды, их мечты коренились в общественных переменах, которые начиная с XVI–XVII веков вывели англичан «среднего слоя» на арену истории. Двигателем индустриальной революции стали амбиции этих новых людей, жаждущих сколотить состояние и добиться высокого положения в обществе; однако их видение было очень далеко от инклюзивного. Мы обсудим, как шли политические и экономические перемены и как в соответствии с ними рождалось новое представление о том, кто и как способен повелевать природой.

Глава шестая («Жертвы прогресса») обращается к последствиям этого нового видения. Она объясняет, каким образом первая фаза индустриальной революции ввергла большинство людей в бедность и бесправие: это стало результатом серьезного предубеждения в пользу автоматизации и того, что в вопросах новых технологий и заработной платы рабочие не имели права голоса. Не только на экономические условия жизни, но и на здоровье и независимость значительной части населения индустриализация оказала разрушительный эффект. Эта ужасная картина начала меняться лишь во второй половине XIX века, когда обычные люди, организовавшись, сумели настоять на экономических и политических реформах. Перемены в обществе изменили направление развития технологий и подняли зарплаты. Но это была лишь скромная победа; на пути к общему процветанию западным странам предстоял еще долгий путь.

Глава седьмая («Трудный путь») – это обзор яростных битв за направление развития технологий, размер зарплат и за направление политики в более широком смысле слова, заложивших основы самого впечатляющего периода экономического роста на Западе. В течение трех десятилетий после Второй мировой войны США и другие индустриальные страны переживали стремительный экономический рост, приведший к улучшению жизни большинства демографических групп. Эти экономические тренды развивались одновременно с другими социальными преобразованиями – распространением образования, созданием общедоступного здравоохранения, увеличением продолжительности жизни. Мы объясняем, как и почему технологические перемены не только автоматизировали труд, но и создали для рабочих новые возможности, и как это было связано с институциональными условиями, способствовавшими балансу сил.

В главе восьмой («Цифровой ущерб») мы обращаемся к современности и говорим о том, как западные страны свернули с прежнего пути и отказались от модели всеобщего процветания, господствующей в первые послевоенные десятилетия. Центральным элементом этого разворота стала перемена в направлении развития технологий: вместо того чтобы создавать новые возможности для работников, теперь мы сосредоточились на автоматизации работы и снижении стоимости труда. Такое перенаправление усилий не было неизбежным: это произошло из-за недостатка давления со стороны рабочих, слабости профсоюзов и недостаточного государственного регулирования. Именно эти социальные тренды остановили движение к общему процветанию, а затем и повернули его вспять.

Глава девятая («ИИ с потерей качества») объясняет, как видение, господствующее с 1980-х годов и уже заведшее нас в тупик, начало определять наши представления о следующей фазе развития цифровых технологий – искусственном интеллекте и как это представление усилило и обострило тренд растущего экономического неравенства. Что бы ни рассказывали нам лидеры в IT-сфере, мы видим, что в большинстве человеческих задач существующие технологии ИИ пока приносят лишь очень ограниченную пользу. Кроме того, использование ИИ для наблюдения за рабочим местом не только способствует неравенству, но и лишает работников личной свободы. Хуже того: современные тренды развития ИИ обещают глобальный экспорт автоматизации – а это значит, что нескольким десятилетиям экономического подъема в развивающихся странах придет конец. Всего этого вполне можно избежать. В этой главе мы показываем, что ИИ, как и всепоглощающий интерес к «разумным машинам», отражает лишь один конкретный путь развития цифровых технологий – путь, который прямо влияет на распределение благ, обещая обогатить узкую прослойку, а всех остальных оставить за бортом. Чем трудиться над созданием искусственного разума, плодотворнее было бы сосредоточиться на «полезных машинах» – на том, какую наибольшую пользу машина может принести человеку, например, дополняя и усиливая возможности работника. Мы показываем также, что в прошлом именно концепция «полезной машины» принесла нам самые значительные и продуктивные применения цифровых технологий. Однако сейчас она все более и более отодвигается в тень; на первый план выходят «разумные машины» и автоматизация.

В главе десятой («Демократия трещит по швам») говорится, что нам угрожают и более серьезные проблемы: массовый сбор и анализ данных при помощи методов ИИ интенсифицирует надзор за гражданами, осуществляемый и правительствами, и частными компаниями. В то же время бизнес-модели, создаваемые с участием ИИ и основанные на принципах таргетированной рекламы, распространяют дезинформацию и пестуют политический радикализм. Нынешний путь развития ИИ плох и для экономики, и для демократии, и эти две проблемы, к несчастью, подпитывают и усиливают друг друга.

В главе одиннадцатой («Великий разворот») мы подытоживаем разговор некоторыми соображениями о том, как обратить это движение к катастрофе вспять. Здесь мы предлагаем план перенаправления технологических перемен, основанный на изменении нарратива, выстраивании противодействующих сил и создании технических, законодательных, политических решений, призванных противостоять конкретным предрассудкам и стереотипам, лежащим в основе технооптимизма.