Читаем Nexus онлайн бесплатно
Перевод этой книги подготовлен сообществом "Книжный импорт".
Каждые несколько дней в нём выходят любительские переводы новых зарубежных книг в жанре non-fiction, которые скорее всего никогда не будут официально изданы в России.
Все переводы распространяются бесплатно и в ознакомительных целях среди подписчиков сообщества.
Подпишитесь на нас в Telegram: https://t.me/importknig
ЮвальНойХарари «Нексус. Краткая история информационных сетей от каменного века до искусственного интеллекта»
Оглавление
Пролог
Мы назвали наш вид Homo sapiens - человек разумный. Но насколько мы оправдали это название - вопрос спорный.
За последние 100 000 лет мы, сапиенсы, накопили огромную силу. Одно только перечисление всех наших открытий, изобретений и завоеваний могло бы заполнить целый том. Но сила не есть мудрость, и после 100 000 лет открытий, изобретений и завоеваний человечество оказалось в состоянии экзистенциального кризиса. Мы стоим на пороге экологического коллапса, вызванного неправильным использованием нашей собственной силы. Мы также заняты созданием новых технологий, таких как искусственный интеллект (ИИ), которые потенциально могут выйти из-под нашего контроля и поработить или уничтожить нас. Однако вместо того, чтобы объединиться для решения этих экзистенциальных проблем, растет международная напряженность, глобальное сотрудничество становится все сложнее, страны накапливают оружие судного дня, и новая мировая война не кажется невозможной.
Если мы, сапиенсы, так мудры, почему мы так саморазрушительны?
На более глубоком уровне, несмотря на то что мы накопили столько информации обо всем - от молекул ДНК до далеких галактик, - кажется, что вся эта информация не дает нам ответа на главные вопросы жизни: Кто мы? К чему мы должны стремиться? Что такое хорошая жизнь и как ее прожить? Несмотря на огромные объемы информации в нашем распоряжении, мы, как и наши древние предки, подвержены фантазиям и заблуждениям. Нацизм и сталинизм - лишь два недавних примера массового безумия, которое время от времени охватывает даже современные общества. Никто не спорит с тем, что сегодня люди обладают гораздо большей информацией и силой, чем в каменном веке, но далеко не факт, что мы гораздо лучше понимаем себя и свою роль во Вселенной.
Почему мы так хорошо накапливаем информацию и власть, но гораздо менее успешны в обретении мудрости? На протяжении всей истории человечества многие традиции считали, что какой-то фатальный изъян в нашей природе побуждает нас стремиться к силе, с которой мы не умеем обращаться. Греческий миф о Фаэтоне повествует о мальчике, который обнаруживает, что он сын Гелиоса, бога солнца. Желая доказать свое божественное происхождение, Фаэтон требует привилегии управлять солнечной колесницей. Гелиос предупреждает Фаэтона, что ни один человек не может управлять небесными конями, которые тянут солнечную колесницу. Но Фаэтон настаивает, пока бог солнца не смиряется. Гордо поднявшись в небо, Фаэтон действительно теряет контроль над колесницей. Солнце отклоняется от курса, испепеляя всю растительность, убивая множество существ и угрожая сжечь саму землю. Зевс вмешивается и поражает Фаэтона молнией. Тщеславный человек падает с неба, как падающая звезда, сам охваченный огнем. Боги восстанавливают контроль над небом и спасают мир.
Две тысячи лет спустя, когда промышленная революция делала первые шаги, а машины начали заменять человека во многих сферах деятельности, Иоганн Вольфганг фон Гете опубликовал похожую поучительную историю под названием "Ученик колдуна". В стихотворении Гете (впоследствии ставшем популярным мультфильмом Уолта Диснея с Микки Маусом в главной роли) рассказывается о том, как старый колдун оставляет молодого подмастерья за главного в своей мастерской и поручает ему на время своего отсутствия несколько дел, например, приносить воду из реки. Подмастерье решает облегчить себе задачу и, используя одно из заклинаний колдуна, заколдовывает метлу, чтобы она приносила ему воду. Но подмастерье не знает, как остановить метлу, которая неустанно набирает все больше и больше воды, угрожая затопить мастерскую. В панике подмастерье разрубает заколдованную метлу топором надвое, и каждая половина превращается в другую метлу. Теперь две заколдованные метлы заливают мастерскую водой. Когда старый колдун возвращается, подмастерье умоляет его о помощи: "Духи, которых я вызвал, теперь не могут от меня избавиться". Колдун немедленно снимает заклятие и останавливает потоп. Урок для ученика и для всего человечества очевиден: никогда не вызывайте силы, которые вы не можете контролировать.
Что говорят нам предостерегающие басни об ученике и Фаэтоне в XXI веке? Мы, люди, очевидно, не прислушались к их предупреждениям. Мы уже вывели климат Земли из равновесия и призвали миллиарды заколдованных метл, дронов, чатботов и других алгоритмических духов, которые могут выйти из-под нашего контроля и вызвать поток непредвиденных последствий.
Что же нам делать? Басни не дают никаких ответов, кроме как ждать, что нас спасет какой-нибудь бог или волшебник. Это, конечно, очень опасное послание. Он побуждает людей отказываться от ответственности и верить в богов и колдунов. Хуже того, он не учитывает, что боги и волшебники сами по себе являются человеческим изобретением - так же, как колесницы, метлы и алгоритмы. Тенденция создавать мощные вещи с непредвиденными последствиями началась не с изобретения парового двигателя или искусственного интеллекта, а с изобретения религии. Пророки и богословы неоднократно вызывали могущественных духов, которые должны были принести любовь и радость, но в итоге заливали мир кровью.
Миф о Фаэтоне и поэма Гете не дают полезных советов, потому что неверно понимают, как люди обретают власть. В обеих баснях один человек обретает огромную власть, но затем оказывается испорчен гордыней и жадностью. Вывод заключается в том, что наша несовершенная индивидуальная психология заставляет нас злоупотреблять властью. Этот грубый анализ упускает из виду, что человеческая власть никогда не является результатом индивидуальной инициативы. Власть всегда проистекает из сотрудничества большого количества людей.
Соответственно, не наша индивидуальная психология заставляет нас злоупотреблять властью. Ведь наряду с жадностью, высокомерием и жестокостью люди также способны на любовь, сострадание, смирение и радость. Правда, среди худших представителей нашего вида жадность и жестокость занимают главенствующее положение и заставляют злоупотреблять властью. Но почему человеческие общества предпочитают доверять власть своим худшим представителям? Например, большинство немцев в 1933 году не были психопатами. Так почему же они голосовали за Гитлера?
Наша склонность призывать силы, которые мы не можем контролировать, проистекает не из индивидуальной психологии, а из уникального способа, которым наш вид сотрудничает в больших количествах. Главный аргумент этой книги заключается в том, что человечество обретает огромную власть, создавая крупные сети сотрудничества, но способ построения этих сетей предрасполагает к неразумному использованию власти. Таким образом, наша проблема - это проблема сети.
Если говорить более конкретно, то это проблема информации. Информация - это клей, который скрепляет сети. Но на протяжении десятков тысяч лет сапиенсы создавали и поддерживали крупные сети, придумывая и распространяя вымыслы, фантазии и массовые заблуждения - о богах, о заколдованных метлах, об искусственном интеллекте и о множестве других вещей. В то время как каждый отдельный человек обычно заинтересован в том, чтобы знать правду о себе и о мире, большие сети связывают членов и создают порядок, полагаясь на вымыслы и фантазии. Именно так мы пришли, например, к нацизму и сталинизму. Это были исключительно мощные сети, удерживаемые вместе исключительно бредовыми идеями. Как сказал Джордж Оруэлл, невежество - это сила.
Тот факт, что нацистский и сталинский режимы были основаны на жестоких фантазиях и бесстыдной лжи, не сделал их исторически исключительными и не предопределил их крах. Нацизм и сталинизм были двумя самыми сильными сетями, когда-либо созданными людьми. В конце 1941 - начале 1942 года державы Оси были близки к победе во Второй мировой войне. Сталин в итоге вышел победителем из этой войны, а в 1950-1960-х годах у него и его наследников также были все шансы победить в холодной войне. К 1990-м годам либеральные демократии одержали верх, но теперь это кажется временной победой. В XXI веке какой-нибудь новый тоталитарный режим вполне может преуспеть там, где потерпели неудачу Гитлер и Сталин, создав всемогущую сеть, которая не позволит будущим поколениям даже попытаться разоблачить ее ложь и вымыслы. Мы не должны считать, что бредовые сети обречены на провал. Если мы хотим предотвратить их триумф, нам придется самим проделать тяжелую работу.
НАИВНЫЙ ВЗГЛЯД НА ИНФОРМАЦИЮ
Трудно оценить силу бредовых сетей из-за более широкого непонимания того, как функционируют большие информационные сети - как бредовые, так и нет. Это непонимание выражается в том, что я называю "наивным взглядом на информацию". В то время как басни вроде мифа о Фаэтоне и "Ученика колдуна" представляют слишком пессимистичный взгляд на индивидуальную психологию человека, наивный взгляд на информацию распространяет слишком оптимистичный взгляд на крупномасштабные человеческие сети.
Наивная точка зрения утверждает, что, собирая и обрабатывая гораздо больше информации, чем могут отдельные люди, большие сети достигают лучшего понимания медицины, физики, экономики и многих других областей, что делает сеть не только могущественной, но и мудрой. Например, собирая информацию о патогенах, фармацевтические компании и службы здравоохранения могут определить истинные причины многих заболеваний, что позволяет им разрабатывать более эффективные лекарства и принимать более мудрые решения об их использовании. Согласно этой точке зрения, в достаточном количестве информация ведет к истине, а истина, в свою очередь, ведет к силе и мудрости. Невежество, напротив, кажется, ни к чему не ведет. Хотя заблуждения или обман могут иногда возникать в моменты исторических кризисов, в долгосрочной перспективе они неизбежно проиграют более дальновидным и честным конкурентам. Служба здравоохранения, игнорирующая информацию о болезнетворных микроорганизмах, или фармацевтический гигант, намеренно распространяющий дезинформацию, в конечном итоге проиграют конкурентам, которые используют информацию более разумно. Наивная точка зрения, таким образом, подразумевает, что бредовые сети должны быть аберрацией и что крупным сетям обычно можно доверять разумное использование власти.
Наивный взгляд на информацию
Конечно, наивный взгляд признает, что на пути от информации к истине многое может пойти не так. Мы можем совершить честные ошибки при сборе и обработке информации. Злоумышленники, движимые жадностью или ненавистью, могут скрывать важные факты или пытаться обмануть нас. В результате информация иногда приводит не к истине, а к ошибке. Например, неполная информация, ошибочный анализ или кампания по дезинформации могут заставить даже экспертов ошибиться в определении истинной причины того или иного заболевания.
Однако наивный взгляд предполагает, что противоядием от большинства проблем, с которыми мы сталкиваемся при сборе и обработке информации, является сбор и обработка еще большего количества информации. Хотя мы никогда не можем быть полностью защищены от ошибок, в большинстве случаев больше информации означает большую точность. У одного врача, желающего определить причину эпидемии путем обследования одного пациента, меньше шансов добиться успеха, чем у тысяч врачей, собирающих данные о миллионах пациентов. А если врачи сами вступают в сговор с целью скрыть правду, то более свободный доступ к медицинской информации для общественности и журналистов-расследователей в конце концов раскроет эту аферу. Согласно этой точке зрения, чем больше информационная сеть, тем ближе она должна быть к истине.
Естественно, даже если мы точно анализируем информацию и открываем для себя важные истины, это не гарантирует, что мы будем использовать полученные возможности с умом. Мудрость обычно понимается как "принятие правильных решений", но что значит "правильных", зависит от ценностных суждений, которые различаются у разных людей, культур или идеологий. Ученые, открывшие новый патоген, могут разработать вакцину для защиты людей. Но если ученые - или их политические лидеры - верят в расистскую идеологию, утверждающую, что некоторые расы неполноценны и должны быть истреблены, новые медицинские знания могут быть использованы для разработки биологического оружия, которое убьет миллионы людей.
