Читаем Власть и прогресс онлайн бесплатно

Шпионская программа «Пегас», махинации АНБ, бизнес Clearview AI – все это иллюстрирует более глубокую проблему. Как только цифровые инструменты для сбора данных появятся в широком доступе, первым делом ими заинтересуется большинство правительств, желающих оперативно подавлять оппозицию и лучше следить за своими гражданами. Эти инструменты усилят недемократические режимы и помогут им более эффективно расправляться с несогласными. Что же до демократических правительств, для них это станет таким соблазном «поиграть в диктаторов», который едва ли многие смогут преодолеть.

Говорят, демократия погибает во тьме. Но под бьющим в лицо светом от создателей новейших технологий ИИ ей тоже живется несладко.

От первоначальной эйфории по поводу демократического потенциала Интернета и соцсетей некоторые переметнулись к противоположному убеждению: мол, цифровые инструменты по сути своей антидемократичны. Говоря словами историка Юваля Ноя Харрари, «технология поощряет тиранию», и мы сейчас, возможно, входим в эпоху «цифровых диктатур».

Обе эти крайние точки зрения ложны. Цифровые технологии сами по себе не за демократию и не против. Искусственный интеллект вовсе не обречен служить диктаторам, мониторя Интернет, цензурируя информацию и репрессируя граждан. Все это – вопрос выбора направления развития.

В предыдущей главе мы уже видели, что цифровые технологии, по природе своей универсальные, можно развивать и в сторону увеличения их практической значимости – например создавая новые рабочие задачи или платформы, увеличивающие наши возможности. Только видение и бизнес-модель крупных IT-компаний подтолкнуло их к тому, чтобы сосредоточить свои разработки на слежке за сотрудниками и лишении людей работы путем автоматизации всего и вся. То же верно, когда мы говорим об ИИ в руках авторитарных (и некоторых других, якобы демократических) правительств.

Мечты о том, как Интернет и цифровые технологии смогут объединить граждан и повести их на бой против тирании, не были совсем оторваны от реальности. Цифровые технологии можно использовать для шифрования, чтобы власти не смогли читать вашу частную переписку. Можно создавать доступные сервисы типа VPN, позволяющие обходить цензуру. Существуют анонимайзеры типа Tor, которые делают всю вашу активность в Сети «непроницаемой» для посторонних глаз и таким образом обеспечивают более высокий уровень приватности и безопасности. Увы, былые надежды на цифровую демократизацию оказались разбиты: мир высоких технологий свернул туда, где ему пообещали деньги и власть, – на службу правительственной цензуре.

Именно эта кривая дорожка, выбранная IT-сообществом, ведет к интенсификации слежки и сбора данных. Хотя возможности машинного обучения значительно способствуют этим усилиям, истинным «секретным ингредиентом» являются огромные массивы данных, которых не добыть без сотрудничества с властями.

Начав усиливать авторитарные тенденции, ИИ-технологии попали в порочный круг. Правительства становятся более авторитарными – запрос на слежку и контроль за населением с их стороны возрастает, – а это, в свою очередь, подталкивает ИИ к тому, чтобы превратиться в полноценную технологию слежения.

Например, начиная с 2014 года местные власти в Китае значительно увеличили спрос на ИИ-технологии распознавания лиц и иных видов мониторинга. Это повышение спроса, по-видимому, было вызвано местными беспорядками на политической почве. Видя, что в их регионе увеличивается протестная активность, политики в ответ принимают полицейские меры, в частности усиливают надзор. Во второй половине 2010-х годов массовые протесты, особенно направленные против правительства страны, стали уже практически невозможны, хотя локальные протесты все еще имели место – и иногда, как мы упоминали ранее, даже координировались через социальные сети.

Однако к этому времени инструменты ИИ однозначно находились на стороне властей, а не протестующих. Местным властям, вооруженным ИИ-технологиями, лучше удавалось быстро подавлять протесты или даже пресекать их в зародыше. Хотя поначалу и центральное китайское правительство, и местные власти одновременно с этим начали массовый набор в полицию, увеличение вложений в ИИ, по-видимому, в конечном счете снижает потребность в людях, используемых для слежки и даже, собственно, для репрессий против протестующих.