Читаем Власть и прогресс онлайн бесплатно
Сегодня мы все ближе к будущему, описанному в «Машине времени», антиутопии Г. Дж. Уэллса. Наше общество уже состоит из двух сословий. Наверху – магнаты, твердо уверенные, что честно заработали свои состояния выдающимся умом и талантом. Внизу – обычные люди, которых IT-лидеры считают «склонными к ошибкам» и мечтают заменить машинами. По мере все более активного участия ИИ в современной экономике, скорее всего, верхний и нижний слои общества будут расходиться все дальше друг от друга.
Во всем этом не было ничего неизбежного. Цифровые технологии необязательно было использовать для автоматизации, и создателей ИИ-технологий никто не заставлял неразборчиво следовать этому тренду. Никакие неодолимые силы не принуждали IT-сообщество искать в машине разум, а не практическую значимость. В том, что развитие технологий пошло этим путем, не было ничего предопределенного – как нет ничего неизбежного и в сословном обществе, которое строят сейчас наши лидеры.
Из нынешнего тупика можно выйти, изменив конфигурацию распределения власти в обществе и направив технологические изменения по другому пути. Подобные перемены мог бы инициировать низовой демократический процесс. Но тут перед нами вырастает новое зловещее препятствие: ИИ представляет все больше проблем и для демократии. Об этом мы поговорим в следующей главе.
«История социальных сетей еще не написана, но, несомненно, в политике они играют немалую роль».
«Если все и всегда лгут – результат будет не тот, что люди начнут верить в ложь, а тот, что перестанут вообще чему-либо верить».
2 ноября 2021 года известная китайская теннисистка Пэн Шуай опубликовала в социальной сети
Такое стремительное удаление политически чувствительной информации – не исключение, а правило в Китае, где Интернет и социальные сети находятся под постоянным надзором. По некоторым сообщениям, китайское правительство тратит на мониторинг и цензуру онлайн-контента 6,6 млрд долларов ежегодно.
Кроме того, правительство Китая серьезно вкладывается в другие цифровые технологии, особенно в использование ИИ для наблюдения за гражданами. Особенно заметно это в провинции Синьцзян, где систематический сбор данных об уйгурском мусульманском населении начался сразу после окончания беспорядков в июле 2009 года, а с 2014 года усилился. Коммунистическая партия поручила нескольким лидирующим IT-компаниям разработать инструменты для сбора, хранения и анализа данных об индивидуальных и семейных привычках, особенностях коммуникации, занятиях, тратах, даже хобби – все эти данные стали основой для «профилактической работы полиции» против 11 млн жителей провинции, в которых власть видела потенциальных диссидентов.
В разработке этих инструментов для слежки и их применении в Синьцзяне участвовали некоторые крупнейшие китайские IT-компании:
То, что началось в Синьцзяне, с тех пор распространяется на весь Китай. Камеры с функцией распознавания лиц теперь установлены по всей стране; идет поэтапное введение национальной социальной кредитной системы, которая собирает информацию о частных лицах и компаниях, мониторя нежелательную и сомнительную деятельность. В понятие «нежелательной деятельности», разумеется, включено инакомыслие и жесткая критика правительства. Официальное заявление Компартии Китая гласит:
