Читаем Власть и прогресс онлайн бесплатно

К несчастью, интернет-демократия не входит ни в бизнес-модели ведущих IT-компаний, ни в «иллюзию ИИ». В сущности, она диаметрально противоположна технократическому подходу, полагающему, что многие решения слишком сложны для обычных людей – их должны принимать специалисты. В коридорах большинства IT-компаний царит примерно такая атмосфера: здесь работают гении (в основном мужского пола), беззаветно трудящиеся ради общего блага. Вполне естественно, что они и должны принимать важные решения. С такой точки зрения политическое сознание масс – это то, чем следует манипулировать и снимать с него пенки, а вовсе не поддерживать и защищать.

Таким образом, «иллюзия ИИ» поддерживает антидемократический импульс, несмотря на то что многие ее носители считают себя умеренно левыми, поддерживают демократические институты и даже Демократическую партию. Эта поддержка часто укоренена в культурных симпатиях и очень удобно обходит краеугольный камень демократии – активное участие обычных людей в политике. Такое участие особенно яро отвергается, когда заходит речь об ИИ, поскольку большинство предпринимателей и венчурных капиталистов уверены, что люди ничего не понимают в этой технологии и боятся ее только из суеверия. Как выразился один венчурный капиталист, «большинство страхов насчет искусственного интеллекта сильно преувеличено, если не вовсе необоснованно». Значит, решение в том, чтобы игнорировать эти тревоги, смело двигаться вперед и добиться того, чтобы ИИ вошел в каждый дом, – ибо, «быть может, лишь тогда, когда эта технология будет полностью интегрирована в нашу повседневную жизнь и отойдет в нашем сознании на задний план, люди перестанут ее бояться». По сути, тот же подход высказал Марк Цукерберг в интервью журналу «Тайм»:

«Стоит появиться какой-нибудь технологии или инновации, серьезно что-то меняющей, – всегда находятся люди, которые оплакивают перемены и мечтают вернуться в прошлое. Но, мне кажется, настолько очевидно, что это благо для людей – всегда оставаться на связи с родными и друзьями!»

Этот антидемократический поворот усиливает и ускоряет еще одна сторона «иллюзии ИИ» – восприятие разрушения как добродетели, зафиксированное в девизе: «Двигайся быстрее, ломай все преграды!» Под разрушением здесь следует понимать негативные эффекты для других, особенно для трудящихся, организаций гражданского общества, традиционных СМИ и даже для демократии как таковой. Если все они стоят у тебя на пути и мешают делать большие деньги, они законная добыча.

Отражение этого антидемократического импульса можно увидеть в собственном исследовании Facebook, посвященном тому, как пользователи реагируют на позитивные и негативные эмоции своих френдов в новостной ленте. В 2014 году компания предприняла масштабное внутреннее исследование: новостной лентой почти 700 000 юзеров манипулировали таким образом, что сначала в течение недели она переставала показывать позитивные сообщения от френдов, а затем, также в течение недели, – негативные. Результат вышел предсказуемый: множество негативных сообщений и отсутствие позитивных влияли на пользователей самым неприятным образом.

Перед тем как проводить это исследование, компания не предупреждала пользователей, не спрашивала их согласия и даже не пыталась следовать общепринятым стандартам научного исследования, в которых информированное согласие субъекта обязательно. После того как некоторые результаты этого исследования были опубликованы сотрудниками Facebook в «Трудах Национальной академии наук», выпускающий редактор номера Индер М. Верна сделал к этой заметке редакторское примечание с выражением беспокойства о том, что эксперимент проводился без информированного согласия и не отвечает стандартам академического исследования.

Google следовал тем же принципам в своих попытках расширить объем информации, получаемой из Google Books или Google Maps. Компания игнорировала все понятия о приватности, не ставила пользователей в известность о своих действиях, не спрашивала их разрешения – надеялась, что как-нибудь прокатит или, по крайней мере, сойдет с рук. Что ж, в этом они не ошиблись.