Читаем Власть и прогресс онлайн бесплатно
Поразительнее то, что этот запрос от местных властей влияет на направление развития инноваций. Данные по миру ИИ-стартапов в Китае показывают, что потребность правительства в инструментах мониторинга фундаментально преображает работу исследователей. ИИ-фирмы, заключившие контракты с местными властями Китая, начинают уделять все больше времени и сил программам по распознаванию лиц и другим технологиям слежки. Возможно, в результате этих государственных поощрений Китай вырвался в мировые лидеры по распознаванию лиц и другим технологиям наблюдения, но отстает в других областях, например в обработке естественного языка, языковых навыках или абстрактном мышлении.
По оценкам международных экспертов, в развитии ИИ в целом Китай пока значительно отстает от США во всех отношениях, кроме того, в котором у него есть преимущество, – свободного доступа к данным.
Китайские исследователи работают с гораздо большими объемами данных и без тех легальных ограничений, которые часто затрудняют доступ к такому роду данным для западных исследователей. Влияние контрактов с местными властями на развитие ИИ подкрепляется тем, что в контрактах о сотрудничестве, как правило, прописано предоставление данных, имеющихся в распоряжении властей. Имея на руках обширнейшие данные, которыми можно пользоваться без всяких оговорок, и активный запрос на технологии слежения, ИИ-стартапы создают, тестируют и развивают мощные приложения, позволяющие следить за активностью граждан и контролировать ее.
Такова ловушка технологий слежения: могущественные и богатые правительства, жаждущие подавить инакомыслие, нуждаются в ИИ-технологиях для контроля над населением. Чем настойчивее они требуют таких технологий, тем больше находится исследователей, готовых над ними работать. Чем сильнее ИИ сдвигается в сторону контроля и репрессий, тем привлекательнее делается для авторитарных правительств – или тех, которые еще не авторитарны, но не прочь попробовать.
В самом деле, китайские стартапы уже начали продавать ИИ-технологии, направленные на слежку и репрессии, другим недемократическим правительствам. Один лишь китайский IT-гигант
Ни цензура в Интернете, ни даже высокотехнологичное шпионское оборудование еще ничего нам не сообщают о потенциальной способности социальных сетей повышать политическую сознательность и объединять оппозицию в борьбе с самыми страшными режимами мира. То, что некоторые диктаторы используют новые технологии для борьбы с собственными гражданами, никого не должно удивлять. То, что тем же самым занимаются США, тоже понятно, если мы вспомним, что у американских секретных служб есть давняя традиция плевать на закон, которая в последние годы – в период «войны с террором» – только усугубилась. Быть может, решение в том, чтобы удвоить наше присутствие в соцсетях, развивать сообщества, распространять правдивую информацию, проливающую свет на злоупотребления властей? Увы, путь развития нынешних соцсетей, оказавшихся во власти ИИ, выглядит почти столь же пагубным для демократии и прав человека, как и интернет-цензура «сверху».
Говоря об опасности, которую может представлять мощный ИИ, если его цели не будут полностью согласованы с целями человечества, компьютерщики и философы любят рассказывать притчу о скрепках. Проведем мысленный эксперимент: представим себе разумную машину с неограниченными возможностями, которой дали задание производить скрепки. Больше скрепок, ничего, кроме скрепок! Все свои неизмеримые способности она использует, чтобы преуспеть в этой задаче, изобретая все новые и новые методы, пока наконец не превратит в скрепки весь мир. Если же говорить о влиянии ИИ на политику, он способен все наши политические институты превратить в скрепки, и не благодаря каким-то выдающимся способностям, а исключительно по глупости.
