Читаем Власть и прогресс онлайн бесплатно

Чтобы разобраться в этой проблеме, полезно лучше понять суть избыточного подбора, опирающегося на нерелевантные, или преходящие, характеристики исследуемого явления. Допустим, мы ставим алгоритму задачу отличить на картинках волков от хаски. Человек с этим справляется блестяще, а вот у ИИ эта задача вызывает большие трудности. Некоторым алгоритмам удавалось неплохо справиться, но впоследствии выяснилось, что они ориентировались по фону: собак распознавали по городскому пейзажу, например аккуратно подстриженной лужайке или пожарному гидранту, а волков – по фону, изображающему дикую природу, например заснеженные горы. Эти характеристики нерелевантны в двух фундаментальных смыслах. Во-первых, люди, отличая животных друг от друга, не используют для этого фон, на котором изображены животные, – и алгоритм, стремящийся смоделировать человеческое сознание, тоже так делать не должен. Во-вторых (это более практическое возражение), с переменой климата ареал обитания волков может измениться или же волк может каким-то образом попасть в город, где и потребуется его распознать. Иными словами, поскольку то, что окружает волков, не является их определяющей характеристикой, любой подход, основывающийся на том, что мы видим вокруг волка, при изменениях в мире или в контексте приведет к ошибочным прогнозам.

Избыточный подбор особенно неприятен для машинного интеллекта тем, что создает ложное ощущение успеха, когда в действительности машина не справляется с задачей. Например, статистическая связь между двумя переменными – допустим, средней температурой воздуха и объемом ВВП на душу населения – в разных странах не обязательно показывает, что климат оказывает серьезное влияние на экономическое развитие. Возможно, это результат специфического исторического процесса, в котором европейский колониализм затормозил экономическое развитие регионов, расположенных в других частях света с другими климатическими условиями. Не имея верной теории происходящего, легко спутать причинно-следственную связь с корреляцией – и именно это часто происходит с «умными» машинами.

Проблема избыточного подбора усугубляется, когда алгоритмы имеют дело с социальной по сути ситуацией, в которой люди реагируют на новую информацию. Изменение человеческих реакций может означать, что быстро меняется релевантный контекст – но и контекст может меняться вследствие тех действий, что предпринимают люди на основе информации, полученной от алгоритмов. Проиллюстрируем на примере из экономики. Алгоритм может заметить, что человек совершает ошибки при поиске работы – например пытается устроиться туда, где уже много кандидатов и мало вакансий, – и постарается его поправить. Процедуры, предназначенные для борьбы с избыточным подбором – такие как обучение и тренировка на разных выборках, – не устраняют фундаментальную проблему избыточного подбора: допустим, обе выборки адаптированы к конкретной ситуации, где имеется много незанятых рабочих мест в сфере розничной торговли. Но ведь со временем это может измениться – именно потому, что мы имеем дело с социальной ситуацией, где люди реагируют на доступную им информацию. Например, если алгоритм сообщает людям, ищущим работу, что сейчас в торговле много свободных вакансий, все они могут ринуться в торговлю, так что свободные вакансии быстро окажутся заполнены. Без ясного понимания этой ситуационной и социальной стороны человеческого познания, а также того, как меняется человеческое поведение в ответ на внешние стимулы, машинный разум никогда не избавится от «проклятия» избыточного подбора.

Недостаток социального интеллекта у ИИ влечет за собой и иные, более неприятные последствия. Хотя ИИ использует данные, исходящие от огромного сообщества пользователей Интернета, и, следовательно, имеет доступ и к их социальному измерению, при существующих подходах он не способен понять и учесть то, что человеческое понимание основывается на избирательном подражании, общении и спорах между людьми. В результате там, где умелый работник быстро и гибко реагирует на меняющиеся обстоятельства, зачастую используя навыки и точки зрения, почерпнутые у коллег, – многие инструменты автоматизации стремятся, наоборот, не увеличить, а снизить гибкость.

Разумеется, все эти аргументы не отрицают вероятность того, что в недалеком будущем наука откроет какой-то совершенно новый подход, который поможет решить проблему ИИОН. Однако пока никаких признаков такого подхода на горизонте не видно. И огромные деньги, крутящиеся в сфере ИИ, вкладываются отнюдь не в это. ИИ-разработки по-прежнему сосредоточены на масштабном сборе данных и автоматизации узких задач, основанной на техниках машинного обучения.