Читаем Власть и прогресс онлайн бесплатно

Несмотря на впечатляющие успехи таких проектов, как GPT-3 или системы рекомендаций, нынешнему подходу к ИИ едва ли суждено воспроизвести человеческий интеллект или даже добиться по-настоящему высоких уровней производительности во многих задачах, связанных с принятием решений, которые успешно выполняют люди. Искусственный интеллект общего назначения обречен оставаться мечтой, по крайней мере, в обозримом будущем – и задачи, требующие задействовать ситуационные и социальные стороны человеческого познания, и дальше будут представлять для машинного разума неразрешимую проблему. Едва мы взглянем повнимательнее на то, что именно достигнуто сейчас, нам станет ясно, насколько сложно применить эти нынешние достижения к чисто человеческим задачам.

Возьмем самые прославленные успехи ИИ, например шахматную программу AlphaZero, о которой мы упоминали в главе первой. AlphaZero даже называют «творческой», поскольку она делает такие ходы, которых не замечали или не рассматривали живые гроссмейстеры. И тем не менее подлинным разумом она не обладает. Начать с того, что AlphaZero – очень узко специализированная программа: она умеет только играть в шахматы и другие похожие игры. Даже простейшие задачи за пределами шахматной доски, например простая арифметика или игры, в которых больше социального взаимодействия, – за пределами ее возможностей. Хуже того, совершенно непонятно, как можно было бы адаптировать архитектуру AlphaZero ко многим простейшим вещам, которые делают люди, например к проведению аналогий, играм с более гибкими правилами, обучению естественному языку – словом, к тому, что из года в год легко и умело проделывают сотни миллионов годовалых детей.

Даже в пределах шахматной доски интеллект AlphaZero очень специфичен. Хотя шахматные решения, принимаемые AlphaZero в границах правил игры, впечатляют, в действительности она не пользуется творческим мышлением того типа, какое используют люди: не проводит аналогии между разрозненными, случайно сопоставленными явлениями, не находит с их помощью решения для новых и разнообразных проблем.

GPT-3 более универсален и способен впечатлить сильнее, однако и у него те же ограничения. Он умеет выполнять только те задачи, которым был предварительно обучен, и не владеет способностью суждения, так что противоречивые или необычные инструкции вгоняют его в ступор. Еще хуже то, что эта технология ни проявляет ни капли ситуационного или социального интеллекта, присущего людям. GPT-3 не способен делать умозаключения о контексте, в котором выполняет свои задачи, и понимать причинно-следственные отношения между действиями и их результатами. Поэтому он часто неверно понимает даже простые инструкции – и едва ли когда-нибудь научится адекватно реагировать на меняющиеся или совершенно новые обстоятельства.

На самом деле все это иллюстрирует более широкую проблему. Статистические подходы, использующие распознавание паттернов и прогнозирование, плохо приспособлены для улавливания сути многих человеческих навыков. Начать с того, что эти подходы плохо совместимы с ситуационной природой интеллекта – ведь, находясь внутри той или иной ситуации, сложно в реальном времени понять, что именно она собой представляет, и ее классифицировать.

Еще один вечный вызов для статистических методов – проблема «избыточного подбора», которую обычно определяют так: использование большего числа параметров, чем требуется для определения каких-либо эмпирических соответствий. Здесь возникает опасение, что статистическая модель начнет принимать во внимание данные, не имеющие отношения к изучаемому вопросу, что приведет к неточным выводам и прогнозам. Статистики разработали немало методов для предотвращения избыточного подбора: например, разработав алгоритмы на одной выборке данных, затем тестируют их на другой. Тем не менее избыточный подбор остается слабым местом статистических подходов. Этот недостаток на фундаментальном уровнем связан с основной слабостью современного ИИ – отсутствием теории моделируемых феноменов.