Читаем Власть и прогресс онлайн бесплатно

Так или иначе, игнорирование чисто человеческих возможностей может обернуться самосбывающимся пророчеством, поскольку решения, принимаемые автоматикой, будут постепенно сужать «окно» социального взаимодействия и человеческого обучения. Возьмем как пример обслуживание клиентов. Хорошо обученный сотрудник может очень эффективно решать проблемы главным образом потому, что устанавливает эмоциональную связь с клиентом, нуждающимся в помощи (например, сочувствует человеку, с которым произошел несчастный случай и который теперь хочет подать иск). Сотрудник-человек быстро разбирается в сути проблемы – отчасти потому, что коммуницирует с клиентом, на основе этой коммуникации понимает, что тому нужно, и, исходя из этого, подыскивает решения. Это взаимодействие с клиентами дает сотруднику опыт и помогает со временем выполнять работу все лучше и лучше.

Теперь представим себе, что эту работу раздробили на отдельные задачи, расписали их алгоритмы и поручили искусственному интеллекту. Столкнувшись со сложной проблемой, он с большой вероятностью не сможет ни полностью ее понять, ни решить. Что происходит дальше? Клиента долго гоняют по кругу, задавая ему одни и те же вопросы и предлагая выбрать из нескольких неподходящих вариантов. Наконец появляется сотрудник-человек – в этой схеме он играет роль спасателя. Но к этому моменту клиент, как правило, уже устал и раздосадован, возможность образовать с ним эмоциональную связь утрачена, он не дает такой полной и подробной информации, какую мог бы дать сразу, – и возможности сотрудника чему-то научиться из этой коммуникации и приспособиться к определенным обстоятельствам оказываются ограничены. В результате сотрудники-люди становятся менее эффективны – и это, возможно, побуждает менеджеров и технологов задуматься о том, как бы еще сильнее сократить их задачи.

Эти уроки о человеческом интеллекте и адаптивности часто игнорируются ИИ-сообществом, которое спешит автоматизировать как можно больше задач, не обращая внимания на то, какие чисто человеческие навыки требуются для их исполнения.

Несколько лет назад громко возвещался триумф ИИ в рентгенологии. В 2016 году сотрудник исследовательского отдела Google Джеффри Хинтон, лауреат премии Тьюринга, один из создателей современных методов глубинного обучения, гордо заявил:

«Можно прекратить обучать рентгенологов. Уже сейчас очевидно, что через пять лет ИИ, прошедший глубинное обучение, будет выполнять эту работу лучше, чем человек».

Однако ничего подобного не произошло, и потребность в рентгенологах с 2015 года даже увеличилась – по очень простой причине. Полноценная лучевая диагностика требует еще больше ситуационного и социального интеллекта, чем, например, обслуживание клиентов – и находится полностью за пределами нынешних возможностей машин. Напротив, современные исследования показывают, что гораздо более эффективно сочетание человеческого опыта и знаний с новыми технологиями. Например, тонкие и сложные алгоритмы машинного обучения способны улучшить диагностику диабетической ретинопатии, возникающей у пациентов с диабетом из-за повреждения кровеносных сосудов сетчатки. И тем не менее точность значительно повышается, если результаты работы алгоритмов, исследующих сложные случаи, затем передают врачу-офтальмологу, который и ставит окончательный диагноз.

Технический директор отдела Google, занимавшегося разработкой беспилотных автомобилей, в 2016 году очень уверенно заявил, что его сыну (тогда одиннадцатилетнему) через пять лет, то есть в 2021 году, уже не придется получать водительские права. В 2019 году Илон Маск предсказал, что уже к концу 2020 года Tesla выпустит на улицы миллион полностью автоматизированных такси, способных возить пассажиров без водителя. Пришли и ушли и 2020, и 2021 год, а эти предсказания не сбылись – все по той же причине. Как показал эксперимент с «оголенными улицами», езда по запруженным транспортом городским артериям требует сильного ситуационного интеллекта, позволяющего приспосабливаться к быстро меняющей обстановке, и еще более сильного социального интеллекта – чтобы угадывать намерения других водителей и пешеходов.

Апогеем нынешнего подхода к ИИ, вдохновленного идеями Тьюринга, можно назвать поиск искусственного интеллекта общего назначения (ИИОН), не уступающего человеческому.