Слуга, друг или хозяин: кем станет искусственный интеллект для человечества

09.09.2019

Специалистам в области создания искусственного интеллекта человеческого уровня сегодня приходится решать не только научные, но и этические проблемы. Какие вызовы стоят перед учёными? Как обезопасить человечество от потенциальных угроз, которые несёт создание сверхмощного разума, и остаться людьми в новом мире? Об этом рассказал профессор Института интеллектуальных кибернетических систем Национального исследовательского ядерного университета «МИФИ» Алексей Самсонович.

 

— Алексей Владимирович, наш разговор проходит в рамках Международной конференции «Биологически инспирированные когнитивные архитектуры» BICA 2019. Какие темы дискуссий сегодня выходят на первый план в связи с созданием искусственного интеллекта человеческого уровня?

— Конференция позволила нам еще раз осознать основные вызовы в области создания искусственного интеллекта следующего поколения, который должен стать равным партнером и другом человека.

Во-первых, вызовом можно считать создание эмоционального интеллекта человеческого уровня, способного задействовать эмоции в процессах принятия решений и генерации поведения. В частности, это качество позволит машине устанавливать долговременные социальные связи, подобные отношениям между близкими людьми. Оно также позволит ей обосновывать свои действия и решения, выбирать цели и способ обучения.

Эмоциональный интеллект – это ключ к ответам на остальные вызовы. Он не сводится только к способностям распознавать и выражать эмоции, которыми сегодня заняты большинство исследователей, работающих в данной области. Хотя оба эти процесса необходимы, гораздо важнее и труднее понять связь одного с другим, которую и обеспечивает эмоциональный интеллект.

Во-вторых, интеллектуальный агент должен понимать контекст происходящего. Это означает, что он должен на основе доступной ему информации самостоятельно генерировать и непрерывно обновлять глобальный сценарий прошлого и будущего, определять свою роль в нем, и далее на этой основе ставить перед собой конкретные цели и вырабатывать планы их достижения.

В научной литературе данную способность принято называть «нарративным интеллектом» (не следует путать его с программами, работающими по заранее написанному человеком сценарию, или нарративу).

— Есть и третий вызов?

— Им станет реализация активного обучения искусственного интеллекта, который, подобно человеку, сам вырабатывает систему ценностей, мотивирующую процесс обучения, сам формирует цели и дорожную карту обучения, сам выбирает средства (например, эксперименты для проверки гипотез, поиск доступных ресурсов или вопросы к человеку), и, движимый собственной инициативой, применяет эти средства для достижения цели. При этом машина должна быть способна самостоятельно развиваться от уровня ребенка до уровня взрослого человека и далее, до сверхинтеллекта.

Это третье направление можно было бы назвать «интеллектом обучения человеческого уровня» (human-level learning intelligence), чтобы отличить его от «глубокого обучения» и других видов машинного обучения, популярных сегодня. В моем понимании, интеллект обучения человеческого уровня станет возможным на основе эмоционального и нарративного интеллекта.

— Какие исследования вы сейчас проводите? Как продвигается ваша работа по созданию виртуальных помощников человека и по моделированию эмоционального интеллекта?

— Мы занимаемся моделированием эмоционального интеллекта человека с целью разработки социально совместимых виртуальных помощников человека на основе наших моделей.

Мы рассматриваем широкий спектр конкретных задач и направлений исследований. Например, это создание виртуального партнера в видеоигре; виртуального координатора или модератора; виртуального креативного ассистента композитора, хореографа, дизайнера, ассистента решателя инсайтных задач; виртуального слушателя (в перспективе – виртуального собеседника); а также виртуального домашнего животного, сопоставимого с реальным по своим социально-эмоциональным характеристикам.

Результаты здесь трудно изложить в деталях, но их можно найти в наших публикациях открытого доступа. При всей широте наших попыток и успехов, нам нужен прорыв на одном направлении: в доказательстве практической ценности общей модели эмоционального интеллекта человека, воплощенной в интеллектуальном агенте.

Недавно наша лаборатория BICA Lab на кафедре кибернетики в НИЯУ МИФИ обогатилась новыми методиками исследования, включая экспериментальную платформу на основе виртуальной и смешанной реальности (с отслеживанием направления глаз испытуемого), а также электромиографии и автоматического анализа выражений лица, позволяющих нам регистрировать эмоции испытуемых, погруженных в виртуальные окружения. Большая часть наших работ сейчас проводится с использованием этих технологий. В некоторых экспериментах используются также ЭЭГ и фМРТ.

Наша ближайшая сверхзадача – доработка и эмпирическая валидация социально-эмоциональной когнитивной архитектуры «Эбика» (eBICA) и создание на ее основе эффектных демонстраций. Эта работа ведется в НИЯУ МИФИ при финансовой поддержке гранта РНФ № 18-11-00336.

— Недавно стартап Илона Маска Neuralink заявил о разработках, которые в перспективе могут сделать человека киборгом, способным управлять компьютером силой мысли. Насколько это направление исследований кажется вам перспективным?

— В моем понимании, искусственный интеллект должен стать, с одной стороны, равноправным партнером и другом человека, а с другой, расширением нормальных или заменой утраченных человеческих возможностей, включая средства на основе прямого интерфейса с мозгом человека.

В этом случае человек буквально смог бы использовать компьютер или микрочип как часть своего мозга. И то, и другое, нацелено на благо и должно быть целиком подконтрольно его создателю. Я желаю всяческих успехов Илону Маску.

— Насколько велика необходимость в разработке средств противостояния искусственному интеллекту?

— Я думаю, что в нашу эпоху средства искусственного интеллекта останутся подконтрольными человеку, хотя бы в силу их зависимости от их обслуживания человеком и обеспечения их всем необходимым. Если кто-то и сможет их обратить против человека, то только сам человек. Тогда следует рассматривать вопрос о противостоянии тем людям.

Не секрет, что искусственный интеллект прежде всего нужен военным. Сегодня, как и раньше, создаются новые средства нападения и защиты. Но особенность нашего времени в том, что и те, и другие включают в себя искусственный интеллект. В этом смысле необходимость в разработке средств противостояния велика и для некоторых стран является первоочередной с финансовой точки зрения.

— Что нас ждет после создания искусственного интеллекта, превосходящего человеческий? Будем ли мы сосуществовать с машинами или объединимся в некое единое целое?

— Искусственный интеллект станет, и уже становится, неотъемлемой частью человеческой цивилизации. При этом все же возможны два пути: наследование искусственным интеллектом наших ценностей, чаяний и идеалов, или же замена их «машинными ценностями», распространяющаяся не только на машины, но и на людей. Какой из этих двух путей реализуется – зависит от нас.

— Что значит оставаться людьми в эпоху искусственного интеллекта?

— Остаться людьми в эпоху искусственного интеллекта – это значит реализовать первый путь.