Still Not Alive. Искусственный интеллект появился десятки лет назад. Что мешает ему стать разумным?

Так выглядит схема многослойной нейронной сети.

Искусственный интеллект это не всегда разумная машина. Часто под этим названием кроется обычная программа.

Интерес к разработкам в области искусственного интеллекта возник вскоре после начала космической эры, в 60-х годах. Примерно тогда же (в 1958-м) было сформировано американское агентство DARPA, которому правительство США выделяло баснословные суммы на создание интеллектуальных военных систем. Главными центрами исследований AI всегда были и есть Массачусетский технологический институт (MIT) и Стэнфордский университет, где работали такие корифеи этой науки, как Марвин Минский (Marvin Lee Minsky) и Джон Маккарти (John McCarthy). Они придерживались семиотического подхода (его сторонники утверждают, что сильный AI может быть сконструирован путем создания символьных систем, моделирующих сложные психические процессы: мышление, речь, рассуждение, эмоции и даже творчество), в то время как их коллега Фрэнк Розенблат (Frank Rosenblatt), автор термина «искусственный интеллект», создал перцептрон (одна из первых моделей нейросетей; на нейросети делают ставку сторонники биологического подхода) и утверждал, что манипулирование символами никак не может породить сознание. Именно этим людям и их лабораториям шли огромные суммы от DARPA. В 1969 году Минский в соавторстве с коллегой Сеймуром Папертом (Seymour Papert) написал книгу о недостатках перцептрона, в которой подверг биологический подход жесткой критике. Это привело к тому, что DARPA свернуло финансирование таких исследований и они застопорились на 10 лет. Позже Минский пожалел о своей книге, признав нейронные сети эффективным средством для создания AI.

Именно так произошел серьезный раскол в исследованиях AI, повлекший за собой переориентацию на семиотический подход.

Идеи, озвученные Аланом Тьюрингом в середине прошлого века, актуальны до сих пор.

Джон Серль подверг жесткой критике тест Тьюринга и сильно изменил взгляды многих на то, какими путями надо создавать AI.

Эксперимент «Китайская комната» поставил под сомнение единственный способ определения разумности машины.

Золотая медаль Лебнера не досталась пока никому. Ее получит программа, которая полностью пройдет тест Тьюринга.

Готовя эту статью, мы разговаривали с несколькими экспертами в области искусственного интеллекта, одним из них был Джек Дуниц (Yaki Dunietz), основатель двух израильских высотехнологичных компаний  Mashov Computers Ltd. и Artificial Intelligence Research (www.a-i.com). Проблемами искусственного интеллекта он занимается уже более 20 лет.

[] Начнем сразу со сложного вопроса: в чем, по-вашему, разница между искусственным сознанием и искусственным интеллектом? Созданием чего  именно вы занимаетесь?

[Джек] Термином «искусственный интеллект» злоупотрeбляют, зачастую им обозначают все что попало: и экспертные системы, и программы для распознавания речи, и нейронные сети. Любую программу, способную обучаться, можно назвать AI. С другой стороны, в представлении многих AI  это компьютер, способный решать задачи, не решаемые, казалось бы, без человеческого участия. Это рождает некоторое недопонимание, так что, когда кто-то говорит «я разpaбатываю программу искусственного интеллекта», это звучит как минимум непрофессионально.

Мы в Ai Research не согласны со столь широким определением и придерживаемся скорее взглядов Алана Тьюринга, который утверждал, что искусственный интеллект в первую очередь должен уметь поддерживать разговор с человеком так, чтобы тот не мог понять, машина перед ним или нет. Мы занимаемся разработкой программ с четкой задачей: общение с людьми (Ai обещают, что их продукты  HAL, Alan и MyBot  смогут пройти тест Тьюринга в ближайшие 10 лет.  Прим. «Игромании»).

Что касается сознания: по-моему, невозможно доказать, что сознание есть даже у человека, чего уж тут говорить о компьютерной программе. Компьютеры, безусловно, мыслят, просто делают это совсем не так, как люди. Хотя у них, видимо, и нет сознания.

[] Какой подход к созданию AI вы используете? Пытаетесь ли вы копировать нейронные структуры или обучаете ваш AI?

[Джек] Как я уже сказал, мы создаем программы для общения (чат-боты). Мы не пытаемся симулировать или копировать работу мозга. Наш подход соотносится с понятием слабого AI и использует другую методику. Мы стараемся воссоздать поведение человека. Наши программы улучшают свои языковые навыки как дети  методом проб и ошибок, а также через общение с людьми и получение знаний от них. Мы так и называем свою технологию (а о ней говорил еще сам Тьюринг)  искусственный интеллект-ребенок (child AI). Наша цель  обучить его и «вырастить», чтобы дальше уже он учил нас. Ведь нет никаких сомнений, что со временем компьютеры станут умнее человека.

[] Как вы думаете, можно ли воспринимать человеческий разум или разум животного как сложные программы? Существуют ли специальные технологии «копирования» человеческого разума?

[Джек] Современная наука воспринимает человеческий мозг и мозг животного как сложные машины. Многие механизмы этих машин пока слабо изучены.

В данный момент технологий информационного копирования мозга не существует (Джек использовал термин «upload», «передача информации».  Прим. «Игромании»), но многие известные исследователи полагают, что это всего лишь вопрос времени.

[] В каком состоянии находятся разработки AI сейчас? Были какие-то значительные прорывы за последнее время?

[Джек] Ответ зависит от того, что понимать под термином AI. В нашей сфере очень мало кто добился успехов. Частично это связано с тем, что создание чат-ботов не очень популярно, потому что нет бизнес-модели, которая позволяла бы делать на них деньги. А отсюда  отсутствие финансирования.

Наши разработки ушли далеко вперед по сравнению с другими продуктами.

[] Как вы думаете, когда будет создан тот самый настоящий AI?

[Джек] Это не совсем наша сфера, но вот Рэй Карцвайл (Ray Kurzweil) (известный изобретатель и футуролог.  Прим. «Игромании») в своей книге The Age of Spiritual Machines, вышедшей в 1999 году, утверждал, что компьютеры станут разумными через 20-30 лет.

Штаб-квартира DARPA организации, уже много лет обеспечивающей технологическое лидерство Пентагона над армиями всего мира.

Джастин Раттнер из Intel уверен, что к 2050 году возможности компьютеров превзойдут наши. Не слишком ли он оптимистичен?

Поражение Каспарова в матче с Deep Blue имело скорее психологический эффект. Сделать AI, искушенный в шахматах, не так уж сложно.

X-47B, прототип первого в мире полноценного беспилотного истребителя. В США надеются завершить работы над этим проектом в ближайшие 10-15 лет.

На  вопросы «Игромании» ответил Дмитрий Сошников, руководитель студенческой лаборатории MAILabs (кафедра Вычислительной математики и программирования Московского авиационного института), координатор студенческих программ Microsoft Russia.

[] Расскажите, какой подход к изучению AI вы применяете? Считаете ли, что машина будет моделировать мыслительные процессы благодаря какому-то особенному методу программирования и языку или что машина научится думать, только если ее мышление будет идентично человеческому?

[Дмитрий] Помимо семиотического (акцент на метод программирования) и биологического (копирование человеческой модели мышления) подходов, есть и такое направление AI, как машинное обучение  когда компьютерная программа обpaбатывает большое количество данных и пытается получить из них определенные правила или закономерности. Например, из данных о покупках в супермаркете система может сама прийти к заключению, что если человек купил попкорн и колу, то он с большой вероятностью купит DVD с фильмом.

Еще один возможный подход  эволюционный, когда мы моделируем в ЭВМ процесс эволюции по принципу «выживает сильнейший». Если нужно решить определенную задачу, мы формируем некоторые начальные «кандидатные» решения, а затем запускаем на такой популяции эволюционный процесс  со «скрещиванием», мутациями и всем остальным. В результате задача решается оптимальным образом.

Лаборатория MAILabs в основном занимается системами с явным представлением знаний и распределенными системами, проявляющими свойства самоорганизации.

[] А что мешает ученым сделать разумный AI? В чем сложность?

[Дмитрий] Чтобы построить искусственный интеллект, нам необходимо сначала узнать, как работает наш собственный. А это большая проблема, потому что надо не только заглянуть «в себя», но и выйти за рамки. Отчасти поэтому изучение AI многих привлекает  тут как ни в одной другой области есть возможность почувствовать себя творцом. Кроме того, AI  многодисциплинарное направление, а на стыке различных дисциплин можно ожидать много новых открытий.

[] На каких направлениях работает ваша лаборатория?

[Дмитрий] У нас студенческая лаборатория, поэтому помимо чисто научных целей мы также преследуем цели учебные. Меня очень волнует то, что многие ребята в процессе обучения не «видят» дальше аудиторных занятий  отсюда и низкая научная культура. Мы стараемся привлекать студентов начиная с младших курсов к какой-то осмысленной научной или околонаучной деятельности, в том числе и на конференциях.

Что касается научных направлений, то они находятся на стыке систем с явным представлением знаний, многоагентных систем, интернет-систем и сообществ, семантической паутины и т.д. В интернете огромное количество информации, однако из-за слабой ее структурированности доступ к ней, включая автоматическое и полуавтоматическое использование знаний и обмен знаниями, ограничен. Среди проектов нашей лаборатории  использование знаний сообществ, автоматическая или автоматизированная реструктуризация социальных сетей, построение семантических слабоформализованных баз знаний в стиле вики (т.н. Semantic Wiki) и др.

[] Считается, что появление на свет AI полностью изменит наш мир. Как вы думаете, что изменится сильнее всего?

[Дмитрий] Сейчас большинство исследователей не работает вплотную над созданием сильного AI, основной фокус делается на использовании элементов AI в нашей жизни. Хотя вот философы много занимаются проблемами AI  к примеру, Ник Бостром (Nick Bostrom) выступил с так называемым симуляционным аргументом (Simulation Argument), в котором он убедительно доказывает, что мы с большой вероятностью уже живем в «матрице», то есть программно-симулируемом искусственном мире. В своих работах он, в частности, описывает, как должен вести себя человек, который осознал, что живет именно в таком мире. Мне же наиболее симпатичны взгляды Валентина Турчина, изложенные в книге «Феномен науки. Кибернетический подход к эволюции» и затем в Principia Cybernetica (http://pcp.lanl.gov). Я бы также рекомендовал ознакомиться с цифровой философией Эда Фредкина (Ed Fredkin) (www.digitalphilosophy.org). Основная ее идея  что вселенная является либо компьютерной программой, либо подчиняется тем же законам, что и информационные технологии.

[] Существует мнение  и оно интенсивно культивируется в массовой культуре,  что изобретение разумного AI станет фатальной ошибкой для человечества. Есть основания опасаться такого развития событий?

[Дмитрий] Апокалипсический вариант весьма вероятен  но вовсе не обязательно по вине AI. Уже сейчас мы очень сильно зависимы от инфраструктуры: электричества, компьютерных сетей, телефонной связи. Дальше эта зависимость будет только усиливаться, со временем мы превратимся в существ нового поколения  eHomo (термин Нариньяни, директора Российского НИИ искусственного интеллекта). Действительно, сравните способности человека, вооруженного современным карманным компьютером с доступом в интернет с человеком 10-летней давности. С компьютером вы не потеряетесь ни в одной стране мира  у вас под рукой будет переводчик, карта местности, возможность немедленно связаться со всеми своими контактами! А теперь представьте, что в мире eHomo произойдет перебой с подачей электроэнергии... Это будет не менее страшно, чем атака взбесившихся «я, роботов».

[]  А что насчет игрового AI?

[Дмитрий] Это одна из самых интересных областей применения AI. Несмотря на сугубо игровые задачи, здесь ситуация моделирует реальный мир, поэтому применяемые методы могут быть использованы и в других целях. Ну хотя бы для игры в футбол. Существует даже соревнование по футболу среди роботов  «Робокап». Причем как среди настоящих роботов, из железок и сервоприводов, так и между бесплотными программами, живущими внутри симулируемого мира.

Мы в студенческой лаборатории тоже не обходим вниманием игровую тематику. В прошлом году студенческая комaнда во главе с Павлом Морозовым, студентом пятого курса, реализовала и представила на международный студенческий конкурс Imagine Cup (www.imaginecup.ru) проект игры, основанной на многоагентных технологиях. Интерфейс был сделан с помощью XNA Game Studio, а логическое наполнение  в среде JADE.NET. Это позволило смоделировать поведение множества персонажей в игре в визуально-понятной форме.

[] В каких странах исследования в области AI продвинулись дальше всего? Как обстоят дела в нашей стране?

[Дмитрий] В «Робокапе» Россия (комaнда STEP из Санкт-Петербурга) несколько лет назад заняла первое место в симуляционной категории. Вообще, координацией исследований в области AI занимается Российская ассоциация искусственного интеллекта (РАИИ, www.raai.org), которая, помимо всего прочего, организует общероссийскую конференцию КИИ, ежегодные публичные дни AI в Политехническом музее и множество других мероприятий. Ассоциация тесно сотрудничает с Европейской ассоциацией AI, российские ученые принимают участие в проектах, связанных с AI, по всему миру (только вот на наши письма отчего-то не отвечали.  Прим. «Игромании»).

[] А чем лично вам так интересна эта тема (в смысле AI)?

[Дмитрий] Приведу лишь один пример. Издавна люди мечтали о бесcмepтии. Технологии AI сейчас не могут сделать человека бесcмepтным (хотя ассоциация трaнcгуманистов России (http://transhumanism-russia.ru) во главе с Данилой Медведевым нам это обещают в ближайшем будущем), но, например, машинное обучение позволяет извлекать знания из наших действий и формировать искусственную сущность, которая реагирует на раздражители похожим образом. Персональный агент может смотреть, как мы реагируем на входящие письма, и потом научиться помогать нам или даже полностью нас заменять. Такая форма сохранения личности человека называется цифровым бесcмepтием. И работать над тем, чтобы эта мечта стала реальностью, можно уже сейчас!