Ранее мы уже касались вопроса о том, что подразумевали под искусственным интеллектом его отцы-основатели и как это понимание со временем эволюционировало. Пришла пора рассмотреть поставленный вопрос подробнее, поскольку от нашего представления о сути интеллекта зависит и направление наших усилий по его созданию. В этой главе представлена авторская точка зрения на эти вопросы, которая наверняка расходится с мнениями многих специалистов. Что ж, к заветной вершине ведет множество путей, у каждого из нас – свой, и мы пока не знаем, какой из них окажется кратчайшим.

Начнем с того, что есть два типа определений: ориентированные на прошлое – то, чем люди до сих пор занимались в данной области, и ориентированные на будущее – то, чем «на самом деле» надо заниматься. Нас, естественно, больше занимает последний тип, так называемые рабочие определения ИИ. Естественно, что формулировки таких определений у разных авторов могут сильно различаться, особенно в переломные моменты, в одном из которых мы сегодня и находимся. Об этом свидетельствует недавняя горячая дискуссия по поводу определения искусственного интеллекта, инициированная статьей д-ра Темпльского университета Пей Вана (Pei Wang), предложившего собственную рабочую формулировку ИИ.

Дискуссия разгорелась в основном вокруг термина «интеллект», который лежит на перекрестье многих наук – философии, психологии, нейрофизиологии и, естественно, машинного интеллекта. Первоначальная идея разработчиков последнего состояла в дополнении исторически сложившихся подходов к интеллекту новыми идеями из недавно возникших компьютерных наук. Норберт Винер в конце 1940-х предложил использовать кибернетику как науку об общих принципах управления и самоорганизации в живых и технических системах. Участники Дартмутского семинара 1956 года, на котором, собственно, и родился термин «искусственный интеллект», попытались поднять эту планку еще выше – создать искусственный разум. Общим в обоих подходах было стремление строить действующие модели, следуя принципу «понять – значит воссоздать».

Пионеры ИИ, как выяснилось, явно переоценили возможности тогдашней науки по моделированию «алгоритмов разума». У них не хватало ни теоретических представлений о том, как эти алгоритмы могут быть устроены, ни эмпирических знаний о реальных механизмах работы мозга. Это привело, как мы помним, к краху завышенных ожиданий, снижению первоначальной планки и переориентации исследований на слабый ИИ. Однако с тех пор ситуация качественно изменилась и в области алгоритмов, и в науках о мозге. Так что, возможно, пришла пора вновь переосмыслить исследовательскую программу когнитивных наук и ИИ-сообщества.

В науках о мозге прогресс был связан с появлением новых экспериментальных методик, позволивших заглянуть внутрь живого мозга: функциональной магнитно-резонансной томографии, оптико-генетических методов и многих других. Накоплен огромный массив эмпирических данных о том, что и когда происходит в мозге. При этом явно ощущается дефицит идей, обобщающих эти данные на уровне алгоритмов работы мозга и его вычислительной архитектуры. По крайней мере, реалистичной действующей модели психики до сих пор так и не создано, несмотря на многолетние исследования в этом направлении. Это и значит, что у нас до сих пор нет целостного понимания того, как мозг работает.

В области «алгоритмов разума» мы наблюдаем начавшуюся в 2010-х годах революцию глубокого обучения, в ходе которой впервые удалось с помощью универсального метода градиентного обучения искусственных нейросетей решать многие классы когнитивных задач не хуже человека. В ИИ-сообществе по этому поводу в последние годы наблюдается некоторая эйфория и возрождается осторожный оптимизм по поводу реальности разработки сильного ИИ. Многие лидеры революции глубокого обучения ставят перед собой эту цель (DeepMind, OpenAI и другие). При этом, по крайней мере на словах, признается, что какие-то идеи они надеются почерпнуть из наук о мозге. Однако по сложившейся традиции накопленный массив знаний о мозге используется в прикладном ИИ в минимальной степени.

Таким образом, наукам о мозге не хватает объединяющей накопленный эмпирический материал модели человеческой психики, а разработчикам ИИ недостает идей о том, как может быть устроена искусственная психика. Налицо предпосылки для налаживания их более тесного взаимодействия.

Существующие глубокие нейросети можно рассматривать как подсистемы искусственной психики, которые можно обучить решению множества самых разных задач, но только по одной, а не всех сразу. Если обученную нейросеть начать обучать новой задаче, она будет забывать старые навыки, поскольку разные задачи решаются разными наборами одних и тех же настроечных параметров нейросети. Это известная проблема «катастрофического забывания» в нейросетях, отличающая слабый интеллект от сильного. Настоящий интеллект должен уметь накапливать знания и приобретать новые навыки, не забывая старые. А для этого нужно объединить множество нейросетей в единую искусственную психику со своей архитектурой, определяющей роли и взаимодействие своих подсистем.

Наделение интеллекта психикой связано еще и с тем, что, как выяснилось в ходе упомянутой выше дискуссии, большинство ведущих специалистов в области ИИ согласны с мнением, что родовым свойством интеллекта является способность к самостоятельному решению как можно более широкого круга задач. Сформулировать идею можно по-разному. Интеллект – это:

● способность порождать новые алгоритмы для сколь угодно широкого круга задач;

● умение добиваться своих целей в постоянно меняющихся условиях внешней среды;

● способность решать неограниченный круг задач при ограниченных ресурсах;

● способность к целенаправленному адаптивному поведению, и т. д.

Все эти определения тесно связаны между собой, подчеркивая разные стороны одного и того же свойства интеллекта: его субъектность, самостоятельность и креативность в рамках так называемого агентского подхода.

При этом большинство исследователей ограничивают интеллект рамками индивидуальной психики агента. Мы, однако, считаем, что индивидуальное мышление, по крайней мере в случае человека, невозможно объяснить вне рамок коллективного мышления человечества. Человеческий разум – это не продукт индивидуального мышления, а результат развития человеческой культуры. Усложнение нашего разума есть результат постоянного углубления системы общественного разделения труда, в результате чего интеллект человека, воспитанного людьми, качественно отличается от интеллекта Маугли, воспитанного волками, при одинаковом устройстве мозга. Таким образом, связь между мозгом и разумом опосредована процессом воспитания.

Соответственно, далее мы будем придерживаться следующих определений:

● интеллект – это алгоритм обучения целенаправленному поведению агента;

● разум – это алгоритм обучения целесообразному коллективному поведению агентов.

Тем самым мы различаем индивидуальный интеллект и коллективный разум. Оба представляют собой обучающиеся адаптивные системы, но их целевые функции и алгоритмы обучения разные.

Заметим также, что от разумных агентов мы ожидаем постоянного накопления опыта в процессе обучения. Именно способностью к обучению решению все новых задач, то есть к усложнению своего поведения, разумные агенты отличаются от простых адаптивных физических систем с обратными связями типа, например, термостата. Даже сколь угодно сложные экспертные системы не обладают интеллектом в нашем понимании, если в них не заложена способность к обучению, – они являются лишь очень продвинутой формой справочника.

Этим определениям, однако, не хватает одного важного свойства – количественного измерения уровня интеллекта. Понятно ведь, что уровни интеллекта человека и шимпанзе существенно различаются, да и люди, как известно, обладают разными IQ. В этой связи очень интересно решение, предложенное Франсуа Шолле из Google, создателем известной библиотеки Keras. Интеллект он определяет как способность к эффективному обучению и предлагает измерять его как КПД конверсии получаемой из внешней среды информации в знания о том, как достигать своих целей. В наших обозначениях:

где: ∆C – приращение знаний, повышающих адаптацию агента в изменившихся условиях, то есть усложнение алгоритма его поведения с учетом вновь полученной информации;

∆I – новая информация, не содержащаяся в предыдущей истории взаимодействия со средой.

Выше мы уже отмечали, что современным алгоритмам глубокого обучения как раз не хватает такой эффективности. По этой причине они до сих пор и не могут выйти из виртуальных миров, где можно ошибаться миллионы раз, в реальный мир, где каждая ошибка может стать последней.

В дополнение к формальному определению меры интеллекта Ф. Шолле предложил набор задач «Abstraction and Reasoning Corpus» для тестирования машинного интеллекта, по форме напоминающий классические тесты на IQ (например, дополнить по трем картинкам четвертую). Таким образом проверяется способность агента использовать минимальное число обучающих примеров для понимания сути новой задачи и нахождения ее решения. Неудивительно, что современные глубокие нейросети, жадные до данных, пока не способны пройти этот тест.

Заметим, что тест на машинный IQ разрабатывался в предположении, что задачи, с которыми столкнется будущий искусственный интеллект, будут похожи на те, с которыми люди имеют дело в повседневной жизни. У машинного интеллекта предполагается наличие интуитивного понимания элементарных физических и геометрических закономерностей, которым ребенок обучается на ранних стадиях своего развития (понятий причинности, сохранения, непрерывности, симметрии и т. д.), наряду со способностями к счету и абстрактному мышлению, приобретаемыми позднее. Иными словами, предполагается, что искусственная психика роботов должна быть настроена на тот же круг задач, что и человеческая. Может, тогда и архитектура искусственного интеллекта должна соответствовать архитектуре человеческого мышления?

Тем самым ИИ на новом этапе своего развития возвращается к старой идее моделирования естественного интеллекта для углубления нашего понимания природы интеллекта и построения искусственного разума с учетом полученных знаний. Такая совместная исследовательская программа классических наук о разуме и разработчиков машинного интеллекта сегодня необходима и тем и другим.