Возможно ли создать машину-младенца?
Это давно и широко известная мечта: создать машину, которая поначалу будет учиться простыми способами, а затем начнет развивать в себе более сложные – и так до тех пор, пока не станет разумной.
Предприниматель: Почему бы не построить «машину-младенца», которая всему, что ей нужно, научится на собственном опыте? Дайте роботу сенсоры и двигатели и запрограммируйте его, чтобы он мог учиться, взаимодействуя с реальным миром – так, как это делают человеческие дети. Он может начать с простых схем вида «если ® то», а уж потом вывести более сложные.
На самом деле уже появлялось несколько реальных проектов с такой целью, и каждая из их систем сначала развивалась, но в конечном итоге прекращала свое обучение. Подозреваю, обычно это происходит потому, что программе не удается разработать новые надежные способы репрезентации знаний. В самом деле, изобретение качественных методов представления знаний уже давно является одной из важнейших задач информатики. Однако, даже когда такие способы появляются, их редко начинают сразу же широко применять, поскольку необходимо также наработать навыки для эффективной работы с ними. И поскольку развитие таких навыков требует времени, пользователям придется терпеть достаточно долгие периоды, в течение которых производительность не повышается, а понижается (см. разделы 6.7 и 9.4). Так или иначе, но пока еще не существует машины-младенца, которая умела бы непрерывно разрабатывать новые эффективные типы репрезентаций.
Еще одна проблема с «машинами-младенцами» заключается в том, что если система будет заучивать новые правила слишком неосмотрительно, то, скорее всего, накопит много бесполезной информации, отчего пострадает ее производительность. В разделе 8.5 утверждается, что, если обучение не осуществлять выборочно, путем присвоения соответствующих коэффициентов релевантности, из большей части своего личного опыта машина не сумеет выудить необходимой информации.
Предприниматель: Вместо того чтобы пытаться создать систему, которая учится сама, почему бы не сделать такую, которая просматривала бы интернет и извлекала знания из миллионов страниц содержательных текстов?
Это, безусловно, заманчивая идея, ведь во Всемирной паутине наверняка содержится больше знаний, чем способен когда-либо выучить человек. Однако нигде в Сети не указано, какие знания необходимы, чтобы все эти тексты понимать. Рассмотрим, например, вот такую ситуацию, описанную в обычной детской книжке:
Мэри пригласили к Джеку на праздник. Она решила, что ему, наверное, понравится воздушный змей. Взяла свою копилку и потрясла. Та не издала никакого звука.
Типичный читатель предположит, что у Джека намечается праздник на день рождения и Мэри волнуется, потому что ей нужно будет принести Джеку подарок. Хороший подарок на день рождения – это что-то, что понравится его получателю, и предположение, что Джеку может понравиться воздушный змей, также предполагает, что Джек – ребенок и что змей может быть подходящей игрушкой. Упоминание о копилке предполагает, что Мэри думает купить змея и ей нужны деньги, чтобы заплатить за него. Кроме того, копилка бы зазвенела, если бы в ней были монеты; это означает, что Мэри теперь столкнулась с финансовыми трудностями. Но если читатель не знает всех этих фактов, то подобная «простая» история покажется ему бессмыслицей, поскольку между предложениями нет явной связи.
Невролог: Почему бы не попытаться сделать копию мозга, используя то, что ученым известно о функциях различных его участков?
Мы узнаем новые подробности каждую неделю, но наших знаний пока еще не хватает даже для того, чтобы создать копию паука или змеи.
Программист: А как насчет альтернатив, таких как создание очень больших машин с огромными библиотеками статистических данных?
Такие системы могут научиться приносить пользу, но мне думается, что им никогда не развить особенного интеллекта, потому что они используют для репрезентации всех получаемых знаний числовые методы. Поэтому, пока мы не оснастим их возможностью высокоуровневой рефлексии, они не смогут репрезентировать концепции, необходимые для понимания того, что эти цифры означают.
Эволюционист: Раз мы не знаем, как сконструировать более совершенную машину-младенца, возможно, нам удастся заставить ее развиваться самостоятельно. Сначала можно написать программу, которая пишет другие программы, а затем вносит в них различные виды мутаций – и заставляет эти программы конкурировать за выживание в условиях, напоминающих реальные.
Нам потребовались сотни миллионов лет, чтобы эволюционировать от самых ранних позвоночных рыб, и вся эта вечность ушла на развитие структур, которые превратились в высокие уровни рефлексии, описанные в главе пятой. В следующих главах будут изложены аргументы в пользу того, что каждый ребенок активно использует эти высокоуровневые структуры при развитии уникальных человеческих методов репрезентации новых знаний и процессов. Мне кажется очевидным, что именно поэтому попытки создать «машину-ребенка» потерпели неудачу: нельзя научиться тому, что вы не можете репрезентировать.
Если вы хотите научить машину понимать абстракцию, скорее всего, машина должна быть способна репрезентировать эту абстракцию некоторым относительно простым способом.Джон Маккарти, 1959
Я не пытаюсь отрицать все перспективы создания машины-младенца, но у меня есть подозрения, что любая система подобного рода будет развиваться слишком медленно, если только (или пока) ее не снабдят надлежащими методами репрезентации знаний; мы поговорим об этом в главе восьмой. В любом случае кажется довольно очевидным, что человеческий мозг с рождения оснащен весьма развитыми методами научения (некоторые из них начинают действовать лишь спустя значительный период времени после рождения). Исследователи, которые пытались создавать такие машины, использовали немало гениальных схем, но, как мне кажется, все они зашли в тупик потому, что у них не было способа преодолеть одну или более из перечисленных ниже проблем:
Парадокс оптимизации. Чем лучше система работает сейчас, тем более вероятно, что любое изменение ухудшит ситуацию, – поэтому ей становится все труднее отыскивать новые способы совершенствования.Принцип привычки. Чем лучше работает некий процесс, тем больше мы будем полагаться на него и тем менее будем склонны разрабатывать новые альтернативы – особенно если новый метод не принесет хороших результатов, пока с ним не освоишься.Барьер сложности. Чем больше взаимодействуют части системы, тем более вероятно, что каждое изменение будет вызывать неожиданные побочные эффекты.
Эволюция часто описывается как процесс выбора полезных изменений, но по большей части эволюция заключается в отказе от изменений, имеющих негативные последствия! Именно поэтому большинство видов в процессе эволюции занимает узкие специализированные ниши, границы которых кишат всевозможными опасностями и ловушками. Мы слишком редко говорим о том, что, хотя генетическая эволюция может «учиться» избегать наиболее распространенных ошибок, она практически неспособна заучить большое количество очень необычных ошибок. И действительно, лишь немногие «высшие животные» сумели избежать этого, развив сходные с языковыми системы, посредством которых они могут сообщать своему потомству о событиях, произошедших с родственниками их предков.
Все это говорит о том, что машине будет сложно продолжать развиваться, если только она не выработает способа защиты от изменений, вызывающих отрицательные побочные эффекты. Отличным методом достижения этой цели, как в области инженерии, так и в биологии, стало разделение всей системы на части, способные к более независимому развитию. Именно поэтому все живые существа превратились в собрание отдельных частей (которые мы называем органами), каждая из которых имеет сравнительно небольшое количество связей с другими частями.
Неструктурированная система
«Орган-изованная» система
В организованной структуре изменение одного органа будет иметь меньшее отрицательное влияние на то, что происходит в других органах. В частности, возможно, именно поэтому ресурсы нашего мозга в процессе эволюции оказались орган-изованы в более или менее отдельные центры и уровни.
Нельзя ожидать, что мы найдем хорошую детскую машину с первой же попытки. Нужно поэкспериментировать с обучением одной такой машины и посмотреть, насколько хорошо она учится. Затем можно попробовать с другой и посмотреть, лучше ли выходит или хуже, [но] выживание наиболее приспособленного – это очень медленный способ измерять преимущества. Экспериментатор, используя свой интеллект, должен уметь ускорить его, [ведь] если он сможет проследить причину некоего недостатка, то, вероятно, сможет придумать и мутацию, которая его исправит.Алан Тьюринг, 1950
Назад: Сколько знает обычный человек?
Дальше: Вспоминание
