Рынок соевого молока в США с середины 1990-х годов к 2013 году вырос более чем в четыре раза. К концу 2013 года, согласно заголовкам новостей, соевое молоко уже отошло в прошлое, заняв второе место после миндального. Как рассказал специалист в области питания Ларри Финкель изданию Bloomberg Businessweek, «сейчас стали популярны орехи. Соя вышла из моды в области здорового питания».

Компания Silk, получившая известность благодаря популяризации соевого молока, сообщила в конце 2013 года, что количество производимой компанией продукции на миндальном молоке выросло более чем на 50 % только за последний квартал. Тем временем в других новостях по теме ведущий бренд по производству кокосовой воды Vita Coco заявил в 2014 году, что продажи их продукции удвоились с 2011 года и выросли в 300 раз с 2004 года. Как писало издание The New York Times, «кокосовое молоко перешло из категории невидимок в средство первой необходимости». Тем временем рынок капусты вырос на 40 % только за 2013 год. Годом раньше крупнейшим закупщиком капусты была Pizza Hut, которая стала класть капусту в салат-бары для украшения. Некоторые из наиболее фундаментальных сторон жизни человека, как, например, вопрос того, чем мы кормим наш организм, оказываются под любопытным влиянием недолговечных поветрий. В основе столь стремительного покорения мира краткосрочными тенденциями лежит, в частности, скорость, с которой наша культура может меняться. Сегодня информация распространяется в обществе быстрее, чем когда-либо, а глобальные каналы поставок позволяют покупателям быстро менять свои потребительские привычки (и маркетинг подталкивает их к этому). Если какое-либо конкретное исследование докажет пользу, скажем, бадьяна, эта информация облетит всю блогосферу за неделю, появится на телевидении еще через неделю, и уже через полгода практически в каждом супермаркете будет лежать бадьян, а книжные полки будут ломиться от сборников рецептов с использованием бадьяна. Эта поразительная скорость – и благословение, и проклятье одновременно.

Напротив, если посмотреть на то, как развиваются все организмы, включая людей, нельзя не отметить, что перемены в этом процессе происходят очень медленно. Это означает, что свойства современных организмов сформированы не только текущим окружением, но и их историей. Например, удивительное переплетенное строение нашей нервной системы (левая сторона тела контролируется правым полушарием мозга и наоборот) отражает эволюционный характер развития позвоночных. Этот феномен, который носит название «перекрещивание», по мнению ученых, появился в той фазе эволюции, когда тела ранних особей позвоночных могли поворачиваться на 180 градусов относительно головы. В то время как нервные стволы беспозвоночных, таких как лобстеры или черви, проходят на стороне живота особи, у позвоночных нервные стволы расположены вдоль позвоночника.

Еще один пример – человеческое ухо. С точки зрения функциональности это система для перевода звуковых волн в электрические сигналы за счет амплификации через три кости: молоточек, наковальню и стремечко. Эта система амплификации поражает воображение, однако особенности ее работы обусловлены рядом исторических ограничений. У рептилий в ухе расположена лишь одна косточка, а другие находятся в челюстной конечности, которая у млекопитающих отсутствует. Эти челюстные кости, очевидно, были преобразованы в ухо у млекопитающих. Таким образом, точная форма и конфигурация анатомии нашего уха отражают нашу эволюционную историю.

Концепция переподгонки позволяет нам видеть плюсы в таком багаже эволюции. Хотя переплетенные нервные ткани и видоизмененные челюстные кости могут показаться не самыми оптимальными решениями, мы необязательно хотим, чтобы эволюция полностью оптимизировала любой организм к каждому передвижению в рамках его экологической ниши (по крайней мере, нам следует понимать, что подобное явление сделало бы нас крайне восприимчивыми к последующим экологическим изменениям).

Необходимость использовать имеющиеся материалы, с другой стороны, накладывает своего рода полезное ограничение. Введение новых значительных изменений в строении организмов существенно осложняется. Соответственно, остается меньше возможностей для переподгонки. Прошлые ограничения делают нас как вид менее приспособленными к настоящему, с которым мы знакомы, но при этом поддерживают нашу жизнестойкость для будущего, которого мы еще не знаем.

Такое понимание может помочь нам в противостоянии краткосрочным поветриям человеческого общества. Когда речь заходит о культуре, традиции играют роль эволюционных ограничителей. Немного консерватизма и определенный уклон в пользу истории могут уберечь нас от цикла бумов и спадов общественных тенденций. Это не значит, что мы должны игнорировать наиболее свежую информацию. Вы можете держать нос по ветру, но необязательно подчинять этому весь свой жизненный уклад.

В области машинного обучения преимущества медленных перемещений наиболее очевидно проявляются в технике регуляризации, которая получила название ранняя остановка. Когда мы обсуждали данные исследования удовлетворенности браком в Германии, мы сразу же перешли к изучению наиболее подходящих одно-, двух– и девятифакторной моделей. Во многих ситуациях тем не менее настройка параметров для нахождения модели, наиболее подходящей для имеющейся информации, сама по себе становится процессом. Что же произойдет, если мы остановим этот процесс раньше и просто не дадим модели времени, чтобы стать слишком сложной? Опять же, то, что на первый взгляд может показаться неточным и невыверенным, наоборот, становится самостоятельной важной стратегией.

Многие прогнозирующие алгоритмы, к примеру, начинаются с поиска наиболее важного фактора, а не с перехода на многофакторную модель. Лишь после нахождения этого первого фактора они приступают к поискам второго важного фактора, чтобы добавить его в модель, затем ищут следующий и т. д. Их модели можно легко оставить простыми, прекратив этот процесс прежде, чем в игру вступит переподгонка. Похожий подход к прогнозированию рассматривает одну точку данных за раз, при этом модель настроена таким образом, что отчет по каждой новой точке выдается до добавления новых точек данных. В этом случае сложность модели также возрастает постепенно, поэтому избежать переподгонки поможет только своевременная остановка этого процесса.

Такая установка – когда больший временной отрезок прибавляет сложности – характеризует множество стремлений человека. Отводя больше времени на размышление, вы вовсе не гарантируете себе принятие наиболее правильного решения. Однако вы гарантированно будете рассматривать большее количество факторов, больше предположений, больше аргументов «за» и «против» и рискуете столкнуться с переподгонкой.

У Тома был именно такой опыт. Во время своего первого семестра в качестве преподавателя университета он тратил много времени на совершенствование своих лекций – более 10 часов подготовки к каждому часу занятий. Во втором семестре, преподавая у другой группы, он уже не мог отводить столько времени на подготовку и волновался, что дело кончится полным провалом. Однако случилась странная вещь: студентам понравились эти занятия. В сущности, они понравились им гораздо больше, чем лекции первого семестра. Как выяснилось, дело было в том, что Том использовал свой собственный взгляд и суждения в качестве показателей суждений своих студентов. Эта система показателей работала достаточно хорошо в качестве приблизительной оценки, но она не была достойна переподгонки, что объясняло, почему дополнительные часы, потраченные на кропотливое совершенствование материалов, оказались контрпродуктивными.

Эффективность регуляризации во всех видах машинного обучения предполагает, что мы можем принимать более удачные решения, намеренно меньше размышляя и действуя. Факторы, которые в первую очередь приходят нам на ум, вероятнее всего, окажутся наиболее важными, а продолжение размышлений над задачей сверх определенного лимита станет не только тратой времени и сил, но и приведет нас к худшим решениям. Принцип ранней остановки предоставляет обоснование в пользу разумного аргумента против логических размышлений, размышляющего человека против мысли. Однако, чтобы обратить эту мысль в практическую рекомендацию, нам необходимо ответить на еще один вопрос: когда нам необходимо прекратить думать?