Взаимоотношения между генами и поведением вовсе не исчерпываются однонаправленным влиянием первых на второе. Поведение тоже может влиять на гены, причем это влияние прослеживается как в эволюционном масштабе времени, так и на протяжении жизни отдельного организма.

Изменившееся поведение может вести к изменению факторов отбора и, соответственно, к новому направлению эволюционного развития. Данное явление известно как эффект Болдуина — по имени американского психолога Джеймса Болдуина, который выдвинул эту гипотезу в 1896 году (примерно в то же время несколько других исследователей пришли к этой мысли независимо от Болдуина).

Например, если появился новый хищник, от которого можно спастись, забравшись на дерево, жертвы могут научиться залезать на деревья, не имея к этому врожденной (инстинктивной) предрасположенности. Сначала каждая особь будет учиться новому поведению в течение жизни. Если это будет продолжаться достаточно долго, те особи, которые быстрее учатся залезать на деревья или делают это более ловко в силу каких-нибудь врожденных вариаций в строении тела (чуть более цепкие лапы, когти и т. п.), либо те, кто лучше мотивирован (кому больше нравится карабкаться по стволам), получат селективное преимущество, то есть будут оставлять больше потомков. Следовательно, начнется отбор на способность влезать на деревья и на умение быстро этому учиться. Если появится случайная мутация, улучшающая эти способности, носители этой мутации будут оставлять в среднем больше потомков. Иными словами, мутация будет поддержана отбором. Частота ее встречаемости в генофонде популяции начнет расти и в конце концов может достичь 100 %. По мере накопления подобных мутаций поведенческий признак, изначально появлявшийся каждый раз заново в результате прижизненного обучения, со временем может стать инстинктивным (врожденным) — изменившееся поведение будет "вписано" в генотип. Лапы при этом тоже, скорее всего, станут более цепкими.

А вот пример из нашего недавнего прошлого. Распространение мутации, позволяющей взрослым людям переваривать молочный сахар лактозу, произошло в тех человеческих популяциях, где вошло в обиход молочное животноводство. Изменилось поведение (люди стали доить коров, кобыл, овец или коз) — и в результате изменился генотип (развилась наследственная способность усваивать молоко в зрелом возрасте).

Эффект Болдуина поверхностно схож с ламарковским механизмом наследования приобретенных признаков (результатов упражнения или неупражнения органов), но действует он вполне по-дарвиновски — через изменение вектора естественного отбора. Мутации, закрепляемые отбором, сами по себе случайны (эта формулировка, как и утверждение о ненаследуемости приобретенных признаков, тоже чересчур категорична, о чем тоже говорилось в книге "Рождение сложности". Но в первом приближении они обе верны). Неслучайность (то есть направленность) эволюционным изменениям придает именно отбор, а отбор зависит от культурных традиций, определяющих нормы поведения.

Этот механизм очень важен для понимания эволюции. Например, из него следует, что по мере роста способности к обучению эволюция будет выглядеть все более "целенаправленной" и "осмысленной". Чем умнее животные, тем легче они вырабатывают новые, полезные в данных условиях манеры поведения и тем эффективнее передают их из поколения в поколение путем обучения детенышей и подражания. Изменение традиций ведет к изменению направленности отбора. В результате эволюция будет увереннее двигаться в "нужную" сторону (то есть в сторону лучшего приспособления к среде, включая сюда и среду социально-культурную).

Эффект Болдуина может ускорить развитие интеллекта благодаря положительной обратной связи. Чем выше интеллект и способность к обучению, тем выше вероятность, что животное изобретет какую-то новую, особо удачную манеру поведения. Чем чаще будут изобретаться отдельными особями новые полезные хитрости, чем больше их будет в поведенческом репертуаре популяции, тем полезнее будет способность к быстрому обучению, быстрому схватыванию, эффективному перенятию чужого опыта. В такой ситуации отбор может начать поддерживать закрепление не только какого-то конкретного нового приема или действия (залезания на деревья или переваривания молока), но и более общей, генерализованной способности быстрее соображать и учиться. Может начаться отбор на "общий интеллект".

В геноме человека и других приматов отсутствуют гены, необходимые для усвоения многих растительных полисахаридов, которые являются важным компонентом нашей диеты. Проблему помогают решить симбиотические кишечные бактерии, в чьих геномах имеются те гены, которых нам не хватает.

 Морские водоросли содержат особые сульфатированные углеводы, отсутствующие у наземных растений. Этими углеводами питаются некоторые морские микробы, в том числе бактерия Zobellia galactanivorans. Недавно французские генетики нашли в геноме этой бактерии два гена, кодирующие неизвестные ранее ферменты, способные расщеплять порфиран — сульфатированный углевод, содержащийся в порфире и других красных водорослях. Таким образом, исследователи открыли новый класс ферментов, которые они назвали порфираназами.

 Следующим этапом работы стало изучение трехмерной структуры порфираназ и выявление тех особенностей активного центра этих ферментов, которые обеспечивают избирательное связывание порфирана. Оказалось, что в активном центре порфираназ имеется специальный "карман" для сульфатной группы, которого нет у родственных ферментов, расщепляющих несульфатированные углеводы.

 Разобравшись в структуре фермента, ученые смогли осуществить широкомасштабный поиск порфираназ среди отсеквенированных нуклеотидных последовательностей, хранящихся в международных генетических базах данных. Порфираназы нашлись у нескольких морских бактерий, а также у бактерии Bacteroides plebeius, обитающей в кишечнике человека. Известно шесть штаммов (разновидностей) этой бактерии, причем все они были обнаружены у жителей Японии. Известны геномы 24 других видов рода Bacteroides, которые обитают в кишечнике жителей разных стран, но ни у одной из этих бактерий нет ни порфираназ, ни других специализированных ферментов, предназначенных для расщепления углеводов морских водорослей.

 Более детальный анализ генома Bacteroides plebeius показал, что по соседству с геном порфираназы имеется еще 16 генов, связанных с перевариванием полисахаридов. Только шесть из них оказались родственными генам, имеющимся у других кишечных Bacteroides. Остальные десять генов (в том числе гены ферментов бета-галактозидаз, бета-агараз и сульфатаз), как и ген порфираназы, похожи больше всего на гены морских бактерий, питающихся водорослевыми полисахаридами. Это означает, что кишечная бактерия Bacteroides plebeius приобрела комплекс генов, необходимых для расщепления водорослевых полисахаридов, от морских бактерий путем горизонтального генетического обмена. В полном соответствии с этим выводом по соседству с изучаемыми генами в геноме Bacteroides plebeius присутствуют специализированные гены, участвующие в осуществлении горизонтального обмена.

 Авторы исследовали кишечную флору у 13 японских и 18 североамериканских добровольцев. У четверых японских граждан были обнаружены порфираназы и агаразы, в том числе у матери и ее грудной дочки, что свидетельствует о возможности передачи специфических кишечных бактерий от родителей к потомкам. В североамериканской выборке ни порфираназ, ни агараз не обнаружено (Hehemann et al., 2010).

 По-видимому, японские кишечные бактерии получили возможность позаимствовать полезные гены у морских микробов благодаря существующему в Японии обычаю употреблять в пищу свежие водоросли. Нори (порфира) — фактически единственный источник порфирана в человеческой диете. Японцы ели водоросли уже в раннем Средневековье: сохранились документы VIII века, из которых следует, что в то время водорослями можно было платить налоги в казну. Но несколько веков или тысячелетий — ничтожно малое время по сравнению с десятками миллионов лет эволюции кишечной флоры растительноядных и всеядных млекопитающих. Факт горизонтального переноса в данном случае было легко установить, потому что генетическое заимствование произошло сравнительно недавно. Гены для переваривания полисахаридов наземных растений, скорее всего, тоже были приобретены кишечными бактериями путем горизонтального переноса, но за давностью лет доказать это гораздо труднее.

 Исследование показало, что человек даже в историческое время не утратил способности быстро приспосабливаться к изменениям собственной диеты и осваивать новые биохимические функции. В данном случае эффект Болдуина сработал на уровне "симбиотического сверхорганизма": адаптация произошла за счет генетических изменений у кишечных симбионтов. В других ситуациях приспособление может происходить и путем закрепления мутаций в нашем собственном геноме (как в случае с мутацией, позволяющей взрослым людям переваривать лактозу). В обоих случаях изменившееся поведение людей (появление обычая пить молоко или есть сырые водоросли) повлияло на направленность отбора и способствовало закреплению мутаций, выгодных именно при таком поведении.