Почему математика непонятна столь многим? Эта проблема волновала великого Пуанкаре. Вот что он писал в своём известном трактате «Наука и метод»: «Чем объяснить, что многие умы отказываются понимать математику? Не парадоксально ли это? В самом деле… здесь имеется проблема, которая не легко решается, но которая должна занимать всех, желающих посвятить себя делу преподавания» [2, с. 353].

Скорее всего, «виноваты» обе стороны. Виноваты нематематики, которым дурное преподавание помешало понять математику и даже привило неприязнь к ней (как указывает Пуанкаре, «зачастую ум людей, нуждающийся в руководящей нити, слишком ленив для поисков её» [2, с. 354]). Виноваты математики, не желающие тратить усилий на разъяснение математики непосвящённым (а сколько людей удивляется, что в математике ещё осталось что открывать!). Конечно, в математике всегда останутся многочисленные детали, недоступные непрофессионалу (и даже профессионалу, но в другой области математики). Но ведь так обстоит дело всюду, в шахматах, например. Многие ходы Карпова и Каспарова в их сражениях друг с другом были непонятны даже гроссмейстерам. В то же время гораздо больше из математики, чем принято думать, могло бы быть объяснено широким кругам доброжелательных слушателей и читателей – не в деталях, конечно, а на уровне общей сути. Разумеется, это требует от математиков целенаправленной деятельности в новом для них направлении. Возможно, что в этом и состоит их нравственный долг перед человечеством.

«Но, чтобы помочь непонимающим, мы должны сначала хорошо узнать то, что их останавливает» [2, с. 354]. Во многих случаях, по-видимому, препятствием является сложное логическое строение математических определений и утверждений – строение, в котором логические связки и кванторы существования и общности чередуются друг с другом. Всякий преподававший математический анализ знает трудности, возникающие на пути параллельного усвоения понятия предельной точки последовательности, определение которой имеет структуру ∀ ε ∀ k ∃ n (А ∧ В), и понятия предела последовательности, определение которого имеет структуру ∀ ε ∃ k ∀ n (А ⇒ В). Однако что препятствует пониманию: сложность смысла или проблемы словесного выражения? Автор не знает ответа на этот вопрос, который связан с ещё более глубоким вопросом: можно ли отделить математику от словесных формулировок? Иначе говоря, пребывает ли математика исключительно в математических текстах или же математика имеет некоторую отличную от текстов сущность, а тексты служат лишь тем или иным (и потому, может быть, не всегда удачным) способом выражения этой сущности? По-видимому, этот вопрос, который мы назвали более «глубоким», применим не только к математике, но и к любой другой науке. Математика же выделяется среди других наук тем, что она есть, по формулировке Энгельса из «Диалектики природы», «абстрактная наука, занимающаяся умственными построениями, хотя бы и являющимися отражениями реальности» [1, с. 529].

По-видимому, всё же математические понятия, как и всякие разумные понятия, существуют в виде представлений, не обязательно связанных с текстами. Определяющие же эти понятия словесные тексты следует признать важным, но не единственным средством их усвоения.

Думается, сегодня мы располагаем более совершенными инструментами внедрения в сознание обучающегося понятий предела и предельной точки последовательности (обучающегося, не имеющего специальных «математических способностей», которые – при современном понимании этого взятого в кавычки словосочетания – предполагают умение свободно воспринимать именно словесные формулировки). Представим себе экран, на котором отображается траектория движения точки, неограниченно приближающейся к некоторой неподвижной точке, которая и есть предел. Этот сюжет многократно повторяется с изменением как положения предела (чтобы не создавалось ложного впечатления, будто у всех последовательностей один и тот же предел), так и способа приближения движущейся точки к пределу (чтобы не создавалось, в частности, ложного впечатления, что расстояние между движущейся точкой и её пределом изменяется монотонно). Можно представить и аналогичную наглядную иллюстрацию понятия предельной точки, когда траектория хотя и неограниченно приближается временами к этой точке, но вместе с тем опять-таки временами отдаляется от неё на большое расстояние. Кажется правдоподобным, что у любого наблюдающего такие картинки возникнет правильное представление и о пределе, и о предельной точке.

Можно быть уверенным, что с внедрением компьютеров преподавание пойдёт по пути визуализации понятий, традиционно считавшихся совершенно абстрактными. (Колмогоров, кстати, неоднократно высказывал мысль, что следует изучать те наброски, которые делает на бумаге математик, занимаясь самыми абстрактными построениями. Изучать надо даже те движения пальцами, которые математик в это время производит. Колмогоров полагал, что это может быть полезным и для математики, и для психологии.)

Если бы излагаемая тема имела только педагогическое значение, мы бы не останавливались на ней так подробно в сочинении философского характера. Однако тема выходит за рамки педагогики, смыкаясь с вопросом об онтологической природе математических сущностей. Вопрос же этот, как и всякий разумный теоретический вопрос, имеет прикладное значение – в данном случае в порядке обратной связи педагогическое. В самом деле, если математическое понятие имеет сущность, отдельную от воплощения в словесном определении или формуле, то можно надеяться на лучшее понимание этой сущности путём демонстрации различных её проявлений (а не только формулировки).

Чтобы не быть голословными, приведём пример. В учебном пособии [25, с. 71–72] приведена формула, определяющая некое математическое понятие – так называемый конус Кларка. Сформулировав определение, авторы пишут: «Однако с первого взгляда невозможно понять ни свойств конуса Кларка, ни самого смысла его формального определения». И дальше они сперва приводят эвристические соображения, позволяющие уяснить суть понятия конус Кларка, а затем переводят эти соображения на язык нестандартного анализа. Здесь можно уловить мысль, что понятие конуса Кларка существует как бы само по себе; определение же в виде формулы – лишь один из способов (и не наиболее удобный) постижения этого понятия, а для лучшего постижения полезны описания вроде «результаты разглядывания множества в микроскоп» [25, с. 86]. Независимо от того, так ли это на самом деле, представляется плодотворной следующая рабочая гипотеза: подлинно глубокое математическое понятие или математическое утверждение должно быть в своей сути просто. И тогда есть надежда, что оно окажется понятным (или, лучше сказать, понятым): ведь к простому легче привыкнуть, а мы не знаем иного толкования для «понять», чем «привыкнуть».