3 и 5; 7 и 8. Чтобы решить задачу математически, придется добавить неопределенности. Мы знаем, что x²+xy+y² равно квадратному числу. Это квадратное число мы можем выразить в виде (x – ay)², поскольку оно всегда будет точным квадратом, а переменный коэффициент a позволит нам получить нужное число при любых x и y.

Теперь разложим это квадратное выражение: (x – ay)² = (x – ay)(x – ay) = x²-2axy+a²y². Отсюда видно, что x+y = ya²-2ax. Прибавим к обеим сторонам 2ax – y, и получим x+2ax = ya²—y, или x(2a+1) = y(a²-1).

Поскольку мы знаем, что xy = yx, отсюда следует, что x = a²-1, а y = 2a+1. Если a = 1, то x = 0, y = 2; решение вполне верное, но нам нужны целые числа от 1 до 9. a = 2 дает нам x = 3, y = 5, а a = 3 дает x = 8, y = 7. Если a = 4, то x > 9.

Я лично, впрочем, решил задачу перебором.