Условие задачи некорректно. Два неизвестных, но одно условие.
Пишем условие задачи. Обозначим - Х= 10*a +b
(10*a+b)² - (10*b+a)² = 1584
Раскрываем скобки - формула квадрат суммы.
100*a² + 20*ab + b² - 100*b² - 20*ab + a² - 1584 = 0
Упрощаем
100*(a² - b²) + a² + b² = 1584
ОТВЕТ : числа 53 и 35 - проверено
Решение - методом подбора - нет второго уравнения.