Если в условии нет ошибок, то можно допустить такое решение:
х - первое число;
у - второе число,
по условию разность их квадратов 15, получаем уравнение:
х² - у² = 15
(х-у)·(х+у)=15
1) (х-у)·(х+у)=3·5
{х-у=3
{x+y=5
Сложим
х-у+x+y=3+5
2х=8
х=8:2
х=4
у=5-4=1
х=4; у=1 - первый ответ.
2) (х-у)·(х+у)=1 · 15
{х-у=1
{x+y=15
Сложим
х-у+x+y=1+15
2х=16
х=16:2
х=8
у=8-1=7
х=8; у=7 - второй ответ.