...и осталось решить систему...
(x+3)(y-6) = 360
xу + 3y - 6х - 18 = 360 (из первого уравнения ху = 360...)
360 + 3y - 6х - 18 = 360
3у - 6х = 18
у - 2х = 6
у = 2х + 6
подставим в первое уравнение...
х*(2х + 6) = 360
2х^2 + 6x = 360
x^2 + 3x - 180 = 0
D = 9 + 4*180 = 9*(1+4*20) = 9*81 = 27*27
(x)1;2 = (-3+-27)/2
Ответ: х = 12, у = 360/12 = 30
ПРОВЕРКА: 15*24 = 360