Как из этого выйти в квадратное уравнение ? (x-1)*x!=36 где !-факториал должно получится...

Никак, это не равносильные уравнения. У второго есть решение $x_1 = -8$ , которое не подходит в первое, а так же решение $x_2 = 9$ , которое тоже не подходит в первое.
Уравнения вроде первого решаются простым перебором - нет у него решений в целых числах, левая часть монотонна, и при этом
$2*3! = 2*8 = 16 \ \textless \ 36 \\ 3 * 4! = 3*24 = 72 \ \textgreater \ 36.$
Ответ: уравнения не равносильны, первое уравнение решений в целых числах не имеет.