Делаем замену.
Пусть t = (x - 1)². Ставим условие, что t ≥ 0, т.к. квадрат числа - число неотрицательное.
t² - 2t - 3 = 0
t² - 2t + 1 - 4 = 0
(t - 1)² - 2² = 0
(t - 1 - 2)(t - 1 + 2) = 0
(t - 3)(t + 1) = 0
t = -1 - не уд. условию; t = 3
Обратная замена:
(x - 1)² = 3
(x - 1)² - (√3)² = 0
(x - 1 - √3)(x - 1 + √3) = 0
x = 1 + √3; x = 1 - √3
Ответ: x = 1 - √3; 1+ √3.