Преобразуем так:
x^2 + 4x^2 - 2xy + y^2 - 4x + 1 = 0
Выделим полные квадраты
(x^2 - 2xy + y^2) + (4x^2 - 4x + 1) = 0
Свернем их в квадраты в скобках:
(x - y)^2 + (2x - 1)^2 = 0
Сумма квадратов может быть равна 0, только если они оба равны 0.
{ x - y = 0
{ 2x - 1 = 0
Из 2 уравнения x = 1/2, а из 1 уравнения y = x.
Ответ: x = y = 1/2.