По т. Виетта х1+х2=-4, х1*х2=-2. Возведем в квадрат (х1+х2)^2=(-4)^2 → x1^2+x2^2 +2*x1*x2=16 → x1^2+x2^2 +2*(-2)=16 → x1^2+x2^2 =20