Известно, что уравнение bx^2-(a-3b)x+b=0 имеет два совпадающих корня. Доказать, что...

$bx^2-(a-3b)x+b=0$

Раз уравнение имеет два совпадающих корня, то дискриминант равен нулю.

$(a-3b)^2-4b^2=0\\ a^2-6ab+9b^2-4b^2=0\\ \boxed{a^2-6ab+5b^2=0}$

$x^2+(a-b)x+(ab-b^2+1)=0$

Опять смотрим на дискриминант

$D=(a-b)^2-4ab+4b^2-4=a^2-2ab+b^2-4ab+4b^2-4=\\ =\boxed{a^2-6ab+5b^2}-4=0-4=-4<0$

Доказано.