[tex] bx^2-(a-3b)x+b=0 [/tex]
Раз уравнение имеет два совпадающих корня, то дискриминант равен нулю.
[tex] (a-3b)^2-4b^2=0\\ a^2-6ab+9b^2-4b^2=0\\ \boxed{a^2-6ab+5b^2=0} [/tex]
[tex] x^2+(a-b)x+(ab-b^2+1)=0 [/tex]
Опять смотрим на дискриминант
[tex] D=(a-b)^2-4ab+4b^2-4=a^2-2ab+b^2-4ab+4b^2-4=\\ =\boxed{a^2-6ab+5b^2}-4=0-4=-4<0 [/tex]
Доказано.