По т. Пифагора квадрат гипотенузы = сумме квадратов катетов.
(а+b)² = (a + x)² + ( b +x)²
a² +2ab + b² = a² +2ax + x² + b² + 2bx + x²
Смотри чертёж в приложении
2ax + x² 2bx + x² = 2ab
2x² + 2(a+b)*x = 2ab
x² + (a+b)*x = ab
x² - (a+b)*x - ab = 0
D = b² - 4ac = (a +b)² + 4ab = a² + 2ab +b² +4ab = a² +6ab + b²
x₁= (a + b +√ (a² +6ab + b²) ) /2 = R вписанной окружности.
х₂ = (a + b -√ (a² +6ab + b²) ) /2 Это число отрицательное, значит, к условию задачи не подходит.