Коло дотикається до одного з катетів рівнобедреного прямокутного трикутника і проходить...

Дивись малюнок.
рішення може бути різне, ось одне з них.

позначимо радіус R
знайдемо гіпотенузу великого трикутника (він прямокутний і рівнобедр)
вона = 10√2
маленький трикутник подібний великому і теж прямокутний рівнобедрений (тому що катети паралельні)
причому катети його - R
його гіпотенуза - R√2 , але ж з іншої сторони вона дорівнює 10√2-R
R√2=10√2-R
R(√2+1)=10√2
R=10√2/(√2+1) домножимо чисельник і знам. на √2-1

R= $\frac{10 \sqrt{2} ( \sqrt{2}-1) }{ (\sqrt{2}+1)( \sqrt{2}-1)} = \frac{10*(2- \sqrt{2)} }{1}=10*(2- \sqrt{2)}$