Если гипотенуза известна: 10 см. Диаметр описанной окружности равен длине большой диагонали, поэтому одна из катетов треугольника имеет длину (2*10-10)/2=5. По теореме Пифагора 10^2=x^2+5^2
x^2=75
x=5*√3 - радиус вписанной окружности.
Диагональ квадрата, вписанного в окружность, равна диаметру окружности. Опять треугольник, теорема Пифагора
(2*5*√3)^2=y^2+y^2
y^2=300/2
y=5*√6 - сторона вписанного квадрата.