Вчера уже пролетала такая задачка.
Диаметр окружности описанной вокруг квадрата равен его диагонали d
Диаметр окружности вписанный в квадрат равен его стороне a
d = корень(a*a + a*a) = a*корень(2)
Соответственно соотношение диаметров или радиусов описанной и вписанной окружности равно корню из двух.
Если описанная окружность имеет радиус 6*корень(2), то вписанная будет иметь радиус 6