Не понял, что во что вписано, но:
Особенность правильного шестиугольника — равенство его стороны и радиуса описанной окружности.
Если шестиугольник вписан в окружность, то сторона квадрата равна двум радиусам вписанной в него (в квадрат) окружности, то есть 8см.
Если шестиугольник описан около окружности, то радиус этой окружности равен (√3/2)*a, где а - сторона шестиугольника. Тогда сторона квадрата равна 2√3см.