R - радиус шара
r - радиус основания цилиндра
h - высота цилиндра
V - объёи цилиндра
V=πr²*h
r²=((2R)²-h²)/4=(36-h²)/4
V=π*(36-h²)*h/4
Надо вычислить при каком h, выражение (36-h²)*h принимает наибольшее значение.
Найдем производную
(36h-h³)'=36-3h²
Прировняем выражение к нулю
36-3h²=0
h²=12
h=√12=2√3 м
r²=(36-12)/4=6
r=√6 м
V=6π*2√3=12π√3 м³
Ответ: высота цилиндра h=2√3 м, радиус оснвания r=√6 м, объем цилиндра V=12π√3 м³