Рассмотрим основание призмы - треугольник ABC, в нем AB=5, AC=3,угол BAC=120°, тогда за теоремой косинусов находим третью сторону треугольника
(BC)^2=(AB)^2+(AC)^2 - 2*AC*BC*cos(120°)
(BC)^2=25+9+15=49 => BC=7
Отсюда следует что сторона ВС в призме создает наибольшую площадь боковой грани, то есть
Sбок.гр=BC*H => H=35/7=5
Найдем площадь основания призмы
Sосн=AB*AC*sin(120°)/2 => Sосн=5*3*sqrt(3)/(2*2)=15sqrt(3)/4
Далее находим объем призмы
V=Sосн*H =15sqrt(3)/4 * 5=75sqrt(3)/4