S=(1/2)·a·b·sin∠C
Так как по условию
S=a·b·√15/8, то
sin∠C=√15/4
sin²∠C+cos²∠C=1 ⇒ cos²∠C=1-sin²∠C=1-(√15/4)²=1-(15/16)=1/16
cos∠C=1/4 или cos∠C=-1/4
По теореме косинусов
с²=a²+b²-2ab·cos∠C=a²+b²-2ab·(1/4)=a²+b²-ab·(1/2)
или
с²=a²+b²-2ab·cos∠C=a²+b²-2ab·(-1/4)=a²+b²+ab·(1/2)
О т в е т.a²+b²-ab·(1/2) или a²+b²+ab·(1/2)