Запишем теорему косинусов для стороны ВС.
ВС² = АВ²+АС²-2*АВ*АС* 1/2
Пусть АС=х
64 = 36+х²-6х
х²-6х-28=0
D=148 x=(6+√148)/2. Второй корень отрицательный.
х=(6+2√37)/2 =3+√37. Это АС. Теперь ищем площадь.
S=1/2 * АВ*АC*sin60°=1/2*6*(3+√37)*√3/2 = 3/2 * √3*(3+√37). Можно применить теорему синусов, сначала найти синус угла С, потом его косинус. Затем найти АС по частям из двух прямоугольных треугольников.