Данная система не является замкнутой( сумма сил не равна нулю) поэтому писать закон сохранения импульса в векторной форме нельзя, Но в проекциях на ось ох сумма сил равна нулю, значит можно записать закон в виде:
(m1 + m2)*V1=m1*V"1 + m2*V*cosa
V=((m1+m2)*V1-m1V"1)/m2*cosa=(200*6-120*5)/80*0,86=8,72 м\с