Найдем модуль суммы импульсов двух тел до удара. Т.к. скорости были направлены под уголом 90 градусов, то сумма импульсов будет гипотенуза прямоугольного треугольника с катетами начальных двух импульсов, найдем её по теореме Пифагора:
P2=9m2+16m2
P2=25m2
P=5m
После удара два шара «склеятся» и будут двигаться как одно тело (т.к. удар не упругий). Значит, масса нового тела 2m.
Найдем скорость, зная импульс:
U=P/2m
U=5m/2m
U=2,5 м/c