(a+2*b)*(a+2*b) = a^2 + 4*b^2 + 4*a*b; (имеются ввиду ВЕКТОРЫ!!! над каждой буквой стрелка! и произведения везде скалярные!!!)
= 8 + 64 + 4*2*sqrt(2)*4*cos(135); (вот теперь все - в скалярном виде)
= 8 + 64 - 4*2*sqrt(2)*4*sqrt(2)/2 =40;
Ну, отсюда извлекаем корень, получаем ответ
2*sqrt(10)