На уровне какого класса решать? Пусть 8 класс. а=ОА, в=ОВ, тогда АВ = ОВ-ОА = (x1-x2;у1-у2) = (12;12). Пишем теорему косинусов АB^2 = OA^2+OB^2 - 2*OA*OB*cosy. cosy=(OA^2+OB^2-AB^2)/(2*OA*OB) . OA=5. OB=17. AB=12*(корень из 2). Длины векторов вычисляю по формуле: корень из суммы квадратов разности координат = корень из ((х1-х2)^2+(y1-y2)^2). cosy=(25+289-288)/(2*5*17)=13/85