Если это изобразить на тетрадке в клетку, то будет всё видно (но делать я этого конечно же не буду).
Соединяем точки А и С и дорисовываем до прямоугольного треугольника, потом теореме Пифагора находим
АС= корень( (0+1)^2 + (4-3)^2)=корень(2)
АB= корень ( (0+3)^2 + (4-5)^2) = корень (10)
АС-3АВ = корень(2) * (1-3*корень(5) )