Чертеж уже нельзя здесь прикрепить. Там все просто: рисуете равнобедеренный треугольник MPO. У него высота к основанию OK. И рисуете прямоугольный треугольник MPN, с прямым углом M. Кстати, я заметил, что тут два ответа может быть. Если точка N в той же полуплоскости, что и O - то получится мое решение. Если N и O по разные стороны от MP, то в последней формуле надо не OK-NM, а OK+NM. Тогда получится ответ 5 корней из 2.