Решение задач по геометрии иногда решается "глазами", если сделать рисунок.
Диагонали прямоугольника равны и точкой пересечения делятся пополам.
Это Вы, конечно, знаете. Получен равнобедренный треугольник, в котором боковые стороны -половины диагоналей, а основание - меньшая сторона.
Угол против основания равен, по условию задачи, 80°. Тогда углы при основании, которые и есть "угол между диагональю и меньшей стороной прямоугольника"° равен ? Сумма углов треугольника 180 градусов. один угол 80°, два 180°-80°=100°, и искомый угол равен 100°:2=50°