Для любых х, у верно неравенство х²+y²≥2xy, причем равенство будет только при х=у (доказается переносом в левую часть и выделением полного квадрата, что дает (х-у)²≥0).
Т.к. для наших чисел ху=36, то по этому неравенству х²+y²≥2·36=72. Значит при х=у=6 сумма квадратов минимальна и равна 72.