Обозначим х=а√⁵/³, у=в√⁷/³, тогда выражение можно записать в виде:
(х³-у³)/(х²+ху+у²)=(х-у)(х²+ху+у²)/(х²+ху+у²)=х-у
значит, значение выражения равно
х-у=а√⁵/³ - в√⁷/³
можно решать без замены обозначений, просто если такое решение попробовать напечатать, то будет нечитабельно