Через функции
у=8/х
а вторая это окружность с центром в начале координат и радиусом √20 и их пересечение будет решением системы это графический. а можно выразить у и подставить во второе ур-ие... х^2+64/х^2=20и решаешт ур-ие)))ну кстати уравнение не решается и пересечений нет, значит нет решений