Сделаем замену: √(3^х)=а, 2^у=в, а и в >0, имеем:
а²-в²=77
а-в=7
(а+в)(а-в)=77
а-в=7
а+в=11
а-в=7, сложим оба уравнения и получим:
2а=18, т.е. а=9, отсюда √(3^х)=9, 3^х=81, х=4.
А теперь вычтем из первого уравнения второе, получим:
2в=4, т.е. в=2, отсюда 2^у=2, у=1.
Ответ:х=4
у=1.
P.S. Выражения с ашками и бэшками попарно нужно объединять фигурной скобкой (знак системы). Она указывает на одновременное выполнение двух условий для переменных.