Учитесь ставить скобки! Я понял задачу так:
{ (3x+7y) + 2/(8x+y) = 3
{ (3x+7y) - 2/(8x+y) = 1
Замена (3x+7y) = a; 2/(8x+y) = b
{ a + b = 3
{ a - b = 1
Отсюда
{ a = 3x+7y = 2
{ b = 2/(8x+y) = 1
Решаем 2 уравнение
{ 3x + 7y = 2
{ 8x + y = 2
Умножаем 2 уравнение на -7
{ 3x + 7y = 2
{ -56x - 7y = -14
Складываем уравнения
-53x = -12
x = 12/53
7y = 2 - 3x = 2 - 36/53 = 70/53
y = 10/53