Сумма квадратов двух чисел равна 0, когда они оба равны 0.
Надо решить два простых уравнения
{ (3x - 5)/5 - 2 + (2 - x)/10 = 0 ; умножаем на 10
{ 6 - (4y + 1)/12 - (8 - y)/8 = 0 ; умножаем на 24
Получаем
{ 2(3x - 5) - 20 + 2 - x = 5x - 28 = 0
{ 144 - 2(4y + 1) - 3(8 - y) = -5y + 166 = 0
Решаем
{ x = 28/5
{ y = 166/5