Это всё привёл к такому виду:
2*(a*a+c*c+a*c) + 3* (b-d)^2 = 11,
раз все числа натуральные, то в скобках тоже натуральное число выйдет, а значит можно представить в виде 2x + 3y = 11. где 2 решения,
1) x = 1, y = 3;
2) x = 4, y = 1
но в любой системе x = a^2 + c^2 + a*c. это не может быть равно не 4 не 1, а значит решение в натуральных числах невозможно. Для проверки этого, достаточно пару раз подставить значения от 1-2, и всё станет ясным