упростить и решить задачу если х=4; у=18

Для начала приведу парочку формул сокращенного умножения, а именно сумма и разность кубов:
$(a+b)(a^2-ab+b^2)=a^3+b^3 \\ (a-b)(a^2+ab+b^2)=a^3-b^3$
Именно под эти формулы "подгоним" данное выражение и упростим его. Желательно их заучить и потренироваться решать задачи с ними, чтобы понять их структуры. Подставляем под формулы:
$(\sqrt{x} + \sqrt{y})(x+y-\sqrt{xy})+ (\sqrt{x} - \sqrt{y})(x+y+\sqrt{xy})=\\=\sqrt{x^3}+\sqrt{y^3}+ \sqrt{x^3}-\sqrt{y^3}=\\=2\sqrt{x^3}$
Вот и упростили, теперь и посчитать будет не сложно при подставлении значения переменной.
$2\sqrt{64}=2*8=16$