Я сначала не дочитал условие, поэтому оказалось, что я другое решал. Так вот.
Известно, что y^2 = 300 - x^2" alt=" x^{2} + y^{2} =300 <=> y^2 = 300 - x^2" align="absmiddle" class="latex-formula">, а нужно найти максимум , нули производной в точка x=10, и -10, отсюда максимальное произведение будет при x=10, и оно равняется 10*200=2000