Значение а должно быть равным 1, чтобы площадь получившегося прямоугольника была наибольшей. Проверим: (5 - 1)*(3 + 1) = 4*4 = 16см². Значение а не может быть отрицательным, так как значение площади будет в минусе. А так же а ≠ 5, ибо 5 - 5 = 0, и площадь будет равна 0. Если значение а будет больше 5, то площадь опять же будет в минусе. А если а = 2, то (5 - 2)*(3 + 2) = 3*5 = 15см². Всё же, 16см² > 15см².
Если брать значения больше и больше (до 5), то площадь будет соответственно всё меньше.