1) Преобразуем выражение: 
По теореме Виета:
x₁ + x₂ = 7
x₁*x₂ = 5
Подставляем в выражение:

2) b = 2 + 2a, подставим это в выражение:
3a² + 5a*(2+2a) - 2*(2+2a)² = 3a² + 10a + 10a² - 2*(4+8a+4a²) = 3a² + 10a + 10a² - 8 - 16a - 8a² = 5a² - 6a - 8 = 5*(a² - 6/5a - 8/5) = 5*(a² - 2*3/5 + 9/25) - 49/5 = 5*(a-3/5)² - 49/5
Выражение достигает наименьшего значения в точке а=3/5, равное -49/5