Представьте выражение в виде квадрата двучлена: 0,01а²+b²-0.2a²b
в условии ошибка
0,01а²+b²-0.2ab
вот так должно быть