Матрица не имеет обратной, если её определитель равен 0.
det(a)=a(5+a)-4(2+0)+1(2a-5)=5a+a^2-8+2a-0=a^2+7a-8 (разложение первой строки)
Приравняем к нулю, чтобы получить значение а, при котором det(a)=0
a^2+7a-8=0
a1=1
a2=-8
При а=1, а=-8 det(А)=0, те при таких значениях а матрица не имеет обратной.