Чтобы найти ранк матрицы пробую преобразовать ее к диагональному виду
вот что у меня получилось
определитель конечной матрицы всегда равен нулю, значит ранк не равен 4
если из конечной матрицы удалить один столбец и строку то получится матрица с определителем -5*а, значит определитель матрицы 3х3 ненулевой значит ранк равен 3 при условии что 5*а не равно нулю
если а = 0 то из исходной матрицы нужно удалять 2 строки и 2 столбца и получится матрица 2х2 с ненулевым определителем
ответ
если а=0 то ранк = 2
если а не равно 0, то ранк = 3