Подозреваю, что ошибка в условии и должно быть |M-N|. Если ошибки нет, то, разумеется M=0 и все слишком очевидно.
Итак, |M-N| минимально, когда прямоугольников обоих типов поровну. Но это невозможно, т. к. площадь в 3000 клеток нельзя покрыть кусками по 4+5=9 клеток.
Удобно считать прямоугольники парами: в пару входит один прямоугольник 1×4 и один 1×5.
Итак, очевидно, таких пар должно быть как можно больше. Сколько же? 3000 клеток парами не покрыть, покрыть можно (теоретически) только 2997 клеток, т. к. 2997 делится на 9. Но 3 остаются, их не покрыть.
Уменьшим число пар на 1. Тогда ими можно покрыть... Дальше попробуйте додумать сами.