Пусть прямоугольник имеет измерения x на y см. Его площадь равна x*y см^2. После отрезания частей прямоугольника мы получим стороны x-2 см и y-3 см, при этом это квадрат, так что x-2 = y-3, x = y - 1.
Площадь полученного квадрата: (x - 2)^2.
По условию задачи x*y - (x - 2)^2 = 51.
Получаем систему:
x*y - (x - 2)^2 = 51
и
y = x +1
Решив её, найдём какие-то x и y, а по ним легко восстановим сторону квадрата.