Решать будем для прямоугольника, а не для треугольника.
Пусть a - сторона квадрата, тогда стороны прямоугольника равны (a - 2 ) и (a + 3). Т.к. их площади равны, то
(a - 2)·(a + 3) = a²
a² + 3a - 2a - 6 = a²
a = 6
Значит, площадь квадрата равна a² = 6² = 36 см²
Ответ: 36