Две стороны прямоугольника и его диагональ образуют прямоугольный треугольник, где стороны - катеты, диагональ - гипотенуза.
По теореме Пифагора составляем уравнение:
х2+(х-3)2=225
х2+х2-6х+9-225=0
2х2-6х-216=0 делим на 2
х2-3х-108 =0
Д=9+4*108=441
х(1)=(3+21)/2=12 (см) первая сторона прямоугольника
х(2)=(3-21)/2=-9 не подходит под условие задачи
12-3=9 (см) вторая сторона прямоугольника