Сначала преобразуем выражение под знаком котангенса:
ctg(2(π/4 + x)) = ctg(π/2 + 2x) = -tg 2x = -2tg x / (1 - tg²x)
Осталось найти только tg x.
tg x = sin x / cos x - не хватает лишь косинуса. Найдём его.
sin²x + cos²x = 1
cos²x = 1 - sin²x
cos²x = 1 - 225/289
cos²x = 64/289
cos x = 8/17 или cos x = -8/17
По условию аргумент у нас лежит в третьей четверти, где косинус отрицателен, поэтому
cos x = -8/17
Найдём tg x:
tg x = sin x / cos x = (-15/17) : (-8/17) = (15 *17) / (17*8) = 15/8
Ну теперь задача почти решена, осталось только вместо tg x подставить в наше первое выражение 15/8:
-2 * 15/8 : (1 - 225/64)