Разложим квадратные трёхчлены на множители:
x² - 10x + 25 = (5 - x)²
-x² + 7x + 10 = (5 - x)(x - 2).
Логарифмы существуют, если у них основание положительно и не равно 1, а логарифмируемое выражение положительно. В таком случае "ОДЗ" имеет вид:
x - 2 > 0, x - 2 ≠ 1
5 - x > 0, 5 - x ≠ 1
(5 - x)² > 0
(5 - x)(x - 2) > 0
x ∈ (2, 3) ∪ (3, 4) ∪ (4, 5).
Теперь упрощаем (здесь и далее первый аргумент у логарифма - основание, второй - логарифмируемое выражение):
- первое слагаемое 1/2 log(x - 2, (5 - x)^2) = log(x - 2, 5 - x)
- второе слагаемое log(5 - x, (x - 2)(5 - x)) = 1 + log(5 - x, x - 2)
Неравенство превращается в такое:
log(x - 2, 5 - x) + 1 + log(5 - x, x - 2) > 3
log(x - 2, 5 - x) + log(5 - x, x - 2) > 2
Сделаем замену log(x - 2, 5 - x) = t, тогда log(5 - x, x - 2) = 1/t
t + 1/t > 2
Заметим, что t > 0 (t ≠ 0, так как стоит в знаменателе, а если t < 0, то левая часть отрицательна). Тогда можно домножить на t, знак не меняется:
t² + 1 > 2t
t² - 2t + 1 > 0
(t - 1)² > 0
{t > 0, t ≠ 1}
Возвращаемся обратно к иксам, получаем систему
{log(x - 2, 5 - x) > 0, log(x - 2, 5 - x) ≠ 1]
Заметим, что если x лежит в промежутке (2, 3) или (4, 5), то первое неравенство нарушается, т.к. или основание меньше 1, а выражение больше 1, или наоборот. Поэтому из ОДЗ остаётся только (3, 4). Легко видеть, что при таких x логарифм и в самом деле положителен.
Остаётся узнать, при каких x выполняется log(x - 2, 5 - x) ≠ 1. Тут никаких сложностей - нам не повезёт, только если основание и логарифмируемое выражение совпадут, т.е. когда x - 2 = 5 - x, x = 7/2. Выкалывая эту точку, получаем ответ.
Ответ. x ∈ (3, 7/2) ∪ (7/2, 4).