Придётся решать систему неравенств. Одно с учётом ОДЗ, второе с учётом свойств логарифмической функции:
х² -2х -3 > 0 (логарифм отрицательного числа и нуля не сущ.)
x² -3x -3 < 5 (0,2 < 1, 0,2^-1 = 5)
первое неравенство решение имеет. корни -1 и 3,
х∈ (-∞; -1)∪(3; +∞)
второе неравенство имеет вид: х² -3х -8 < 0. Ищем корни.
D = b² -4ac = 9 +32 = 41
x₁ = (3+√41)/2
х₂ = (3 -√41)/2
х∈( (3-√41)/2 ; (3+√41)/2)
решение системы:
х∈(( (3-√41)/2 ;1) ∪ ( 3; (3+√41)/2))