Ну, все Ваши трудности из за того, что Вы не видите, что угол D - тупой. Поэтому вершина С проектируется не на основание AD, а на продолжение её за точку D.
Обозначения. Е - середина AD, M - проекция В на AD, К - проекция С на продолжение AD.
x = АМ, y = DK, h = BM = CK (это высота трапеции).
1. Вы правильно нашли основания. Треугольник CED равнобедренный, потому что угол CED равен углу ECB, который равен углу ECD, потому что СЕ - биссектриса. Поэтому CD = DE = 9, и AD = 18 (Е - середина AD). Далее, поскольку в трапецию можно вписать окружность,сумма боковых сторон равна сумме оснований, откуда второе основание равно 17 + 9 - 18 = 8.
2. Осталось найти высоту.
Ясно, что AD = AM + MK - DK = AM + BC - DK; откуда 18 = x - y + 8; x - y = 10;
Далее, x^2 + h^2 = 17^2; y^2 + h^2 = 9^2; если вычесть одно из другого, получится
x^2 - y^2 = 17^2 - 9^2 = 208; или (x + y)*(x - y) = 208; с учетом x - y = 10 получается
x + y = 20,8
x - y = 10
Отсюда x = 15,4; y = 5,4;
h^2 = 9^2 - y^2; легко сосчитать, что h = 7,2.
******
Небольшое отступление (если бы не оно, я бы и не стал делать эту очень сложную :) задачу). Три числа 5,4; 7,2; 9 с коэффициентом 1,8 кратны первой Пифагоровой тройке 3,4,5 (проверьте:)). Вот с числами 7,2; 15,4; 17 - интереснее (это стороны треугольника АВМ). Здесь "срабатывает" редкая для школьных задач Пифагорова тройка 36, 77, 85 - стороны треугольника АВМ в 5 раз меньше.
******
S = 7,2*(18 + 8)/2 = 93,6 = 438/5;
Диагональ АС получается из треугольника АКС, в котором АК = 15,4 + 8 = 23,4; CK = 7,2;
AC^2 = 23,4^2 + 7,2^2 = 599,4 = (81/25)*185; откуда получается ответ.