Чтобы решить надо составить систему уравнений
Тогда решение будет 1 или 2 точки которые принадлежат и прямой и окружности
Это и есть точки пересечения
Из второго выражаем у и подставляем в 1
У=(5х-17)/3
х2+((5х-17)/3)^2=17
Х2+(25х2-170х-289)/9=17
До множим обе части на 9
9х2+25х2-170х-289-153=0
34х2-170х-442=0
Х2-5х-13=0
Х=(10+- корень (25+4*13))/2
Х1=(10+корень77)/2
Х2=(10-корень77)/2
Странно что такие корни, может неправильно. Ответы есть?
Потом эти Кореи надо подставить во 2 уравнение