Ну... решим задание в лоб:
![image](//tex.z-dn.net/?f=%5Cdisplaystyle%20cosx%2Bsinx-3sinxcosx-3%3D0%5C%5Ct%3Dtg%5Cfrac%7Bx%7D%7B2%7D%3Bsinx%3D%5Cfrac%7B2t%7D%7B1%2Bt%5E2%7D%3Bcosx%3D%5Cfrac%7B1-t%5E2%7D%7B1%2Bt%5E2%7D%5C%5C%5C%5C%5Cfrac%7B1-t%5E2%7D%7B1%2Bt%5E2%7D%2B%5Cfrac%7B2t%7D%7B1%2Bt%5E2%7D-3%5Cfrac%7B2t%7D%7B1%2Bt%5E2%7D%5Cfrac%7B1-t%5E2%7D%7B1%2Bt%5E2%7D-3%3D0%7C*(1%2Bt%5E2)%5E2%5C%5C(1-t%5E2)(1%2Bt%5E2)%2B2t(1%2Bt%5E2)-6t(1-t%5E2)-3(1%2Bt%5E2)%5E2%3D0%5C%5C1-t%5E4%2B2t%2B2t%5E3-6t%2B6t%5E3-3-6t%5E2-3t%5E4%3D0%5C%5C4t%5E4-8t%5E3%2B6t%5E2%2B4t%2B2%3D0%7C%3A2%5C%5C2t%5E4-4t%5E3%2B3t%5E2%2B2t%2B1%3D0)
![image](//tex.z-dn.net/?f=%5Cdisplaystyle%202(t%5E4-2t%5E3%2Bt%5E2)%2Bt%5E2%2B2t%2B1%3D0%5C%5C2(t%5E2-t)%5E2%2B(t%2B1)%5E2%3D0)
А вот на этом месте уже можно делать вывод о том, что решений данного уравнения нет. Поскольку квадрат всегда положителен, то сумма всегда будет строго больше 0. А раз у данного уравнения решений нет, делается вывод об отсутствии решения у исходного уравнения.
Другой ход решения:
Если внимательно посмотреть на уравнение, то видно что равенство выполняется при условии:
![image](//tex.z-dn.net/?f=%5Cdisplaystyle%5Cbegin%7Bcases%7Dsinx%3D1%5C%5Ccosx%3D-1%5Cend%7Bcases%7D)
или
![image](//tex.z-dn.net/?f=%5Cdisplaystyle%5Cbegin%7Bcases%7Dsinx%3D-1%5C%5Ccosx%3D1%5Cend%7Bcases%7D)
Однако, обе этих системы решений не имеют. Не имеет его и исходная задача.