найдите значение а при котором числа a^2+1+6i и 5-3ai являются сопряженными

Найдем сопряженное для 5-3ai.
Это будет 5+3аi. Оно будет равно a^2+1+6i.
Составляем равенство:
5+3аi=a^2+1+6i
2 комплексных числа равны, когда равны их мнимые и действительные части, поэтому составим систему:
$\left \{ {{3a=6} \atop {a^2+1=5}} \right.$
Отсюда а=2