Такие задачи проще всего решать графически.
Графиком первого уравнения будет окружность с центром в начале координат и радиусом 6. Графиком второго уравнения будет парабола ветвями вверх, смещённая по оси OY на p. Система имеет ровно 3 решения, когда графики имеют ровно 3 точки пересечения. Это возможно лишь тогда, когда p=-6 (см. рис.)