Если силы лежат на одной прямой, то их равнодействующая равна либо сумме этих сил, либо их разности, т.е. либо 5+3=8, либо 5-3=2. Таких значений в вариантах вопроса не перечислено.
Если силы не лежат на одной прямой, то их равнодействующая по построению является третьей стороной треугольника, две стороны которого образованы этими силами. Как известно, любая сторона треугольника меньше суммы двух других сторон и больше их разности, поэтому величина третьей стороны R должна удовлетворять двойному неравенству 2 < R < 8. Отсюда следует, что величина равнодействующей не может быть равна 1Н или 9Н. А вот 3Н и 4Н - может.