Все показано на рисунке. В первом варианте векторы сил ставим в одинаковом направлении, и здесь равнодействующая будет как: F1+F2=40H+10H=50H, во втором ставим в противоположном, т.к здесь равнодействующая будет как: F1+(-F2)=40H+(-10H)=40H-10H=30H(-10H так как вектор направлен в противоположную сторону!).
P.S Я случайно поменял рисунки местами, надеюсь вы поймете по объяснению какой правильный)