Вам следовало бы пытаться упорнее(но Вы этого не сделали в прошлом)
Действие относится к прошлому,говорим о событии в прошлом, которое должно были произойти, но не произошло.
Модальный глагол + perfect infinitive.
Если сказать he should try harder-ему следует попытаться сильнее-это относится к настоящему времени.