Проверочное слово к слову венцом проверить букву о
Так о под ударением же
Проверочные слова подбираются обычно в корнях.
У нас - окончание. В окончаниях после буквы Ц под ударением пишем О, а без ударения Е, например:
пальтецО - платьице.
ВенцОм - ударное окончание, значит, нужно писать букву О.