В слове костер насчитывается два слога кос-тёр. В первом слоге слова неясно слышится гласный звук из-за слабой позиции в слове: он является безударным. В таких случаях, чтобы правильно написать безударную гласную в корне слова, существуют два способа проверки:
1) подобрать родственное слово;
2) изменить форму самого слова - с целью, чтобы безударный гласный оказался в сильной позиции - под ударением.
Костёр - костра, костру, костром.
Изменение формы слова не принесло нам успеха.
Ищем тогда однокоренные слова: костровый, кострище, костерок, костровой, кострик.
Уменьшительно-ласкательное слово "кострик" проверит безударную гласную в слове "костёр".