Князь Константин Иванович родился в 1460г. и рано лишился родителей. О его отце, князе Иване Васильевиче, сохранилось мало сведений. Известно лишь, что он неоднократно сражался с татарами и увеличивал свои владения покупкой новых поместий. Константин Иванович — внук Василия Фёдоровича Острожского и правнук святого Феодосия, в миру Фёдора Даниловича Острожского.
Константин Иванович получил воспитание под руководством отцовских бояр, а также старшего своего брата — Михаила. В 1486 году братья Острожские жили в Вильне при дворе великого князя литовского Казимира, где они вращались в высшем кругу волынских панов — Гойского, князя Четвертинского, Хрептовича и других. В то же время князья Острожские начали приучаться и к государственным делам, поступив в свиту великого князя и сопровождая его в переездах.
В 1491 году князь Константин Иванович уже исполнял довольно важные поручения и пользовался доверием Великого князя Литовского. Вероятно, что уже тогда он успел выдвинуться из среды многочисленных волынских князей и панов, чему немало могло способствовать богатство и родовые связи. На возвышение князя Константина Ивановича большое влияние оказали и его личные заслуги, его военный талант и опыт. Последние он приобрёл и проявил в борьбе с татарами: летописи упоминают о 60-ти сражениях, в которых он остался победителем. Впрочем, источниками подтверждаются только пять битв, в которых командовал Острожский (две из них были разгромными поражениями).
Гетман литовский Петр Янович Белый, будучи при смерти, указал великому князю Александру на Константина Острожского как на своего преемника. В 1497 году, в 37 лет, Константин стал гетманом великим литовским. Кроме того, новый гетман получил ряд земельных пожалований, что сразу сделало его, и без того богатого, самым крупным землевладельцем на Волыни.