Родителями Константина были его отец Василий Острожский и мать Анастасия Глинская, а родился он приблизительно в 1460-1463 году.
В раннем детстве, Константин со своим старшим братом Михаилом, остаются без отца, который умер приблизительно в 1466 году. Они продолжают жить в своём родовом имении Остроге до 1481 году, в этом году Константин переезжает в Вильно для своего обучения.
Спустя два года Константин Острожский возвращается домой, но не надолго, побыв немного в Остроге, он едет ко двору великого князя на службу. В 1494 году его отправляют с посольством в Москву, просить московского князя Ивана Васильевича отпустить свою дочь Алену, к которой сватался великий князь литовский Александр.
Побыв на княжеской службе, Константин Острожский решил, что это не для него и отправился на Волынь, где участились нападения татар. Его военная карьера началась в 1497 с битвы возле речки Сарота, где он в месте со своим братом Михаилом, разбил татарский загон. В том же 1497 году Острожский участвует в походе великого князя Александра на Молдавию и при возвращении домой, разбивает у Очакова, тысячный отряд татар под командованием сына крымского хана Махмат-Гирея. За что и получает в этом же году, с рук Александра, гетманскую булаву, а так же и различные земельные имения.
В 1500 году Московское княжество пошло войной на ВКЛ, великий князь Александр отправил Острожского на пограничные земли с восьмитысячным отрядом. По дороге в Дорогобуж, на реке Ведрошь, 14 июля его отряд вступил в бой с 40 тысячной армией Москвы, его отряд был полностью разбит, а сам Острожский в месте с другими знатными шляхтичами попал в плен.
На Острожского надели кандалы и посадили в тюрьму, князь Александр пытался через посольство освободить Острожского, но все предложения Иван III отвергнул. Иван III добивался от Острожского его присяги на верность. Шесть лет Острожский отказывал в этом Ивану III, и оставался всё это время в кандалах, но 1506 году он согласился присягнуть на верность Ивану III.
Острожского выпустили из тюрьмы и назначили командовать полками на южных границах, но не так просто было сбежать на родину Острожскому, за ним очень внимательно следили, и не для того, что бы снова быть схваченным, он согласился дать присягу Ивану III, он начал ждать удобного момента. Такой момент появился лишь только через год, как его отпустили, в 1507 году. Константин Острожский, под предлогом осмотра полков, выехал из Москвы в Тулу со своим верным слугой. Как только в Москве стало ясно, что Острожский вместо Тулы направился в Литву, за ним выслали погоню, и чуть было не схватили, в одной деревни Острожский задержался в храме, а его слуга пошёл дальше, и московские солдаты его и схватили, посчитав его Острожским. Лесами и болотами, Острожский смог в одиночку добраться до границ Литвы, и вернулся домой. По возвращению домой, уже от нового великого князя Сигизмунда Старого, получил назад все свои земли и регалии, а также и гетманскую булаву.
Не успев долго побыть дома в 1508 году, Острожский снова был вынужден отправиться на вновь начавшуюся войну с Москвой, но в этой войне его отряд в боевых действиях не участвовал, он только успел занять, оставленный московскими солдатами Дорогобуж, после чего между ВКЛ и Москвой было заключено перемирие.
Константину Острожскому, снова не удалось долго побывать у себя дома в Остроге, на этот раз, ему пришлось отправиться на войну с крымскими татарами, которые вторглись на территорию ВКЛ. Основное сражение в этой войне произошло 28 апреля 1512 года под Вишневцем. В этой битве, Константин Острожский полностью разбил 24 тысячный загон татар, при этом его войско значительно уступало численностью татарскому загону. После поражения под Вишнявцом, татарский хан Менгли-Гирей, сразу же прислал своих послов к Сигизмунду просить мира, который чуть позже и был заключен.
В следующей войне с Москвой за Смоленск, Константин Острожский внёс свое имя в историю великих полководцев, так 8 октября 1514 года в битве под Оршей, он со своим 30 тысячным войском разбил 80 тысячную московскую армию. Эта новость облетела всю Европу, а битва вошла в европейские военные учебники, как пример стратегии боя с меньшим количеством войск.
После победы под Оршей, Острожский оправился с войсками к Смоленску, где часть горожан, во главе епископом Варсанофием, готова была сдать город Острожскому, но он не успел, заговор был раскрыт, а Варсанофия казнили. Придя к Смоленску, Острожский понял, что не успел, и тех шести тысяч солдат, которые остались у него после стремительного перехода и болезней, явно не хватил для штурма, тем более без пушек, которые он оставил, что бы увеличить скорость движения совей армии.
Константин Острожский снимает осаду и возвращается назад, освободив по дороге города Кричев, Мстиславль и Дубровно. Он едет в Вильно, где в честь его знаменитой побед под Оршей, Сигизмунд построил триумфальную арку, и через которою Острожский вошел в город.