Иван Константинович Захаров родился в 1919 году в деревне Сажано Tюкалинского района Омской области. Окончил семь классов сельской школы. Работал в колхозе зоотехником, десятником в леспромхозе. В 1935 году вступил в комсомол. В армию был призван в 1939 году и служил в учебном батальоне танковой бригады на Дальнем Востоке. Член КПСС с 1940 года. Окончил военно-политическое училище им. М. В. Фрунзе и высшую бронетанковую школу. Начал войну командиром танка на Калининском фронте в июле 1941 года. Закончил войну в Берлине — заместителем командира танкового полка в звании гвардии капитана. Воевал на Воронежском, Украинском, 1-м Белорусском фронтах. Три раза ранен. 
Награжден: орденами Ленина, Красного Знамени, Красной Звезды, Отечественной войны II степени, несколькими медалями.
Указом Президиума Верховного Совета СССР 24 апреля 1944 года ему присвоено звание Героя Советского Союза. Умер в 1946 году и похоронен в г. Кишиневе.

В январе 1944 года шли наступательные бои на Винницком направлении. Находясь в передовом отряде корпуса, гвардейская Краснознаменная танковая бригада, в которой командиром первого танкового батальона был гвардии старший лейтенант Иван Константинович Захаров, в районе деревни Михайловки получила боевую задачу: наступать в направлении Жмеринки, захватить переправу через Буг в районе деревни Могилевки и удерживать ее до подхода главных сил.

Находясь в голове бригады, танковый батальон Захарова в ночь с 8 на 9 января первым ворвался и село Комарове Немцы в панике разбежались. Оборонявший село гренадерский полк гитлеровцев был разгромлен, а второй — совместными действиями частей бригады окружен.

Батальон Захарова в этом бою уничтожил семь пушек, пять минометов, четыре пулемета и больше двухсот вражеских солдат и офицеров.

Для захвата переправы на реке Буг в подвижную группу, которой командовал старший лейтенант Захаров, вошли два танковых батальона и мотобатальон автоматчиков. Умело маневрируя в тылу врага, батальон Захарова стремительным наступлением в ночь на десятое января овладел селением Гнивань, перерезал железную дорогу Жмеринка—Винница, захватил переправу через реку Буг и Могилевку, организовал прочную круговую оборону переправы.

Было уничтожено до батальона вражеской пехоты, охранявшей склады фронтового значения всех видов имущества.
Немцы, встревоженные дерзкими действиями группы Захарова, устремились крупными силами в атаку в районе Могилевки.

Все попытки гитлеровцев ликвидировать прорвавшиеся советские танки были отбиты. Ведя тяжелые оборонительные бои, отбивая многочисленные атаки гитлеровцев, нанося им большие потери, батальон старшего лейтенанта Захарова прочно удерживал переправу через Буг, обеспечивал выполнение боевой задачи. Несмотря на невероятные трудности, умелыми действиями и личным героизмом И. К. Захаров воодушевлял бойцов на подвиги.
Получив приказ командира корпуса о выходе бригады в район боев в село Степановку для выполнения новой боевой задачи, Захаров эвакуировал с поля боя раненых, умело организовал дальнейшее продвижение вперед.

Во время боя группой было уничтожено два склада боеприпасов, один продовольственный склад, вещевой склад, две пушки, двенадцать автоматов, семнадцать мотоциклов, тридцать повозок с лошадьми, четыре миномета, более пятисот солдат и офицеров противника.

За личный героизм, проявленный в боях, Иван Константинович Захаров удостоен высокого звания Героя Советского Союза.

В 1945 году, участвуя в зимней Висло-Одерской операции, будучи заместителем командира полка, за отличное выполнение приказов командования был награжден орденом Красного Знамени.