Иван Терентьев родился в селе Телятниково-Уро Баргузинского уезда. Позднее его семья переехала в деревню Сахули (современный Курумканский район).
Иван Михайлович одним из первых вступил в сельскохозяйственную артель «Красный пахарь». Когда началась Великая Отечественная война, его сразу призвали в армию. Однако служил он недолго: из-за слабого здоровья его демобилизовали. Терентьев возвратился в колхоз, где его вскоре назначают бригадиром полеводческой бригады. На этой должности очень быстро раскрылись его дарования. Во многом этому способствовали любознательность и неравнодушный подход к порученному делу. Терентьев следил за всеми новшествами в полеводстве, стремясь применять их на практике. Это позволило ему значительно увеличить урожайность зерна.
Иван Михайлович Терентьев. Из коллекции Национального музея Бурятии
Иван Терентьев одним из первых на территории района внедрил способ орошения с помощью наледей, а также повышал плодородие почв, используя местные удобрения.
Такой подход к труду не заставил долго ждать результатов. Урожайность зерновых в колхозе росла как в годы войны, так и в послевоенное время. Особенно хорошим урожай выдался в 1947 году. Труд земледельца был высоко оценён государством. В 1948 году Ивану Михайловичу Терентьеву присвоили звание Героя Социалистического Труда. Последние годы жизни он проживал в Улан-Удэ.