Иван Голубец родился в Таганроге в рабочей семье. С 1925 по 1931 год учился в школе № 2 (бывшей классической гимназии), затем — в школе фабрично-заводского ученичества металлургического завода. Работал слесарем электромастерской листопрокатного цеха. В 1937 году Голубца призвали на военный флот. По окончании военно-морской школы служил рулевым на сторожевом катере пограничной охраны Черноморского флота. Во время Великой Отечественной войны Иван Голубец принимал участие в обороне Одессы, Феодосии и Севастополя.
Геройски погиб в марте 1942 года, спасая от взрыва стоявший в Стрелецкой бухте Севастополя сторожевой катер. За свой подвиг первым среди матросов Черноморского флота был посмертно удостоен звания Героя Советского Союза.
Иван Карпович Голубец – Герой Советского Союза © Из фондов Таганрогского государственного литературного и историко-архитектурного музея-заповедника
Иван Голубец навечно зачислен в списки матросов Черноморского флота. В Севастополе ему поставили памятник, также в честь героя назвали морской тральщик Черноморского флота.
В Таганроге память о знаменитом матросе увековечена бюстом около школы № 2 и мемориальными досками в листопрокатном цехе металлургического завода (ныне хранится в музее предприятия) и на доме 111/2 по улице Дзержинского, в котором он жил. В 1948 году имя Ивана Голубца присвоили одной из улиц Таганрога.