Zahvaljujući našim slovenskim kolegama, 21. lipnja 1971. godine formirana je Jugoslavenska sekcija sa sjedištem u Ljubljani, koja je djelovala na cjelokupnom teritoriju tadašnje Jugoslavije. Prvi predsjednik Sekcije bio je Mirjan Gruden, podpredsjednici su bili Vinko R. Albert i Stanoje Bingulac, tajnik je bio Joze Furlan, a Andrej Dobnikar bio je blagajnik.
Predsjednici su kasnije još bili Jože Furlan (1981.), Mirko Vehovec (1985.) i Baldomir Zajc (1988.). Član Izvršnog odbora Sekcije iz Hrvatske, posebno zadužen za promociju i informiranje o mogućnosti učlanjenja novih članova u Hrvatskoj bio je Aleksandar Szabo.
Kolege iz Hrvatske učlanili su se nekoliko godina nakon formiranja Sekcije: Ante Šantić (1975. za boravka u SAD), Aleksandar Szabo, Petar Biljanović, Uroš Peruško, Vladimir Naglić i Stanko Tonković (1976.) te Vladimir Muljević, Mladen Kos, Marijan Kunštić, Ervin Zentner, Branka Zovko-Cihlar, Gorislav Erceg i Leo Budin (1977.).
Nakon raspada Jugoslavije i nastanka novih država, postavilo se pitanje što učiniti s Jugoslavenskom sekcijom. U proljeće 1992. godine, Direktor Regije 8 Kurt Richter pozvao je u Graz u Austriji Predsjednika Jugoslavenske sekcije Baldomira Zajca iz Ljubljane i dva člana Odbora Sekcije, Đorđa Paunovića iz Beograda i Aleksandra Szabu iz Zagreba. Jednoglasan zaključak ovog sastanka u Grazu bio je da Jugoslavenska sekcija praktički ne može više egzistirati i da treba formirati nove sekcije u novim državama u kojima za to ima dovoljno članova IEEE-a.
Stoga su u Sloveniji, Hrvatskoj i ostatku Jugoslavije članovi IEEE-a potpisali nove peticije, te su godine 1992. formirane tri nove sekcije, nasljednice prethodne Jugoslavenske sekcije: Slovenska sekcija, Hrvatska sekcija i nova Jugoslavenska sekcija, koja je kasnije promijenila ime u Sekciju Srbije i Crne Gore. IEEE je sekcijama Slovenije, Hrvatske, te Srbije i Crne Gore priznao godine tijekom kojih su njihovi članovi djelovali unutar prethodne Jugoslavenske sekcije. Tako je Hrvatska sekcija (istovremeno s preostale dvije sekcije) na sastanku Odbora Regije 8 u Helsinkiju 1996. godine primila zastavu kao priznanje za 25-godišnjicu postojanja. Zastavu je predao Direktor Regije 8 Peer Martin Larsen (na slici lijevo) prvom predsjedniku Hrvatske sekcije Aleksandru Szabi (na slici desno). Makedonska sekcija i Bosansko-hercegovačka sekcija formirane su 1997., odnosno 2005. godine.
Otkako djeluje samostalno, broj članova, kao i aktivnost u Hrvatskoj sekciji stalno rastu. Najveći broj članova, sekcija je dosegnula krajem 2013. godine, kada je broj članova dostigao 872.
Godine 1995. formiran je Studentski ogranak Sveučilišta u Zagrebu, a 2006. godine Studentski ogranak Sveučilišta u Rijeci. U 2009. godini formiran je Studentski ogranak Sveučilišta u Splitu, a Studentski ogranak Sveučilišta J. J. Strossmayera u Osijeku formiran je 2010. godine.
Prvi stručni odjeli Sekcije formirani su 1997. godine. Trenutačno u Sekciji djeluju 22 odjela.
U godini 2005. formirana je i interesna skupina GOLD (od Graduates of the Last Decade), koja je 2014. godine preimenovana u skupinu Mladih profesionalaca (Young Professionals, skr. YP). Godine 2008. formirana je Skupina doživotnih članova (Life Members), a u 2009. Skupina žena u inženjerstvu (Women in Engineering, skr. WIE).
Dosadašnji predsjednici Hrvatske sekcije:
- Aleksandar Szabo (1992. do 2004.)
- Sven Lončarić (2005. do 2008.)
- Igor Kuzle (2009. do 2012.)
- Mislav Grgić (od 2013. do 2016.)
- Maja Matijašević (od 2017. do 2020.)
- Ana Katalinić Mucalo (od 2021. -)