Instytut został utworzony zarządzeniem Prezesa Rady Ministrów 5 lutego 1979 r. i powstał z przekształcenia istniejącego od roku 1971 Ośrodka Naukowo-Produkcyjnego Materiałów Półprzewodnikowych, wywodzącego się z Przemysłowego Instytutu Elektroniki i Biura Badawczo-Rozwojowego Fabryki Lamp Elektronowych w Warszawie. Przedmiotem działania Instytutu było prowadzenie prac naukowo-badawczych i rozwojowych oraz wdrożeń w zakresie materiałów elektronicznych, a w szczególności dotyczących technologii otrzymywania i efektywnego wykorzystania tych materiałów na potrzeby elektronizacji w kraju.
Dziś ITME jest wiodącym polskim instytutem badawczym i centrum badawczo-technologicznym prowadzącym badania naukowe oraz prace badawczo-rozwojowe w zakresie inżynierii materiałowej (np. grafenu), elektroniki, fotoniki, optoelektroniki.