Gagasan pendirian politeknik vokasi digagas oleh tokoh masyarakat, ulama, dan cendekiawan Muslim di Malang, dengan inisiatif utama oleh Prof. KH. Tholchah Hasan bersama Yayasan Unisma, berkolaborasi dengan PT PLN (Persero) – Udiklat Pandaan.
Pada 28 Januari 2002, POLISMA (saat itu bernama PUM) resmi berdiri berdasarkan SK Mendiknas RI No. 19/D/O/2002, membuka empat program studi: D-III Teknik Mesin, D-III Teknik Listrik, D-III Teknik Keramik, dan D-III Teknik Sipil.
D-III Teknik Keramik dan D-III Teknik Sipil ditutup berdasarkan SK Dirjen Dikti No. 1162/D/T/2010, sebagai bagian dari evaluasi peningkatan mutu pendidikan.
POLISMA mulai terakreditasi oleh BAN-PT untuk institusi dan seluruh program studi. Pada 18 Oktober 2019, dibuka program studi baru D-IV Teknologi Rekayasa Komputer Jaringan (TRKJ) berdasarkan SK Menristekdikti No. 1058/KPT/I/2019. Pada tahun 2020, nama PUM diubah menjadi branding “POLISMA”.
POLISMA memiliki tiga program studi — D-III Teknik Mesin, D-III Teknik Listrik, dan D-IV Teknologi Rekayasa Komputer Jaringan (TRKJ) — yang seluruhnya terakreditasi “Baik”, dan dikenal sebagai satu-satunya politeknik berbasis Nahdlatul Ulama (NU) di Jawa Timur.