Museum Musik Indonesia (MMI) berawal dari sebuah inisiatif sederhana yang dimulai pada 2009 melalui pendirian Galeri Malang Bernyanyi. Pendiri sekaligus Dewan Pengawas MMI, Hengki Herwanto, mengatakan galeri tersebut sejak awal diniatkan sebagai embrio berdirinya museum.

Menurut Hengki, pendirian museum secara langsung bukan perkara mudah karena harus memenuhi persyaratan yang berat, mulai dari ketersediaan tempat, pendanaan, hingga koleksi yang memadai. Karena itu, pengelola memilih memulai langkah melalui galeri sebagai tahapan awal.

Melalui Galeri Malang Bernyanyi, koleksi mulai dihimpun dari masyarakat. Hengki menyebut sebagian besar koleksi MMI merupakan sumbangan dari publik. Ia menegaskan pihaknya merasa diberi amanah untuk merawat koleksi-koleksi tersebut.

Pada masa awal, museum sempat memanfaatkan sebuah garasi di Jalan Citarum, dengan legalitas organisasi yang masih berbentuk perkumpulan. Perkembangan signifikan kemudian terjadi pada 2016, ketika Yayasan Museum Musik Indonesia didirikan. Langkah ini turut memperluas lingkup museum ke tingkat nasional.

Dalam perjalanannya, MMI beberapa kali berpindah lokasi. Saat ini, Museum Musik Indonesia menetap di Jalan Soekarno Hatta Indah IV nomor 18, Kota Malang.