Direka oleh AB Hubback iaitu arkitek sama yang mereka Stesen Keretapi Ipoh dan Kuala Lumpur, masjid ini dibina dengan menggunakan batu marmar yang diimport khas dari Itali.
Ia dibangunkan pada tahun 1913, tetapi pembinaannya tergendala dan hanya disiapkan pada 1917. Ini kerana marmar import itu lewat tiba kerana tercetusnya Perang Dunia Pertama.
Masjid Ubudiah dan Hubungan Dengan Sultan
Masjid ini dibina berkat nazar Sultan Idris Murshidul Azam Shah, iaitu Sultan Perak yang ke-28. Beliau bernazar yang beliau akan membina sebuah masjid jika sembuh dari gering.
Sayangnya walaupun beliau yang bertanggungjawab meletakkan batu asas masjid, ianya hanya siap setahun selepas kemangkatan beliau.
Sebelum Masjid Negeri di Ipoh dibina, masjid Ubudiah Kuala Kangsar ialah masjid rasmi bagi negeri ini. Selain pernah menjadi masjid utama negeri, ia juga merupakan masjid diRaja untuk Perak. Oleh sebab itu, bersebelahan kawasan masjid ini, terdapat juga makam diRaja yang dinamakan Makam Diraja Al-Ghufran yang menempatkan makam sultan-sultan terdahulu.