Prof Dhani, juga begitu ia disapa, sebelumnya merupakan guru besar UIN Sunan Gunung Djati Bandung.
Ia pernah menjabat sebagai Wakil Rektor Bidang Kemahasiswaan dan Alumni periode 2011 – 2015. Beliau juga sempat menjabat sebagai Direktur Pascasarjana Universitas Islam Negeri (UIN) Sunan Gunung Djati tahun 2019 – 2020.
Pada tanggal 10 Agustus 2020, Prof. Dr. Muhammad Ali Ramdhani dilantik sebagai Direktur Jenderal Pendidikan Islam (Dirjen Pendis) oleh Menteri Agama RI Jenderal TNI (Pun.) Fachrul Razi, S.I.P, S.H., M.H.
Selasa, 26 Maret 2024 dilantik menjadi Sekjen Kemenag oleh Menag Yaqut Cholil Qoumas.***