Masjid Jamek Pekan Bahau ini telah dibina pada tahun 1979M dan diasaskan oleh Allahyarham Tuan Hj Abdul Kudus bin Hj Ahmad, Qadi Wilayah Jempol (Tokoh Ulama Silam). Tapak masjid ini telah dikurniakan oleh kerajaan Negeri Sembilan pada masa itu. Masjid ini dibina bagi menggantikan Surau Balai Polis Bahau yang digunakan untuk mendirikan solat Jumaat. Masjid ini telah dibaiki dan dinaiktaraf pada tahun 2008M.

Pada tahun 2017M, bangunan lama masjid (bangunan kayu) telah dirobohkan untuk membolehkan pembinaan bangunan baharu seperti yang ada kini. Pembinaan baharu ini adalah di bawah peruntukan kerajaan Persekutuan berjumlah hampir RM2 juta.

Bangunan baru Masjid Jamek Pekan Bahau telah diserahkan secara rasmi kepada Jabatan Hal Ehwal Agama Islam Negeri Sembilan (JHEAINS) oleh YAB Menteri Besar Negeri Sembilan, Dato’ Seri Aminuddin bin Harun pada awal tahun 2020 dalam satu majlis rasmi yang diadakan di masjid ini.