本所原址位於嘉義市維新街118號。民國35年，國民政府公布「看守所條例」，各看守所隸屬於所在地之地方法院。民國42年7月，於臺灣嘉義監獄附設嘉義地方法院看守所。至民國47年，本所奉令與嘉義監獄劃分，正式獨立設置。民國60年7月又成立嘉義地方法院少年觀護所，分界收容少年。民國67年6月，法務部為疏通臺灣嘉義監獄人犯擁擠，奉令成立嘉義分監，附設於本所。民國69年，審檢分隸，本所改隸屬於所在地之嘉義地方法院檢察處，並改全銜為｢臺灣嘉義看守所」
近年來台灣地區經濟快速發展，都市繁榮，犯罪人數日增，原有房舍不敷使用，且設施陳舊，不符現代羈押業務及處遇之需求。法務部有鑒於此，即指示籌建新所。遂於民國78年在嘉義縣鹿草鄉鹿草段鹿東小段現址，取得建築用地。新建工程於民國81年12月順利完工，新所並於82年12月25日正式啟用。
    新所土地面積為6.6087公頃，圍牆內面積為3.4125公頃，其餘為辦公大樓及宿舍用地，建築配置勻稱，莊重樸實，各種建築物均有廣大空間，可供活動，舍房採單面造型，兼顧通風、採光及安全，使收容人享有寬適之居住環境。本所奉核定收容人容額為男性599名、女性59名、少年69名，合計727名，舍房共有128間，收容對象含刑事被告、未滿7年之受刑人、保護及刑事事件少年、暫收觀察勒戒處分人、流氓感訓收容人及民事管收人等。新所啟用後，實已成為一現代化之收容人羈押及處遇處所。
民國100年1月1日，法務部矯正署成立，本所全銜改為「法務部矯正署嘉義看守所」。