图书馆前身“学海图书馆”初建于民国17年（1928）3月，由原县教育局长李崇本倡导发起创办，其个人捐书941卷计2748册，为嘉禾公共图书馆之始。

1929年，更名为嘉禾县图书馆。1936年省教育厅分发给嘉禾《万有文库》一、二集共3440册，并改设为“县民众图书馆”。1940年9月，撤销“县民众图书馆"成立“县民众教育馆”，内设“图书室”，藏书6050册。后因管理不善，战事纷繁，阅览者甚少，该馆时停时办，一直延续到1949年。1950年11月，县人民政府批准成立“县人民教育馆”，内设图书室，一直延至 1983年10月，共有藏书 13万册。

1983年10月27日，经上级批准成立“嘉禾县图书馆"，接收原县文化馆图书室图书1.3万册。1984年3月，投资20万元新建馆舍，由肖克将军题写“嘉禾县图书馆"馆名。馆址位于嘉禾县城人民北路28号，占地1838平方米。1994年12月至1996年5月投资50万元扩建阅览大楼。现共有业务用房 1390平方米，生活用房530.3平方米。