固始县图书馆始建于1912年,清末,固始的诂经精舍是河南著名的书院之一。1900年的《诂经舍章程》和《诂经精舍书目》,则是窥见这个地方藏书传统的窗棂。“合共一万七千七百六十卷,五千五百二十八本,图四百二十八幅”是诂经精舍曾经有过的藏书规模。
1994年的《固始县志》记载:“民国元年(1912年),县建图书馆。”根据有关资料推论:新中国成立前,固始县先有民国初年的县立图书馆,再有冯玉祥第二次主政河南期间的两所图书馆,后分别归并于民从教育馆。
现在固始县图书馆设立于1980年,建馆前系固始县文化馆的一图书室。1979年固始县文化馆根据“豫革(79)332号”、“豫革文字(79)470号《关于发展建立县图书馆的联合通知》”文件精神,向地、县文化主管部门提出建立县图书馆的申请。1980年 1月30日,由县革委会正式下发了《关于建立固始县图书馆的通知》。同年10月,经过协商和准备后同县文化馆分开单独办公至今,馆名也沿用至今。
2000年至2009年图书馆在中山大街80号,占地面积550㎡,局部三层,建筑面积1500㎡,实际使用面积1275㎡. 活动室九个:办公室、采编室、资料室、阅览室、少儿阅览室、过期报刊室、书库、财务室。
新馆在县、省两级政府的大力支持下,于2006年5月开工建设,现已落成,在2009年底已投入使用。图书馆位于河南省固始县蓼城大道南段西侧,距秀水公园南院墙300米,图书馆是“固始文化中心”整体建筑的三部分之一,位于整体建筑南面,二层高,中间是博物馆,共五层高,北面是图书馆,二层高,布局呈“日”字形,三部分既相互联系又相互独立,各自有独立出入口,图书馆北入口,其图书馆馆舍建筑面积为3119平方米,阅览室3间共525平方米,一楼设有少儿阅览室300(平方米)、书库、根亲爱心书屋、老干部室,二楼设有李乾山图书室、电子阅览室(110平方米,有45台计算机)、期刊阅览室(115平方米)、典藏室(含地方文献)、固始籍名人作品收藏室、文化信息资源共享工程服务器机房。