秦代屬泗水郡。

漢代分屬虹、谷陽、符離、夏丘、下邳諸縣領(lǐng)轄。

西晉屬沛國。

東晉屬陽平郡。

南北朝改陽平郡為谷陽郡。

隋初屬彭城郡，后改屬下邳郡。

唐高宗顯慶元年（656），境內(nèi)分屬虹、蘄兩縣。

宋元祐元年（1086），零壁鎮(zhèn)從虹縣析出置零壁縣，屬宿州，縣名沿用鎮(zhèn)名。

元初復(fù)立靈璧縣，仍屬宿州。

清康熙六年（1667），改屬安徽省。

1912年4月，靈璧縣直屬安徽省。

1914年，屬淮泗道。

1927年，廢道，又直屬安徽省。

1949年，靈璧縣屬皖北行署宿縣專區(qū)。

1952年4月，屬安徽省宿縣專區(qū)。

1956年1月，改屬安徽省蚌埠專區(qū)。

1961年4月，靈璧縣復(fù)屬宿縣專區(qū)。

此后隸屬關(guān)系趨于穩(wěn)定。

1999年5月，宿縣地區(qū)改為宿州市，靈璧縣屬宿州市。