春秋為屈邑，晉獻(xiàn)公曾封其子夷吾子屈。

武帝元朔三年（前126）封代共王子郢客為土軍侯，后始置土軍縣，縣治設(shè)團(tuán)域，縣屬西河郡。

北魏太平真君九年（448），置嶺西縣，兼為吐京郡治。

太和二十一年（497）縣吐京縣。

孝昌年寄治西河（今孝義縣上下吐京村）。

北周曾改為吐軍縣。

隋開皇初復(fù)改吐京。

縣先后屬汾州、西汾州龍泉郡和隰州龍泉郡。

隋開皇十八年（598）始改名石樓縣。

唐武德元年（618），石樓縣屬隰州。

次年，境內(nèi)置西德州，轄石樓、臨河、長壽三縣。

貞觀元年（公元627年），臨河、長壽二縣并入石樓縣，廢西德州，改屬東和州。

次年改屬隰州。

天寶元年（742）改屬大寧郡。

乾元元年（758）復(fù)改屬隰州。

明萬歷四十年（1612），改屬汾州府。

清代因之。

1912年縣屬山西省府。

1914年屬中路道，后改冀寧道。

1927年復(fù)改屬省府。

1937年9月，改屬第六政治區(qū)（后改行政督察專員公署）。

1939年改屬第四行政督察專員公署。

1945年9月28日，縣人民政府在李家寨村成立，石樓縣屬晉綏邊區(qū)呂梁四專署。

1948年6月改屬晉綏九專署；1949年2月改屬晉南行政公署。

1949年10月1日改屬汾陽專署。

1951年3月27日改屬臨汾專署。

1958年10月并入?yún)瘟嚎h，改稱石樓鎮(zhèn)。

次年10月復(fù)置縣。

1971年5月1日劃歸呂梁地區(qū)。

2003年10月，國務(wù)院批準(zhǔn)呂梁地區(qū)撤地設(shè)市，屬呂梁市管轄。