相傳晉國祁午在此演兵，故名小祁。

1949年屬聞喜縣轄。

1956年由聞喜縣劃歸絳縣管轄。

1958年10月屬郝莊公社，同年11月絳縣建制撤銷劃歸聞喜。

1961年5月恢復絳縣建制，屬絳縣郝莊公社，同年8月郝莊公社復歸聞喜縣。

1971年10月再次由聞喜縣劃入絳縣。

屬郝莊公社小祁大隊。

1984年屬郝莊鄉(xiāng)小祁村民委員會。

2020年2月根據(jù)絳政函[2020]7號文件合并行政村，將中董村并入小祁村，屬郝莊鄉(xiāng)小祁村民委員會。