夏屬雍州，商為龍方地，西周被獫狁占據(jù)，春秋戰(zhàn)國(guó)時(shí)為白狄地。

秦屬上郡北境。

漢代屬西河郡，置白土縣，后屬上郡，三國(guó)兩晉為羌胡地。

東晉十六國(guó)時(shí)期，先后為后趙、后秦、大夏屬地。

北朝時(shí)先為北魏地，置石城縣，后改為銀城，屬上郡；后為西魏、北周地，置歸真郡。

隋置銀城縣，屬雕陰郡。

唐開(kāi)元十二年（724）置麟州，天寶元年（742）改為新秦郡，乾元元年（758）復(fù)為麟州，領(lǐng)新秦、連谷、銀城三縣。

五代州制不變，先后屬晉、唐、北漢、周。

宋代仍為麟州，屬河?xùn)|路。

乾德五年（967）升麟州為建寧軍，后改為鎮(zhèn)西軍。

政和四年（1114）廢銀城、連谷兩縣并入新秦縣。

南宋為“神木寨”，曾為金、西夏轄地，建制未變。

元初立云州于神木寨，至元六年（1269）廢州為神木縣。

明洪武六年（1373），改縣為神木堡，屬榆林衛(wèi)。

洪武十四年（1381）復(fù)置神木縣，屬葭州。

隆慶間改神木道，轄制葭州及神木、府谷、吳堡三縣。

清初，仍沿舊制。

雍正九年（1731）撤銷神木道，縣屬佳州。

乾隆元年（1736）屬榆林府。

1913年屬榆林道，1928年屬省。

1934年3月，陜北特委在境內(nèi)創(chuàng)建革命根據(jù)地。

同年9月成立神木縣革命委員會(huì)，轄馬鎮(zhèn)，沙峁、賀家川、太和寨、楊家溝、黃草焉6個(gè)區(qū)。

1936年1月，中共神府特區(qū)成立，轄府谷、佳蘆、神木、佳北、榆林5個(gè)縣級(jí)蘇維埃政府。

1948年，神木全縣解放，神木縣人民政府成立；2017年，神木撤縣設(shè)市，縣級(jí)神木市由陜西省直轄，榆林市代管。