早在原始社會時期，二連浩特境內(nèi)就有古游獵部落。

春秋戰(zhàn)國時期，為林胡地，亦稱東胡地。

秦漢時期，匈奴遷徙在此。

東漢時期，為烏恒、鮮卑入居。

隋唐時期，由突厥徙牧。

遼朝時期，為漠葛失部地。

金朝時期，為汪古部族地。

元朝時期，屬上都蘇尼特鄂托克地，設玉龍棧。

據(jù)《元史·憲宗紀》載，蒙哥汗在此會見忽必烈，設大宴并共商國事軍情。

明英宗十四年（1449年），歸北元左翼三萬戶，稱蘇尼特鄂托克。

清嘉慶二十五年（1820年），設置“伊林”驛站。

清光緒十五年（1899年），清政府架通張家口至庫倫（今蒙古國烏蘭巴托）的電話線，又設電報局，并將該地標入當時的地圖集，名曰“二連”。

民國七年（1918年），張家口旅蒙商景學鈐等人創(chuàng)辦“大成張庫汽車公司”，開通了張家口至庫倫（今蒙古國烏蘭巴托）汽車運輸線，二連鹽池成為這條運輸線上的重要站點之一，站名“滂北”。

1953年，集二鐵路正式動工修建，在鐵路選線時，為避開鹽池低洼地形，從傳統(tǒng)交通線西移9千米，又在傳統(tǒng)邊境線南6.5千米處建國境火車站，站名始稱“額仁”，因發(fā)音不便，更作“二連”。

1956年1月，中、朝、越、蘇、蒙及東歐各社會主義國家參加的鐵路聯(lián)運正式開通，以車站為中心的建筑群便成為今二連的雛形。

1956年3月7日，設二連鎮(zhèn)，隸屬錫林郭勒盟蘇尼特右旗。

1957年7月14日，升格為縣級建制，于“二連”后加綴“浩特”（蒙語意為城市）一詞，隸屬錫林郭勒盟。

1966年1月，經(jīng)國務院批準設立縣級二連浩特市。

1969年11月，劃歸烏蘭察布盟。

1980年5月，重新劃回錫林郭勒盟。

1985年1月，內(nèi)蒙古自治區(qū)人民政府批準二連浩特市升格為準地級市。

1985年6月，國務院批準二連浩特市為甲類開放城市。

1986年3月，內(nèi)蒙古自治區(qū)政府批準二連浩特市為計劃單列市。

1992年7月，二連浩特市被國務院列為13個沿邊開放城市之一。

2014年6月5日，二連浩特市經(jīng)國務院批準成為“全國第二批重點開發(fā)開放試驗區(qū)”。