中華民國時期，屬綏化縣管轄。

1932年，設(shè)張維保，1939年，改設(shè)張維村。

1945年“九三”抗日戰(zhàn)爭勝利后，設(shè)置張維區(qū)。

1951年12月，設(shè)置張維鎮(zhèn)（村級），隸屬第十區(qū)。

1956年4月，并村劃鄉(xiāng)，設(shè)置團結(jié)鄉(xiāng)，1958年8月，將三井、新生、聯(lián)合、團結(jié)4鄉(xiāng)合并，成立團結(jié)人民公社。

1961年劃分為三井、新生、聯(lián)合、團結(jié)4個公社。

1981年5月地名普查時，因本地區(qū)內(nèi)公社重名，將團結(jié)公社更名為張維公社。

1984年3月，改為張維鄉(xiāng)。

同年12月，改為張維鎮(zhèn)，名稱沿用至今。