长治是古上党的中心区域。历代郡、州、府首脑机关的驻地主要就在今长治市的城区。

  “上党”之名最早见于战国初，《史记·赵世家》：“（赵成侯）十三年（公元前362年），成侯与韩昭侯遇上党。”对于“上党”的含义，东汉刘熙在他的训诂名著《释名》中是这样解释的：“党，所也。在于山上，其所最高，故曰上党。”

  公元前262年，秦攻韩上党，上党守冯亭为了联赵抗秦，遂把上党的17座城邑献给赵国，由此而爆发了长平之战。秦统一后，在此置上党郡，共领14县。东汉建安十八年（公元前213年），曹操平定黄河以北，新置12郡，其中划出上党郡北部的沾、河等县置乐平郡，形成隋以后的辽州；十六国时期，慕容永在上党称帝，又划出上党郡南部的泫氏、高都、阳阿、端氏、泽等县置建兴郡，形成隋以后的泽州；北魏建义元年（公元前528年），再划出原上党郡西北部的谷远等县置义宁郡，形成隋以后的沁州；所余上党郡的中心区域形成唐以后的潞州。

  潞州始置于北周宣政元年（公元前578年），以境内潞水（今浊漳河）命名。隋代复改上党郡。从唐武德元年（公元前618年）再置潞州，至明洪武九年（公元1376年）升直隶州的七百多年间，这里还一度改称昭德郡、隆德郡、隆德府等。明嘉靖二年（公元1523年），潞城县小吏陈卿亡命家乡青羊山中，并凭借太行山间险要地形，聚众起事，连陷辽、沁，明廷为之震恐。直到嘉靖七年十月，官军以10万兵力合击青羊山，才将这支农民军剿平。事后，明廷特于嘉靖八年二月诏升潞州为府，府城设县。嘉靖皇帝赐府名为“潞安府”赐县名为“长治县”，以祈望这里长治久安。