西端在当金山口与阿尔金山脉相接。东端至黄河谷地，与秦岭、六盘山相连。长近1000千米。属褶皱断块山。最宽处在酒泉市与柴达木盆地之间，达300千米。

山脉自西北至东南走向，包括大雪山、托来山、托来南山、野马南山、疏勒南山、党河南山、土尔根达坂山、柴达木山和宗务隆山。山峰多海拔4000－5500米，最高峰疏勒南山的团结峰海拔5808米。海拔4000米以上的山峰终年积雪，山间谷地也在海拔3000－3500米之间。

祁连山素有“万宝山”之称，蕴藏着种类繁多、品质优良的矿藏，有石棉矿，黄铁矿、铬铁矿及铜、铅、锌等多种矿产，八宝山的石棉为国内稀有的“湿纺”原料。祁连山区冷湿气候，有利于牧草生长，在海拔2800米以上的地带，分布有大片草原、为发展牧业提供了良好场所。