大庾岭又称梅岭，雄踞五岭之首，横扼赣粤之咽喉，素有“南控百粤，北挹三江”之称，是中原通往岭南的重要通道。

岭南在秦代之前为“化外之地”，大山长谷阻隔，原始森林和野草蒿莱遮天蔽地，人烟稀少，自然环境险恶，交通极为不便。中原通往广东的走法是：从京杭大运河到扬州，入长江，进入鄱阳湖再入赣江，然后转章江，逆江而上抵章水上游——大庾城，越梅岭，走80里旱路，抵广东南雄，继而由浈水、北江，入广州，再出海。当时，重大的军事行动，朝廷官员的升降，商贾往来和客家移民，都经由此道，十分险恶难行。宋唐代以后，因通往亚细亚的陆上“丝绸之路”受阻，中国与东南亚、澳洲、非洲、欧洲的交贸易往来，也大都经由此道，因此，这条路后来被誉为中国古代的海上“丝绸之路”。

自秦汉以来，这条路就开始成为中原通往岭南的要道，但由于梅岭高峻，只在山径可供人行。货物运输全凭肩挑背负，非常艰难。直到唐代广东始兴人张九龄做了宰相，才在险峻的梅岭开凿出了一条“坦坦而方五轨，阗阗而走四通”的驿道，使天堑变为通途。

张九龄（678—740），出生在广东始兴一个书香世家，祖父是广州都督府的官佐。张九龄从小聪明好学，十三岁能文，并上书广州都督，其才华得到初唐大诗人张说、沈佺期的夸奖。古代的始兴所辖地与大庾一山之隔，张九龄也是客家人的后裔。武则天时，张九龄进士及第，为左拾遗又迁右补阙，一度官运亨通，后因建议杀安禄山、在河南水区种稻，遭奸臣李林甫反对而罢相。张九龄在位颇有政绩，是唐代名相之一，道德文章足为风范。张九龄深知大庾天堑之于当时、后世岭南发展的不利，在玄宗开元四年，开始了造福后世万代的凿岭工程。

关于张九龄开凿大庾岭，民间有过一段悲壮的传说。那时的大庾关非常神奇，破土土复生，凿石石复合，人们不敢在山上修路。一天，岭南有位书生，进京赶考路经此地，听说了这件怪事，当下便对大庾岭乡人说，日后他做了官，一定回大庾岭开山劈路，务求必成。这位发下宏誓的书生，就是张九龄。

果然，张九龄不负十年寒窗苦读，考中了进士，后又做了一人之下、万人之上的当朝一品宰相。张九龄没有忘记当年进京赶考路经大庾时立下的誓言，把开关凿道之事奏报皇帝。皇帝也深知开凿大庾关的重要，即拨钱粮，责成张九龄负责开凿。张九龄亲临大庾，指挥开凿。九九八十一天过去了，大庾关开通了，但想不到的是，到了次日，关又闭合如故。张九龄不服气，又重凿，好不容易凿通后，又重合，如此者三四次，石壁上奇怪地现出一偈：

天皇皇，地皇皇，

天子出钱粮；

天苍苍，地苍苍，

何人舍得绝妻房？

张九龄读懂了偈中之意，遂同妻子李氏一起，亲自开凿，凿通后，忽然崖崩，把李代压在崖底，从此，大庾关没闭合，遂成为内地通往岭南的坦途。后人为了纪念张九龄和他的妻子，在大庾岭南坡建了一祠，叫“张公祠”，在山脚下又建了一庙，叫“李氏庙”，以供后人瞻仰和祭祀。（1100）